Как оценить стоимость LLM API до начала разработки
Посчитайте токены, оцените четыре вида расхода и прикиньте месячный счёт для чат-бота, обработки документов или агента за несколько минут.
Счёт за LLM API можно оценить с точностью до небольшого множителя ещё до того, как написан первый код продукта, и этого достаточно, чтобы решить, работает ли идея. Метод одинаков для любой модели: посчитайте токены на запрос, оцените их по видам, умножьте на объём. Эта страница разбирает метод, а затем применяет его к трём нагрузкам. Если хотите, чтобы арифметику сделали за вас, используйте калькулятор стоимости.
Шаг 1: посчитайте токены на запрос
Токен — это часть слова. В английском тексте один токен равен примерно четырём символам, или трём четвертям слова, так что документ в 1000 слов — это около 1300 токенов. В других языках и в коде на слово приходится больше токенов. У каждого семейства моделей свой токенизатор, поэтому точное число у Claude, GPT и Gemini различается.
Считайте части запроса отдельно, потому что и оплачиваются они отдельно:
системный промпт, описания инструментов, инструкции. Одинаков в каждом вызове.
сообщение пользователя, найденный текст, предыдущая часть диалога.
ответ плюс рассуждения, которые модель делает перед ним.
Точное число для реального промпта можно узнать у самого API: Anthropic и Gemini предоставляют эндпойнт подсчёта токенов, а каждый ответ сообщает свой usage.
Шаг 2: оцените четыре вида расхода
| Вид | Цена | Примечания |
|---|---|---|
| Вход без кеша | Цена входа | Часть, изменившаяся с прошлого раза |
| Вход из кеша | Цена чтения кеша, малая доля | Повторяющиеся префиксы; у GPT и Gemini автоматически, у Claude помечается через cache_control |
| Запись кеша | Чуть выше цены входа (только Claude) | Платится один раз на кешируемый префикс |
| Вывод | Цена вывода, в несколько раз выше входа | Токены рассуждений и thinking считаются выводом |
Цены указаны за миллион токенов, поэтому разделите число токенов на миллион и умножьте. Таблицы цен для каждого вендора обновляются вживую.
Шаг 3: умножьте на объём
Месячная стоимость — это стоимость запроса, умноженная на число запросов в месяц. Посчитайте для типичного и для тяжёлого запроса и сохраните оба числа: первое — ваш бюджет, второе — худший случай.
Три нагрузки на примерах
Чат-бот поддержки. Каждый ответ отправляет около 1500 входных токенов (инструкции, найденные фрагменты, вопрос) и пишет 400. Инструкции каждый раз одинаковы, поэтому большую часть входа можно кешировать. При десяти тысячах ответов в месяц получается 15 миллионов входных и 4 миллиона выходных токенов, причём вывод обычно составляет бо́льшую часть счёта. Первым делом стоит проверить модели класса Haiku и Flash.
Обработка документов. Каждый документ занимает 20 000 токенов, краткое изложение — 500. Десять тысяч документов — это 200 миллионов входных токенов: преобладает вход, поэтому счёт определяют цена входа модели и то, кешируется ли документ при нескольких вопросах к нему. Запускайте на самой дешёвой модели, которая приемлемо справляется с резюмированием.
Кодовый агент. Одна задача — это десятки запросов, каждый из которых пересылает растущую историю. История в основном кешируется, поэтому цена чтения кеша и доля попаданий важнее заявленной цены входа. Измерьте одну реальную задачу, затем умножьте: материал сколько стоит Claude Code показывает один ход с ценой по строкам.
Заложите запас на неизвестное
добавляют несколько процентов; отслеживайте их с первого дня.
на сложных промптах могут удвоить вывод; смотрите поля usage и выставляйте уровень усилий осознанно.
Берите 90-й перцентиль, а не среднее.
Читайте их из каталога (GET https://halfoff.dev/v1/models), а не зашивайте в код.
Частые вопросы
Как посчитать стоимость вызова LLM API?+
Входные токены умножьте на цену входа, прибавьте выходные токены, умноженные на цену вывода, каждую за миллион токенов, а кешированный вход считайте по цене чтения кеша. Формула подробно записана в разделе Модели и цены.
Сколько токенов в 1000 слов?+
Около 1300 токенов в английском тексте, плюс-минус. Код, числа и тексты на других языках занимают больше. Лучше посчитайте реальные образцы, чем полагаться на это правило.
Выходные токены дороже входных?+
Да, у всех основных моделей: выходной токен обычно в несколько раз дороже входного, поэтому длинный ответ стоит дороже длинного вопроса.
Как снизить оценку?+
Возьмите модель поменьше, кешируйте повторяющийся контекст и ограничивайте вывод. Материал как использовать Claude API дешевле всего перечисляет изменения по убыванию эффекта.
Где посчитать цифры?+
В калькуляторе с актуальными ценами всех моделей или в списке моделей. Показанные там цены — это те, что вы платите: Half Off Dev тарифицирует каждую модель за половину официального прайса.
Один предоплаченный ключ для моделей, данных и агентов
Без подписки. Пополняйте баланс, используйте сколько нужно и смотрите каждое списание в логах.