Токены и контекстное окно: простыми словами
Vtop AiVtop Ai
Главная → Статьи → Токены и контекстное окно: простыми словами

Токены и контекстное окно: простыми словами

Счёт за текстовую модель считают в токенах, и это единственное число, которое стоит понимать, чтобы не удивляться расходу. Разбираем: что такое токен, чем вход отличается от выхода, что ограничивает контекстное окно и как прикинуть стоимость заранее.

Что такое токен

Токен — это кусок текста, которым модель считает. Один токен — примерно три-четыре знака русского текста, то есть часть слова. Модель не читает текст целиком: она считает, сколько токенов вошло в запрос и сколько вышло в ответе, и тарифицирует их.

Практический ориентир: страница текста — это порядка тысячи токенов, короткий вопрос — десятки. Точное число для вашего текста показывает калькулятор токенов.

Вход и выход стоят по-разному

Вход — то, что отправили вы: запрос, история диалога, приложенный текст. Выход — то, что написала модель. Выход дороже: за него модель работает дольше. Поэтому длинный ответ стоит больше короткого вопроса.

["Что считаем", "Как считается"]
["Ваш запрос", "токены входа"]
["История диалога", "тоже токены входа: она уходит в каждый следующий запрос"]
["Ответ модели", "токены выхода"]
["Приложенный документ", "токены входа, если модель его читает"]

Контекстное окно: сколько влезает за раз

Контекстное окно — это сколько текста модель держит перед глазами в одном запросе. Чем окно больше, тем крупнее материал можно подать целиком: книгу, репозиторий, годовой отчёт. У моделей каталога окна разные — от десятков тысяч токенов до миллиона. Значение указано в характеристиках каждой модели, например у DeepSeek V3.2 или GPT-6 Astra.

Окно ограничивает не только объём материала, но и память диалога: в долгой переписке старые сообщения постепенно перестают влезать. Платформа ведёт диалог сама, а для больших материалов есть файлы и базы знаний: там модель ищет нужное по материалам, а не читает всё подряд.

Как не платить за лишнее

Повторяющиеся инструкции и кэш

Если один и тот же текст уходит в запрос снова и снова, часть токенов может считаться дешевле за счёт кэша. Это заметно на длинных постоянных инструкциях: например, когда в каждом запросе уходит один и тот же свод правил. Условия описаны в ценах API.

Коротко

Частые вопросы

Сколько токенов в странице текста?

Порядка тысячи — это ориентир, точное число зависит от текста. Посчитать можно в калькуляторе токенов.

Почему один и тот же вопрос стоит по-разному?

Цена зависит от модели, длины вашего текста и истории диалога: она тоже уходит в запрос. У сильных моделей цена за токен выше.

Что делать с книгой или большим отчётом?

Либо модель с большим контекстным окном — тогда материал подаётся целиком, либо файлы и базы знаний.

Влияет ли длина ответа на счёт?

Да. Выход дороже входа, поэтому просьба «напиши подробно» увеличивает стоимость запроса.

Смотрите также

Калькулятор токеновЦены APIЧто такое базы знаний и зачем они нужныmodels/gpt 6 astra

Попробуйте на своей задаче — без установки и подписки.

Открыть чат