Контекстные окна

По мере роста разговора вы в конечном итоге приблизитесь к ограничениям контекстного окна. Для длительных разговоров и агентных рабочих процессов основной стратегией управления контекстом является серверное уплотнение.



Как работает контекстное окно

«Context window» (контекстное окно) — это весь текст, на который языковая модель может ссылаться при генерации ответа, включая сам ответ. Это отличается от большого корпуса данных, на котором языковая модель была обучена, и представляет собой «рабочую память» модели. Более крупное контекстное окно позволяет модели обрабатывать более сложные и длинные подсказки, но больше контекста не означает автоматически лучше. По мере роста количества токенов точность и полнота воспроизведения ухудшаются — это явление известно как context rot (деградация контекста). Поэтому тщательный отбор того, что находится в контексте, так же важен, как и объём доступного пространства.

Следующая диаграмма иллюстрирует стандартное поведение контекстного окна для запросов API¹:

¹Чат-интерфейсы, такие как claude.ai, также могут управлять контекстным окном по скользящему принципу «первым пришёл — первым ушёл».

• Прогрессивное накопление токенов: По мере продвижения разговора через ходы каждое сообщение пользователя и ответ ассистента накапливаются в контекстном окне, а предыдущие ходы сохраняются полностью.
• Ёмкость контекстного окна: Контекстное окно (до 1 млн токенов в зависимости от модели) содержит историю разговора плюс новый вывод, который генерирует Claude.
• Поток ввода-вывода: Каждый ход состоит из:
  • Фаза ввода: Содержит всю предыдущую историю разговора плюс текущее сообщение пользователя
  • Фаза вывода: Генерирует текстовый ответ, который становится частью ввода для следующего хода

Всё в запросе учитывается в контекстном окне: системная подсказка, каждое сообщение в messages (включая результаты инструментов, изображения и документы), а также ваши определения инструментов. Вывод, который Claude генерирует для хода, включая его расширенное мышление, также учитывается. Каждый ответ сообщает о том, что потребил запрос, в поле usage. Если вы используете кэширование подсказок, количество входных токенов разделяется между input_tokens, cache_read_input_tokens и cache_creation_input_tokens, и все три учитываются в окне. Чтобы оценить запрос перед его отправкой, используйте API подсчёта токенов.



Размеры контекстного окна по моделям

Claude Opus 4.8, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 и Claude Sonnet 4.6 имеют контекстное окно в 1 млн токенов в Claude API, Amazon Bedrock, Google Cloud и Microsoft Foundry. Claude Mythos Preview также имеет контекстное окно в 1 млн токенов.

Claude Fable 5 и Claude Mythos 5 (claude-fable-5 и claude-mythos-5) имеют контекстное окно в 1 млн токенов, и один запрос к этим моделям может генерировать до 128 тыс. выходных токенов (max_tokens). Другие модели Claude, включая Claude Sonnet 4.5, имеют контекстное окно в 200 тыс. токенов.

Для каждой модели с контекстным окном в 1 млн токенов 1 млн является значением по умолчанию: вам не нужен бета-заголовок, а запросы с длинным контекстом тарифицируются по стандартным ценам.

Один запрос может включать до 600 изображений или страниц PDF (100 для моделей с контекстным окном в 200 тыс. токенов). Если вы отправляете много изображений или больших документов, вы можете достичь ограничений размера запроса раньше, чем лимита токенов.

См. таблицу сравнения моделей для списка размеров контекстного окна по моделям.



Контекстное окно с расширенным мышлением

При использовании расширенного мышления все входные и выходные токены, включая токены мышления, учитываются в лимите контекстного окна, с некоторыми нюансами в многоходовых ситуациях.

Токены бюджета мышления являются подмножеством вашего параметра max_tokens, тарифицируются как выходные токены и учитываются в ограничениях скорости. При адаптивном мышлении Claude определяет выделение ресурсов на мышление динамически, поэтому использование токенов мышления варьируется от запроса к запросу.

Остаются ли блоки мышления из предыдущих ходов ассистента в контекстном окне, зависит от модели. В Claude Opus 4.5 и более поздних моделях Opus, Claude Sonnet 4.6 и более поздних моделях Sonnet, Claude Fable 5, Claude Mythos 5 и Claude Mythos Preview API по умолчанию сохраняет предыдущие блоки мышления, и они учитываются в контекстном окне как любые другие входные токены. В более ранних моделях Opus и Sonnet, а также во всех моделях Haiku API автоматически удаляет предыдущие блоки мышления из истории разговора, когда вы передаёте их обратно, что сохраняет ёмкость токенов для содержимого разговора. Значения по умолчанию для каждой модели см. в разделе сохранение блоков мышления по моделям. Чтобы переопределить значение по умолчанию в любом направлении, используйте очистку блоков мышления.

Следующая диаграмма показывает, как управляются токены, когда расширенное мышление включено в модели, которая удаляет предыдущие блоки мышления:

• Удаление расширенного мышления: В моделях, которые удаляют предыдущие блоки мышления, блоки расширенного мышления (показаны тёмно-серым) генерируются во время фазы вывода каждого хода, но не переносятся как входные токены для последующих ходов. Вам не нужно удалять блоки мышления самостоятельно: если вы передаёте их обратно, Claude API удаляет их автоматически.
• Тарификация: Токены расширенного мышления тарифицируются как выходные токены один раз, когда они генерируются. В моделях, которые сохраняют предыдущие блоки мышления, сохранённые блоки затем становятся частью ввода последующих запросов и тарифицируются как входные токены, как и остальная история разговора.



Контекстное окно с расширенным мышлением и использованием инструментов

Следующая диаграмма иллюстрирует, как управляются токены, когда вы сочетаете расширенное мышление с использованием инструментов в модели, которая удаляет предыдущие блоки мышления:

• Соображения по использованию инструментов с расширенным мышлением:
  • Когда вы отправляете результаты инструментов, вы должны включить весь неизменённый блок мышления, сопровождающий этот запрос инструмента, включая его подпись.
  • API использует криптографические подписи для проверки подлинности блока мышления. Если вы измените блок мышления, API вернёт ошибку.

Чтобы уменьшить контекст, потребляемый самими определениями инструментов, см. Управление контекстом инструментов или отложите определения инструментов с помощью инструмента поиска инструментов.



Осведомлённость о контексте

Claude Sonnet 5, Claude Sonnet 4.6, Claude Sonnet 4.5 и Claude Haiku 4.5 обладают осведомлённостью о контексте: эти модели отслеживают оставшееся контекстное окно (свой «бюджет токенов») на протяжении всего разговора. Это позволяет модели управлять длительными задачами с учётом оставшегося пространства, а не угадывать, сколько токенов осталось. Осведомлённость о контексте работает автоматически: вам ничего не нужно включать, и вы никогда не отправляете теги, показанные в этом разделе, самостоятельно. Их вставляет API.



Как это работает

В системной подсказке каждого запроса API сообщает Claude его общее контекстное окно:

<budget:token_budget>200000</budget:token_budget>

Бюджет соответствует контекстному окну, доступному вашему запросу: 1 млн токенов для Claude Sonnet 5 и Claude Sonnet 4.6 и 200 тыс. токенов для Claude Sonnet 4.5 и Claude Haiku 4.5. Примеры в этом разделе показывают модель с контекстным окном в 200 тыс. токенов.

После каждого вызова инструмента API сообщает Claude обновлённую информацию об оставшейся ёмкости:

<system_warning>Token usage: 35000/200000; 165000 remaining</system_warning>

Токены изображений включены в эти бюджеты.

Более новые модели не получают эти вставляемые теги. В Claude Opus 4.7 и более поздних версиях, Claude Fable 5 и Claude Mythos 5 вы можете задать модели явный бюджет с помощью бюджетов задач, которые находятся в бета-версии.

Руководство по составлению подсказок с использованием осведомлённости о контексте см. в разделе Лучшие практики составления подсказок.



Управление контекстом с помощью уплотнения

Если ваши разговоры регулярно приближаются к ограничениям контекстного окна, используйте серверное уплотнение. Уплотнение автоматически суммирует более ранние части разговора на сервере, чтобы разговор мог продолжаться за пределами лимита контекстного окна. Оно доступно в бета-версии для Claude Fable 5, Claude Mythos 5, Claude Opus 4.8, Claude Mythos Preview, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet 5 и Claude Sonnet 4.6.

Для более специализированных потребностей редактирование контекста предлагает дополнительные стратегии:

• Очистка результатов инструментов: Очищайте старые результаты инструментов в агентных рабочих процессах
• Очистка блоков мышления: Управляйте блоками мышления при использовании расширенного мышления

Кэшированные префиксы подсказок по-прежнему занимают контекстное окно: кэширование подсказок меняет то, сколько вы платите за эти токены, а не то, учитываются ли они.



Поведение при переполнении контекстного окна

Если один только ввод уже превышает контекстное окно модели, API возвращает ошибку 400 invalid_request_error («prompt is too long») для каждой модели.

В моделях Claude 4.5 и новее, если входные токены плюс max_tokens превышают размер контекстного окна, API принимает запрос. Если затем генерация достигает лимита контекстного окна, она останавливается с stop_reason: "model_context_window_exceeded". В более ранних моделях API вместо этого возвращает ошибку валидации. Чтобы включить поведение model_context_window_exceeded в этих моделях, используйте бета-заголовок model-context-window-exceeded-2025-08-26. Подробности см. в разделе Причины остановки и резервное поведение.

Чтобы оставаться в пределах ограничений контекстного окна, используйте API подсчёта токенов для оценки использования токенов перед отправкой сообщений Claude.



Следующие шаги