Советы по работе с длинным контекстом

Расширенное контекстное окно Claude (200K токенов для моделей Claude 3) позволяет обрабатывать сложные задачи, богатые данными. Это руководство поможет вам эффективно использовать эту мощь.

Основные советы для промптов с длинным контекстом

• Размещайте длинные данные в начале: Поместите ваши длинные документы и входные данные (~20K+ токенов) в начало вашего промпта, выше вашего запроса, инструкций и примеров. Это может значительно улучшить производительность Claude во всех моделях.

  Запросы в конце могут улучшить качество ответа на 30% в тестах, особенно со сложными многодокументными входными данными.

• Структурируйте содержимое документа и метаданные с помощью XML-тегов: При использовании нескольких документов оберните каждый документ в теги <document> с подтегами <document_content> и <source> (и другие метаданные) для ясности.

  Пример структуры многодокументного формата