Глоссарий
Эти понятия не являются уникальными для Claude. На этой странице представлено краткое изложение ключевых терминов.
Контекстное окно
«Context window» (контекстное окно) — это объём текста, к которому языковая модель может обращаться и на который может ссылаться при генерации нового текста. Оно отличается от большого корпуса данных, на котором обучалась языковая модель, и представляет собой своего рода «рабочую память» модели. Большее контекстное окно позволяет модели обрабатывать более сложные и длинные подсказки и отвечать на них, тогда как меньшее контекстное окно может ограничивать способность модели работать с длинными подсказками или сохранять связность в ходе продолжительных диалогов.
Подробнее см. в руководстве по контекстным окнам.
Дообучение (fine-tuning)
«Fine-tuning» (дообучение) — это процесс дополнительного обучения предобученной языковой модели на дополнительных данных. В результате модель начинает воспроизводить и имитировать закономерности и характеристики набора данных для дообучения. Claude — это не «голая» языковая модель; он уже дообучен, чтобы быть полезным ассистентом. Claude API в настоящее время не предлагает дообучение, но если вы заинтересованы в изучении этой возможности, обратитесь к вашему контактному лицу в Anthropic. Дообучение может быть полезно для адаптации языковой модели к конкретной предметной области, задаче или стилю письма, однако оно требует тщательного подхода к данным для дообучения и учёта потенциального влияния на производительность и предвзятость модели.
HHH
HHH («helpful, honest, harmless» — полезный, честный, безвредный) — это исследовательская концепция, определяющая, как Claude обучается приносить пользу обществу. Она отличается от продуктового слогана Claude — «ИИ-ассистент для жизни и работы».
- Полезный ИИ будет стараться выполнить задачу или ответить на поставленный вопрос в меру своих возможностей, предоставляя релевантную и полезную информацию.
- Честный ИИ будет давать точную информацию, не галлюцинируя и не выдумывая. При необходимости он будет признавать свои ограничения и неопределённость.
- Безвредный ИИ не будет оскорбительным или дискриминационным, а при просьбе помочь в опасном или неэтичном действии должен вежливо отказаться и объяснить, почему он не может выполнить просьбу.
Задержка (latency)
«Latency» (задержка) в контексте генеративного ИИ и больших языковых моделей — это время, которое требуется модели для ответа на заданную подсказку. Это промежуток между отправкой подсказки и получением сгенерированного результата. Меньшая задержка означает более быстрое время отклика, что критически важно для приложений реального времени, чат-ботов и интерактивных сценариев. На задержку могут влиять такие факторы, как размер модели, возможности оборудования, состояние сети, а также сложность подсказки и генерируемого ответа.
LLM
«Large language models» (большие языковые модели), или LLM, — это языковые модели ИИ с большим количеством параметров, способные выполнять множество удивительно полезных задач. Эти модели обучаются на огромных объёмах текстовых данных и могут генерировать текст, похожий на человеческий, отвечать на вопросы, обобщать информацию и многое другое. Claude, ИИ-ассистент для жизни и работы, созданный Anthropic, основан на большой языковой модели, которая была дообучена и обучена с использованием RLHF.
MCP (Model Context Protocol)
Model Context Protocol, или MCP, — это открытый протокол, стандартизирующий способ, которым приложения предоставляют контекст LLM. Подобно порту USB-C для ИИ-приложений, MCP обеспечивает унифицированный способ подключения моделей ИИ к различным источникам данных и инструментам. MCP позволяет системам ИИ поддерживать согласованный контекст между взаимодействиями и получать доступ к внешним ресурсам стандартизированным образом. Подробнее см. в документации MCP.
Коннектор MCP
«MCP connector» (коннектор MCP) — это функция, позволяющая пользователям API подключаться к серверам MCP напрямую из Messages API без создания клиента MCP. Это обеспечивает бесшовную интеграцию с MCP-совместимыми инструментами и сервисами через Claude API. Коннектор MCP поддерживает такие возможности, как вызов инструментов, и доступен в бета-версии. Подробнее см. в документации по коннектору MCP.
Предобучение (pretraining)
«Pretraining» (предобучение) — это начальный процесс обучения языковых моделей на большом неразмеченном корпусе текста. В случае Claude авторегрессионные языковые модели (такие как базовая модель Claude) предобучаются предсказывать следующее слово с учётом предшествующего контекста текста в документе. Эти предобученные модели сами по себе не слишком хорошо отвечают на вопросы или следуют инструкциям и часто требуют глубоких навыков инженерии подсказок для получения желаемого поведения. Дообучение и RLHF используются для совершенствования этих предобученных моделей, делая их более полезными для широкого круга задач.
RAG (генерация, дополненная поиском)
«Retrieval augmented generation» (генерация, дополненная поиском), или RAG, — это метод, сочетающий информационный поиск с генерацией языковой модели для повышения точности и релевантности генерируемого текста, а также для лучшего обоснования ответа модели фактическими данными. В RAG языковая модель дополняется внешней базой знаний или набором документов, которые передаются в контекстное окно. Данные извлекаются во время выполнения, когда запрос отправляется модели, хотя сама модель не обязательно извлекает данные (но может это делать с помощью использования инструментов и функции поиска). При генерации текста релевантная информация сначала должна быть извлечена из базы знаний на основе входной подсказки, а затем передана модели вместе с исходным запросом. Модель использует эту информацию для формирования генерируемого результата. Это позволяет модели получать доступ к информации за пределами её обучающих данных и использовать её, снижая зависимость от запоминания и повышая фактическую точность генерируемого текста. RAG может быть особенно полезен для задач, требующих актуальной информации, знаний в конкретной предметной области или явного цитирования источников. Однако эффективность RAG зависит от качества и релевантности внешней базы знаний и информации, извлекаемой во время выполнения.
RLHF
«Reinforcement Learning from Human Feedback» (обучение с подкреплением на основе обратной связи от человека), или RLHF, — это метод, используемый для обучения предобученной языковой модели вести себя в соответствии с предпочтениями человека. Это может включать помощь модели в более эффективном следовании инструкциям или в поведении, более похожем на чат-бота. Обратная связь от человека заключается в ранжировании набора из двух или более примеров текста, а процесс обучения с подкреплением побуждает модель предпочитать результаты, похожие на те, что получили более высокий ранг. Claude был обучен с использованием RLHF, чтобы быть более полезным ассистентом. Подробнее вы можете прочитать в статье Anthropic на эту тему.
Температура
«Temperature» (температура) — это параметр, управляющий степенью случайности предсказаний модели при генерации текста. Более высокая температура приводит к более творческим и разнообразным результатам, допуская множество вариаций в формулировках, а в случае художественных текстов — и вариации в ответах. Более низкая температура даёт более консервативные и детерминированные результаты, придерживающиеся наиболее вероятных формулировок и ответов. Настройка температуры позволяет пользователям побуждать языковую модель исследовать редкие, необычные или неожиданные варианты слов и последовательностей, а не выбирать только наиболее вероятные предсказания.
Пользователи могут столкнуться с недетерминированностью в API. Даже при температуре, установленной в 0, результаты не будут полностью детерминированными, и одинаковые входные данные могут давать разные результаты в разных вызовах API. Это относится как к собственному сервису инференса Anthropic, так и к инференсу через сторонних облачных провайдеров.
TTFT (время до первого токена)
«Time to First Token» (время до первого токена), или TTFT, — это метрика производительности, измеряющая время, которое требуется языковой модели для генерации первого токена результата после получения подсказки. Это важный показатель отзывчивости модели, особенно актуальный для интерактивных приложений, чат-ботов и систем реального времени, где пользователи ожидают быстрой первоначальной реакции. Меньшее значение TTFT означает, что модель может быстрее начать генерировать ответ, обеспечивая более плавный и увлекательный пользовательский опыт. На TTFT могут влиять такие факторы, как размер модели, возможности оборудования, состояние сети и сложность подсказки.
Токены
«Tokens» (токены) — это наименьшие отдельные единицы языковой модели, которые могут соответствовать словам, частям слов, символам или даже байтам (в случае Unicode). Для Claude один токен приблизительно соответствует 3,5 символам английского текста, хотя точное число может варьироваться в зависимости от используемого языка. Токены обычно скрыты при взаимодействии с языковыми моделями на уровне «текста», но становятся значимыми при изучении точных входных и выходных данных языковой модели. Когда Claude получает текст для обработки, этот текст (состоящий из последовательности символов) кодируется в последовательность токенов, которую обрабатывает модель. Более крупные токены обеспечивают эффективность использования данных при инференсе и предобучении (и используются, когда это возможно), тогда как более мелкие токены позволяют модели обрабатывать редкие или никогда ранее не встречавшиеся слова. Выбор метода токенизации может влиять на производительность модели, размер словаря и способность обрабатывать слова, отсутствующие в словаре.
Was this page helpful?