用語集
これらの概念はClaudeに固有のものではありません。このページでは、主要な用語の簡単な概要を紹介します。
コンテキストウィンドウ
「context window」（コンテキストウィンドウ）とは、言語モデルが新しいテキストを生成する際に遡って参照できるテキストの量を指します。これは言語モデルが訓練された大規模なデータコーパスとは異なり、モデルの「作業メモリ」を表します。より大きなコンテキストウィンドウにより、モデルはより複雑で長いプロンプトを処理して応答できるようになりますが、より小さなコンテキストウィンドウはモデルが長いプロンプトを処理したり、長時間にわたる会話全体で一貫性を保つ能力を制限する可能性があります。
詳細については、コンテキストウィンドウの理解に関するガイドを参照してください。
ファインチューニング
「fine-tuning」（ファインチューニング）は、追加のデータを使用して事前訓練された言語モデルをさらに訓練するプロセスです。これにより、モデルはファインチューニングデータセットのパターンと特性を表現および模倣し始めます。Claudeは単なる言語モデルではなく、すでに有用なアシスタントになるようにファインチューニングされています。Claude APIは現在ファインチューニングを提供していませんが、このオプションの検討に関心がある場合はAnthropicの担当者にお問い合わせください。ファインチューニングは言語モデルを特定のドメイン、タスク、または文体に適応させるのに役立つ場合がありますが、ファインチューニングデータと、モデルのパフォーマンスおよびバイアスへの潜在的な影響を慎重に検討する必要があります。
HHH
HHH（helpful、honest、harmless：有用、正直、無害）は、Claudeが社会に有益であるようにどのように訓練されるかを方向づける研究フレームワークです。これはClaudeの製品タグラインである「AI assistant for life and work（生活と仕事のためのAIアシスタント）」とは別のものです。
- 有用な（helpful） AIは、与えられたタスクの実行や質問への回答に最善を尽くし、関連性のある有用な情報を提供しようとします。
- 正直な（honest） AIは正確な情報を提供し、幻覚（ハルシネーション）や作話をしません。適切な場合は、自らの限界と不確実性を認めます。
- 無害な（harmless） AIは攻撃的または差別的ではなく、危険または非倫理的な行為を支援するよう求められた場合、AIは丁寧に拒否し、応じられない理由を説明する必要があります。
レイテンシ
生成AIおよび大規模言語モデルの文脈における「latency」（レイテンシ）とは、モデルが与えられたプロンプトに応答するのにかかる時間を指します。これはプロンプトを送信してから生成された出力を受け取るまでの遅延です。レイテンシが低いほど応答時間が速くなり、これはリアルタイムアプリケーション、チャットボット、およびインタラクティブな体験にとって重要です。レイテンシに影響を与える可能性のある要因には、モデルサイズ、ハードウェア性能、ネットワーク条件、およびプロンプトと生成された応答の複雑さが含まれます。
LLM
「Large language model」（大規模言語モデル）、すなわちLLMは、多くのパラメータを持つAI言語モデルで、驚くほど有用なさまざまなタスクを実行できます。これらのモデルは膨大な量のテキストデータで訓練されており、人間のようなテキストを生成したり、質問に答えたり、情報を要約したりできます。Anthropicが構築した生活と仕事のためのAIアシスタントであるClaudeは、ファインチューニングされ、RLHFを用いて訓練された大規模言語モデルをベースにしています。
MCP (Model Context Protocol)
「Model Context Protocol」、すなわちMCPは、アプリケーションがLLMにコンテキストを提供する方法を標準化するオープンプロトコルです。AIアプリケーション向けのUSB-Cポートのように、MCPはAIモデルをさまざまなデータソースやツールに接続するための統一された手段を提供します。MCPにより、AIシステムはインタラクション全体で一貫したコンテキストを維持し、標準化された方法で外部リソースにアクセスできます。詳細については、MCPドキュメントを参照してください。
MCPコネクタ
「MCP connector」（MCPコネクタ）は、APIユーザーがMCPクライアントを構築することなく、Messages APIから直接MCPサーバーに接続できるようにする機能です。これにより、Claude APIを通じてMCP互換のツールやサービスとのシームレスな統合が可能になります。MCPコネクタはツール呼び出しなどの機能をサポートしており、ベータ版として利用可能です。詳細については、MCPコネクタのドキュメントを参照してください。
事前訓練
「pretraining」（事前訓練）は、ラベル付けされていない大規模なテキストコーパスで言語モデルを訓練する最初のプロセスです。Claudeの場合、自己回帰型言語モデル（Claudeの基盤モデルなど）は、ドキュメント内の先行するテキストのコンテキストに基づいて次の単語を予測するように事前訓練されます。これらの事前訓練済みモデルは、本質的に質問への回答や指示への追従が得意なわけではなく、望ましい動作を引き出すにはプロンプトエンジニアリングの高度なスキルが必要になることがよくあります。ファインチューニングとRLHFは、これらの事前訓練済みモデルを洗練させ、幅広いタスクでより有用なものにするために使用されます。
RAG（検索拡張生成）
「Retrieval augmented generation」（検索拡張生成）、すなわちRAGは、情報検索と言語モデルによる生成を組み合わせて、生成されるテキストの正確性と関連性を向上させ、モデルの応答をより確実に根拠に基づかせるための手法です。RAGでは、言語モデルは外部のナレッジベースまたはコンテキストウィンドウに渡される一連のドキュメントによって拡張されます。データはクエリがモデルに送信される実行時に取得されますが、モデル自体が必ずしもデータを取得するわけではありません（ただし、ツール使用と検索機能を使えば取得できます）。テキストを生成する際には、まず入力プロンプトに基づいてナレッジベースから関連情報を取得し、元のクエリとともにモデルに渡す必要があります。モデルはこの情報を使用して生成する出力を導きます。これにより、モデルは訓練データを超えた情報にアクセスして利用できるようになり、記憶への依存を減らし、生成されるテキストの事実の正確性を向上させます。RAGは、最新の情報、ドメイン固有の知識、または情報源の明示的な引用を必要とするタスクに特に役立ちます。ただし、RAGの有効性は、外部ナレッジベースの品質と関連性、および実行時に取得される知識に依存します。
RLHF
「Reinforcement Learning from Human Feedback」（人間のフィードバックによる強化学習）、すなわちRLHFは、事前訓練された言語モデルを人間の好みと一致する方法で動作するように訓練するために使用される手法です。これには、モデルがより効果的に指示に従ったり、よりチャットボットらしく振る舞ったりするのを助けることが含まれます。人間のフィードバックは2つ以上のサンプルテキストのセットをランク付けすることで構成され、強化学習プロセスはモデルがより高くランク付けされたものに類似した出力を好むように促します。Claudeはより有用なアシスタントになるようにRLHFを用いて訓練されています。詳細については、このテーマに関するAnthropicの論文をお読みください。
Temperature
「temperature」（温度）は、テキスト生成中のモデルの予測のランダム性を制御するパラメータです。temperatureが高いほど、より創造的で多様な出力が得られ、表現に複数のバリエーションが生まれ、フィクションの場合は回答にもバリエーションが生まれます。temperatureが低いほど、最も確率の高い表現と回答に忠実な、より保守的で決定論的な出力になります。temperatureを調整することで、ユーザーは言語モデルに最も可能性の高い予測のみを選択するのではなく、珍しい、一般的でない、または意外な単語の選択やシーケンスを探索するよう促すことができます。
ユーザーはAPIで非決定性に遭遇する場合があります。temperatureを0に設定しても、結果は完全に決定論的にはならず、同一の入力でもAPI呼び出しごとに異なる出力が生成される可能性があります。これはAnthropicのファーストパーティ推論サービスと、サードパーティのクラウドプロバイダーを通じた推論の両方に当てはまります。
TTFT（最初のトークンまでの時間）
「Time to First Token」（最初のトークンまでの時間）、すなわちTTFTは、言語モデルがプロンプトを受け取ってから出力の最初のトークンを生成するまでにかかる時間を測定するパフォーマンス指標です。これはモデルの応答性の重要な指標であり、ユーザーが迅速な最初のフィードバックを期待するインタラクティブなアプリケーション、チャットボット、リアルタイムシステムに特に関連します。TTFTが低いほど、モデルがより速く応答の生成を開始でき、よりシームレスで魅力的なユーザー体験を提供できることを示します。TTFTに影響を与える可能性のある要因には、モデルサイズ、ハードウェア性能、ネットワーク条件、およびプロンプトの複雑さが含まれます。
トークン
「token」（トークン）は言語モデルの最小の個別単位であり、単語、サブワード、文字、さらにはバイト（Unicodeの場合）に対応することがあります。Claudeの場合、1トークンはおよそ英語3.5文字に相当しますが、正確な数は使用される言語によって異なる場合があります。トークンは通常、「テキスト」レベルで言語モデルとやり取りする際には隠れていますが、言語モデルの正確な入力と出力を調べる際に重要になります。Claudeに評価するテキストが与えられると、そのテキスト（一連の文字で構成される）はモデルが処理するための一連のトークンにエンコードされます。より大きなトークンは推論および事前訓練時のデータ効率を高め（可能な場合に使用されます）、より小さなトークンはモデルが一般的でない単語や初めて見る単語を処理できるようにします。トークン化手法の選択は、モデルのパフォーマンス、語彙サイズ、および語彙外の単語を処理する能力に影響を与える可能性があります。
Was this page helpful?