Modellfähigkeiten

Embeddings

Text-Embeddings sind numerische Darstellungen von Text, die es ermöglichen, semantische Ähnlichkeit zu messen. Dieser Leitfaden führt in Embeddings ein, ihre Anwendungen und wie man Embedding-Modelle für Aufgaben wie Suche, Empfehlungen und Anomalieerkennung verwendet.

Vor der Implementierung von Embeddings

Bei der Auswahl eines Embeddings-Anbieters gibt es mehrere Faktoren, die Sie je nach Ihren Anforderungen und Vorlieben berücksichtigen können:

Datensatzgröße und Domänenspezifität: Größe des Modell-Trainingsdatensatzes und seine Relevanz für die Domäne, die Sie einbetten möchten. Größere oder domänenspezifischere Daten führen in der Regel zu besseren In-Domain-Embeddings
Inferenzleistung: Geschwindigkeit der Embedding-Suche und End-to-End-Latenz. Dies ist eine besonders wichtige Überlegung für großflächige Produktionsbereitstellungen
Anpassung: Optionen für fortgesetzte Schulung auf privaten Daten oder Spezialisierung von Modellen für sehr spezifische Domänen. Dies kann die Leistung bei einzigartigen Vokabularen verbessern

Wie man Embeddings mit Anthropic erhält

Anthropic bietet kein eigenes Embedding-Modell an. Ein Embeddings-Anbieter, der eine große Vielfalt an Optionen und Funktionen bietet, die alle oben genannten Überlegungen umfasst, ist Voyage AI.

Voyage AI erstellt hochmoderne Embedding-Modelle und bietet angepasste Modelle für spezifische Industriebereiche wie Finanzen und Gesundheitswesen oder maßgeschneiderte feinabgestimmte Modelle für einzelne Kunden.

Der Rest dieses Leitfadens ist für Voyage AI, aber wir ermutigen Sie, eine Vielzahl von Embeddings-Anbietern zu bewerten, um die beste Lösung für Ihren spezifischen Anwendungsfall zu finden.

Verfügbare Modelle

Voyage empfiehlt die Verwendung der folgenden Text-Embedding-Modelle:

Was this page helpful?

Modell	Kontextlänge	Embedding-Dimension	Beschreibung
`voyage-multimodal-3`	32000	1024	Reichhaltiges multimodales Embedding-Modell, das verschachtelte Text- und inhaltsreiche Bilder wie Screenshots von PDFs, Folien, Tabellen, Abbildungen und mehr vektorisieren kann. Siehe Blog-Beitrag für Details.

import voyageai

vo = voyageai.Client()
# This will automatically use the environment variable VOYAGE_API_KEY.
# Alternatively, you can use vo = voyageai.Client(api_key="<your secret key>")

texts = ["Sample text 1", "Sample text 2"]

result = vo.embed(texts, model="voyage-3.5", input_type="document")
print(result.embeddings[0])
print(result.embeddings[1])

curl https://api.voyageai.com/v1/embeddings \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $VOYAGE_API_KEY" \
  -d '{
    "input": ["Sample text 1", "Sample text 2"],
    "model": "voyage-3.5"
  }'

{
  "object": "list",
  "data": [
    {
      "embedding": [-0.013131560757756233, 0.019828535616397858, ...],
      "index": 0
    },
    {
      "embedding": [-0.0069352793507277966, 0.020878976210951805, ...],
      "index": 1
    }
  ],
  "model": "voyage-3.5",
  "usage": {
    "total_tokens": 10
  }
}

documents = [
    "The Mediterranean diet emphasizes fish, olive oil, and vegetables, believed to reduce chronic diseases.",
    "Photosynthesis in plants converts light energy into glucose and produces essential oxygen.",
    "20th-century innovations, from radios to smartphones, centered on electronic advancements.",
    "Rivers provide water, irrigation, and habitat for aquatic species, vital for ecosystems.",
    "Apple's conference call to discuss fourth fiscal quarter results and business updates is scheduled for Thursday, November 2, 2023 at 2:00 p.m. PT / 5:00 p.m. ET.",
    "Shakespeare's works, like 'Hamlet' and 'A Midsummer Night's Dream,' endure in literature."
]

import numpy as np

# Embed the query
query_embd = vo.embed(
    [query], model="voyage-3.5", input_type="query"
).embeddings[0]

# Compute the similarity
# Voyage embeddings are normalized to length 1, therefore dot-product
# and cosine similarity are the same.
similarities = np.dot(doc_embds, query_embd)

retrieved_id = np.argmax(similarities)
print(documents[retrieved_id])

`voyage-3-large`	32.000	1024 (Standard), 256, 512, 2048	Die beste allgemeine und mehrsprachige Abrufqualität. Siehe Blog-Beitrag für Details.
`voyage-3.5`	32.000	1024 (Standard), 256, 512, 2048	Optimiert für allgemeine und mehrsprachige Abrufqualität. Siehe Blog-Beitrag für Details.
`voyage-3.5-lite`	32.000	1024 (Standard), 256, 512, 2048	Optimiert für Latenz und Kosten. Siehe Blog-Beitrag für Details.
`voyage-code-3`	32.000	1024 (Standard), 256, 512, 2048	Optimiert für Code-Abruf. Siehe Blog-Beitrag für Details.
`voyage-finance-2`	32.000	1024	Optimiert für Finanz-Abruf und RAG. Siehe Blog-Beitrag für Details.
`voyage-law-2`	16.000	1024	Optimiert für rechtliche und langkontextuelle Abruf- und RAG-Aufgaben. Auch verbesserte Leistung über alle Domänen hinweg. Siehe Blog-Beitrag für Details.

Embeddings

Vor der Implementierung von Embeddings

Wie man Embeddings mit Anthropic erhält

Verfügbare Modelle

Embeddings

Vor der Implementierung von Embeddings

Wie man Embeddings mit Anthropic erhält

Verfügbare Modelle

Erste Schritte mit Voyage AI

Voyage Python-Bibliothek

Voyage HTTP API

AWS Marketplace

Schnellstart-Beispiel

FAQ

Preisgestaltung

Vor der Implementierung von Embeddings

Wie man Embeddings mit Anthropic erhält

Verfügbare Modelle

Vor der Implementierung von Embeddings

Wie man Embeddings mit Anthropic erhält

Verfügbare Modelle

Erste Schritte mit Voyage AI

Voyage Python-Bibliothek

Voyage HTTP API

AWS Marketplace

Schnellstart-Beispiel

FAQ

Warum haben Voyage-Embeddings eine überlegene Qualität?

Welche Embedding-Modelle sind verfügbar und welches sollte ich verwenden?

Welche Ähnlichkeitsfunktion sollte ich verwenden?

Welche Beziehung besteht zwischen Zeichen, Wörtern und Tokens?

Wann und wie sollte ich den input_type-Parameter verwenden?

Welche Quantisierungsoptionen sind verfügbar?

Wie kann ich Matryoshka-Embeddings kürzen?

Preisgestaltung