Calculez des vecteurs de documents et de requêtes avec openai/text-embedding-3-large
Récupérer Top-K depuis un magasin de vecteurs (FAISS / Milvus / pgvector)
Reclasser avec cohere/rerank-english-v3
Assemblez les morceaux Top-N dans l'invite et laissez cohere/command-r-plus ou Claude génère la réponse finale
Intégration
python
resp = client.embeddings.create(
model="openai/text-embedding-3-large",
input=[chunk.text for chunk in chunks],
)
vectors = [d.embedding for d in resp.data]
Modèle d'invite
text
You are an expert assistant. Answer based ONLY on context.
If the answer is not in the context, say "I don't know".
[Context]
{retrieved_chunks}
[Question]
{user_question}