Mejores prácticas de RAG
Arquitectura general
- Calcular vectores de documentos y consultas con
openai/text-embedding-3-large - Recuperar Top-K de una tienda de vectores (FAISS/Milvus/pgvector)
- Reclasificar con
cohere/rerank-english-v3 - Cose los trozos Top-N en el mensaje y deja que
cohere/command-r-pluso Claude generan la respuesta final
incrustar
resp = client.embeddings.create(
model="openai/text-embedding-3-large",
input=[chunk.text for chunk in chunks],
)
vectors = [d.embedding for d in resp.data]plantilla de aviso
You are an expert assistant. Answer based ONLY on context.
If the answer is not in the context, say "I don't know".
[Context]
{retrieved_chunks}
[Question]
{user_question}