← Volver a la lista

Mejores prácticas de RAG

Arquitectura general

  1. Calcular vectores de documentos y consultas con openai/text-embedding-3-large
  2. Recuperar Top-K de una tienda de vectores (FAISS/Milvus/pgvector)
  3. Reclasificar con cohere/rerank-english-v3
  4. Cose los trozos Top-N en el mensaje y deja que cohere/command-r-plus o Claude generan la respuesta final

incrustar

python
resp = client.embeddings.create(
    model="openai/text-embedding-3-large",
    input=[chunk.text for chunk in chunks],
)
vectors = [d.embedding for d in resp.data]

plantilla de aviso

text
You are an expert assistant. Answer based ONLY on context.
If the answer is not in the context, say "I don't know".

[Context]
{retrieved_chunks}

[Question]
{user_question}