다음을 사용하여 문서 및 쿼리 벡터를 계산합니다. openai/text-embedding-3-large
벡터 스토어에서 Top-K 검색(FAISS / Milvus / pgVector)
재순위 cohere/rerank-english-v3
Top-N 청크를 프롬프트에 연결하고 cohere/command-r-plus 또는 Claude가 최종 답변을 생성합니다.
임베딩
python
resp = client.embeddings.create(
model="openai/text-embedding-3-large",
input=[chunk.text for chunk in chunks],
)
vectors = [d.embedding for d in resp.data]
프롬프트 템플릿
text
You are an expert assistant. Answer based ONLY on context.
If the answer is not in the context, say "I don't know".
[Context]
{retrieved_chunks}
[Question]
{user_question}