Vista previa del contenido del prototipo. Las figuras, los detalles del autor, las afirmaciones del producto y los ejemplos de API están pendientes de verificación; Los ejemplos no son instrucciones de integración confirmadas.
Analizamos cada punto final, parámetro y caso límite en nuestra capa de compatibilidad OpenAI, incluidos aquellos puntos en los que divergimos intencionalmente.
Muchas puertas de enlace afirman ser compatibles con OpenAI y luego eliminan silenciosamente la mitad de la superficie de la que depende. Esto es exactamente lo que implementamos, lo que ampliamos y en lo que deliberadamente divergimos.
Totalmente compatible
- /v1/chat/completions que incluye transmisión, herramientas, tool_choice y salidas estructuradas
- /v1/embeddings con procesamiento por lotes
- /v1/images/generations y ediciones
- /v1/audio/transcriptions, traducciones y voz
- /v1/models con identificaciones calificadas por el proveedor
El interruptor de una línea
from openai import OpenAI
client = OpenAI(
base_url="https://api.starsg.ai/v1",
api_key=STARSG_API_KEY,
)
donde divergimos
Tres diferencias deliberadas. En primer lugar, los ID de modelo están calificados por el proveedor, por lo que el mismo nombre nunca significa dos cosas. En segundo lugar, los encabezados de límite de velocidad informan el límite de su puerta de enlace agrupada, no el del proveedor ascendente. En tercer lugar, devolvemos un bloque amplink adicional en cada respuesta que contiene el modelo realmente servido, el estado de la caché y si se produjo una conmutación por error.
Cualquier cosa que pueda cambiar silenciosamente el significado de un campo, no lo hacemos. Las extensiones van en extra_body al entrar y un bloque de espacio de nombres al salir.
Los parámetros no admitidos se rechazan con un 400 en lugar de ignorarse. Dejar caer silenciosamente logit_bias es la forma de terminar depurando una regresión de calidad durante una semana.