Geração de texto
Chame os principais modelos de grande porte por trás de uma interface.
Os modelos Frontier ficam atrás de uma única interface, com roteamento, cache, limites de taxa, failover e controlo de custos gerenciados pelo tempo de execução. A troca de modelos não altera seu código.
A engenharia em torno do modelo, gerenciada pelo tempo de execução
O tempo de execução lida com limites de taxa sob carga, tempos limite em contexto longo, faturação opaco e reescrita de um pipeline de prompt apenas para alterar modelos. O cache semântico atende a solicitações repetidas, contextos muito longos são fragmentados e inferidos em paralelo e um modelo instável faz failover para um hot standby na mesma camada de capacidade. Os chamadores não mudam nada.
Construído para produção
Contexto longo, curvas consistentes
As instruções são válidas em longas conversas e em grandes contextos de engenharia. As cadeias de chamadas de ferramentas aninham-se em vários níveis de profundidade e revertem em caso de falha.
Streaming de baixa latência
Pontos de entrada próximos, conexões quentes e decodificação especulativa, entregues token por token.
Controlo de custos integrado
Cache semântico, compactação de contexto e mesclagem em lote são empilhados juntos, com faturação reconciliado linha por linha.
Failover automático
Modelos no mesmo nível de capacidade apoiam-se uns aos outros e a política de degradação é configurada por linha de negócios.
Recursos de API
Streaming ou resposta completa
Enviar tokens por SSE ou obter o resultado completo em uma chamada do mesmo endpoint.
Chamadas de ferramentas e saída estruturada
Chamada de função nativa com restrições de esquema JSON, pronta para desserializar na chegada.
Contexto muito longo
Documentos longos são fragmentados e processados em paralelo, sem lógica de divisão para o utilizador mesmo escrever.
Entrada multimodal
Imagens, PDFs, áudio e texto compartilham um conjunto de mensagens.
Cache semântico
O limite de similaridade é ajustável; um hit retorna imediatamente e não é cobrado.
Compatível com OpenAI SDK
O código existente se conecta sem alterações e mantém os recursos avançados do SDK.
Assistentes de voz do dispositivo
Transforme a linguagem natural em comandos do dispositivo, lembrando a qual sala e a qual dispositivo o último turno se referia.
Suporte no aplicação e autodiagnóstico
Com o manual do produto e os registos do dispositivo conectados, responda falhas de emparelhamento, estados off-line e alertas e diga o que fazer a seguir.
Autoria de cena e automação
Um utilizador descreve o que deseja em uma frase, e as condições, ações e horários ativos de uma automação voltam para revisão.
Relatórios de operação do dispositivo
Transforme o uso de energia, o tempo de execução e o histórico de alertas em um relatório semanal legível, agrupado por ambiente ou por loja.
starsg = Starsg(api_key="sk-...") stream = starsg.chat( model="claude-sonnet-4-6", messages=[{"role": "user", "content": "分析这份财报的风险点"}], attachments=["file_9f2a....pdf"], fallback="gpt-4o", # 上游抖动即热备 stream=True, ) for chunk in stream: print(chunk.delta, end="")
Uma chamada declara o comportamento
Streaming, anexos, chamadas de ferramentas e política de fallback são todos declarados na mesma chamada — sem camada extra de orquestração.
Comece a construir com Geração de texto
Criar conta para criar uma chave de API. Ele compartilha a mesma autenticação, cobrança e observabilidade dos outros seis recursos.