Ana sayfa/Büyük modeller/Metin oluşturma

Metin oluşturma

Önde gelen büyük modelleri tek bir arayüzden arayın.

Frontier modelleri, yönlendirme, önbelleğe alma, hız limitleri, yük devretme ve maliyet kontrolünün çalışma zamanı tarafından gerçekleştirildiği tek bir arayüzün arkasında bulunur. Model değiştirmek kodunuzu değiştirmez.

38ms
P50 ilk belirteç gecikmesi
1M
İstek başına maksimum içerik (belirteçler)
12,000
En yüksek aktarım hızı (jeton/s)
99.99%
Arama başarılı, 90 günlerini takip ediyor
Genel Bakış

Modelin etrafındaki mühendislik, çalışma zamanı tarafından gerçekleştirilir

Çalışma zamanı, yük altında hız sınırlarını, uzun bağlamda zaman aşımlarını, şeffaf olmayan faturalandırmayı ve yalnızca modelleri değiştirmek için hızlı bir işlem hattının yeniden yazılmasını yönetir. Semantik önbelleğe alma tekrarlanan isteklere hizmet eder, çok uzun içerik paralel olarak parçalanır ve çıkarılır ve titrek bir model, aynı yetenek katmanındaki etkin yedeklemeye devredilir. Arayanlar hiçbir şeyi değiştirmez.

38ms
P50 ilk belirteç gecikmesi
0 hatları
Modelleri değiştirmek için kod değişiklikleri gerekiyor
41%
Anlamsal önbelleğe alma sayesinde ortalama jeton maliyetinden tasarruf edildi
Avantajları

Üretim için tasarlandı

01

Uzun bağlam, tutarlı dönüşler

Talimatlar uzun konuşmalar ve geniş mühendislik bağlamı boyunca geçerlidir. Takım çağırma zincirleri birkaç seviye derinliğe yuvalanır ve arıza durumunda geri döner.

02

Düşük gecikmeli akış

Yakındaki giriş noktaları, sıcak bağlantılar ve spekülatif şifre çözme, jetonla jetonla teslim edilir.

03

Yerleşik maliyet kontrolü

Semantik önbelleğe alma, içerik sıkıştırma ve toplu birleştirme, faturalandırmanın satır satır mutabakatı ile birlikte bir araya getirilir.

04

Otomatik yük devretme

Aynı yetenek katmanındaki modeller birbirini destekler ve bozulma politikası iş koluna göre yapılandırılır.

Yetenekler

API yetenekleri

Akış veya tam yanıt

SSE üzerinden belirteçleri iletin veya tüm sonucu aynı uç noktadan tek bir çağrıyla alın.

Araç çağrıları ve yapılandırılmış çıktı

JSON Şema kısıtlamalarıyla yerel işlev çağrısı, varışta seri durumdan çıkarılmaya hazır.

Çok uzun bağlam

Uzun belgeler paralel olarak parçalanır ve işlenir; kendinizin yazacağı bir bölme mantığı yoktur.

Çok modlu giriş

Resimler, PDF'ler, ses ve metinler tek bir mesaj dizisini paylaşır.

Anlamsal önbellek

Benzerlik eşiği ayarlanabilir; bir isabet anında geri döner ve faturalandırılmaz.

OpenAI SDK uyumlu

Mevcut kod değişiklik yapılmadan bağlanır ve SDK'nin gelişmiş özelliklerini korur.

Kullanım örnekleri

Yaygın kullanım durumları

Cihaz sesli asistanları

Son dönüşün hangi odaya ve hangi cihaza başvurduğunu hatırlayarak doğal dili cihaz komutlarına dönüştürün.

Uygulama içi destek ve kendi kendine teşhis

Ürün kılavuzu ve cihaz günlükleri bağlıyken eşleştirme hatalarını, çevrimdışı durumları ve uyarıları yanıtlayın ve daha sonra ne yapacağınızı söyleyin.

Sahne ve otomasyon yazma

Kullanıcı ne istediğini tek bir cümleyle anlatır ve bir otomasyonun koşulları, eylemleri ve aktif saatleri incelenmek üzere geri gelir.

Cihaz çalışma raporları

Enerji kullanımını, çalışma süresini ve uyarı geçmişini, odaya veya mağazaya göre gruplandırılmış, okunabilir bir haftalık rapora dönüştürün.

starsg = Starsg(api_key="sk-...")

stream = starsg.chat(
    model="claude-sonnet-4-6",
    messages=[{"role": "user",
                "content": "分析这份财报的风险点"}],
    attachments=["file_9f2a....pdf"],
    fallback="gpt-4o",   # 上游抖动即热备
    stream=True,
)

for chunk in stream:
    print(chunk.delta, end="")
Entegrasyon

Bir çağrı davranışı bildirir

Akış, ekler, araç çağrıları ve geri dönüş ilkesinin tümü aynı çağrıda bildirilir; ekstra düzenleme katmanına gerek yoktur.

Python / Düğüm / Git SDKBir adet API anahtarı
Entegrasyon belgelerini okuyun

Metin oluşturma ile oluşturmaya başlayın

API anahtarı oluşturmak için kaydolun. Diğer altı yetenekle aynı yetkilendirmeyi, faturalandırmayı ve gözlemlenebilirliği paylaşır.