Pembuatan teks
Panggil model besar terkemuka di belakang satu antarmuka.
Model Frontier berada di belakang satu antarmuka, dengan perutean, caching, batas kecepatan, failover, dan pengendalian biaya ditangani oleh runtime. Beralih model tidak mengubah kode Anda.
Rekayasa di sekitar model, ditangani oleh runtime
Runtime menangani batas kecepatan saat dimuat, batas waktu pada konteks yang panjang, penagihan yang tidak jelas, dan penulisan ulang alur cepat hanya untuk mengubah model. Caching semantik melayani permintaan berulang, konteks yang sangat panjang dipecah dan disimpulkan secara paralel, dan model yang goyah dialihkan ke hot standby di tingkat kemampuan yang sama. Penelepon tidak mengubah apa pun.
Dibangun untuk produksi
Konteks panjang, putaran konsisten
Instruksi berlaku untuk percakapan panjang dan konteks teknik yang luas. Rantai panggilan alat bersarang beberapa tingkat dan mundur jika terjadi kegagalan.
Streaming dengan latensi rendah
Titik masuk terdekat, koneksi hangat, dan penguraian kode spekulatif, dikirimkan token demi token.
Kontrol biaya sudah terpasang
Caching semantik, kompresi konteks, dan penggabungan batch bertumpuk, dengan penagihan direkonsiliasi baris demi baris.
Kegagalan otomatis
Model-model dalam tingkat kemampuan yang sama mendukung satu sama lain, dan kebijakan degradasi dikonfigurasi per lini bisnis.
Kemampuan API
Streaming atau respons lengkap
Dorong token melalui SSE, atau ambil seluruh hasil dalam satu panggilan dari titik akhir yang sama.
Panggilan alat dan keluaran terstruktur
Panggilan fungsi asli dengan batasan Skema JSON, siap untuk dideserialisasi pada saat kedatangan.
Konteks yang sangat panjang
Dokumen panjang dipecah dan diproses secara paralel, tanpa logika pemisahan untuk ditulis sendiri.
Masukan multimoda
Gambar, PDF, audio dan teks berbagi satu rangkaian pesan.
Cache semantik
Ambang batas kesamaan dapat disesuaikan; hit segera kembali dan tidak ditagih.
Kompatibel dengan OpenAI SDK
Kode yang ada terhubung tanpa perubahan dan mempertahankan fitur-fitur canggih SDK.
Asisten suara perangkat
Ubah bahasa alami menjadi perintah perangkat, dengan mengingat ruangan mana dan perangkat mana yang dirujuk terakhir kali.
Dukungan dalam aplikasi dan diagnosis mandiri
Dengan manual produk dan log perangkat terhubung, jawab kegagalan pemasangan, status offline dan peringatan, dan katakan apa yang harus dilakukan selanjutnya.
Penulisan adegan dan otomatisasi
Seorang pengguna menjelaskan apa yang mereka inginkan dalam satu kalimat, dan kondisi, tindakan, dan jam aktif otomatisasi kembali untuk ditinjau.
Laporan pengoperasian perangkat
Ubah penggunaan energi, runtime, dan riwayat peringatan menjadi laporan mingguan yang dapat dibaca, dikelompokkan berdasarkan ruangan atau toko.
starsg = Starsg(api_key="sk-...") stream = starsg.chat( model="claude-sonnet-4-6", messages=[{"role": "user", "content": "分析这份财报的风险点"}], attachments=["file_9f2a....pdf"], fallback="gpt-4o", # 上游抖动即热备 stream=True, ) for chunk in stream: print(chunk.delta, end="")
Satu panggilan menyatakan perilaku tersebut
Streaming, lampiran, panggilan alat, dan kebijakan fallback semuanya dideklarasikan dalam panggilan yang sama — tanpa lapisan orkestrasi tambahan.
Mulai membangun dengan Pembuatan teks
Daftar untuk membuat kunci API. Ia berbagi autentikasi, penagihan, dan kemampuan observasi yang sama dengan enam kemampuan lainnya.