Beranda/Model besar/Pembuatan teks

Pembuatan teks

Panggil model besar terkemuka di belakang satu antarmuka.

Model Frontier berada di belakang satu antarmuka, dengan perutean, caching, batas kecepatan, failover, dan pengendalian biaya ditangani oleh runtime. Beralih model tidak mengubah kode Anda.

38ms
Latensi token pertama P50
1M
Konteks maksimal per permintaan (token)
12,000
Throughput puncak (token/dtk)
99.99%
Sebut saja sukses, tertinggal 90 hari
Ringkasan

Rekayasa di sekitar model, ditangani oleh runtime

Runtime menangani batas kecepatan saat dimuat, batas waktu pada konteks yang panjang, penagihan yang tidak jelas, dan penulisan ulang alur cepat hanya untuk mengubah model. Caching semantik melayani permintaan berulang, konteks yang sangat panjang dipecah dan disimpulkan secara paralel, dan model yang goyah dialihkan ke hot standby di tingkat kemampuan yang sama. Penelepon tidak mengubah apa pun.

38ms
Latensi token pertama P50
garis 0
Perubahan kode diperlukan untuk mengganti model
41%
Biaya token rata-rata dihemat oleh cache semantik
Keuntungan

Dibangun untuk produksi

01

Konteks panjang, putaran konsisten

Instruksi berlaku untuk percakapan panjang dan konteks teknik yang luas. Rantai panggilan alat bersarang beberapa tingkat dan mundur jika terjadi kegagalan.

02

Streaming dengan latensi rendah

Titik masuk terdekat, koneksi hangat, dan penguraian kode spekulatif, dikirimkan token demi token.

03

Kontrol biaya sudah terpasang

Caching semantik, kompresi konteks, dan penggabungan batch bertumpuk, dengan penagihan direkonsiliasi baris demi baris.

04

Kegagalan otomatis

Model-model dalam tingkat kemampuan yang sama mendukung satu sama lain, dan kebijakan degradasi dikonfigurasi per lini bisnis.

Kemampuan

Kemampuan API

Streaming atau respons lengkap

Dorong token melalui SSE, atau ambil seluruh hasil dalam satu panggilan dari titik akhir yang sama.

Panggilan alat dan keluaran terstruktur

Panggilan fungsi asli dengan batasan Skema JSON, siap untuk dideserialisasi pada saat kedatangan.

Konteks yang sangat panjang

Dokumen panjang dipecah dan diproses secara paralel, tanpa logika pemisahan untuk ditulis sendiri.

Masukan multimoda

Gambar, PDF, audio dan teks berbagi satu rangkaian pesan.

Cache semantik

Ambang batas kesamaan dapat disesuaikan; hit segera kembali dan tidak ditagih.

Kompatibel dengan OpenAI SDK

Kode yang ada terhubung tanpa perubahan dan mempertahankan fitur-fitur canggih SDK.

Kasus penggunaan

Kasus penggunaan umum

Asisten suara perangkat

Ubah bahasa alami menjadi perintah perangkat, dengan mengingat ruangan mana dan perangkat mana yang dirujuk terakhir kali.

Dukungan dalam aplikasi dan diagnosis mandiri

Dengan manual produk dan log perangkat terhubung, jawab kegagalan pemasangan, status offline dan peringatan, dan katakan apa yang harus dilakukan selanjutnya.

Penulisan adegan dan otomatisasi

Seorang pengguna menjelaskan apa yang mereka inginkan dalam satu kalimat, dan kondisi, tindakan, dan jam aktif otomatisasi kembali untuk ditinjau.

Laporan pengoperasian perangkat

Ubah penggunaan energi, runtime, dan riwayat peringatan menjadi laporan mingguan yang dapat dibaca, dikelompokkan berdasarkan ruangan atau toko.

starsg = Starsg(api_key="sk-...")

stream = starsg.chat(
    model="claude-sonnet-4-6",
    messages=[{"role": "user",
                "content": "分析这份财报的风险点"}],
    attachments=["file_9f2a....pdf"],
    fallback="gpt-4o",   # 上游抖动即热备
    stream=True,
)

for chunk in stream:
    print(chunk.delta, end="")
Mengintegrasikan

Satu panggilan menyatakan perilaku tersebut

Streaming, lampiran, panggilan alat, dan kebijakan fallback semuanya dideklarasikan dalam panggilan yang sama — tanpa lapisan orkestrasi tambahan.

Python / Node / Jalankan SDKSatu kunci API
Baca dokumen integrasi

Mulai membangun dengan Pembuatan teks

Daftar untuk membuat kunci API. Ia berbagi autentikasi, penagihan, dan kemampuan observasi yang sama dengan enam kemampuan lainnya.