หน้าแรก/รุ่นใหญ่/การสร้างข้อความ

การสร้างข้อความ

เรียกโมเดลขนาดใหญ่ที่อยู่เบื้องหลังอินเทอร์เฟซเดียว

โมเดล Frontier อยู่เบื้องหลังอินเทอร์เฟซเดียว โดยมีการกำหนดเส้นทาง การแคช การจำกัดอัตรา การเฟลโอเวอร์ และการควบคุมต้นทุนที่จัดการโดยรันไทม์ การสลับรุ่นจะไม่เปลี่ยนรหัสของคุณ

38ms
เวลาแฝงโทเค็นแรก P50
1M
บริบทสูงสุดต่อคำขอ (โทเค็น)
12,000
ปริมาณงานสูงสุด (โทเค็น/วินาที)
99.99%
โทรสำเร็จ ตามหลัง 90 วัน
ภาพรวม

วิศวกรรมรอบโมเดล จัดการโดยรันไทม์

รันไทม์จัดการขีดจำกัดอัตราภายใต้การโหลด การหมดเวลาในบริบทที่ยาว การเรียกเก็บเงินที่ไม่ชัดเจน และการเขียนไปป์ไลน์พร้อมต์ใหม่เพียงเพื่อเปลี่ยนโมเดล การแคชความหมายทำหน้าที่ร้องขอซ้ำ บริบทที่ยาวมากจะถูกแบ่งย่อยและอนุมานแบบคู่ขนาน และแบบจำลองที่สั่นคลอนล้มเหลวในการสแตนด์บายแบบ hot ในระดับความสามารถเดียวกัน ผู้โทรไม่เปลี่ยนแปลงอะไรเลย

38ms
เวลาแฝงโทเค็นแรก P50
เส้น 0
จำเป็นต้องเปลี่ยนแปลงโค้ดเพื่อเปลี่ยนโมเดล
41%
ค่าใช้จ่ายโทเค็นเฉลี่ยที่บันทึกไว้โดยการแคชความหมาย
ข้อดี

สร้างขึ้นเพื่อการผลิต

01

บริบทยาว ผลัดกันสม่ำเสมอ

คำแนะนำครอบคลุมการสนทนาที่ยาวนานและบริบททางวิศวกรรมขนาดใหญ่ สายการเรียกเครื่องมือจะซ้อนกันหลายระดับและย้อนกลับเมื่อเกิดความล้มเหลว

02

การสตรีมที่มีความหน่วงต่ำ

จุดเริ่มต้นใกล้เคียง การเชื่อมต่อที่อบอุ่น และการถอดรหัสแบบเก็งกำไร ส่งมอบโทเค็นด้วยโทเค็น

03

การควบคุมต้นทุนในตัว

การแคชความหมาย การบีบอัดบริบท และการรวมแบทช์เข้าด้วยกัน พร้อมการเรียกเก็บเงินที่กระทบยอดทีละบรรทัด

04

เฟลโอเวอร์อัตโนมัติ

โมเดลในระดับความสามารถเดียวกันจะสำรองข้อมูลซึ่งกันและกัน และนโยบายการลดประสิทธิภาพได้รับการกำหนดค่าตามสายธุรกิจ

ความสามารถ

ความสามารถของ API

สตรีมมิ่งหรือการตอบสนองที่สมบูรณ์

พุชโทเค็นบน SSE หรือรับผลลัพธ์ทั้งหมดในการโทรครั้งเดียวจากจุดสิ้นสุดเดียวกัน

การเรียกเครื่องมือและเอาต์พุตที่มีโครงสร้าง

การเรียกใช้ฟังก์ชันดั้งเดิมโดยมีข้อจำกัดของสคีมา JSON พร้อมที่จะดีซีเรียลไลซ์เมื่อมาถึง

บริบทที่ยาวมาก

เอกสารขนาดยาวจะถูกแบ่งย่อยและประมวลผลแบบคู่ขนาน โดยไม่มีการแยกตรรกะในการเขียนด้วยตัวเอง

อินพุตหลายรูปแบบ

รูปภาพ, PDF, เสียง และข้อความแชร์อาร์เรย์ข้อความเดียว

แคชความหมาย

เกณฑ์ความคล้ายคลึงกันสามารถปรับได้ Hit จะกลับมาทันทีและไม่มีการเรียกเก็บเงิน

รองรับ OpenAI SDK

รหัสที่มีอยู่จะเชื่อมต่อโดยไม่มีการเปลี่ยนแปลงและคงคุณสมบัติขั้นสูงของ SDK ไว้

กรณีการใช้งาน

กรณีการใช้งานทั่วไป

ผู้ช่วยเสียงของอุปกรณ์

เปลี่ยนภาษาธรรมชาติให้เป็นคำสั่งของอุปกรณ์ โดยจดจำห้องใดและอุปกรณ์ใดที่อ้างถึงเทิร์นสุดท้าย

การสนับสนุนในแอปและการวินิจฉัยตนเอง

เมื่อเชื่อมต่อคู่มือผลิตภัณฑ์และบันทึกอุปกรณ์แล้ว ให้ตอบการจับคู่ที่ล้มเหลว สถานะออฟไลน์และการแจ้งเตือน และพูดว่าต้องทำอะไรต่อไป

การเขียนฉากและระบบอัตโนมัติ

ผู้ใช้อธิบายสิ่งที่พวกเขาต้องการในประโยคเดียว จากนั้นเงื่อนไข การดำเนินการ และเวลาทำงานของระบบอัตโนมัติจะกลับมาตรวจสอบอีกครั้ง

รายงานการทำงานของอุปกรณ์

เปลี่ยนการใช้พลังงาน รันไทม์ และประวัติการแจ้งเตือนให้เป็นรายงานรายสัปดาห์ที่อ่านได้ โดยจัดกลุ่มตามห้องหรือตามร้านค้า

starsg = Starsg(api_key="sk-...")

stream = starsg.chat(
    model="claude-sonnet-4-6",
    messages=[{"role": "user",
                "content": "分析这份财报的风险点"}],
    attachments=["file_9f2a....pdf"],
    fallback="gpt-4o",   # 上游抖动即热备
    stream=True,
)

for chunk in stream:
    print(chunk.delta, end="")
บูรณาการ

การโทรหนึ่งครั้งประกาศพฤติกรรม

การสตรีม สิ่งที่แนบมา การเรียกใช้เครื่องมือ และนโยบายทางเลือกทั้งหมดได้รับการประกาศในการเรียกเดียวกัน — ไม่มีเลเยอร์การประสานเพิ่มเติม

Python / โหนด / ไป SDKคีย์ API หนึ่งคีย์
อ่านเอกสารการรวมระบบ

เริ่มสร้างด้วย การสร้างข้อความ

ลงทะเบียนเพื่อสร้างคีย์ API ใช้การรับรองความถูกต้อง การเรียกเก็บเงิน และความสามารถในการสังเกตเช่นเดียวกับความสามารถอื่นๆ อีกหกประการ