การสร้างข้อความ
เรียกโมเดลขนาดใหญ่ที่อยู่เบื้องหลังอินเทอร์เฟซเดียว
โมเดล Frontier อยู่เบื้องหลังอินเทอร์เฟซเดียว โดยมีการกำหนดเส้นทาง การแคช การจำกัดอัตรา การเฟลโอเวอร์ และการควบคุมต้นทุนที่จัดการโดยรันไทม์ การสลับรุ่นจะไม่เปลี่ยนรหัสของคุณ
วิศวกรรมรอบโมเดล จัดการโดยรันไทม์
รันไทม์จัดการขีดจำกัดอัตราภายใต้การโหลด การหมดเวลาในบริบทที่ยาว การเรียกเก็บเงินที่ไม่ชัดเจน และการเขียนไปป์ไลน์พร้อมต์ใหม่เพียงเพื่อเปลี่ยนโมเดล การแคชความหมายทำหน้าที่ร้องขอซ้ำ บริบทที่ยาวมากจะถูกแบ่งย่อยและอนุมานแบบคู่ขนาน และแบบจำลองที่สั่นคลอนล้มเหลวในการสแตนด์บายแบบ hot ในระดับความสามารถเดียวกัน ผู้โทรไม่เปลี่ยนแปลงอะไรเลย
สร้างขึ้นเพื่อการผลิต
บริบทยาว ผลัดกันสม่ำเสมอ
คำแนะนำครอบคลุมการสนทนาที่ยาวนานและบริบททางวิศวกรรมขนาดใหญ่ สายการเรียกเครื่องมือจะซ้อนกันหลายระดับและย้อนกลับเมื่อเกิดความล้มเหลว
การสตรีมที่มีความหน่วงต่ำ
จุดเริ่มต้นใกล้เคียง การเชื่อมต่อที่อบอุ่น และการถอดรหัสแบบเก็งกำไร ส่งมอบโทเค็นด้วยโทเค็น
การควบคุมต้นทุนในตัว
การแคชความหมาย การบีบอัดบริบท และการรวมแบทช์เข้าด้วยกัน พร้อมการเรียกเก็บเงินที่กระทบยอดทีละบรรทัด
เฟลโอเวอร์อัตโนมัติ
โมเดลในระดับความสามารถเดียวกันจะสำรองข้อมูลซึ่งกันและกัน และนโยบายการลดประสิทธิภาพได้รับการกำหนดค่าตามสายธุรกิจ
ความสามารถของ API
สตรีมมิ่งหรือการตอบสนองที่สมบูรณ์
พุชโทเค็นบน SSE หรือรับผลลัพธ์ทั้งหมดในการโทรครั้งเดียวจากจุดสิ้นสุดเดียวกัน
การเรียกเครื่องมือและเอาต์พุตที่มีโครงสร้าง
การเรียกใช้ฟังก์ชันดั้งเดิมโดยมีข้อจำกัดของสคีมา JSON พร้อมที่จะดีซีเรียลไลซ์เมื่อมาถึง
บริบทที่ยาวมาก
เอกสารขนาดยาวจะถูกแบ่งย่อยและประมวลผลแบบคู่ขนาน โดยไม่มีการแยกตรรกะในการเขียนด้วยตัวเอง
อินพุตหลายรูปแบบ
รูปภาพ, PDF, เสียง และข้อความแชร์อาร์เรย์ข้อความเดียว
แคชความหมาย
เกณฑ์ความคล้ายคลึงกันสามารถปรับได้ Hit จะกลับมาทันทีและไม่มีการเรียกเก็บเงิน
รองรับ OpenAI SDK
รหัสที่มีอยู่จะเชื่อมต่อโดยไม่มีการเปลี่ยนแปลงและคงคุณสมบัติขั้นสูงของ SDK ไว้
ผู้ช่วยเสียงของอุปกรณ์
เปลี่ยนภาษาธรรมชาติให้เป็นคำสั่งของอุปกรณ์ โดยจดจำห้องใดและอุปกรณ์ใดที่อ้างถึงเทิร์นสุดท้าย
การสนับสนุนในแอปและการวินิจฉัยตนเอง
เมื่อเชื่อมต่อคู่มือผลิตภัณฑ์และบันทึกอุปกรณ์แล้ว ให้ตอบการจับคู่ที่ล้มเหลว สถานะออฟไลน์และการแจ้งเตือน และพูดว่าต้องทำอะไรต่อไป
การเขียนฉากและระบบอัตโนมัติ
ผู้ใช้อธิบายสิ่งที่พวกเขาต้องการในประโยคเดียว จากนั้นเงื่อนไข การดำเนินการ และเวลาทำงานของระบบอัตโนมัติจะกลับมาตรวจสอบอีกครั้ง
รายงานการทำงานของอุปกรณ์
เปลี่ยนการใช้พลังงาน รันไทม์ และประวัติการแจ้งเตือนให้เป็นรายงานรายสัปดาห์ที่อ่านได้ โดยจัดกลุ่มตามห้องหรือตามร้านค้า
starsg = Starsg(api_key="sk-...") stream = starsg.chat( model="claude-sonnet-4-6", messages=[{"role": "user", "content": "分析这份财报的风险点"}], attachments=["file_9f2a....pdf"], fallback="gpt-4o", # 上游抖动即热备 stream=True, ) for chunk in stream: print(chunk.delta, end="")
การโทรหนึ่งครั้งประกาศพฤติกรรม
การสตรีม สิ่งที่แนบมา การเรียกใช้เครื่องมือ และนโยบายทางเลือกทั้งหมดได้รับการประกาศในการเรียกเดียวกัน — ไม่มีเลเยอร์การประสานเพิ่มเติม
เริ่มสร้างด้วย การสร้างข้อความ
ลงทะเบียนเพื่อสร้างคีย์ API ใช้การรับรองความถูกต้อง การเรียกเก็บเงิน และความสามารถในการสังเกตเช่นเดียวกับความสามารถอื่นๆ อีกหกประการ