تولید متن

مدل های بزرگ پیشرو را در پشت یک رابط فراخوانی کنید.

مدل‌های مرزی پشت یک اینترفیس قرار می‌گیرند که مسیریابی، ذخیره‌سازی، محدودیت‌های نرخ، failover و کنترل هزینه توسط زمان اجرا انجام می‌شود. تغییر مدل کد شما را تغییر نمی دهد.

38ms
تاخیر توکن اول P50
1M
حداکثر زمینه در هر درخواست (توکن ها)
12,000
حداکثر توان عملیاتی (توکن/ثانیه)
99.99%
تماس موفقیت آمیز، روزهای پس از 90
نمای کلی

مهندسی پیرامون مدل، توسط زمان اجرا انجام می شود

زمان اجرا محدودیت‌های نرخ تحت بارگذاری، وقفه‌های زمانی طولانی، صورت‌حساب غیرشفاف، و بازنویسی خط لوله سریع را فقط برای تغییر مدل‌ها کنترل می‌کند. ذخیره معنایی درخواست های مکرر را ارائه می دهد، زمینه بسیار طولانی به صورت موازی خرد شده و استنباط می شود، و یک مدل متزلزل در حالت آماده به کار در همان ردیف قابلیت شکست می خورد. تماس گیرندگان چیزی را تغییر نمی دهند.

38ms
تاخیر توکن اول P50
خطوط 0
تغییرات کد مورد نیاز برای تغییر مدل ها
41%
میانگین هزینه رمز صرفه جویی شده توسط ذخیره معنایی
مزایا

برای تولید ساخته شده است

01

زمینه طولانی، چرخش ثابت

دستورالعمل ها در مکالمات طولانی و زمینه مهندسی بزرگ وجود دارد. زنجیرهای فراخوانی ابزار در چندین سطح عمیق قرار می گیرند و در صورت شکست به عقب برمی گردند.

02

جریان با تاخیر کم

نقاط ورودی نزدیک، اتصالات گرم و رمزگشایی گمانه‌زنی، توکن به توکن تحویل داده می‌شود.

03

کنترل هزینه داخلی

ذخیره‌سازی معنایی، فشرده‌سازی زمینه و ادغام دسته‌ای پشته با هم، با خط به خط تطبیق صورت‌حساب.

04

خرابی خودکار

مدل‌های دارای قابلیت یکسان از یکدیگر پشتیبانی می‌کنند و خط‌مشی تخریب در هر خط تجاری پیکربندی می‌شود.

قابلیت ها

قابلیت های API

پخش جریانی یا پاسخ کامل

توکن ها را روی SSE فشار دهید یا کل نتیجه را در یک تماس از همان نقطه پایانی بگیرید.

فراخوانی ابزار و خروجی ساخت یافته

فراخوانی تابع بومی با محدودیت‌های طرحواره JSON، آماده به‌منظور از بین بردن سریال در هنگام ورود.

زمینه بسیار طولانی

اسناد طولانی به صورت موازی خرد شده و پردازش می شوند، بدون منطق تقسیم برای خودتان.

ورودی چندوجهی

تصاویر، فایل‌های PDF، صدا و متن یک آرایه پیام را به اشتراک می‌گذارند.

حافظه پنهان معنایی

آستانه شباهت قابل تنظیم است. یک ضربه فوراً برمی گردد و صورتحساب دریافت نمی شود.

OpenAI SDK سازگار است

کد موجود بدون تغییر متصل می شود و ویژگی های پیشرفته SDK را حفظ می کند.

موارد استفاده کنید

موارد استفاده رایج

دستیارهای صوتی دستگاه

زبان طبیعی را به دستورات دستگاه تبدیل کنید، به یاد داشته باشید که آخرین نوبت به کدام اتاق و کدام دستگاه اشاره شده است.

پشتیبانی درون برنامه ای و خود تشخیصی

با متصل بودن دفترچه راهنمای محصول و گزارش‌های دستگاه، به اشکالات مرتبط‌سازی، وضعیت‌های آفلاین و هشدارها پاسخ دهید و بگویید چه کاری باید انجام شود.

نگارش صحنه و اتوماسیون

کاربر آنچه را که می خواهد در یک جمله توصیف می کند و شرایط، اقدامات و ساعات فعال یک اتوماسیون برای بررسی بازمی گردد.

گزارش عملکرد دستگاه

مصرف انرژی، زمان اجرا و تاریخچه هشدار را به یک گزارش هفتگی قابل خواندن، گروه بندی شده بر اساس اتاق یا فروشگاه تبدیل کنید.

starsg = Starsg(api_key="sk-...")

stream = starsg.chat(
    model="claude-sonnet-4-6",
    messages=[{"role": "user",
                "content": "分析这份财报的风险点"}],
    attachments=["file_9f2a....pdf"],
    fallback="gpt-4o",   # 上游抖动即热备
    stream=True,
)

for chunk in stream:
    print(chunk.delta, end="")
ادغام کنید

یک تماس نشان دهنده رفتار است

پخش جریانی، پیوست‌ها، تماس‌های ابزار و خط مشی بازگشتی همه در یک تماس اعلام می‌شوند - بدون لایه ارکستراسیون اضافی.

Python / Node / Go SDKیک عدد کلید API
اسناد ادغام را بخوانید

ساخت و ساز را با تولید متن شروع کنید

برای ایجاد یک کلید API ثبت نام کنید. اعتبار، صدور صورت‌حساب و قابلیت مشاهده مشابه با شش قابلیت دیگر مشترک است.