مهندسی

OpenAI-Compatible API: «سازگار» در واقع به چه معناست

پیش نمایش محتوای اولیه ارقام، جزئیات نویسنده، ادعاهای محصول و نمونه‌های API در انتظار تأیید هستند. نمونه ها دستورالعمل های یکپارچه سازی تایید نشده اند.

ما در لایه‌های سازگاری OpenAI از هر نقطه پایانی، پارامتر و مورد لبه‌ای عبور می‌کنیم - از جمله جایی که عمداً واگرا می‌شویم.

بسیاری از دروازه‌ها ادعا می‌کنند که با OpenAI سازگاری دارند و سپس نیمی از سطحی را که به آن وابسته هستید، بی‌صدا رها می‌کنند. در اینجا دقیقاً همان چیزی است که ما اجرا می کنیم، آنچه را گسترش می دهیم، و جایی که عمداً از آن جدا می شویم.

به طور کامل پشتیبانی می شود

  • /v1/chat/completions شامل جریان، ابزارها، tool_choice و خروجی های ساخت یافته
  • /v1/embeddings با بچینگ
  • /v1/images/generations و ویرایش
  • /v1/audio/transcriptions، ترجمه ها و گفتار
  • /v1/models با شناسه های واجد شرایط ارائه دهنده

سوئیچ یک خط

from openai import OpenAI

client = OpenAI(
    base_url="https://api.starsg.ai/v1",
    api_key=STARSG_API_KEY,
)

جایی که ما واگرایی داریم

سه تفاوت عمدی اولاً، شناسه‌های مدل دارای صلاحیت ارائه‌دهنده هستند، بنابراین یک نام هرگز به معنای دو چیز نیست. دوم، سرصفحه‌های محدودیت نرخ، محدودیت دروازه‌های تلفیقی شما را گزارش می‌کنند، نه فروشنده بالادستی. سوم، ما یک بلوک amplink اضافی را در هر پاسخی که مدل واقعاً ارائه شده، وضعیت حافظه پنهان، و اینکه آیا یک failover رخ داده است، برمی‌گردانیم.

هر چیزی که بی سر و صدا معنای یک میدان را تغییر دهد، ما انجام نمی دهیم. برنامه های افزودنی در مسیر ورود به extra_body و در خروجی یک بلوک با فضای نام قرار می گیرند.

پارامترهای پشتیبانی نشده با 400 رد می شوند تا نادیده گرفته شوند. حذف بی‌صدا logit_bias باعث می‌شود تا یک هفته یک رگرسیون کیفیت را اشکال‌زدایی کنید.

This article is an original publication of Starsg Group Inc. All rights reserved. No part of this article may be reproduced, copied, distributed, republished, or otherwise used in any form or by any means without the prior written permission of Starsg Group Inc., except as permitted by applicable law. Copyright © Starsg Group Inc. All Rights Reserved.

اطلاعات بیشتر در مهندسی

DeepSeek V4.1 Flash در StarsG: راهنمای عملی برای تعریف مجدد مدل استنتاج هوش مصنوعی مقرون به صرفه

۷ آبان ۱۴۰۵ · 13 دقیقه خواندن

چگونه Gemini 4 آرگون API-Ready را بدست آوریم

۲۳ مهر ۱۴۰۵ · 19 دقیقه خواندن

Jev توضیح داد: چگونه تصمیمات هوش مصنوعی قابل اعتماد و تایپ شده برای تولید بسازیم

۱۸ مهر ۱۴۰۵ · 20 دقیقه خواندن