Chúng tôi xem xét từng trường hợp điểm cuối, tham số và biên trong lớp tương thích OpenAI — bao gồm cả những nơi chúng tôi cố tình phân kỳ.
Rất nhiều cổng yêu cầu khả năng tương thích OpenAI và sau đó lặng lẽ giảm một nửa diện tích bề mặt mà bạn phụ thuộc vào. Đây chính xác là những gì chúng tôi triển khai, những gì chúng tôi mở rộng và nơi chúng tôi cố tình phân kỳ.
Được hỗ trợ đầy đủ
- /v1/chat/hoàn thành bao gồm phát trực tuyến, công cụ, tool_choice và kết quả đầu ra có cấu trúc
- /v1/nhúng với tính năng phân khối
- /v1/hình ảnh/thế hệ và chỉnh sửa
- /v1/âm thanh/phiên âm, dịch thuật và lời nói
- /v1/model có ID đủ điều kiện của nhà cung cấp
Bộ chuyển mạch một dòng
from openai import OpenAI
client = OpenAI(
base_url="https://api.starsg.ai/v1",
api_key=STARSG_API_KEY,
)
Nơi chúng ta phân kỳ
Ba sự khác biệt có chủ ý. Đầu tiên, ID mẫu đủ tiêu chuẩn của nhà cung cấp nên cùng một tên không bao giờ có hai ý nghĩa. Thứ hai, tiêu đề giới hạn tốc độ báo cáo giới hạn cổng gộp của bạn chứ không phải của nhà cung cấp thượng nguồn. Thứ ba, chúng tôi trả về một khối liên kết khuếch đại bổ sung trên mỗi phản hồi mang mô hình được cung cấp thực sự, trạng thái bộ nhớ đệm và liệu có xảy ra chuyển đổi dự phòng hay không.
Bất cứ điều gì có thể âm thầm thay đổi ý nghĩa của một trường, chúng tôi không làm. Các tiện ích mở rộng sẽ xuất hiện trong extra_body trên đường vào và một khối không gian tên trên đường ra.
Các tham số không được hỗ trợ sẽ bị từ chối với giá trị 400 thay vì bị bỏ qua. Việc âm thầm loại bỏ logit_bias là cách bạn gỡ lỗi hồi quy chất lượng trong một tuần.