معاينة محتوى النموذج الأولي. الأرقام وتفاصيل المؤلف ومطالبات المنتج وأمثلة API في انتظار التحقق؛ الأمثلة ليست تعليمات التكامل المؤكدة.
تُظهر بياناتنا من مكالمات 140M اليومية أن التخزين المؤقت الدلالي يلغي الطلبات الزائدة عن الحاجة. وإليك كيفية قياس معدل الدخول مع حركة المرور.
عبر مكالمات 140M اليومية على بوابة Starsg، تعد مطالبات 31% شبه مكررة للطلب الذي قدمناه في ساعات 24 السابقة. لا يلتقط التخزين المؤقت للمطابقة التامة سوى ثلث هؤلاء. يلتقط التخزين المؤقت الدلالي الباقي، وهو أكبر تخفيض فردي للعنصر يمكن لمعظم الفرق إجراؤه دون تغيير النموذج.
ما يعتبر نتيجة لذاكرة التخزين المؤقت
نقوم بتضمين كل موجه وارد، والبحث في فهرس المتجه الخاص بالمستأجر، ونتعامل مع النتيجة على أنها نتيجة عندما يؤدي تشابه جيب التمام إلى مسح عتبة كل مسار. الإعداد الافتراضي هو 0.97 لعمليات البحث الفعلية و0.99 لأي شيء يضع المتصل علامة عليه على أنه منتج. تحت العتبة يذهب الطلب إلى المنبع وتتم كتابة الاستجابة مرة أخرى إلى الفهرس.
- حركة الدعم والأسئلة الشائعة: معدل الوصول إلى 52% - نفس الأسئلة العشرين تهيمن
- إثراء كتالوج المنتجات: معدل نجاح 38%، مدفوعًا بأوصاف SKU المتكررة
- مساعدة الكود: معدل الإصابة 19%؛ تحمل المطالبات سياق ملف فريدًا
- دردشة مفتوحة: معدل النقر على 6% - التخزين المؤقت ليس هو الرافعة هنا
كيف يتكيف معدل النجاح مع حركة المرور
معدل الإصابة هو دالة للكثافة السريعة، وليس الحجم الخام. يتقارب عبء العمل عند مكالمات 10k/اليوم وواحد عند مكالمات 10M/اليوم إلى نفس المعدل بمجرد أن يرى الفهرس مطالبات 50k المميزة تقريبًا. ما يتغير الحجم هو الوقت المناسب للوصول إلى تلك النقطة: يستعد المستأجرون الكبار في ساعات، ويستعد المستأجرون الصغار في أسابيع.
تم حساب المتوسط عبر جميع المستأجرين الذين تم تمكين ذاكرة التخزين المؤقت لهم، حيث أدى التخزين المؤقت الدلالي إلى إزالة 41% من الرموز المميزة القابلة للفوترة في الربع الأخير. متوسط زمن الوصول الإضافي عند النتيجة: 11ms.
تشغيله
client.chat.completions.create(
model="claude-sonnet-4-5",
messages=messages,
extra_body={
"amplink": {
"cache": {"mode": "semantic", "threshold": 0.97, "ttl": 86400}
}
},
)
قم بتعيين الحد بشكل متحفظ، وراقب رأس العرض من ذاكرة التخزين المؤقت لمدة أسبوع، ثم قم بفكه مسارًا تلو الآخر. الفرق التي تقوم بالضبط لكل مسار بدلاً من الحصول على نقاط 8-12 أعلى في معدل الإصابة بنفس شريط الجودة.