تخزين مؤقت أفضل للمطالبات في GPT‑6
معدلات إصابة أعلى وأدوات جديدة تساعد الوكلاء الدائمين على العمل بسرعة أكبر وتكلفة أقل.
يتيح GPT‑6 للوكلاء الدائمين العمل لساعات على مهام معقدة، بدءًا من إعادة هيكلة قواعد التعليمات البرمجية ووصولًا إلى إعداد مستندات وعروض تقديمية مدعومة ببحث متعمق. تُجري التطبيقات التي تقف وراء هؤلاء الوكلاء سلسلة من طلبات واجهة API يبني بعضها على بعض، وغالبًا ما تنقل معها التعليمات وتعريفات الأدوات والسياق نفسها من التفاعلات السابقة. تخزّن OpenAI هذا السياق المشترك مؤقتًا لإعادة استخدام العمليات الحسابية عبر الطلبات، ما يقلل أزمنة الاستجابة ويمنح المطورين خصومات تصل إلى 90% على رموز الإدخال المخزنة مؤقتًا.
مع عائلة GPT‑6، أطلقنا نظامًا محسّنًا للتخزين المؤقت للمطالبات يحقق افتراضيًا معدلات إصابة أعلى لذاكرة التخزين المؤقت. نقدّم الآن خصومات التخزين المؤقت للبادئات المشتركة المؤهلة التي يُعاد استخدامها خلال فترة 30 دقيقة. كما نقدّم أدوات جديدة تساعد المطورين على مراقبة أداء ذاكرة التخزين المؤقت وتشخيص حالات عدم الإصابة وتحديد مقدار المطالبة المراد تخزينه مؤقتًا.
توضح لوحة معلومات التخزين المؤقت للمطالبات(يفتح في نافذة جديدة) الجديدة مقدار ما يُقدَّم من مدخلات تطبيقك من ذاكرة التخزين المؤقت. تتبّع معدلات الإصابة بمرور الوقت، واستخدم مخطط تكوين المدخلات لمقارنة الرموز المخزنة مؤقتًا بغير المخزنة. تساعدك هذه العروض على رصد انخفاض معدلات الإصابة وتقييم أثر التغييرات في تطبيقك على أداء التخزين المؤقت.
عند ملاحظة حالة غير متوقعة لعدم إصابة ذاكرة التخزين المؤقت، استخدم أداة تشخيص التخزين المؤقت للمطالبات(يفتح في نافذة جديدة) لفهم ما حدث. قارن طلبًا باستجابة حديثة لتحديد التغييرات في النموذج أو الأدوات أو الإعدادات أو المدخلات التي حالت دون إعادة الاستخدام. يساعدك العدد التقديري للرموز المتأثرة على تقييم حجم الأثر وتحديد كيفية تحسين تكاملك لتحقيق أعلى معدلات إصابة ممكنة لذاكرة التخزين المؤقت.
{
"prompt_cache_diagnostics": {
"type": "cache_miss",
"reason": "tools_changed",
"comparison_reusable_tokens": 5629,
"cache_missed_tokens": 5629
}
}
اختر ما تريد تخزينه مؤقتًا. تتيح لك نقاط توقف التخزين المؤقت الصريحة اختيار بادئات المطالبة التي تريد إعادة استخدامها. يشرح دليل التخزين المؤقت للمطالبات(يفتح في نافذة جديدة) المحدّث كيفية استخدامها ومدة بقاء البادئات المخزنة مؤقتًا مؤهلة، وكيف تؤثر التغييرات في الأدوات والمدخلات على إعادة الاستخدام.
اضبط جهد الاستدلال دون تعطيل ذاكرة التخزين المؤقت. في نماذج GPT‑6، يمكنك الآن تغيير جهد الاستدلال(يفتح في نافذة جديدة) بين الاستجابات دون تعطيل ذاكرة التخزين المؤقت. ارفع الجهد لمهمة أصعب أو اخفضه لمتابعة روتينية بإلحاق configuration_update مع إبقاء جهد الاستدلال على مستوى الطلب من دون تغيير. يتيح لك ذلك ضبط مقدار الاستدلال الذي تحتاج إليه المهمة مع الحفاظ على السياق القابل لإعادة الاستخدام.
حافظ على ذاكرة التخزين المؤقت مع تغيّر الأدوات والتعليمات. مع تغيّر احتياجات وكيلك إلى استخدام الأدوات، حافظ على ثبات تعريفات الأدوات ومخططاتها وترتيبها حتى يظل السياق السابق قابلًا لإعادة الاستخدام. استخدم allowed_tools لقصر الاستدعاء على الأدوات ذات الصلة، أو اضبط tool_choice على none عند عدم الحاجة إلى أدوات، بدلًا من إزالة التعريفات. استخدم رسائل مطوّرين جديدة لإلحاق تعليمات جديدة قرب نهاية السياق كي تتجاوز التعليمات الأقدم. راجع إرشاداتنا لإدارة تغييرات الأدوات(يفتح في نافذة جديدة).
هيّئ ذاكرة التخزين المؤقت مسبقًا لتقليل زمن الاستجابة. يعمل التهيئة المسبقة(يفتح في نافذة جديدة) على إعداد السياق المعروف مقدمًا حتى يتمكن النموذج من بدء الاستجابة بسرعة أكبر عند وصول الطلب. فعلى سبيل المثال، يمكن للتطبيق أن يهيّئ مسبقًا التعليمات المشتركة أو تعريفات الأدوات أو المواد المرجعية عند بدء التشغيل، قبل أن يطرح المستخدم سؤاله الأول. وبذلك تُنجز المعالجة خارج وقت انتظار المستخدم.
تستند عناصر التحكم الاختيارية هذه إلى الأداء الافتراضي للمحرك، وتساعدك على تكييف التخزين المؤقت مع عبء عملك.
راقب معدلات إصابة ذاكرة التخزين المؤقت في لوحة معلومات التخزين المؤقت للمطالبات(يفتح في نافذة جديدة).
تحقّق من حالات عدم الإصابة غير المتوقعة باستخدام أداة التشخيص(يفتح في نافذة جديدة).
اتبع دليل التخزين المؤقت للمطالبات(يفتح في نافذة جديدة) لتحسين إعداداتك، أو استخدم Codex(يفتح في نافذة جديدة) لمراجعة تعليماتك البرمجية وتطبيق التحسينات وقياس النتائج.
