تخطي إلى المحتوى الرئيسي
OpenAI

22 ديسمبر 2025

الأمان

تعزيز حماية متصفح ChatGPT Atlas بشكل مستمر ضد هجمات حقن الطلبات

يساهم فريق تحدي المخاطر الآلي، المستند إلى قدرات التعلم بالتعزيز، في دعم جهودنا الرامية إلى اكتشاف ومعالجة حالات استغلال الوكلاء في العالم الحقيقي بأسلوب استباقي، وذلك قبل أن تتحول تلك الثغرات إلى أدوات هجومية يمكن استغلالها.

جاري التحميل...

يُعد وضع الوكيل في متصفح ChatGPT Atlas من أكثر الميزات شمولًا وتعددًا في الأغراض ضمن ما أطلقناه حتى الآن؛ إذ يتولى وكيل المتصفح في هذا النمط استعراض صفحات الويب بفاعليةٍ، مع اتخاذ الإجراءات اللازمة من نقراتٍ وضغطات مفاتيحٍ داخل متصفحك الخاص، بأسلوبٍ يحاكي تمامًا ما تقوم به بنفسك. وبذلك يمنحك ChatGPT القدرة على إنجاز طيفٍ واسعٍ من مهامك اليومية بصفةٍ مباشرةٍ، مستفيدًا من المساحة ذاتها وسياق البيانات نفسه.

وفي الوقت الذي يفتح فيه وكيل المتصفح آفاقًا أرحب لإنجاز أعمالك، فإنه يغدو بالقدر ذاته هدفًا ذا قيمةٍ استراتيجيةٍ كبرى للهجمات العدائية؛ وهو ما يضفي على أمن الذكاء الاصطناعي أهمية استثنائية بالغة. وقبل وقتٍ طويلٍ من الإعلان عن متصفح ChatGPT Atlas، دأبنا بصفة مستمرة على تصميم الميزات الدفاعات وتعزيزها لمواجهة التهديدات الناشئة التي تستهدف حصرًا هذا النمط المبتكر من "الوكلاء في المتصفحات". وتبرز هجمات حقن الطلبات بوصفها أحد أكثر المخاطر التي نعمل على صدها بنشاطٍ دؤوبٍ، غايتنا في ذلك ضمان قدرة متصفح ChatGPT Atlas على تمثيلك والعمل نيابةً عنك في بيئةٍ تسودها الثقة والأمان. 

وفي إطار هذا المسعى الدؤوب، أطلقنا مؤخّرًا تحديثًا أمنيًّا شاملًا لوكيل المتصفح Atlas، يتضمن نموذجًا استُحدث خصيصًا عبر تدريبٍ عدائيٍ مكثفٍ، مع تعزيز منظومة التدابير الوقائية المحيطة به بصفة دقيقة. وقد جاء هذا التحديث استجابةً لظهور نمطٍ مبتكرٍ من هجمات حقن الطلبات، نجح فريق تحدي المخاطر الآلي الداخلي لدينا في رصده وتحييد أثره.

نستعرض في هذه المقالة الكيفية التي تتبدّى بها مخاطر هجمات حقن الطلبات للوكلاء المعتمدين على الويب، كما نكشف الستار عن حلقة استجابةٍ سريعةٍ عكفنا على تطويرها بغرض اكتشاف الهجمات المستحدثة بصفة مستمرة، وتقديم الحلول الوقائية الرادعة على نحوٍ عاجلٍ؛ وهو ما تجسّد بوضوحٍ في تحديثنا الأمني الأخير.

نرى أن حقن الطلبات يفرض تحدّيًا طويل الأمد على أمن الذكاء الاصطناعي، مما يستلزم تحصين دفاعاتنا بصفة مستمرّة لمواكبة تطوره (بذات القدر الذي تتطور به عمليات الاحتيال الرقمي التي تستهدف البشر). وقد أبانت دورة الاستجابة السريعة التي اعتمدناها مؤخّرًا عن بوادرَ واعدة كأداة حاسمة في هذا المسار؛ إذ تتيح لنا رصد استراتيجيات الهجوم المبتكرة داخليًّا قبل تفشي خطرها في الفضاء الرقمي العام. وتتمحور رؤيتنا طويلة الأمد حول الاستفادة القصوى من (1) وصولنا الشفاف لنماذجنا، و (2) فهمنا العميق لآليات الدفاع، و (3) تسخير الموارد الحوسبية للبقاء في طليعة المتصدين للمهاجمين؛ وذلك عبر اكتشاف الثغرات مبكرًا، وإطلاق الحلول الرادعة سريعًا، وإحكام حلقة الأمان بانتظام. وبالتزامن مع الأبحاث الرائدة لابتكار تقنيات تقضي على هجمات حقن الطلبات من جذورها وتزيد الاستثمار في ضوابط الأمن الأخرى، يمكن لهذه الدورة المتكاملة أن تجعل الهجمات أكثر صعوبة وتكلفة، مما يقلص بشكل ملموس من مخاطر هجمات حقن الطلبات في الواقع العملي. وفي نهاية المطاف، يبقى هدفنا الأسمى أن تمنح وكيل ChatGPT ثقتك الكاملة لاستخدام متصفحك، كأنك تأتمن زميلًا أو صديقًا يتمتع بكفاءةٍ استثنائيةٍ ووعيٍ أمنيٍ رفيعٍ.

تحدي هجمات حقن الطلبات التي يواجه أمن الوكلاء

يستهدف هجوم حقن الطلبات وكلاء الذكاء الاصطناعي عبر دمج تعليمات ضارة ضمن المحتوى الذي يعالجه الوكيل بصفةٍ دوريةٍ؛ وقد جرى تصميم هذه التعليمات بعناية لتجاوز الضوابط القائمة أو إعادة توجيه سلوك الوكيل توجيهًا ينحرف به عن مساره الأصلي، مما يفضي في نهاية المطاف إلى انصياع النظام لمراد المهاجم بدلاً من الالتزام بنية المستخدم الحقيقية.

بالنسبة لوكيل المتصفح الموجود ضمن متصفح ChatGPT Atlas، فإن حقن الطلبات يضيف بعدًا جديدًا وحرجًا من التهديدات التي تتخطى آفاق المخاطر التقليدية لأمن الويب؛ مثل الهفوات البشرية أو الثغرات البرمجية. فبدلًا من الاعتماد على أساليب التصيد الاحتيالي التي تستهدف خداع البشر، أو السعي وراء استغلال ثغرات النظام التقنية في المتصفح، يستهدف المهاجم الوكيل الذي يدير العمليات في الداخل.

على سبيل المثال الافتراضي، قد يعمد المهاجم إلى إرسال رسالة إلكترونية خبيثة يهدف من خلالها إلى تضليل الوكيل وحثّه على تجاهل طلب المستخدم الأصلي، بغية إعادة توجيه مستنداتٍ ضريبية حساسة نحو بريد إلكتروني يقع تحت سيطرة المهاجم. فإذا ما استعان المستخدم بالوكيل لمراجعة رسائل البريد غير المقروءة وتلخيص محاورها الأساسية، فقد يفتح الوكيل ذلك البريد الخبيث ضمنًا في أثناء تنفيذ سير العمل؛ وفي حال انصياعه للتعليمات المحقونة، قد يحيد تمامًا عن المهمة المنوطة به ويقوم بمشاركة معلومات بالغة الخصوصية بصفة خاطئة وغير مقصودة.

هذا مجرد مثال واحد محدد ضمن مجموعة واسعة من الاحتمالات؛ إذ إن ذات الخصائص الشمولية التي تمنح وكلاء المتصفح قيمتها العالية تفتح الباب أيضًا أمام مخاطر أرحب نطاقًا. فقد يصادف الوكيل تعليمات غير موثوقة عبر مساحة سطحية غير محدودة فعليًا، تشمل رسائل البريد الإلكتروني والمرفقات، ودعوات التقويم، والمستندات المشتركة، بالإضافة إلى المنتديات ومنشورات وسائل التواصل الاجتماعي وصفحات الويب المختلفة. وحيث إن الوكيل يمتلك صلاحية تنفيذ إجراءات عديدة يمارسها المستخدم عادة داخل متصفحه، فإن تبعات أي هجوم ناجح قد تبلغ مدى واسعًا من الناحية النظرية؛ بما يغطي إعادة توجيه المراسلات الحساسة، أو تحويل الأموال، أو تعديل الملفات المخزنة في الخدمة السحابية وحذفها، وغير ذلك المزيد.

لقد أحرزنا تقدّمًا ملموسًا في التصدي لهجمات حقن الطلبات عبر إرساء طبقات متعددة من الضمانات الأمنية، وهو ما سبق وأن استعرضنا تفاصيله في منشور سابق. ومع ذلك، لا يزال هجوم حقن الطلبات يمثل تحدّيًا مفتوحًا أمام أمن الوكلاء، ونحن نتوقع مواصلة العمل الدؤوب لتطوير هذه الدفاعات وصقلها لسنوات قادمة.

الاكتشاف الآلي لهجمات حقن الطلبات من خلال التعلم بالتعزيز الشامل عالي الحوسبة

لتحصين دفاعاتنا، نعكف على ممارسة البحث المستمر عن هجمات حقن الطلبات المستحدثة التي تستهدف أنظمة الوكلاء في بيئة الإنتاج الفعلي. ويُعد اكتشاف هذه الهجمات شرطًا جوهريًّا لبناء تدابير وقائية متينة؛ إذ يمنحنا القدرة على فهم المخاطر في سياق الواقع، ويكشف مكامن الخلل في دفاعاتنا، كما يحفزنا نحو ابتكار تصحيحات ملموسة.

لإنجاز هذه المهمة على نطاق واسع، استحدثنا مهاجمًا آليًّا يستند إلى نموذج لغوي ضخم، وعكفنا على تدريبه لاكتشاف هجمات حقن الطلبات القادرة على اختراق وكيل المتصفح بنجاح. وقد خضع هذا المهاجم لعمليات تدريب متكاملة باستخدام تقنية التعلم بالتعزيز، بحيث يستخلص الدروس من تجاربه الناجحة وإخفاقاته على حد سواء، صقلًا لمهاراته في اختبار الاختراق. كما نمنحه فرصة التجربة الافتراضية قبل الاعتماد النهائي؛ إذ يتاح له خلال سلسلة التفكير اقتراح حقن مرشح وإرساله إلى محاكي خارجي، حيث يقوم هذا المحاكي بتشغيل بيئة افتراضية تجسد استجابة الوكيل المستهدف. يقوم المحاكي بتشغيل محاكاة افتراضية لكيفية تصرف الوكيل المستهدف (المدافع) إذا واجه الحقن، ويعيد تقديم تتبع كامل للتفكير المنطقي المتعمق والإجراءات الخاصة بالوكيل. ويستفيد المهاجم من تلك الملاحظات في التحليل المرجعي، ويكرر الهجوم ويعيد تشغيل المحاكاة؛ ويكرر هذه الدورة عدة مرات قبل الاستقرار على الصيغة النهائية للهجوم. إن هذا الأسلوب يوفر للمهاجم رؤية سياقية أعمق مقارنة بإشارات النجاح أو الفشل المجردة، كما يضاعف من القدرات الحوسبية المبذولة أثناء وقت الاختبار. علاوة على ذلك، فإن منح المهاجم الداخلي وصولًا حصرِيًّا إلى تتبع التفكير المنطقي المتعمق الخاصة بالمدافع (وهي بيانات لا نفصح عنها للمستخدمين) يمنحه ميزة غير متكافئة، مما يرفع من احتمالات تفوقه على أي خصوم خارجيين.

نموذج صفحة ويب بوضع الإضاءة المريح للعين يوضح التعلم بالتعزيز، ويتميز بذراع روبوت مصمم بأسلوب فني يتفاعل مع أشكال هندسية عائمة على خلفية متدرجة زاهية.

ما أسباب اختيار التعلم بالتعزيز؟يرجع اختيارنا للتعلم بالتعزيز في تدريب المهاجم الآلي لأسباب متعددة:

  1. تحسين قدرة المهاجمين الآليين على بلوغ أهداف طويلة الأمد تتسم بطابع غير مستمر. نصبو من خلال هذه الجهود إلى تقصي هجمات حقن الطلبات القادرة على تضليل الوكيل ودفعه نحو تنفيذ مهام عدائية معقدة، مثل إرسال مراسلات إلكترونية أو إتمام معاملات مصرفية قد تقع في سياق العالم الحقيقي. إن هذه المهام التنافسية بطبيعتها تمتد عبر مسارات زمنية طويلة، وتستلزم القيام بخطوات عديدة من الاستدلال والتفاعل مع البيئة الرقمية، في ظل وجود مؤشرات نجاح نادرة تظهر بصفة متأخرة. وهنا يبرز التعلم بالتعزيز بوصفه حلًا مثاليًّا لمثل هذا الهيكل المتفرد الذي يعتمد على مكافآت مؤجلة.
  2. الاستفادة من قدرات النماذج اللغوية المتقدمة. عمدنا إلى تدريب النماذج اللغوية الكبيرة الرائدة لتعمل مباشرةً بوصفها أفرقة تحدي المخاطر تلقائيةً، مما يتيح للمهاجم الاستفادة بصفة مباشرة من القفزات النوعية في قدرات التفكير المنطقي المتعمق والتخطيط التي تتمتع بها هذه النماذج المتقدمة. ومع تنامي قوة النماذج الأساسية، يكتسب المهاجم بطبيعة الحال قدرات أكبر، مما يجعل هذا النهج وسيلةً قابلةً للتوسع لضمان استمرار الضغط على دفاعاتنا بالتزامن مع تطور نماذجنا.
  3. توسيع نطاق الحوسبة ومحاكاة المهاجمين المتكيفين. يُعد التعلم بالتعزيز حلًا مثاليًّا لزيادة حجم العمليات الحسابية المخصصة لتقصي الهجمات عبر طيف واسع من العينات ومراحل التعلم. كما يجسد هذا المسار بصفة دقيقة الأسلوب الذي ينتهجه المهاجمون البشريون ذوو القدرة على التكيف، من خلال اختبار الاستراتيجيات بصورة متكررة، واستخلاص الدروس من النتائج المحققة، ثم تعزيز الأنماط السلوكية التي أثبتت نجاحها.

يتمتع مهاجمنا الآلي بقدرة فائقة على رصد هجمات حقن الطلبات المبتكرة والواقعية بصفة متكاملة من البداية وحتى النهاية. وبخلاف معظم الجهود السابقة في سياق جهود عمل فريق تحدي المخاطر الآلي، والتي اقتصرت على كشف إخفاقات بسيطة مثل استدراج النموذج لإخراج سلاسل نصية محددة أو تفعيل أدوات غير مقصودة عبر خطوة واحدة، فإن مهاجمنا المدرب بتقنيات التعلم بالتعزيز يمتلك القدرة على توجيه الوكيل نحو تنفيذ مسارات عمل ضارة ومعقدة ممتدة الأمد، تتكشف فصولها عبر عشرات أو ربما مئات الخطوات المتتابعة. وعلاوة على ذلك، فقد رصدنا استراتيجيات هجومية فريدة لم يسبق ظهورها في حملات فريق تحدي المخاطر البشرية أو في التقارير الأمنية الخارجية.

يقدم العرض التوضيحي أدناه نموذجًا عمليًّا لاختراق ناجح عبر هجوم حقن الطلبات الذي رصده مهاجمنا الآلي، والذي استُخدم لاحقًا بصفة محورية لتطوير دفاعات متصفح ChatGPT Atlas. ففي هذا السيناريو، يعمد المهاجم إلى زرع رسالة إلكترونية خبيثة داخل صندوق الوارد الخاص بالمستخدم، يتضمن تعليمات محقونة توجه الوكيل نحو إرسال خطاب استقالة إلى الرئيس التنفيذي. وحينما يطلب المستخدم من الوكيل لاحقًا صياغة رد تلقائي لحالة "الوجود خارج المكتب"، يصادف الوكيل تلك الرسالة الإلكترونية الخبيثة أثناء ممارسة مهامه بصفة طبيعية، فيتعامل مع الطلب المحقون بوصفه مرجعًا موثوقًا وينصاع له. وبناءً على ذلك، يتجاهل الوكيل صياغة الرسالة المطلوبة، وبدلًا من إتمام المهمة الأصلية، يقوم بتقديم الاستقالة نيابة عن المستخدم.

إن الطبيعة الجوهرية لهجمات حقن الطلبات تجعل من الصعب تقديم ضمانات أمنية حتمية بصفة مطلقة، ولكن عبر التوسع في نطاق أبحاثنا الأمنية الآلية، وتكثيف الاختبارات العدائية، وإحكام دورة الاستجابة السريعة لدينا، نغدو أكثر قدرةً على تعزيز متانة النموذج وتحصين دفاعاته بأسلوب استباقي؛ وذلك دون ارتقاب وقوع هجوم فعلي في أرض الواقع. 

نضع هذا العرض التوضيحي بين أيدي المستخدمين والباحثين بغية تعميق فهمهم لطبيعة هذه الهجمات بأسلوب أوضح، مع بيان الكيفية التي ننتهجها لصدها بنشاط دؤوب. ونحن على قناعة بأن هذا المسار يجسد أقصى ما يمكن أن تبلغه أفرقة تحدي المخاطر الآلية في الوقت الراهن، كما يملؤنا حماس بالغ لمواصلة أبحاثنا وتطوير استراتيجياتنا الدفاعية.

تعزيز متصفح ChatGPT Atlas بحلقة استجابة سريعة واستباقية

يعمد فريق تحدي المخاطر الآلي لدينا إلى تفعيل حلقة استجابة سريعة واستباقية: فعندما يكتشف المهاجم الآلي فئة جديدة من هجمات حقن الطلبات الناجحة، فإنه ينشئ على الفور هدفًا ملموسًا لتحسين دفاعاتنا.

التدريب بطريقة مضادة للهجمات المكتشفة حديثًا. نعكف على تدريب نماذج الوكلاء المحدثة بصفة دورية لمواجهة أكفأ المهاجمين الآليين لدينا، حيث نمنح الأولوية القصوى للتصدي للهجمات التي يعجز الوكلاء الحاليون عن صدها. ويتمثل هدفنا في تعليم الوكلاء كيفية إهمال التعليمات العدائية والحفاظ على التوافق التام مع مراد المستخدم، مما يسهم في تعزيز حصانتهم ضد استراتيجيات حقن الطلبات المستحدثة. وقد جرى دمج هذه المتانة الأمنية ضد الأنماط الهجومية الجديدة والقوية مباشرة داخل نقطة التحقق الخاصة بالنموذج؛ فعلى سبيل المثال، نجحت أفرقة تحدي المخاطر الآلية مؤخّرًا في استنباط نقطة تفتيش مبتكرة لوكيل المتصفح خضعت لتدريب عدائي مكثف، وقد جرى طرحها فعليًّا لكافة مستخدمي متصفح ChatGPT Atlas. إن هذا الإجراء الاستباقي يرفد منظومتنا الدفاعية بقدرات إضافية، ويكفل حماية مستخدمينا بأسلوب أمثل من صنوف الهجمات المبتكرة.

الاستفادة من آثار الهجوم لتحسين البنية الدفاعية الأوسع. تساهم مسارات الهجوم العديدة التي رصدها فريق تحدي المخاطر الآلي في كشف فرص واعدة للتطوير تتجاوز حدود النموذج ذاته؛ إذ تشمل تحسين آليات المراقبة، وتطوير تعليمات السلامة التي ندرجها ضمن سياق عمل النموذج، علاوة على تعزيز التدابير الاحترازية الشاملة على مستوى النظام بأكمله. وتساعدنا هذه النتائج بصفة جوهرية على الارتقاء بمستوى منظومة الدفاع المتكاملة، دون الاقتصار على نقطة تفتيش الوكيل.

الرد على الهجمات النشطة. تسهم هذه الحلقة بصفة فعالة في الارتقاء بمستوى الاستجابة للهجمات النشطة التي تقع ضمن البيئة الحقيقية؛ فبينما نعكف على مراقبة بصْمتنا العالمية بدقة لرصد أي تهديدات محتملة، يتاح لنا استغلال التقنيات والتكتيكات التي نلحظها لدى الخصوم الخارجيين عبر إدراجها داخل هذه الدورة التطويرية. ومن ثم، نقوم بمحاكاة نشاطهم محاكاة افتراضية تتيح لنا اختبار صمودنا، مما يدفع بعجلة التغيير الدفاعي قدمًا عبر منصتنا بأكملها.

نظرة مستقبلية: التزامنا طويل الأمد بأمن الوكلاء

إن تعزيز قدرتنا على اختبار الوكلاء عبر توظيف فريق متخصص لتحدي المخاطر، واستغلال نماذجنا الأكثر كفاءة لأتمتة جوانب من هذا العمل، يسهم بصفة مباشرة في جعل وكيل متصفح Atlas أكثر قوة وصمودًا من خلال توسيع آفاق دورة الاكتشاف وصولًا إلى الإصلاح النهائي. ويعيد هذا الجهد الدؤوب في تحصين الأمان تأكيد درس مألوف في هذا الميدان؛ وهو أن السبيل المجرب نحو إرساء حماية أقوى يكمن في استمرار اختبار الأنظمة الحقيقية تحت وطأة الضغط، والتفاعل بجدية مع الإخفاقات المرصودة، وتقديم إصلاحات ملموسة.

نحن نتوقع أن يواصل الخصوم نهج التكيف وتطوير أدواتهم بصفة مستمرة؛ إذ إن هجمات حقن الطلبات، شأنها شأن عمليات الاحتيال وأساليب الهندسة الاجتماعية المنتشرة على الإنترنت، من غير المرجح أن تجد طريقها نحو الحل النهائي بشكل كامل. ومع ذلك، يحدونا تفاؤل كبير بأن وجود حلقة استجابة سريعة وفعالة كفيل بأن يقلل  المخاطر الواقعية تقليلًا ملموسًا مع مرور الوقت. فمن خلال دمج آليات اكتشاف الهجمات الآلية مع التدريب العدائي المكثف ووسائل الحماية الشاملة على مستوى النظام، سنغدو أكثر قدرة على رصد أنماط الهجوم المبتكرة في وقت مبكر، وسد الثغرات الأمنية بسرعة أكبر، فضلًا عن رفع تكلفة الاستغلال أمام المهاجمين بشكل مستمر.

إن دمج الوكيل داخل متصفح ChatGPT Atlas يمنحه قدراتٍ فائقةً، إلا أنه يوسع في الوقت ذاته من مساحة السطح المعرض للتهديدات الأمنية؛ ويمثل الوعي العميق بهذه المقايضة ركنًا أساسيًّا من أركان منهجية البناء بمسؤولية التي نتبعها. ويتمثل مسعانا الدائم في جعل متصفح Atlas أكثر أمانًا بصفة ملموسة مع كل تكرار تطويري، وذلك عبر تحسين متانة النموذج، وتعزيز حزمة الدفاع المحيطة به، بالإضافة إلى مراقبة أنماط الإساءة الناشئة في بيئة العمل بصفة مستمرة.

سوف نواصل المضي قدمًا في تعزيز الاستثمار في مجالات البحث والنشر التقني، مع التركيز على تطوير منهجيات آلية أكثر كفاءة لاختبارات التحدي، وطرح حزمة من إجراءات التخفيف متعددة الطبقات، فضلًا عن حرصنا على التكرار السريع والمدروس بناء على ما نستخلصه من دروس وتجارب مستمرة. كما نلتزم بمشاركة ما نتوصل إليه من نتائج ورؤى مع المجتمع التقني الأوسع.

توصيات لاستخدام الوكلاء بأمان

بينما نواصل تعزيز متصفح Atlas على مستوى النظام، هناك خطوات يمكن للمستخدمين اتخاذها لتقليل المخاطر عند استخدام الوكلاء. 

تقييد الوصول أثناء تسجيل الدخول قدر المستطاع. نحن نواصل التوصية بضرورة استفادة المستخدمين من وضع تسجيل الخروج(يفتح في نافذة جديدة) عند تفعيل الوكيل في متصفح Atlas، وذلك في الحالات التي لا يكون فيها الوصول إلى المواقع الإلكترونية التي تتطلب تسجيل دخول أمرًا ضروريًّا لإنجاز المهمة الحالية؛ أو بهدف تقييد الوصول إلى مواقع معينة جرى الدخول إليها مسبقًا أثناء تنفيذ المهمة. 

مراجعة طلبات التأكيد بعناية. فيما يخص بعض العمليات الحيوية، مثل إتمام إجراءات الشراء أو إرسال المراسلات الإلكترونية، فقد جرى تصميم الوكلاء بحيث يطلبون تأكيدًا مباشرًا منك قبل المضي في التنفيذ. وحينما يدعوك الوكيل للموافقة على إجراء ما، نرجو منك التمهل لبرهة قصيرة للتحقق من صحة العملية، والتأكد من أن المعلومات الجاري مشاركتها تتوافق تمامًا مع السياق المطلوب.

إعطاء الوكلاء تعليمات واضحة كلما أمكن. يُنصح بتجنب صياغة الطلبات العامة والمبهمة، مثل قولك «راجع رسائلي الإلكترونية واتخذ الإجراءات اللازمة»؛ إذ إن النطاق الفسيح للمحتوى المخفي أو الخبيث قد يمنح المهاجمين فرصة للتأثير على سلوك الوكيل بيسر، حتى في ظل وجود الضمانات القائمة. ومن الأفضل دائمًا توجيه الوكيل نحو تنفيذ مهام محددة بدقة وواضحة المعالم؛ فحينما تكون الأوامر صريحةً ومقيدةً بسياق ضيق، يصبح تنفيذ الهجمات أكثر صعوبة وتعقيدًا أمام المهاجمين.

إذا كان من المنشود أن يغدو الوكلاء شركاء موثوقين في إنجاز المهام اليومية، فإنه يتحتم عليهم امتلاك قدرة عالية على مقاومة صنوف التلاعب التي تفرزها بيئة الويب المفتوحة. إن التصدي لهجمات حقن الطلبات يمثل التزامًا طويل الأمد ويتربع على قائمة أهم أولوياتنا الاستراتيجية. وسوف نعمد إلى مشاركة المزيد من التفاصيل حول هذا العمل الدؤوب والمستجدات التقنية في هذا الصدد قريبًا.

المؤلف

OpenAI