كيف ندمج السلامة والأمان والخصوصية في dots

وكلاء dots يعملون باستمرار ويتولّون مسؤوليات متواصلة، ليمنحوك مزيدًا من الوقت والتركيز على ما يهمك. لكل وكيل dot حاسوبه الخاص، ويعمل عبر التطبيقات التي تختار ربطها. أنت تحدد لوكلاء dots الأهداف وما يمكنهم فعله بمفردهم. ويمكنهم إنجاز الخطوات، والتكيّف مع التغيّرات، ومواصلة التقدم بين المحادثات. قد يتابعون تطورات خبر ويُعدّون مسودة نشرة إخبارية، أو يساعدون في تحديث مشروع عند ورود معلومات جديدة، ثم يعرضون عليك النتائج لمراجعتها ويرجعون إليك في القرارات التي تتطلب تقديرك.

إسناد هذه المسؤولية إلى وكلاء dots يعني ائتمانهم على مزيد من معلوماتك وأعمالك. وينبغي أن تفهم ما يمكن لكل وكيل dot الوصول إليه، وكيف يستخدم صلاحيات الوصول تلك، ومتى يحتاج إلى إشراكك. هذه أسئلة مهمة لأن أخطاء الوكيل قد تترتب عليها عواقب تتجاوز المحادثة: فقد يدفعه سوء فهم طلبك إلى تعديل ملف غير مقصود أو مشاركة معلومات أردت إبقاءها خاصة.

نضع وسائل حماية لكل جزء من هذا العمل. نبدأ بنموذج GPT‑6 Astra الذي ندرّبه على فهم مقصدك واتباع قواعد السلامة، ثم نضيف تدابير وقائية للمعلومات التي يستخدمها وكلاء dots، والبيئات التي يعملون فيها، والإجراءات التي يخططون لتنفيذها. تساعد مساحة العمل السحابية المحمية على احتواء الأخطاء، وتساعد آليات تسجيل الدخول الآمن على حماية بيانات الاعتماد الحساسة، فيما تساعد الفحوصات المنفصلة للإجراءات على رصد الخطوات التي تخالف تعليماتك أو متطلبات السلامة. أنت تختار ما تريد ربطه، وتضبط تفضيلاتك، وتتابع العمل أو تعيد توجيهه مع تقدّمه.

لا يزال وكلاء dots عرضة للخطأ، وسنواصل تحسين وسائل الحماية هذه بناءً على ما نتعلمه من الاستخدام الفعلي. نشرح هنا كيف تتكامل التدابير الوقائية، وما يمكنك التحكم فيه، والحدود التي ما تزال قائمة، لتتمكن من اتخاذ قرارات مدروسة بشأن الأعمال التي تسندها إلى وكلاء dots.

يعمل وكلاء dots بنموذج GPT‑6 Astra، وهو أكثر نماذجنا قدرةً ومواءمةً. يتميز Astra بفهم هدفك، والالتزام بنطاق طلبك، وطرح أسئلة محددة عندما يكون من شأن الإجابات أن تغيّر ما ينبغي له فعله. تساعد هذه القدرات وكلاء dots على متابعة المهام بمرور الوقت دون أن يغيب عنهم مقصدك.

درّبنا Astra على رفض الطلبات الضارة، بما فيها الطلبات التي تنطوي على إساءة استخدام في مجالي البيولوجيا أو الأمن السيبراني. نختبر كيفية تعامل وكلاء dots مع التعليمات المتغيّرة، والطلبات الغامضة، ومحاولات دفعهم إلى تجاوز الأذونات التي منحتها. يساعدنا اختبار تقييم المخاطر، سواء أجراه البشر أو نُفّذ آليًا، على اكتشاف نقاط الضعف، وتحسين النموذج والأنظمة المحيطة به، ثم اختبار تلك التغييرات من جديد.

نعزّز هذه التدابير الوقائية الخاصة بالنموذج بوسائل الحماية الأمنية في ChatGPT وتدابير إضافية للوكلاء القادرين على مواصلة العمل نيابةً عنك.

تشمل وسائل الحماية المدمجة في ChatGPT تشفير محتواك أثناء تخزينه وأثناء نقله بينك وبين OpenAI ومزوّدي خدماتنا، إلى جانب ضوابط الوصول التي تساعد على حماية المعلومات المخزّنة. ترصد أنظمة أمان الحسابات لدينا أيضًا أي استخدام مريب لحسابك لدى OpenAI، وقد تطلب منك تسجيل الدخول مجددًا إذا بدت الجلسة مخترقة.

يحتاج الوكلاء أيضًا إلى الحماية من المعلومات التي يصادفونها أثناء أداء عملهم. قد تحتوي صفحة ويب أو رسالة بريد إلكتروني أو مستند على تعليمات خبيثة تحاول إعادة توجيههم أو دفعهم إلى مشاركة معلومات خاصة، وهي مشكلة تُعرف باسم حقن المطالبات. نجمع بين التدابير الوقائية للنموذج والقيود على الأدوات والفحوصات التي تسبق الإجراءات والمراقبة، للمساعدة في منع تحوّل هذا المحتوى إلى إجراء غير مرغوب فيه.

نراقب أيضًا وكلاء dots أثناء تخطيط الإجراءات وتنفيذها، بحثًا عن سلوك قد يكون ضارًا، مثل التصرف خارج نطاق تعليماتك أو محاولة تجاوز التدابير الوقائية. إذا رصد نظام مراقبة السلامة أمرًا مقلقًا في عمل جارٍ لوكيل dot، فيمكنه إيقاف ذلك العمل مؤقتًا وعرض تحذير عليك لمراجعته. هذه المراقبة مدمجة في النظام، وتساعد على اكتشاف المشكلات مع تقدّم المهمة، إلى جانب وسائل الحماية التي تحدّ مما يستطيع وكلاء dots الوصول إليه وفعله.

لكل وكيل dot حاسوبه السحابي الخاص، حيث يمكنه التصفح وتحليل المعلومات وإنشاء الملفات وتشغيل الأدوات. يمكن لوكلاء dots مواصلة التقدم في مساحات العمل هذه، حتى عندما لا تتابع العمل بنفسك.

أنت تختار الحسابات التي يمكن لوكلاء dots استخدامها، إما بربط التطبيقات ضمن الأذونات التي منحتها لـChatGPT، أو بتسجيل الدخول إلى موقع ويب في متصفح وكيل dot، باستخدام تسجيل الدخول الآمن حيثما كان مدعومًا. يمكنك أيضًا اختيار ربط حاسوبك الشخصي لتتيح لوكلاء dots مزيدًا من الطرق لمساعدتك، مثل تحليل جدول بيانات محفوظ على سطح المكتب أو استخدام أدوات برمجة مثبّتة على جهازك.

داخل مساحة العمل المحمية لكل وكيل dot، تقيّد آلية العزل البرمجية ما يمكنه الوصول إليه من أكواد وأدوات، مما يساعد على احتواء أثر الأكواد الضارة أو الأوامر الخاطئة. نعزل أيضًا البيئات السحابية للمستخدمين بعضها عن بعض، ونتولى صيانة نظام التشغيل Linux ومتصفح Chrome اللذين تقوم عليهما هذه البيئات.

يشغّل وكلاء dots الأكواد في بيئات منفصلة عن الأنظمة التي تنسّق عملهم وتفرض التدابير الوقائية الأساسية. يمكنهم إنشاء الملفات وتشغيل الأدوات هناك، لكن لا يمكنهم استخدام صلاحيات الوصول تلك لتغيير أنظمة السلامة أو تعطيل الفحوصات الإلزامية. يساعد هذا الفصل على إبقاء التدابير الوقائية سارية حتى إذا ارتكب أحد وكلاء dot خطأً.

تحدد قواعد الإجراءات الموضّحة أدناه ما يمكن لوكلاء dots فعله بصلاحيات الوصول الممنوحة لهم.

يتيح تسجيل الدخول الآمن لوكلاء dots العمل في الحسابات مع إبقاء كلمات المرور خارج المحادثة. في عمليات تسجيل الدخول المدعومة، يتوقف النموذج مؤقتًا بينما تملأ نموذج تسجيل دخول آمنًا، يرسل بيانات اعتمادك مباشرةً إلى بيئة المتصفح ويقدّمها لتسجيل الدخول من دون إتاحتها ضمن سياق النموذج. ثم يستأنف وكيل dot العمل في الحساب الذي سجّلت الدخول إليه. إبقاء كلمة المرور خارج المحادثة يقلل من خطر ظهورها في إجابة أو مشاركتها بالخطأ.

تحافظ آليات استخدام كلمات المرور المحفوظة المدعومة على هذا الفصل من خلال خدمة مخصّصة ومشفّرة لبيانات الاعتماد. توفّر الخدمة كلمة المرور لتسجيل الدخول من دون تمريرها إلى النموذج، فيتمكن وكلاء dots من العمل في الحسابات التي سمحت لهم باستخدامها، بينما تبقى كلمات المرور خارج سياق النموذج. تقتصر وسائل الحماية هذه على آليات تسجيل الدخول الآمن واستخدام كلمات المرور المحفوظة؛ أما أي معلومة سرية تضعها بشكل منفصل في رسالة أو مستند قابل للقراءة، فقد تظل مرئية للنموذج.

تدير التطبيقات التي يمكن لوكلاء dots استخدامها من خلال اتصالاتك وأذوناتك الحالية في ChatGPT، وهي مشتركة بين ChatGPT وChatGPT العمل وCodex. في قسم «المكونات الإضافية» ضمن «الإعدادات»، يمكنك مراجعة الحسابات المتصلة وتغيير ما يمكن لوكلاء dots الوصول إليه من الآن فصاعدًا. يؤدي قطع اتصال تطبيق إلى إيقاف مشاركة أي معلومات جديدة عبر ذلك الاتصال. لكن المعلومات التي سبق لوكيل dot الاطّلاع عليها تبقى في سياقه الخاص. تنظّم هذه الأذونات الوصول إلى تطبيقاتك، ولا تلغي متطلبات السلامة الإلزامية.

إذا أردت أن يعمل وكلاء dots على ملفات أو أدوات محلية، فيمكنك أيضًا اختيار ربط حاسوبك. ويظل هذا الاتصال خاضعًا لقيود البيئة المعزولة المحلية وفحوصات الإجراءات المنطبقة عليه. يتطلب استخدام ميكروفون حاسوبك أو كاميرته أيضًا أذونات الجهاز، التي يمكنك اختيار منحها لـChatGPT.

تتيح لك ميزة «عرض النشاط» في تطبيق سطح المكتب متابعة العمل الجاري وتوجيهه. وتعرض المهام الجارية والمهام المفوَّضة وحالة كل منها. يمكنك إضافة سياق، أو تصحيح سوء فهم، أو تغيير الاتجاه، أو مطالبة وكيل dot بالتوقف.

يبني وكلاء dots سياقًا بمرور الوقت لتقديم مساعدة أكثر فائدة. وعندما يفوّضون العمل، يتلقى الوكلاء الآخرون تعليمات بالاحتفاظ بالمعلومات اللازمة للمهمة وتجنّب الاحتفاظ بتفاصيل حساسة غير ضرورية. لكل وكيل dot سياقه الخاص الذي يمكنك إعادة تعيينه في أي وقت.

في مساحات العمل المشتركة لخطط ChatGPT Business وEnterprise وEdu، لا نستخدم بياناتك لتدريب نماذجنا افتراضيًا. في خطط ChatGPT الشخصية، تتحكم في استخدام محادثات وكلاء dots لديك والأعمال التي ينفّذونها لتحسين نماذجنا، وذلك عبر إعداد «تحسين النموذج للجميع». عند تفعيل تدريب النماذج، قد يشمل ذلك الإجراءات التي ينفّذها وكلاء dots وعمليات الأتمتة التي تُعدّها، بعد أن نعمل على إزالة المعرّفات الشخصية. يمكنك قراءة المزيد عن كيفية استخدام بياناتك في هذا المقال⁠(يفتح في نافذة جديدة) في مركز المساعدة لدينا.

إلى جانب الأعمال التي تطلبها منهم، يمكن لوكلاء dots بدء مهام بحث في الخلفية لاستكشاف طرق أخرى لمساعدتك، مثل رصد تغيير في خطط سفرك. نسمّي ذلك البحث الاستباقي.

تُنفَّذ هذه المهام في البيئة السحابية لكل وكيل dot. وتستخدم أدوات للقراءة فقط لجمع المعلومات من المصادر المتصلة المسموح بها، ثم تحفظ ملاحظات خاصة لذلك الوكيل. نفرض هذه القيود برمجيًا: فلا تستطيع مهام البحث إرسال رسائل مباشرةً إلى أشخاص آخرين، أو تغيير المحتوى في التطبيقات المتصلة، أو التحكم في متصفح أو سطح مكتب. يمكن لوكلاء dots الاستفادة من النتائج لتحديد كيفية المساعدة، لكن أي إجراء لاحق يجب أن يخضع للقواعد والفحوصات المعتادة.

لا ندرّب نماذجنا مباشرةً على سجلات البحث الجاري في الخلفية أو الملاحظات الناتجة عنه. لكن قد يتلقى وكيل dot ملاحظات من مهمة البحث التي يجريها في الخلفية، أو يقرأ أجزاءً من سجلات بحثه. والمعلومات التي تُضاف بهذه الطريقة إلى محادثة أو مهمة مؤهلة للاستخدام في التدريب قد تُستخدم لتدريب النماذج، بحسب إعداداتك. على سبيل المثال، قد تجمع مهمة بحث في الخلفية معلومات عن عدة وجهات لرحلة مقبلة إلى أوروبا. لا يُستخدم سجل ذلك البحث ولا ملاحظاته مباشرةً في التدريب. لاحقًا، عندما تطلب من وكيل dot مساعدتك في التخطيط لرحلة إلى لشبونة، قد يقرأ ملاحظةً عن لشبونة من مهمة البحث التي أجراها في الخلفية. تصبح هذه الملاحظة جزءًا من سياق محادثة التخطيط لسفرك، وقد تُستخدم حينئذٍ في التدريب، بحسب إعداداتك. أما بقية البحث الذي أُجري في الخلفية فلا يُستخدم في التدريب، إلا إذا أُضيف أيضًا إلى محادثة أو مهمة مؤهلة للاستخدام في التدريب.

يلتزم وكلاء dots بضوابط مدمجة صُمّمت لمنع الضرر وإبقاء القرارات ذات العواقب المهمة بيدك. تُلزمهم قواعد السلامة برفض الطلبات الضارة، بما فيها إساءة الاستخدام في مجالي البيولوجيا أو الأمن السيبراني. وفي المهام التي يمكنهم المساعدة فيها، تحدد قواعد الإجراءات متى يمكنهم المتابعة، ومتى يجب عليهم طلب التأكيد، ومتى يتعين عليهم ترك تنفيذ خطوة لك.

ضمن هذه الحدود، يمكن لوكلاء dots قراءة المعلومات المسموح لهم بالوصول إليها وتحليلها وإعداد مسودات في محادثاتك. ولتوجيه رسالة أو مشاركة ملف، ندرّبهم على طلب إذن يشمل المعلومات ونوع المستلم؛ فكلما كانت البيانات أكثر حساسية، وجب تحديد المستلمين بدقة أكبر. مثلًا، تتطلب البيانات الصحية دائمًا أن يحدد المستخدم المستلم بالاسم («شارك سجلي الطبي مع الدكتور تومبسون»). أما البيانات الشخصية الأقل حساسية، مثل عنوان البريد الإلكتروني أو رقم الهاتف، فتتطلب افتراضيًا أن يحدد المستخدم فئات المستلمين («أي شركة طيران»). ويمكن للمستخدم توسيع قواعد مشاركة البيانات الشخصية الأقل حساسية («شاركها مع أي نموذج على الإنترنت») بإنشاء قاعدة مخصّصة. راجع القسم التالي لمزيد من التفاصيل عن هذه الميزة. يظل هذا الإذن مرتبطًا بتعليماتك للمهمة؛ فلا يتسع نطاقه عند استئناف العمل لاحقًا أو تفويضه.

يمكن لوكلاء dots إجراء عمليات شراء باستخدام البطاقات التي سبق أن حفظتها على موقع التاجر. وتتطلب عمليات الشراء هذه موافقتك.

تتطلب بعض الإجراءات تأكيدك في كل مرة، ومنها حذف البيانات نهائيًا، أو تثبيت برامج من مصدر غير معروف أو تشغيلها، أو منح صلاحيات وصول جديدة حساسة أمنيًا. تمنحك هذه المتطلبات فرصة لمراجعة تغييرات قد يصعب التراجع عنها أو قد تمنح شخصًا صلاحيات وصول جديدة.

أما الخطوات الحساسة الأخرى، مثل تغيير كلمة مرور أو تحويل الأموال بين الحسابات المالية، فيمكن لوكلاء dots المساعدة في المهمة المرتبطة بها، لكن يجب أن يتركوا لك تنفيذ تلك الخطوات الحساسة.

تتيح لك القواعد المخصّصة تحديد كيفية مساعدة وكلاء dots لك ضمن وسائل الحماية المدمجة هذه، مثل توجيههم إلى عدم إرسال رسائل بريد إلكتروني مطلقًا. يمكنك أيضًا إعطاء توجيهات خاصة بمهمة، كأن تطلب من وكيل dot إبلاغ زميل بغيابك من دون ذكر السبب الشخصي. تظل هذه التعليمات سارية عندما يفوّض ذلك الوكيل العمل أو يعمل في الخلفية.

يمكن لوكلاء dots مساعدتك في كتابة القواعد المخصّصة، لكنهم يحتاجون إلى موافقتك لتغييرها. تعمل هذه التفضيلات ضمن الضوابط المدمجة، ولا يمكنها إلغاء التأكيدات الإلزامية أو وجوب إحالة خطوات إليك لتنفيذها أو متطلبات السلامة الأساسية.

قبل أن ينفّذ وكلاء dots إجراءات مثل إرسال رسائل بريد إلكتروني أو تغيير ملفات، يفحص نظام سلامة مستقل يُسمّى «المراجعة التلقائية» الخطوات المخطّط لها للتحقق من توافقها مع تعليماتك وقواعدك المخصّصة ومتطلبات السلامة. وفي حالة البريد الإلكتروني، يفحص المستلم والرسالة للمساعدة على اكتشاف عنوان خاطئ أو معلومات لم تكن تنوي مشاركتها.

إذا سمحت المراجعة التلقائية بخطوة، ينفّذها وكيل dot الذي اقترحها باستخدام أداة الحاسوب أو التطبيق المناسبة، ثم يستفيد من النتيجة لمتابعة مهمتك. ويمكنه الاعتماد على موافقة سبق أن منحتها إذا كانت تشمل الإجراء ولم تكن القواعد تتطلب تأكيدًا جديدًا.

إذا حظرت المراجعة التلقائية خطوة، فإنها تمنع تنفيذ الإجراء وتُبلغ وكيل dot بالسبب. يمكن لذلك الوكيل أن يطلب مزيدًا من المعلومات أو موافقتك إذا كان ذلك كفيلًا بإزالة سبب المنع، ثم يقدّم الخطوة للمراجعة مجددًا. وبحسب السبب، قد يجرّب بدلًا من ذلك بديلًا مسموحًا، أو يترك لك تنفيذ خطوة حساسة، أو يتوقف. لا يمكن لموافقتك أن تلغي متطلبات السلامة الأساسية.

نُبقي الضوابط التي تفرض المراجعة التلقائية خارج البيئات التي يمكن لوكلاء dots تغييرها، كي لا يتمكنوا من تغيير أي فحص إلزامي أو تعطيله. تظل الخطوات العادية المقتصرة على القراءة خاضعة لأذونات التطبيقات وقيود الأدوات وغيرها من التدابير الوقائية، لكنها لا تحتاج إلى هذه المراجعة الإضافية.

إسناد أعمال مستمرة إلى وكلاء dots بثقة يتطلب معرفة كيف سيتّبعون تعليماتك ويتصرفون عند حدوث أمر غير متوقع. يساعدهم Astra على فهم مقصدك، بينما تساعد وسائل حماية بياناتهم ومساحات عملهم وبيانات اعتمادهم وإجراءاتهم على الحد من أضرار الأخطاء أو المحتوى الخبيث. تمنح هذه التدابير الوقائية مجتمعةً وكلاء dots مجالًا لإنجاز عمل مفيد، مع تقليل احتمال أن يتحوّل خطأ إلى إجراء أو إفصاح غير مرغوب فيه.

أنت تختار ما يمكن لوكلاء dots الاتصال به وكيف يساعدونك، ويمكنك متابعة تقدّمهم أو تغيير الاتجاه كلما تغيّرت احتياجاتك. تُبقي الموافقات وإحالة خطوات إليك لتنفيذها القرارات الأساسية بيدك. لا يزال وكلاء dots عرضة للخطأ، لذا سنواصل اختبار وسائل حمايتهم وتحسينها بناءً على ما نتعلمه من الاستخدام الفعلي. هدفنا أن يصبح من الأسهل ترك العمل لوكلاء dots والعودة لتجد تقدمًا مفيدًا، مع بقاء تفضيلاتك موجِّهةً للمهمة والقرارات المهمة بيدك.

اقرأ بطاقة النظام⁠(يفتح في نافذة جديدة) لمزيد من التفاصيل عن تدابيرنا الوقائية وتقييمات السلامة والقيود التي ما تزال قائمة.

للتعرّف على الأسس الأمنية التي يقوم عليها ChatGPT، راجع الأمان والخصوصية في OpenAI. للاطّلاع عن كثب على إحدى وسائل الحماية الأمنية على الويب، راجع الحفاظ على أمان بياناتك عندما ينقر وكيل ذكاء اصطناعي على رابط.