היום OpenAI משיקה תוכנית תגמולים לאיתור כשלי בטיחות(נפתח בחלון חדש) הפתוחה לציבור, ומתמקדת בזיהוי שימוש לרעה בבינה מלאכותית וסיכוני בטיחות במוצרים שלנו. לצד ההתפתחות המהירה של טכנולוגיית הבינה המלאכותית, מתפתחות גם הדרכים האפשריות לשימוש לרעה בה. המטרה שלנו היא להבטיח שהמערכות שלנו יישארו בטוחות ומוגנות מפני שימוש לא תקין או זדוני שעלול לגרום לנזק ממשי.
התוכנית החדשה תשלים את תוכנית התגמולים לאיתור כשלי אבטחה(נפתח בחלון חדש) של OpenAI: היא תקבל דיווחים על בעיות הכרוכות בסיכונים משמעותיים של שימוש לרעה ופגיעה בבטיחות, גם אם הן אינן עומדות בקריטריונים של חולשת אבטחה. במסגרת התוכנית, אנו מצפים להמשיך בשיתוף הפעולה עם חוקרי בטיחות ואבטחה, שיעזרו לנו לזהות ולטפל בבעיות שאינן נחשבות לחולשות אבטחה במובן המקובל, אך עדיין מציבות סיכונים ממשיים. הדיווחים יעברו מיון ראשוני בידי צוותי תוכניות התגמולים לאיתור כשלי בטיחות ואבטחה של OpenAI, וייתכן שיועברו מתוכנית אחת לשנייה בהתאם להיקף התוכנית ולגורם האחראי.
תוכנית התגמולים לאיתור כשלי בטיחות(נפתח בחלון חדש) החדשה מתמקדת בתרחישי הבטיחות הבאים, הייחודיים לבינה מלאכותית:
סיכונים אג'נטיים, כולל MCP
הזרקת פורמפטים דרך צד שלישי והדלפת נתונים: כאשר טקסט של תוקף מצליח להשתלט באופן עקבי על סוכן של קורבן (כולל Browser, ChatGPT Agent ומוצרים אג'נטיים דומים), כדי להטעות אותו ולגרום לו לבצע פעולה מזיקה או להדליף מידע רגיש של המשתמש. חייבת להיות אפשרות לשחזר את ההתנהגות בלפחות 50% מהניסיונות.
מוצר אג'נטי של OpenAI מבצע פעולה אסורה באתר של OpenAI בהיקף נרחב.
מוצר אג'נטי של OpenAI מבצע פעולה שעלולה להזיק ושאינה מופיעה לעיל. כדי שדיווחים בקטגוריה זו יתקבלו, עליהם להצביע על נזק ממשי שסביר שיתרחש.
כל בדיקה של סיכוני MCP חייבת לעמוד בתנאי השירות של כל צד שלישי מעורב.
מידע קנייני של OpenAI
פלטים של מודלים החושפים מידע קנייני הקשור ל-reasoning.
חולשות החושפות מידע קנייני אחר של OpenAI.
אמינות החשבונות והפלטפורמה
חולשות במנגנוני אמינות החשבונות ובאותות המעידים על אמינות הפלטפורמה, כגון עקיפת אמצעי בקרה למניעת אוטומציה, מניפולציה של אותות אמון בחשבונות, התחמקות מהגבלות, מהשעיות או מחסימות של חשבונות, ובעיות דומות.
על בעיות שמאפשרות למשתמשים לגשת לתכונות, לנתונים או ליכולות מעבר להרשאות שניתנו להם, יש לדווח במסגרת תוכנית התגמולים לאיתור כשלי אבטחה(נפתח בחלון חדש).
אף שפרצות אינן נכללות בתוכנית זו, אנו עורכים מעת לעת מבצעי תגמולים סגורים לאיתור כשלים, המתמקדים בסוגים מסוימים של נזק, כגון בעיות של תוכן הכרוך בסיכון ביולוגי ב-ChatGPT Agent וב-GPT‑5. אנו מזמינים חוקרים המעוניינים בכך להגיש מועמדות לתוכניות האלה כאשר הן נפתחות.
גם מעבר לקטגוריות המפורטות לעיל, אם חוקרים יזהו כשלים המאפשרים פגיעה ישירה במשתמשים, לצד צעדים מוגדרים וישימים לתיקונם, ייתכן שהדיווחים יזכו לתגמול, בכפוף לבחינה של כל מקרה לגופו. עקיפות כלליות של מדיניות התוכן, שאין להן השפעה מוכחת על הבטיחות או על שימוש לרעה, אינן נכללות בתוכנית זו. לדוגמה, ״פרצות״ שגורמות למודל להשתמש בשפה גסה או למסור מידע שניתן למצוא בקלות במנועי חיפוש אינן נכללות בתוכנית.
חוקרים המעוניינים להשתתף יכולים להגיש מועמדות דרך תוכנית התגמולים שלנו לאיתור כשלי בטיחות(נפתח בחלון חדש). אנו מצפים לעבוד לצד חוקרים, האקרים אתיים וקהילת הבטיחות והאבטחה למען סביבת בינה מלאכותית מאובטחת.
