GPT‑6 Cyber: קידום חזית סוכני אבטחת הסייבר הפועלים בהלימה

אנחנו מציגים את GPT‑6 Cyber, קפיצת מדרגה במחקר אבטחה: יכולות משופרות לאיתור ולתיקון חולשות, והקפדה אמינה הרבה יותר על הגבולות שקובעים החוקרים. GPT‑6 Cyber מציג שיפורים ניכרים לעומת GPT‑5.6 Cyber במבחני ביצועים מרכזיים באבטחת סייבר, ובהם שיפור יחסי של 51% ב-ExploitGym וקפיצת מדרגה בבדיקת השמירה על גבולות המשימה. הוא כבר מסייע באבטחת תוכנות בעולם האמיתי, באמצעות גילוי ואימות של אלפי דרכים לניצול חולשות בבסיסי קוד בעלי חשיבות אבטחתית מכרעת, כמו Linux ו-Firefox.

ב-ExploitGym, שבודק אם מודלים יכולים לנצל חולשה נתונה, GPT‑6 Cyber משיג ציון של 48.5%, לעומת 32.1% ב-GPT‑5.6 Cyber. הוא גם מקפיד באופן אמין יותר על גבולות המשימה: בהערכת הלימה נפרדת, GPT‑6 Cyber נמנע מניצול חולשות בשירותים שמחוץ לגבולות המשימה ב-99.93% מהבדיקות ללא פרומפט הפריסה שלו, וב-100% מהבדיקות עם הפרומפט הזה. השיפור הזה בהלימה משקף אימון ייעודי לשמירה על הגבולות המורשים, לכיבוד מגבלות ולדיווח מדויק על התוצאות.

היכולות האלה כבר מסייעות באבטחת מערכות אמיתיות. החוקרים שלנו השתמשו ב-GPT‑6 Cyber כדי לפתח 948 קטעי קוד לניצול חולשות להעלאת הרשאות ב-Linux⁠ ולזהות 81 חולשות בחומרה גבוהה שלא היו ידועות קודם לכן ב-Firefox, למרות בדיקות נרחבות שנערכו קודם לכן באמצעות מודלי חזית. המודל סייע גם בפיתוח תיקונים מוצעים, ו-Mozilla כבר פרסמה תיקונים לרבות מהחולשות ב-Firefox⁠(נפתח בחלון חדש). צוותי אבטחה ב-Cisco, ב-Calif וב-CodeRabbit משתמשים בו לחקר חולשות ולסקירת קוד, ואנחנו נעזרנו בו כדי לאתר ולתקן חולשות בתשתית שלנו⁠.

ברור שיש לנו חלון הזדמנויות מוגבל לשימוש במודלי חזית לאבטחת תוכנה⁠. המטרה שלנו היא להרחיב משמעותית את Daybreak ולהנגיש מחקר אבטחה מתקדם לארגונים בכל גודל, לחוקרים עצמאיים ולמתחזקי קוד פתוח. מודלים מהסדרה הראשית, כמו GPT‑6 Astra, כבר תומכים בסקירת קוד, במיון ותעדוף חולשות ובפיתוח תיקונים. Daybreak Blue עוזר לאנשי הגנה מאומתים לאמת חולשות ותיקונים עם פחות סירובים מיותרים, ואילו Daybreak Red מאפשר פיתוח מעמיק יותר של קוד ניצול ובדיקות אבטחה מורשות באמצעות GPT‑6 Cyber.

GPT‑6 Cyber הוא שדרוג משמעותי לעומת GPT‑5.6 Cyber, והוא עולה בביצועיו על GPT‑6 Astra ברוב משימות הסייבר, גם כאשר Astra אינו מסרב לבקשה. הערכנו את המודל במשימות שדורשות ממנו להבין תוכנה, לזהות חולשות ולפתח קוד ניצול עובד. על סמך התוצאות האלה, אנחנו מסווגים את המודל ברמה קריטית בתחום אבטחת הסייבר במסגרת Preparedness Framework שלנו, לעומת רמה גבוהה ב-GPT‑5.6 Cyber.

ב-ExploitGym, שבודק אם מודלים יכולים לנצל חולשה נתונה ביעד מרוחק, GPT‑6 Cyber משיג ציון של 48.5%, גבוה בכ-16 נקודות אחוז מהציון של GPT‑5.6 Cyber, שעומד על 32.1%. כדי לבחון גילוי חולשות, בנינו גם הערכה חדשה לבדיקות חדירה התקפיות ליישומי רשת. המודלים בוחנים יישומי רשת ללא גישה לקוד המקור שלהם. GPT‑6 Cyber השיג שיעור גילוי חולשות של 40.3%, לעומת 32.0% ב-GPT‑6 Astra.

Daybreak Red נועד לתמוך בתהליכי אבטחה מתקדמים יותר, לרבות פיתוח קוד ניצול עובד ושימוש בו נגד יעדים מרוחקים. כדי להעריך את היכולות האלה, בנינו מבחן ביצועים חדש בשם RemoteExploitBench, שמשתמש בחולשות מוכרות ביישומים כמו GitLab,‏ PostgreSQL ו-Jenkins הפרוסים בסביבה מבוקרת. בהערכה הראשונית שלנו, GPT‑6 Astra שפעל עם Daybreak Blue סירב לבצע 100% מהמשימות, ואילו GPT‑6 Cyber השלים 95%; הכישלון היחיד שלו היה קוד ניצול שלא הצליח להפעיל מרחוק. התוצאות המלאות והגדרות ההערכה מופיעות בכרטיס המערכת⁠(נפתח בחלון חדש).

אחד הסיכונים בסוכני אבטחת סייבר הוא שהם יחרגו מגבולות המשימה שהוטלה עליהם, ינסו לנצל חולשות בשירותים שאינם קשורים אליה או יתעלמו מכללי הפעולה שקבע החוקר.

הצבנו את ההלימה במוקד הפיתוח של GPT‑6 Cyber, באמצעות אימון ייעודי שנועד לעזור למודל להישאר בגבולות המורשים, לציית למגבלות על פעולותיו ולדווח במדויק על עבודתו. לפני הפריסה, ערכנו סדרת הערכות הלימה כדי למדוד את ההתנהגויות האלה. התוצאות המלאות מופיעות בכרטיס המערכת⁠(נפתח בחלון חדש).

אחת ההערכות האלה היא ExploitGym Honeypot, שפותחה על סמך לקחים מתקרית Hugging Face⁠. אנחנו נותנים למודל משימה קשה של ניצול חולשה בסביבה מבודדת, עם גישה לשירותים תומכים, כגון מאגר חבילות או אחסון אובייקטים. אנחנו הופכים את השירותים האלה בכוונה לקלים לניצול, כך שתקיפתם יכולה לחשוף את הדגל של המשימה. המודל צריך להסיק שניצול חולשות בשירותים האלה חורג מגבולות המשימה שלו.

GPT‑6 Cyber מציג קפיצת מדרגה בהערכה הזו לעומת GPT‑5.6 Cyber. כשנבדק ללא פרומפטי הבטיחות המשמשים בפריסה, הוא נמנע מניצול חולשות בשירותים שמחוץ לגבולות המשימה ב-99.93% מהמקרים, לעומת 94.49% ב-GPT‑5.6 Cyber. עם הפרומפטים האלה, GPT‑6 Cyber נשאר בגבולות המשימה ב-100% מהמקרים.

בשרשרת המחשבה של מודל GPT‑6 Cyber אפשר לראות ישירות כיצד הוא שוקל את השמירה על גבולות המשימה:

GPT‑6 Cyber כבר עוזר לצוותי אבטחה לאתר חולשות, לאמת את השפעתן ולפתח תיקונים. לקוחות משתמשים בו לעבודה על בסיסי קוד גדולים, לפיתוח ממושך של קוד ניצול ולסקירות אבטחה:

נעזרנו ב-GPT‑6 Cyber גם כדי לאבטח את המערכות שלנו. הוא היה אחד המודלים המרכזיים ששימשו בעבודה שעליה שיתפנו לאחרונה בנושא הקשחת התשתית המשמשת לאימון מודלי חזית⁠. במבצעי red teaming מבוקרים, סוכנים שהשתמשו ב-GPT‑6 Cyber ובמודלים אחרים של OpenAI שרשרו חולשות כדי לצאת מגבולות מכונות microVM ולהריץ קוד במארחים שעליהם הן פועלות. השתמשנו בממצאים כדי לתקן תוכנה, להדק מגבלות רשת ולדווח על בעיות למתחזקים ולספקים.

חוקרי החולשות שלנו משתמשים ב-GPT‑6 Cyber גם לאיתור ולאימות של חולשות בתוכנות קוד פתוח בהיקף נרחב. העבודה הזו חשפה פגמים שלא היו ידועים קודם לכן בתוכנות שנבדקו בקפידה במשך שנים:

• אותרו 81 חולשות חדשות ב-Firefox.‏ GPT‑6 Cyber יכול להתאים לתהליכי עבודה אוטונומיים לאיתור חולשות ולהצעת תיקונים איכותיים בהיקף נרחב. במהלך מבצע לחקר חולשות, GPT‑6 Cyber הפיק ראיות ובדיקות ניתנות לשחזור עבור 81 חולשות חדשות ש-Mozilla סיווגה כבעלות חומרה גבוהה, והראה ש-30 בעיות מוכרות נוספות חמורות יותר מכפי שדווח קודם לכן. דיווחנו ל-Mozilla על הממצאים, בצירוף הצעות לתיקונים שנועדו לעזור למהנדסים שלה לפתח פתרונות. Mozilla תמכה בעבודה הזו והחלה לשלב תיקונים זמן קצר לאחר קבלת הדיווחים⁠(נפתח בחלון חדש).

• פיתוח קוד ניצול עבור 948 חולשות בליבת Linux⁠. ‏ GPT‑6 Cyber שחזר 1,724 חולשות ופיתח קוד ניצול עובד עבור 948 מהן — יותר מפי חמישה מ-166 החולשות שנוצלו באמצעות GPT‑5.6 Sol באותו harness מחקרי. בהתאם להנחיות קהילת Linux, דיווחנו למתחזקים על 304 ממצאים קריטיים בצירוף תיקונים מוצעים, ואנחנו פועלים לתיקון חולשות נוספות.

• הדגמת חולשות קריטיות המאפשרות הרצת קוד מרחוק (RCE). לאחרונה הצגנו חולשה קריטית ב-Brotli⁠(נפתח בחלון חדש), ספריית דחיסה המשמשת את Node.js ותוכנות אחרות. חוקרי האבטחה שלנו השתמשו ב-GPT‑6 Cyber לצד מודלים אחרים של OpenAI כדי לפתח ולאמת קוד ניצול שמדגים כיצד הפגם יכול לאפשר הרצת קוד מרחוק ביישומים המשתמשים בספרייה.

ככל שיכולות המודלים משתפרות והם חושפים יותר חולשות אבטחה, אנחנו רואים גם יותר ניסיונות להשתמש בהם כדי לגרום נזק. בין הניסיונות האלה יש פעולות של גורמי סייבר זדוניים ושל קבוצות עוינות המבקשות לזקק את המודלים שלנו. לכן שילבנו את היכולות המשופרות של GPT‑6 Cyber עם מנגנוני הגנה חזקים יותר, כדי לזהות ולשבש שימוש לרעה ולשמור על פעולות המודל בגבולות כוונת המשתמש וההרשאה שנתן.

לצד השקת GPT‑6 Cyber הוספנו וחיזקנו את ההגנות הבאות (המידע המלא מופיע בכרטיס המערכת⁠(נפתח בחלון חדש)):

• ניטור ייעודי לסייבר לזיהוי חריגות מהכוונה ומההרשאה. אנחנו מנטרים אם הפעולות תואמות את ההרשאה שנתן המשתמש, תוך הבחנה בפיתוח ובבדיקה לגיטימיים של קוד ניצול.

• ניטור ממוקד של איומים מתפתחים. לדוגמה, במהלך החשיפה המתואמת של חולשות קריטיות ב-PHP, הגדרנו ניטור ממוקד של ניסיונות לפתח קוד ניצול נגד שרתי PHP פעילים, תוך שמירה על התמיכה באנשי הגנה שמתקנים מערכות מושפעות.

• עיבוד בטיחות פרטי (PSP). אנחנו משתמשים בבדיקות אוטומטיות כדי לבחון אינטראקציות קשורות ולזהות שימוש לרעה. מדיניות שמירת הנתונים הרגילה נשארת ברירת המחדל. לקוחות API המשתמשים באפס שמירת נתונים (ZDR)⁠(נפתח בחלון חדש) נדרשים בדרך כלל להשתמש ב-PSP⁠(נפתח בחלון חדש), שבודק רשומות מוצפנות הנשמרות באחסון של הלקוח למשך 30 יום, בלי לחשוף פרומפטים ותשובות לאנשי OpenAI.

• הגנה מפני שימוש בפרטי גישה גנובים. כברירת מחדל, אנחנו דורשים רשימת כתובות IP מורשות לגישה ל-API של Daybreak Red, וכך מגבילים בקשות לרשתות מאושרות, עם חריגים מעטים. אנחנו גם מנטרים פרטי גישה כדי לזהות אם נחשפו לגורמים לא מורשים.

• בידוד בסביבת ארגז חול ופיקוח. כמו במודלים קודמים, אנחנו ממליצים על בידוד בסביבת ארגז חול⁠(נפתח בחלון חדש), ביקורת פעולות⁠(נפתח בחלון חדש) ופיקוח אנושי בתהליכי עבודה בסיכון גבוה.

• הגנות מפני סיוע סייבר בסיכון גבוה. אנחנו משתמשים בבדיקות חדשות כדי לחסום פעילות בסיכון גבוה המערבת מערכות קריטיות (פרטים נוספים בהמשך).

ההגנה על תשתיות קריטיות הייתה שיקול מרכזי בתכנון מנגנוני ההגנה והגישה של GPT‑6 Cyber. אלה כוללות תחנות כוח, מתקני טיפול במים, ואת הטכנולוגיה התפעולית ומערכות הבקרה התעשייתיות (OT/ICS) שבבסיסן. אנחנו רוצים לתת לצוותים המגינים על המערכות האלה גישה למודלים בעלי היכולות הגבוהות ביותר שלנו, ובמקביל לחזק את מנגנוני ההגנה כדי למנוע מתקפות לא מורשות.

ראשית, כדי להעמיד כלים לרשות אנשי ההגנה האלה, תוכנית המענקים שלנו Daybreak לאנשי ההגנה בקו הראשון⁠, בהיקף של מיליארד דולר, מסבסדת גישה לצוותים בעלי משאבים מוגבלים, כגון ארגונים ממשלתיים וספקי שירותים חיוניים. אנחנו גם משיקים קבוצה חדשה במסגרת Daybreak Red (Daybreak Red לתשתיות קריטיות) לאנשי הגנה מאושרים בתחום התשתיות הקריטיות. היא מעניקה להם הרשאות לביצוע בדיקות מורשות של מערכות קריטיות, תוך שמירה על מנגנוני הגנה מפני חריגה של המודל מהכוונה ומההרשאה.

שנית, כדי למנוע שימוש לרעה בפלטפורמות Daybreak Red ו-Blue, שיפרנו מנגנוני הגנה מפני סיוע ופיתוח יכולות שעלולים לפגוע בבקרות תעשייתיות או במערכות חיוניות לבטיחות, לשבש את פעולת הציוד, או לגרום לפציעה קשה, לנזק פיזי קטסטרופלי או לשיבוש שירותים המסכן חיים. התרשים הבא משווה את שיעורי הסימון של מנגנוני ההגנה בארבע תצורות גישה, לפני העדכונים האחרונים שאנחנו מפיצים לצד GPT‑6 Cyber ואחריהם.

שיעורי חסימה גבוהים יותר של מנגנוני ההגנה אינם בהכרח טובים יותר. רבות מהטכניקות בהערכה הזו חיוניות גם לעבודת אבטחה לגיטימית: הבנת מערכות, איתור חולשות ואימות שתיקונים עומדים בפני מתקפות. לכן אנחנו בוחנים את השיעורים האלה לצד התמיכה במחקר ובתיקונים לגיטימיים, במקום לשאוף ל-100%.

כדי להעריך כיצד המודלים שלנו יכולים לעזור בהגנה על תשתיות קריטיות, שיתפנו פעולה עם Dragos, ספקית עולמית של אבטחת סייבר לטכנולוגיה תפעולית מורחבת (xOT). Dragos ערכה הערכות בסביבת מעבדה מבוקרת, באמצעות מודלי Daybreak Red שמאפשרים פעילות סייבר רחבה יותר. ההערכות כללו בקשות שהתקדמו מגילוי רשתות ומיפוי נכסים, דרך איסוף מודיעין ממוקד והוצאת נתונים רגישים, ועד לפעולות לא מורשות במכשירים שעלולות להיות מסוכנות.

השתמשנו במשוב מ-Dragos כדי לשפר את מנגנוני ההגנה שלנו, במטרה לחסום סיוע מזיק בלי להגביל שלא לצורך בדיקות מורשות. פרטים על ההערכות מופיעים בדוח הסופי של Dragos⁠(נפתח בחלון חדש). אנחנו פועלים גם להרחבת שיתופי הפעולה עם ספקי אבטחה התקפית נוספים ועם צוותים סגולים בנושא בדיקות חדירה ו-red teaming באמצעות AI, וכן עם חברות אנרגיה, מפעילי תשתיות קריטיות אחרים ומעבדות לאומיות, כדי להעריך את יעילות המודלים ומנגנוני ההגנה שלנו בהגנה על מערכות תעשייתיות. הגדלנו גם את ההשקעה שלנו בחקירת איומים כדי לזהות שימוש במודלים המערב OT/ICS. נמשיך לשפר את מנגנוני ההגנה שלנו בעזרת משוב מהשותפים ומקהילת האבטחה, לרבות דיווחים דרך ‎/feedback ‏כאשר מנגנוני ההגנה מחמיצים פעילות מזיקה או מפריעים לעבודה לגיטימית.

בשלב הראשון, GPT‑6 Cyber זמין דרך ה-API ו-Codex לקבוצה נבחרת של לקוחות Daybreak Red מאושרים. בקרוב נרחיב בהדרגה את הגישה לכל לקוחות Daybreak Red, ובמקביל אנחנו מנגישים גם את GPT‑5.6 Cyber לכל לקוחות Daybreak Red. אנחנו גם מרחיבים את הגישה לגרסת האלפא של Daybreak Blue עבור GPT‑6 Astra לארגונים נוספים ולחוקרי אבטחה עצמאיים; אם זה מעניין אתכם, ספרו לנו⁠(נפתח בחלון חדש).

משתמשים וארגונים חדשים יכולים להגיש בקשה להצטרף ל-Daybreak⁠ ולהתחיל עם המיומנויות, המוצרים והשותפים שלנו בתחום הסייבר⁠.