מענה לחזית הבאה של יכולות סייבר קריטיות
תחום אבטחת הסייבר משתנה במהירות ככל שיכולות המודלים מתקדמות, באופן שיכול גם לחזק את הגנות הסייבר וגם לאפשר מתקפות במהירות ובהיקף חסרי תקדים.
ההערכות הפנימיות האחרונות שערכנו בימים האחרונים ל-Astra, אחד המודלים העתידיים שלנו, מצביעות על התקדמות משמעותית בתכנות אג'נטי ובאבטחת סייבר. תוצאות אלה, לצד הערכות מומחים, הובילו אותנו אמש למסקנה שלא ניתן לשלול יכולות סייבר קריטיות כפי שהן מוגדרות ב-Preparedness Framework(נפתח בחלון חדש) שלנו.
אנחנו משתפים את המידע הזה משום שלדעתנו חשוב לנהוג בשקיפות כלפי הציבור וקהילות הבטיחות והאבטחה בנוגע לשינוי האפשרי הזה ביכולות.
פרסמנו לראשונה את Preparedness Framework שלנו בדצמבר 2023, הרבה לפני שמודלים התקרבו לרמה כזו של יכולות בתחומי הביולוגיה, הכימיה, אבטחת הסייבר והשיפור העצמי של בינה מלאכותית. יצרנו את המסגרת כדי שתנחה אותנו בזיהוי התקדמות ביכולות, ולאחר מכן בתכנון הצעדים שהחברה תנקוט עם הופעתן של יכולות אלה. מודלים קודמים, ובהם GPT‑5.6‑Sol, נבחנו מבחינת יכולות חזית בתחום הסייבר וסווגו ברמה הגבוהה, ולא ברמה הקריטית.
לפי Preparedness Framework שלנו, מודל מגיע לסף הקריטי באבטחת סייבר אם הוא מסוגל לזהות ולפתח דרכי ניצול מעשיות לחולשות יום־אפס בכל רמות החומרה במערכות קריטיות מוקשחות רבות בעולם האמיתי, ללא התערבות אנושית; או אם הוא מסוגל לגבש ולבצע מקצה לקצה אסטרטגיות חדשות למתקפות סייבר נגד יעדים מוקשחים, על סמך הגדרה כללית בלבד של המטרה הרצויה.
אנחנו ממשיכים לבחון את המודל ולהעריך אותו, אך ההערכות הראשוניות שלנו מצביעות על ביצועים חזקים דיים כדי שלא נוכל לשלול בשלב זה רמת יכולת קריטית. Astra הוא מודל עתידי, והוא לא היה מעורב בניצול חולשות ב-Hugging Face.
בהתאם לכך, הרחבנו את בדיקות העמידות של מנגנוני ההגנה ובקרות האבטחה שלנו, כדי שיתאימו לפריסה של יכולות אלה. בתוך החברה נקטנו גם את הצעדים הבאים כדי שהמשך הפיתוח של המודל יהיה בטוח ומאובטח:
אנחנו מיישמים בקרות אבטחה מחמירות יותר למודלים בעלי יכולות מתקדמות יותר ולפעילויות הקשורות אליהם, ובהן סביבות בדיקה מבודדות, גישה מוגבלת לרשת ולכלים, הגנה והצפנה משופרות למשקולות המודל, יכולות ניטור וזיהוי נוספות והרצה בסביבת ארגז חול.
אנחנו משהים פעילויות פנימיות שבהן נעשה שימוש ב-Astra ושעדיין אינן עומדות בדרישות המחמירות יותר של בקרות האבטחה.
יישמנו ניטור מקיף לזיהוי פעולות מסוכנות וסטייה מהכוונות האנושיות בכל השימושים האג'נטיים של Astra, כולל אימון והערכה. מערכות הניטור בוחנות את שרשרת החשיבה של המודל ומפעילות תגובת אבטחה לבחינה ולהפסקה של פעילות בסיכון גבוה.
נעבוד עם גופי ממשל רלוונטיים ועם ארגונים נבחרים לבטיחות בינה מלאכותית כדי לבדוק את יכולות המודל הזה.
נספק לשותפים חיצוניים שעורכים בדיקות המלצות לבקרות אבטחה, כדי שיוכלו להריץ בבטחה הערכות ועומסי עבודה בסיכון גבוה יותר.
המסגרת כבר הנחתה אותנו במעברים אחרים לרמות יכולת חדשות. ביוני 2025, כשהמודלים שלנו התקרבו לסף היכולת הגבוהה בתחום הביולוגיה לפי Preparedness Framework, פירטנו את הצעדים שנקטנו לחיזוק מנגנוני ההגנה, להרחבת הבדיקות, לעבודה עם מומחים חיצוניים ולהטמעת בקרות אבטחה נוספות. אנחנו מיישמים כאן את אותו עיקרון.
אנחנו מאמינים שמודלים בעלי יכולות סייבר מתקדמות צריכים לסייע לגורמי הגנת סייבר לזהות חולשות ולטפל בהן לפני שתוקפים יוכלו לנצל אותן. אנחנו מחויבים לעבוד לצד ממשלות, מכוני בטיחות והחברה האזרחית כדי להבטיח שיכולות החזית של מודלים כמו Astra, ושל אלה שיבואו אחריו, ייפרסו באחריות ובהיקף רחב לטובת האנושות כולה.
