איך Block בונה אבטחה מבוססת בינה מלאכותית בטכנולוגיית OpenAI

בחברת Block, שעומדת מאחורי Square,‏ Cash App ו-Afterpay, צוות האבטחה נעזר ב-OpenAI Defense Factory: מערכת שבה בינה מלאכותית מטפלת באיתור נקודות חולשה, בזיהוין ובתגובה להן, בקנה מידה שאף צוות אנושי לא יכול לעמוד בו. בעזרת מערכות בינה מלאכותית, ובהן OpenAI Daybreak, משלימה Block בתוך שעות בלבד עבודה שבעבר ארכה שבועות.

צוות האבטחה של Block מתמקד באימוץ אחראי של בינה מלאכותית בתהליכי העבודה, בין שמדובר ביצירת קוד ובין שמדובר בתפעול אבטחת מידע. "מה שעומד במרכז הוא בעצם עמית חדש לצוות, שאפשר לצמוח איתו", אומר ג'יימס נטסהיים, מנהל אבטחת המידע הראשי. "זה לא כמו אוטומציה מסורתית יותר, שבה היה צריך להתקדם צעד אחר צעד. אפשר להציג לו באמצעות פרומפט בעיה ייחודית למדי ולא לגמרי ברורה, ולעבוד עליה יחד."

פרויקטים כמו בדיקת באג בתוכנה או ניתוח לוג היו נמשכים ימים או שבועות. כעת הצוות יכול להשלים את הפרויקטים האלה בחלק קטן מהזמן, כשכל תוצאה עדיין עוברת אימות אנושי.

למשל, בכוונון מנגנוני זיהוי: כל חקירה שומרת את נתוני השאילתה המקוריים שלה, ולכן הצוות יכול כיום להריץ מחדש שינוי מוצע בזיהוי על פני שבעה חודשי טלמטריה מסביבת הייצור בפחות משעה. עד כה, עבודה זו דרשה שאילתה ידנית מחדש של מאות מקרים ישנים, ולכן לרוב כמעט לא נעשתה בפועל, כי התהליך גזל זמן יקר.

הצוות גם מקפיד יותר על התאמת המודל למשימה. "בעבר השתמשנו במודל העדכני ביותר, אבל כבר אין צורך לעשות זאת", הוא אומר. "הבחירה במודלים שונים למשימות שונות הייתה תהליך של למידה". רתמת האבטחה של Block בנויה על גבי Daybreak, כדי לסייע בניתוב משימות למודל המתאים, והיא כוללת נקודות אחיזה שמאפשרות לבני אדם לקחת משימות לידיהם או לסוכנים לאמת את העבודה זה של זה. הצוות בוחן את המערכות האלה ללא הרף מול מדדי ביצוע פנימיים וביצועים בעולם האמיתי, ומתאים את הגישה לפי הצורך, כולל ניתוב עבודה לבדיקה אנושית כאשר זו הדרך האחראית.

מערכת המיון האוטומטית הובילה לכך שיותר עבודה מתבצעת מהר יותר. צוות האבטחה של Block רואה עלייה של 50% בתפוקת המיון, עלייה של 50% באיסוף מודיעין ובחקירות ויכולת חדשה לחלוטין לציד אוטונומי. נטסהיים אומר: "המערכת מבצעת בכל רבעון עבודת חקירה בהיקף של כ-1,100 שעות אנליסטים, כי כל התראה נבדקת כעת באופן מלא ומעמיק, על כל המרכיבים שהיא כוללת. המערכת שלנו מטפלת בכל התראה כאילו הייתה ההתראה היחידה שקיבלנו באותו יום".

כלי סריקה מסורתיים מסמנים חולשה בודדת במנותק, אבל צוות האבטחה של Block יכול להגיע רחוק הרבה יותר בעזרת Daybreak. המודל מסייע לשער אילו דפוסי תקיפה עשויים להתרחש ולחבר רצף של מתקפות למסלול מלא מקצה לקצה אל עבר השתלטות, וכך לחשוף חולשות שאולי היו קיימות במשך שנים.

במקרה אחד, התראה במחשב נייד יחיד נראתה כשלעצמה כמו חריגה קלה מהמדיניות. אבל במהלך סקירת עמיתים, המודל עקב אחר אינדיקטור שהופיע בראיות רק בדרך אגב, הצליב אותו עם יומני הזהויות של Block וחשף שורה רחבה הרבה יותר של בעיות. "התראת endpoint שגרתית אחת הפכה לסיכול של קמפיין תקיפה. אף כלי בפני עצמו לא מבצע את ההצלבה הזאת. האות מתגלה רק בשילוב יומני הרישום של שני מוצרים," אומר ג'יימס.

דוגמה נוספת למקרה שבו Daybreak סייעה הייתה במהלך תרגיל Red teaming (תרגיל סימולציה שבו צוות מדמה תוקפים כדי לבחון את הגנות הארגון) שנערך לאחרונה. המודל קיבל כמה רמזים על מערכת פנימית, ושרשר מהם מסלול תקיפה מלא — הזרקת SQL, העלאת הרשאות, השגת דריסת רגל, מיפוי פרטי גישה ומעבר למערכות אחרות — בתוך כשעתיים. בדרך כלל, לאדם ב-Red teaming היו נדרשים כמה ימים כדי לבצע זאת. בתרגילי Red teaming שנערכו לאחרונה, הזמן מהגשת חולשה ברמה גבוהה ועד להצעת תיקון אוטומטית היה 18 דקות.

איתור חולשות יעיל רק במידה שבה אפשר לתקן אותן. נטסהיים מפרט את התהליך שהצוות שלו מיישם בכל ממצא: מאתרים היכן הבעיה נמצאת בקוד ומזהים מי אחראי עליה, ואז עוברים לתיקון. "מציעים תיקון, מוודאים שאפשר לנצל את החולשה, ואז מוודאים שהיא תוקנה, כשאדם מעורב בתהליך, מנחה אותו ומטמיע את שינויי הקוד".

לסוכנים יש יכולות טכניות, אך חסרים להם ההקשר הארגוני וההיגיון שמאחורי החלטות קודמות. האדם מספק את ההקשר ואת האסטרטגיה, וכאן הצוות שלו נכנס לתמונה ומספק שכבת בקרה אנושית. ככל ששיקול הדעת של הבינה המלאכותית יוכיח את עצמו בפועל, אומר נטסהיים, "נעלה בהדרגה את רמת הסיכון כדי להשתמש בה במערכות רגישות יותר".

• פחות משעה להריץ מחדש שינוי מוצע בזיהוי על נתוני טלמטריה של שבעה חודשים.

• 18 דקות מהגשת חולשה ברמה גבוהה ועד להצעת תיקון אוטומטית בתרגילי red team שנערכו לאחרונה.

• כ־600 שעות עבודה של אנליסטים ברבעון מתפנות ממיון התראות שווא.

• כ־1,100 שעות עבודה של אנליסטים מוקדשות לחקירות בכל רבעון.

• עלייה של 50% בתפוקת המיון.

• עלייה של 50% באיסוף מודיעין ובחקירות.

עבודת הזיהוי והתגובה לבדה פינתה כ-600 שעות עבודה של אנליסטים בכל רבעון, שבעבר הוקדשו למיון תוצאות חיוביות שגויות. כעת, כשהזמן הזה התפנה, הצוות מקדיש יותר זמן לחקירות מעמיקות יותר ולבניית אוטומציה באופן אחראי.

ככל שקצב המתקפות גובר ומודלי הבינה המלאכותית ממשיכים להתקדם, נטסהיים מזהה הזדמנות לצמצם מלכתחילה את מספר החולשות שנוצרות. כך יתאפשר לצוותי האבטחה להקדיש פחות זמן לתיקון חולשות ויותר זמן לעבודה מניעתית ואסטרטגית.

"OpenAI מעבירה את היתרון לידי המגינים בכך שהיא מעמידה את היכולות המתקדמות האלה לרשות כולם", הוא אומר. "בדרך כלל, רק חברות טכנולוגיה בולטות במיוחד וממשלות החזיקו ביכולות האלה. אבל עכשיו גם ארגוני תשתית קריטית, בתי ספר ועסקים קטנים יכולים להתחיל להשתמש בטכנולוגיה הזאת כדי להגן על הרשתות שלהם".