חלון ההזדמנויות למדיניות בינה מלאכותית פתוח. צריך לפעול.
מאת כריס ליהיין, סמנכ״ל עניינים עולמיים ב־OpenAI
הגענו לפרק חדש ביכולות הבינה המלאכותית, והוא מחייב פרק חדש גם במדיניות בתחום. שום חברה, תעשייה או ממשלה לא יכולה להתמודד עם האתגר הזה לבדה. עלינו להיענות לאתגרי השעה ולהעדיף פעולה משמעותית על פני מדיניות מושלמת.
אלה הצעדים שאנו נוקטים:
קידום דרישות בטיחות מחייבות לכלל ארה״ב בתחום הבינה המלאכותית. אנו רוצים לעבוד עם הקונגרס על רגולציה כלל־ארצית מחייבת לבטיחות בינה מלאכותית, המבוססת על רמת היכולות.
שמירה על התנופה במדינות ארה״ב. עד שהקונגרס יפעל, נמשיך לתמוך בחקיקה ברמת המדינות המחזקת את מערך בטיחות הבינה המלאכותית בכללותו. היום אנו מודיעים על תמיכתנו בארבע הצעות חוק בקליפורניה: SB 813 בנושא תשתית כוללת להערכות בטיחות עצמאיות, AB 1405 בנושא תקנים למבקרי בינה מלאכותית, SB 1119 בנושא הגנה על צעירים, ו־AB 1864 בנושא אמצעי הגנה מפני איומים ביולוגיים המתאפשרים בעזרת בינה מלאכותית.
קידום תקנים בהובלת התעשייה. נעבוד עם מעבדות חזית אחרות לקידום תקנים ל־frontier AI, ונבנה כבר עכשיו מהלך וולונטרי, עם תמיכה ממשלתית או בלעדיה.
גיבוש תקנים גלובליים. נקדם גישות בינלאומיות תואמות למדידת יכולות, לניהול סיכונים, לשימור השליטה האנושית ולקביעה מתי וכיצד יש להאט או לעצור את הפיתוח, גם אם הדבר כרוך בהאטת ההתקדמות ביכולות המודלים.
המדען הראשי שלנו, יאקוב פצ׳וצקי, כתב לאחרונה שההתפתחות המהירה של אינטליגנציית המכונה, לרבות האפשרות לשיפור עצמי רקורסיבי, מחייבת ״זהירות קיצונית״. OpenAI תמשיך לחתור לפתרונות טכניים להלימה לכוונות האדם ולניטור, לבנות מערכות הגנה ולהאט את הפיתוח כשיידרש. אבל עבודה טכנית בתוך מעבדות בודדות לא תספיק. אנו זקוקים גם לתקנים משותפים, לרבות בשאלה מתי יש להאט או לעצור את הפיתוח.
יש כאן הרבה מאוד על כף המאזניים. בינה מלאכותית מתקדמת עשויה להאיץ פיתוח של תרופות חדשות, לחזק תשתיות קריטיות, להרחיב הזדמנויות כלכליות ולסייע בפתרון בעיות מדעיות שנותרו ללא מענה למרות דורות של מאמץ אנושי. אבל היכולות שהופכות מודלים למועילים יותר כרוכות גם בסיכונים, והן לא יישארו נחלתן של מעבדות חזית ספורות בלבד. מודלים המפותחים ברחבי העולם, לרבות מודלים פתוחים, יתקרבו יותר ויותר לרמת היכולות שבחזית כיום ויהיו זמינים באופן נרחב.
היכולות של Astra, העדויות הראשונות להאצת המחקר בעזרת בינה מלאכותית והמאמר של יאקוב מצביעים כולם על אותה מגמה: הבינה המלאכותית מתקדמת במהירות, והמדיניות צריכה להתקדם איתה.
גרג ברוקמן תיאר ״חלון הזדמנויות למגינים״(נפתח בחלון חדש): פרק זמן מוגבל שבו frontier AI יכולה לסייע לגורמי ההגנה לחזק מערכות קריטיות לפני שיכולות התקפיות עוצמתיות נעשות נפוצות. קובעי המדיניות ניצבים בפני מצב דומה: חלון הזדמנויות שהולך ונסגר לקביעת אמצעי הגנה עמידים לאורך זמן, לפני שיכולות הבינה המלאכותית יתקדמו מהר יותר מהמוסדות האחראים להסדרתן.
ככל שהיכולות גדלות, על מידת הביטחון בבטיחות לקבוע יותר ויותר את קצב התקדמות הבינה המלאכותית. בטיחות אינה מכשול להתקדמות; היא שמאפשרת להתקדם רחוק יותר ולהועיל ליותר אנשים.
חיזקנו את אמצעי הניטור, ההלימה לכוונות האדם והאבטחה לאורך כל מחזור הפיתוח של המודלים. בין היתר, שיפרנו את הבידוד של עומסי העבודה במחקר חזית, הרחבנו את ניטור התנהגות המודלים באימון ובהערכות הכוללים שימוש בכלים, והבהרנו את הכללים להעברת חששות לטיפול בדרג בכיר יותר. עבור Astra, הוספנו גם ניטור גורף של מסלולי הפעולה המלאים, לרבות שרשראות מחשבה, ושלב חובה של הערכת הלימה לפני פריסה פנימית רחבה יותר.
אמצעי ההגנה האלה חייבים להמשיך להקדים את התפתחות היכולות. כאשר המשך ההתקדמות יציב סיכון בטיחותי בלתי קביל, נאט או נעצור את הפיתוח או הפריסה של מערכות שאין ביכולתנו להבטיח את בטיחותן במידה מספקת, כפי שעשינו בעבר וכפי שמחייבת מסגרת המוכנות(נפתח בחלון חדש) שלנו.
שיפור עצמי רקורסיבי אוטונומי לחלוטין — שבו מערכות בינה מלאכותית מובילות באופן עצמאי לפיתוח דורות עוקבים של בינה מלאכותית בעלת יכולות הולכות וגדלות — אינו מתרחש כיום. אין לחתור לכך אלא אם כן, ורק כאשר, ניתן יהיה לעשות זאת בבטחה.
עם זאת, בינה מלאכותית כבר מאיצה חלקים מהמחקר המשמש לפיתוח הדור הבא של המודלים ולהתאמתם לכוונות האדם. המחקר האחרון שלנו מראה שסוכני בינה מלאכותית יכולים לבצע משימות מסוימות שחוקרים מיומנים היו נזקקים לכמה ימים כדי להשלים. זה אינו שיפור עצמי רקורסיבי, אבל זו עדות לכיוון שאליו אנו מתקדמים.
אפשר וחובה לרתום את ההאצה הזו גם לקידום הבטיחות. מטרתנו היא לבנות בבטחה חוקרי בינה מלאכותית אוטומטיים שיעבדו בפיקוח אנושי כדי לקדם הן למידה עמוקה והן הלימה לכוונות האדם — ולהשתמש בכל דור של בינה מלאכותית כדי להפוך את הדור הבא לבטוח יותר, תואם יותר לכוונות האדם וקל יותר לשליטה, ולא רק לבעל יכולות גבוהות יותר.
על ממשלות לפתח דרכים משותפות למדידת ההתקדמות הזו, לשמר שליטה אנושית משמעותית ולקבוע רפי בטיחות משותפים שיגדירו מתי וכיצד יש להאט או לעצור את הפיתוח. אם לא נוכל לעמוד ברפי בטיחות מסוימים בלי להאט את צמיחת היכולות, עלינו לתת עדיפות לבטיחות. ככל שהטכנולוגיה נעשית עוצמתית יותר, כך אמצעי ההגנה סביבה חייבים להתחזק.
האפשרות שבינה מלאכותית תאיץ את פיתוח הבינה המלאכותית מחייבת יותר מהתחייבויות וולונטריות. ארצות הברית זקוקה לרגולציה כלל־ארצית מחייבת, המבוססת על רמת היכולות ויכולה להתפתח עם הטכנולוגיה.
המתווה לממשל דמוקרטי של frontier AI שלנו מציג דרך למסגרת פדרלית עמידה לאורך זמן: דרישות משותפות לבדיקה ולהערכה עצמאית, הגנות סייבר חזקות יותר, כללים ברורים לדיווח על תקריות, מוכנות לאומית גבוהה יותר ומדדים משותפים למעקב אחר ההתקדמות לעבר שיפור עצמי רקורסיבי.
בקונגרס מתגבשות כעת כמה הצעות רציניות לבטיחות מודלי חזית. נמשיך להשתתף בתהליך באופן בונה, ואנו צופים שנתמוך בחקיקה שתעלה באופן מהותי את רף הבטיחות. כשכל כך הרבה מונח על כף המאזניים, אסור לתת למושלם להיות האויב של הטוב. על הקונגרס לפעול לפני שיצא לפגרה.
המסגרת הכלל־ארצית צריכה להיות חזקה, אך ממוקדת בקפידה. דרישות בטיחות למודלי חזית צריכות לחול על קומץ המעבדות עתירות המשאבים המפתחות את המערכות בעלות היכולות הגבוהות ביותר — ולא על חברות הזנק, מפתחים קטנים או חוקרים שפעילותם רחוקה מחזית התחום. החובות צריכות להיות מידתיות ביחס ליכולות ולסיכונים.
גם אין להפוך את מדיניות בטיחות מודלי החזית למדיניות בנושא משקולות פתוחות בשם אחר. מודלים פתוחים יכולים להיות חלק מהפתרון, במיוחד בתחום אבטחת הסייבר ובמקרים שבהם צורכי ריבונות, אבטחה או מיקום אחסון הנתונים מטים את הכף לטובת פריסה מקומית. רובם אינם מתחרים על מקום בחזית, אלא על עלות, שליטה וזמן השהיה. כפי שהדגשנו בחתימתנו על המכתב בנושא משקולות פתוחות והובלה אמריקאית בבינה מלאכותית(נפתח בחלון חדש), ארה״ב זקוקה למודלים פתוחים וסגורים כאחד. מסגרת פדרלית צריכה לתת מענה ליכולות ולסיכונים שבחזית בלי להחליש את התחרות, לבצר את מעמדן של החברות המבוססות או לדחוק את החדשנות אל מעבר לים.
מסגרת ציבורית רצינית צריכה לצמצם את ריכוז הכוח, לא להגדיל אותו. כיום, מעבדות חזית קובעות במידה רבה בעצמן את הכללים לניהול הסיכונים שבחזית. תקנים הכפופים לאחריותיות דמוקרטית, אימות עצמאי ושקיפות משמעותית יחליפו את המערכת המפוצלת הזו של ממשל פרטי.
זהו תנאי חיוני להובלה אמריקאית. ארצות הברית אינה יכולה לנצח בעידן הבינה המלאכותית על בסיס יכולות בלבד. ליתרון טכני תהיה משמעות מועטה אם אנשים, מוסדות וממשלות לא יתנו בטכנולוגיה אמון מספיק כדי לאמץ אותה. אמצעי הגנה חזקים אינם ויתור על חדשנות. הם חלק מהתשתית הדרושה לאימוץ נרחב — ולהובלה אמריקאית מתמשכת.
אנו זקוקים בדחיפות לתקנים כלל־ארציים בתחום הבינה המלאכותית, וכל מי שפועל בחזית התחום מבין עד כמה הדבר דחוף. עד שהקונגרס יפעל, על המדינות להמשיך למלא את החלל ולהעלות את הרף.
OpenAI תמכה בהצעת החוק SB 53 בקליפורניה, בהצעת חוק RAISE בניו יורק, בהצעת החוק SB 315 באילינוי, ובביקורות עצמאיות במסגרת חקיקת בטיחות מודלי החזית הנבחנת במסצ׳וסטס. אנו מעודדים את המדינות לאמץ את אמצעי ההגנה המשותפים האלה. כך הן יוכלו ליצור בפועל רף בסיס כלל־ארצי שהקונגרס יוכל בסופו של דבר לעגן בחוק — גישה שאנו מכנים פדרליזם הפוך. אבל האחדת הדרישות אינה פירושה הקפאתן.
היום אנו מביעים תמיכה רשמית בארבע הצעות חוק נוספות בקליפורניה, שאושרו בבית המחוקקים ומועברות כעת למושל ניוסום. יחד, הן עוסקות בהיבטים משלימים של מערך בטיחות הבינה המלאכותית.
הצעת החוק SB 813(נפתח בחלון חדש) תיצור הליך להכרה בארגונים עצמאיים בעלי הכישורים הנדרשים להערכת סיכוני בינה מלאכותית. כפי שציינו במתווה שלנו (נפתח בחלון חדש)לבטיחות מודלי חזית(נפתח בחלון חדש), אנו מעדיפים שהחובה לערוך הערכות טכניות עצמאיות תיקבע ברמה הפדרלית, שבה קובעי המדיניות יכולים לקבוע תקנים אחידים לכישורי המעריכים, לאבטחה ולגישה למידע רגיש ביותר. אולם בהיעדר פעולה פדרלית, קליפורניה יכולה לסייע בקביעת כללי היסוד למערך כלל־ארצי מאובטח ומקצועי של הערכות עצמאיות, שיוביל לתוצאות טובות יותר בתחום הבטיחות.
הצעת החוק AB 1405(נפתח בחלון חדש) תקבע דרישות רישום, עצמאות, שקיפות ואחריותיות למבקרי בינה מלאכותית.
הצעת החוק SB 1119(נפתח בחלון חדש) תחייב בדיקת גיל, הערכות סיכונים, ביקורות עצמאיות, בקרת הורים ואמצעי הגנה מפני תוכן מזיק לילדים ולבני נוער המשתמשים בצ׳אטבוטים המשמשים כבני לוויה. לאחרונה הבענו את תמיכתנו בהצעת החוק, המתבססת על אמצעי בטיחות לצעירים ש־OpenAI קידמה באמצעות המוצרים שלנו, עקרונות מדיניות גלובליים ותמיכה בהצעת (נפתח בחלון חדש)חוק הבינה המלאכותית הבטוחה להורים ולילדים(נפתח בחלון חדש), וכן על הגנות המובנות ב־ChatGPT לבני נוער — ובהן הגדרות ברירת מחדל מחמירות יותר בתחומים רגישים, שעות שקטות, שעות לימוד ותזכורות להפסקה.
הצעת החוק AB 1864(נפתח בחלון חדש) תחייב ספקי שירותי סינתזת גנים ויצרני ציוד שולחני לסינתזה לעמוד בתקני הסינון הפדרליים, ובכך תחזק אמצעי הגנה פיזי חשוב מפני איומים ביולוגיים המתאפשרים בעזרת בינה מלאכותית.
בחלק מהצעות החוק האלה לא תמכנו בעבר. כעת אנו תומכים בהן, לאחר ששקלנו מחדש את עמדתנו לנוכח קפיצת המדרגה ביכולות שראינו לאחרונה.
הצעות החוק האלה אינן תחליף לרגולציה פדרלית. אלו יוזמות רציניות שיכולות להגן על אנשים כבר עכשיו, להדגים כיצד נראים אמצעי הגנה ישימים ולסייע ביצירת תנופה לפעולה פדרלית.
חוקים לבדם לא יהפכו בינה מלאכותית מתקדמת לבטוחה. אנו זקוקים גם לנהלים מעשיים בתוך המעבדות המפתחות את המערכות בעלות היכולות הגבוהות ביותר. התחום הדחוף ביותר להתחיל בו הוא ניטור.
הדבר חשוב במיוחד בכל הנוגע לאי־הלימה — מצב שבו מודל חותר למטרה בדרכים שמנוגדות לכוונת האדם או חורגות מגבולות שנקבעו, גם ללא תודעה או כוונת זדון. ככל שמודלים נעשים עצמאיים יותר, משתמשים בכלים חזקים יותר ופועלים לפרקי זמן ארוכים יותר, יש לחייב מפתחים לנטר התנהגויות כאלה המעידות על אי־הלימה, ולהוכיח שקיימים אמצעי הגנה יעילים.
הניטור חייב להיות מלווה בדרישות גילוי ברורות. כפי שקראנו לעשות בקליפורניה, יש לחייב חברות למסור בהקדם הודעה בכתב לגורמים שנפגעו כאשר המודלים שלהן, במהלך פיתוח או הערכה, עוקפים ללא הרשאה את בקרות האבטחה של ארגון אחר ומשיגים גישה מהותית למערכותיו המוגנות או למידע החסוי שלו, משנים אותם או משמידים אותם. אנו תומכים גם בדרישות דיווח פדרליות על תקריות חמורות אחרות הקשורות לבינה מלאכותית, ופועלים להגדרת התקריות שייכללו בהן ותוכן הדרישות עצמן.
כפי ששיתפנו בשבוע שעבר, OpenAI מפתחת מסגרת לדיווח על תקריות אי־הלימה בעלות השלכות משמעותיות ולניטור שיטתי של פעילות מודלי חזית, לרבות שימוש פנימי. המהלך מתחיל כיוזמה בהובלת החברה, אך אנו מקווים שהוא יוכל לסייע בעיצוב מדיניות פדרלית ודרישות דיווח רחבות יותר.
אנו רוצים לעבוד עם מעבדות אחרות על תקנים בהובלת התעשייה. כל תקן בהובלת התעשייה ישלים — ולא יחליף — אמצעי הגנה פדרליים מחייבים ופיקוח דמוקרטי. אבל נכנסנו לשלב חדש ביכולות הבינה המלאכותית, ויש לשקול את כל האפשרויות — כולל מה ניתן לבנות באופן וולונטרי מחוץ לממשלה כצעד מיידי.
בסופו של דבר, כל תקן כזה חייב לחול גם מעבר לגבולות הלאומיים. מודלים, מחקר ומומחיות טכנית עוברים בין מדינות, ולכשלים במערכות בעלות היכולות הגבוהות ביותר עלולות להיות השלכות הרחק מעבר למדינה שבה הן מפותחות. כדי להוביל בזירה הבינלאומית, ארצות הברית צריכה לקבוע תקנים אמינים מבית — ואנו משוכנעים יותר ויותר שיהיה צורך בתקנים בינלאומיים התואמים זה לזה.
חלון ההזדמנויות לקביעת מדיניות בינה מלאכותית פתוח, לעת עתה. אנו מתכוונים לנצל אותו.
פירוש הדבר הוא לפעול בדחיפות, בענווה ובנכונות להסתגל. לתמוך בהצעות רציניות שמעלות באופן מהותי את רף הבטיחות, גם כשהן אינן בדיוק מה שהיינו מגבשים בעצמנו. ולחזק את המסגרת ככל שהטכנולוגיה מתפתחת.
שום צעד ראשון לא יהיה מושלם. אבל הסיכון הגדול יותר כעת הוא להמתין זמן רב מדי לפני שנעשה אותו.
