מסייעים לגבש תקנים משותפים לבינה מלאכותית מתקדמת
מודלים בעלי יכולות הולכות ומשתפרות יכולים לחזק את הגנת הסייבר, להאיץ גילויים מדעיים ולהרחיב את הגישה לידע מקצועי. אבל הם עלולים גם ליצור סיכוני בטיחות ואבטחה אם יכולותיהם אינן מובנות כראוי, אם אמצעי ההגנה שלהם אינם מספקים, או אם לממשלות חסר המידע הדרוש כדי להגיב. כדי לממש את היתרונות בבטחה ובביטחון, חברות יזדקקו למוסדות בעלי יכולות טכניות ויכולות ממשל שיאפשרו להעריך, לאבטח ולהסדיר מערכות שיכולותיהן הולכות ומשתפרות.
זו אחת הסיבות ש-OpenAI סייעה לייסד את קרן Appia(נפתח בחלון חדש), הפועלת בחסות קרן לינוקס. Appia תפתח מפרטים פתוחים ומודולריים שנועדו לתרגם תקנים בינלאומיים ומסגרות מבוססות לקריטריונים מעשיים להערכה לאורך שרשרת הערך של הבינה המלאכותית. עבודתה יכולה לסייע בפיתוח שכבת אמון חיונית שחסרה כיום: צדדים שלישיים יבדקו באמצעותה עמידה בתקנים ויספקו ראיות ברורות יותר, שקל יותר להשתמש בהן שוב, כאשר מודלים, תשתיות ויישומים מפותחים בידי ארגונים שונים. במסגרת העבודה הזאת, Appia תסייע ליצור שפה טכנית משותפת שתאפשר למוסדות לאומיים ובינלאומיים לתת אמון זה בעבודתו של זה.
אנחנו רואים ביוזמה הזאת צעד חשוב נוסף במאמץ רחב יותר לחזק את המוסדות, התקנים ושיטות ההערכה הנחוצים למערכות בינה מלאכותית מתקדמות.
תוכנית המתאר שלנו לממשל דמוקרטי של frontier AI, שפורסמה לאחרונה, מציעה מפת דרכים לעבודה הזאת. היא קוראת להקמת מסגרת יציבה לאורך זמן בארצות הברית, לחיזוק המרכז לתקנים ולחדשנות בבינה מלאכותית (CAISI), ולגיבוש אסטרטגיית חוסן רחבה יותר בכלל גופי הממשל. היא גם מכירה בכך שלסיכונים ממערכות חזית יש היקף בינלאומי. על מדינות לפעול יחד לפיתוח מסגרות בטיחות התואמות זו לזו, ערוצים מהימנים לשיתוף ממצאים על סיכונים ותגובות מתואמות לתקריות.
היכולות הלאומיות ושיתוף הפעולה הבינלאומי צריכים לחזק זה את זה. מוסדות חזקים כמו CAISI יכולים לפתח מומחיות טכנית, להעריך מערכות חזית ולתמוך במערך של גופי הערכה עצמאיים. רשת של מוסדות לאומיים בעלי יכולות מתאימות תוכל אז לגבש שיטות משותפות, להכיר בראיות מהימנות ולספק לממשלות את ההבנה הטכנית המשותפת הדרושה כדי לפעול יחד.
לתקנים יש תפקיד מרכזי במאמץ הזה, והם חייבים להתבסס על שיטות הערכה אמינות ועל הקפדה טכנית. במדריך המשותף שלנו להערכות מהימנות של צד שלישי, פירטנו מה נדרש יותר ויותר לחשוף בהערכות של מערכות חזית: המערכת שנבדקה, הגישה שלה לכלים וה-harness ששימש להערכה, השיטות ששימשו להפקת יכולות, המשאבים הזמינים והבדיקות שנערכו לתיקוף התוצאות. יישמנו את העקרונות האלה גם באמצעות שותפויות לבדיקות עם CAISI בארצות הברית ו-AISI בבריטניה. עבודתם בהערכת יכולות של מערכות חזית ובאמצעי הגנה מפני שימוש לרעה בתחום הביולוגי הובילה לשיפורים ממשיים במערכות שלנו. לעבודה הזאת תפקיד חשוב ביצירת בסיס לשיטות עבודה שניתן לקבוע להן תקנים, כדי לבדוק ביצועים באופן שמאפשר השוואה.
שיטות העבודה האלה משלימות את תשתית הבטיחות הרחבה של OpenAI. מסגרת Preparedness Framework שלנו היא הבסיס להגדרה וליישום של גישתנו לניהול הסיכונים החמורים ביותר ממערכות בינה מלאכותית מתקדמות, לרבות שיטות העבודה הפנימיות שלנו. מסגרת Frontier Governance Framework שלנו מיישמת חלקים רלוונטיים מהגישה הזאת במסמך ממשל פומבי, המתמקד בחובות רגולטוריות מסוימות, ובהן הערכת סיכונים, דיווח על מודלים, בקרות אבטחה, תגובה לתקריות ושילוב חוות דעת של מומחים חיצוניים. יחד, המסמכים האלה מסייעים לתרגם התחייבויות רחבות לשיטות עבודה שאפשר לתקף ולשפר.
העבודה של Appia מכוונת לאתגר הבא: לאפשר לשיטות העבודה האלה להשתלב זו בזו בין ארגונים, תחומי שיפוט ולאורך שרשרת האספקה.
OpenAI כבר תורמת למגוון רחב של יוזמות תקינה ומאמצי הכנה לתקינה. אנחנו משתתפים בוועדת המשנה 42 לבינה מלאכותית של הוועדה הטכנית המשותפת 1 לארגון התקינה הבינלאומי ולנציבות הבינלאומית לאלקטרוטכניקה(נפתח בחלון חדש) ובקונסורציום לבינה מלאכותית בהובלת המכון הלאומי לתקנים וטכנולוגיה(נפתח בחלון חדש); סייענו לייסד את פורום מודלי החזית ואת הקרן לבינה מלאכותית אג'נטית(נפתח בחלון חדש) של קרן לינוקס; אנחנו משתתפים בקואליציה לבינה מלאכותית מאובטחת(נפתח בחלון חדש); חברים בוועדת ההיגוי של הקואליציה למקוריות ולאותנטיות של תוכן(נפתח בחלון חדש); ולוקחים חלק בתהליכים של כוח המשימה להנדסת האינטרנט(נפתח בחלון חדש) ושל הברית לזיהוי מקוון מהיר(נפתח בחלון חדש) לקידום תקנים טכניים המאפשרים פעולה הדדית.
בכל הפורומים האלה, וכעת גם באמצעות Appia, מטרתנו היא לתרגם לקחים מפיתוח מערכות חזית לשיטות עבודה פתוחות ומבוססות טכנית, שממשלות, חברות ומעריכים עצמאיים יוכלו להשתמש בהן בתחומי שיפוט שונים.
