לבינה מלאכותית יש פוטנציאל לשפר באופן משמעותי היבטים רבים של החיים בחברה.
הטכנולוגיה הזאת, כמו טכנולוגיות שקדמו לה, תעניק לאנשים יכולות רחבות יותר וחופש רב יותר לפעול ולהשפיע. מה שאנשים יוכלו לעשות בעזרת בינה מלאכותית יגמד את מה שיכלו לעשות בעזרת מנועי קיטור או חשמל.
אנחנו רואים בעיני רוחנו עולם שבו השגשוג נרחב וברמה שכיום קשה לדמיין, עולם שבו הפוטנציאל האישי, היכולת לפעול ולהשפיע ותחושת המימוש העצמי גדלים משמעותית. רבים מהדברים שהרשינו לעצמנו לחלום עליהם רק במסגרת המדע הבדיוני עשויים להפוך למציאות, ורוב האנשים יוכלו לחיות חיים מלאי משמעות יותר מכפי שמתאפשר לרובם כיום.
אבל התוצאה הזאת אינה מובטחת. בעתיד, הכוח עשוי להיות מרוכז בידי קומץ חברות שמשתמשות בבינת־על ושולטות בה, או להיות מבוזר בידי אנשים. אנחנו מאמינים שהאפשרות השנייה טובה בהרבה, והמטרה שלנו היא להעמיד בינה מלאכותית כללית באמת לרשותם של אנשים רבים ככל האפשר. כמו ההווה, גם העתיד לא יהיה כולו רע או כולו טוב, אבל ההחלטות שנקבל עכשיו יכולות לעזור להפיק ממנו את מרב הטוב.
המשימה שלנו היא להבטיח ש־AGI תועיל לאנושות כולה. אלה העקרונות שמנחים את עבודתנו.
1. דמוקרטיזציה. נפעל נגד האפשרות שהטכנולוגיה הזאת תרכז כוח בידי מעטים.
כלומר, לצד מתן גישה לבינה מלאכותית לכולם, עלינו להבטיח שהחלטות מרכזיות בנוגע לבינה מלאכותית יתקבלו בתהליכים דמוקרטיים ועל פי עקרונות שוויוניים, ולא רק בידי מעבדות לבינה מלאכותית.
2. העצמה. אנחנו מאמינים שבינה מלאכותית יכולה להעניק לכל אדם את הכלים להשיג את מטרותיו, ללמוד יותר, להיות מאושר ומסופק יותר ולפעול להגשמת חלומותיו, ושהחברה כולה תרוויח מכך.
כדי להשיג זאת, עלינו לאפשר לאנשים לחקור את הפוטנציאל העצום שנפתח בפנינו, ולבנות מוצרים שיאפשרו להם לעשות זאת. המשתמשים צריכים להיות מסוגלים לסמוך על השירותים שלנו לביצוע משימות בעלות ערך הולך וגדל.
העולם מגוון, ולאנשים יש צרכים שונים. אנחנו רוצים לתת למשתמשים שלנו את העצמאות שהם זקוקים לה ולאפשר להם חופש פעולה רחב ככל שסביר לאפשר.
אף שאנחנו רוצים לתת למשתמשים שלנו חופש רחב מאוד באופן השימוש בשירותים שלנו, ומאמינים בכל ליבנו שבסך הכול הבינה המלאכותית תביא תועלת עצומה, מוטלת עלינו האחריות לפתח אותה ולהטמיע אותה באופן שמצמצם נזקים. זה כולל כמובן מניעת נזקים קטסטרופליים, אבל גם צמצום נזקים נקודתיים והימנעות מהשפעות שעלולות לערער את המרקם החברתי. לשם כך נצטרך להעדיף זהירות במצבי אי־ודאות, ולהקל את המגבלות ככל שיצטברו ראיות נוספות.
3. שגשוג לכולם. אנחנו רוצים עתיד שבו כולם יוכלו לחיות חיים מצוינים.
אנחנו מאמינים שאם נעמיד לרשות כולם מערכות בינה מלאכותית קלות לשימוש ובעלות כוח מחשוב רב, אנשים ימצאו דרכים חדשות ליצור ערך ולשפר במידה עצומה את איכות החיים של כולם, במיוחד באמצעות תגליות מדעיות חדשות.
כדי לממש את השגשוג במלואו ולהבטיח שרבים ייהנו ממנו, אנחנו מאמינים כי 1) ייתכן שממשלותינו יצטרכו לשקול מודלים כלכליים חדשים כדי להבטיח שכולם יוכלו לקחת חלק ביצירת הערך שעוד לפנינו, ו־2) עלינו להקים תשתיות בינה מלאכותית בהיקף עצום ולפתח טכנולוגיה חדשה שתוזיל אותן מאוד.
רבים מהדברים שאנחנו עושים ונראים מוזרים — רכישת כוח מחשוב בהיקפים עצומים כשההכנסות שלנו קטנות יחסית, ביצוע אינטגרציה אנכית כדי להוזיל עלויות ולהקל את השימוש בטכנולוגיה שלנו, קידום הקמת מרכזי נתונים ברחבי העולם ועוד הרבה — נובעים מהאמונה הבסיסית שלנו בעתיד של שגשוג לכולם.
4. חוסן. בינה מלאכותית תביא איתה סיכונים חדשים, ואנחנו נפעל עם חברות אחרות, קהילות של ארגונים ושותפים, ממשלות והחברה בכללותה כדי להתמודד איתם. נקדיש חלק ניכר ממשאבי הקרן שלנו לתמיכה בעבודה הזאת.
שום מעבדה לבינה מלאכותית לא יכולה להבטיח עתיד טוב לבדה. דוגמה מובהקת לכך היא האפשרות שמודלים בעלי יכולות גבוהות במיוחד יקלו על יצירת פתוגן חדש. כדי להתגונן מפני סכנה כזאת, נדרשת גישה כלל־חברתית המבוססת על אמצעי הגנה שאינם תלויים בפתוגן מסוים. דוגמה נוספת: ככל שיכולות אבטחת הסייבר של המודלים משתפרות, עלינו להשתמש בהם במהירות כדי לסייע באבטחת תוכנות קוד פתוח ותשתיות חיוניות, ובמקביל לאמן אותם לעזור לכולם ליצור תוכנה מאובטחת יותר.
זוהי הרחבה של אסטרטגיית ההטמעה ההדרגתית שאנחנו נוקטים זה זמן רב. אנחנו מאמינים שבכל שלב חדש בהתפתחות יכולות הבינה המלאכותית, החברה צריכה להתמודד עם היכולות החדשות, להבין אותן, לשלב אותן ולמצוא יחד את הדרך הטובה ביותר להמשיך. אי אפשר לעשות זאת במנותק מהעולם: החברה והטכנולוגיה מתפתחות תוך השפעה הדדית, וזה דורש זמן.
זו אינה אמורה להיות אסטרטגיית הבטיחות היחידה שלנו. עלינו גם לבנות מערכות בטוחות ולהמשיך בעבודה הטכנית המצוינת על התאמתן לערכים ולכוונות אנושיים.
אנחנו צופים שיהיו תקופות שבהן נצטרך לשתף פעולה עם ממשלות, גופים בינלאומיים ומיזמים אחרים לפיתוח AGI, כדי לוודא שנתנו מענה מספק לבעיות חמורות של התאמה לערכים ולכוונות אנושיים, בטיחות או השפעות חברתיות, לפני שנמשיך בעבודתנו.
5. יכולת הסתגלות. אנחנו ממשיכים להאמין שהדרך היחידה להתמודד עם אתגרי עתיד שקשה מאוד לחזות היא להיות מוכנים לעדכן את עמדותינו ככל שנלמד יותר. אנחנו גם מכירים בכך שההשפעה של OpenAI בעולם גדולה בהרבה מכפי שהייתה לפני כמה שנים, ונהיה שקופים לגבי המועד, האופן והסיבות לשינויים בעקרונות הפעולה שלנו. כדוגמה מוחשית, אף שאנחנו בטוחים למדי ששגשוג לכולם יישאר חשוב מאוד, אנחנו יכולים לדמיין תקופות בעתיד שבהן נצטרך לוותר על מידה מסוימת של העצמה לטובת חוסן רב יותר.
התפתחות הבינה המלאכותית הביאה איתה הפתעות רבות, ועוד צפויות בהמשך. ככל שהטכנולוגיה תתקדם, יהיה קשה יותר ויותר לחזות את דפוסי ההתנהגות החדשים שיתפתחו בה. אנחנו מקבלים את אי־הוודאות הזאת ופועלים בהתאם: מקדמים יכולות בזהירות, מטמיעים מערכות בהדרגה ולומדים מהאינטראקציות שלהן עם העולם.
לא מזמן עוד חששנו לפרסם את המשקולות של GPT‑2, כי לא היינו בטוחים מה יהיו ההשפעות על החברה. בדיעבד ברור שהחשש לא היה מוצדק, אבל הוא הוביל אותנו לגילוי אסטרטגיית ההטמעה ההדרגתית — אחת התובנות החשובות ביותר שהגענו אליהן.
__
אנחנו נכנסים לשלב שיהיו לו השלכות מרחיקות לכת, ככל שהטכנולוגיה ממשיכה להשתפר. לגיטימי לחלוטין למתוח עלינו ביקורת על כל החלטה. בהתחשב במשקל של מה שאנחנו עושים, ראוי לבחון את פעולותינו בקפדנות רבה מאוד. לא תמיד נפעל נכון, אבל נלמד מהר ונתקן את דרכנו.
אנחנו מחויבים למלא את חלקנו ביצירת עתיד טוב יותר מהעבר, ומרגישים שזכינו לעסוק בעבודה חשובה כל כך.
