מציגים את עידן התבונה

״האם די יהיה… לסמוך על מחסומי הקלף האלה כנגד נטייתו של השלטון להרחיב את כוחו?״
—ג׳יימס מדיסון, הפדרליסט מס׳ 48

אנו שמחים להשיק את עידן התבונה, הבלוג של צוות עתידים אסטרטגיים החדש של OpenAI. אנחנו צוות קטן שמטרתו המשותפת היא להשיב על שאלת יסוד אחת: כיצד יש לארגן מחדש חברה חופשית כדי לשמר את זכויות הפרט ואת יכולתו לפעול ולהשפיע, ובה בעת להסתגל להופעתה של בינה מלאכותית מחוללת שינוי?

בקהילה הרחבה העוסקת בבטיחות בינה מלאכותית ובמדיניות בתחום, שאלות כאלה מסווגות לעיתים כסיכונים של ריכוז כוח. הצוות שלנו הוקם מתוך תפיסה שלפיה, בטווח הארוך, זוהי קטגוריית הסיכונים הרחבה והחמורה ביותר, וגם זו שההתמודדות איתה היא המאתגרת ביותר מבחינה מושגית. מדוע?

המדינה המודרנית היא תוצר של תהליך ארוך ורצוף עליות ומורדות של משא ומתן בין מוקדי כוח שונים, ובהם בעלי הון וסחורות, בעלי הכוח הפוליטי והציבור. ביסודו של דבר, הכוח הפוליטי והצבאי נשען על עבודה אנושית. להחזיק בכוח פוליטי פירושו להחזיק במונופול על השימוש הלגיטימי בכוח. לאורך כל ההיסטוריה האנושית התבסס המונופול הזה על חיילים ועל מה שאנו מכנים כיום ״משטרה״, לצד בירוקרטיה אזרחית וצבאית רחבת היקף. כלים טכנולוגיים רבים אומנם סייעו למנגנון הזה, אך ביסודו הוא הופעל בידי בני אדם שתמיכתם נדרשה כדי להמשיך לקיימו. והמנגנון כולו — החיילים, הכלים והבירוקרטיה הנלווית — מומן ממיסים שנגבו משכרם או מתוצרתם של בני אדם, שנכונותם לשלם הייתה חיונית. בבסיסו, הכוח היה תלוי בשיתוף פעולה ובהסכמה של בני אדם רבים, בקנה מידה רחב. דייוויד יום ניסח בתמציתיות את ההנחה הזאת, שלרוב נותרת מובלעת, כשציין כי למנהיגים פוליטיים ״אין דבר התומך בהם מלבד דעת [הקהל]״.

אבל ייתכן שלא עוד. ההתקדמות במערכות אוטונומיות הפועלות בעולם הפיזי עשויה לאפשר בקרוב למדינות להפעיל כוח — בגבולותיהן ומחוצה להם — בלי להסתמך על שיתוף פעולה מצד חיילים או שוטרים. וההתקדמות בבינת מכונה עשויה לאפשר למדינה לגבות את ההכנסות הדרושות לה לא מפירות עבודתם של בני אדם, אלא מתפוקתם של מרכזי נתונים. גם את פעולתה של הבירוקרטיה עצמה יהיה אפשר להפוך לאוטומטית במידה רבה. לכן ייתכן שקיום השלטון כבר לא יהיה תלוי בהסכמה כלל־חברתית, ולציבור הרחב ייוותר רק מקום מצומצם ליד שולחן המשא ומתן — ואולי כלל לא.

מניעת התוצאה הזאת חיונית לשמירה על חירות האדם. שום היקף של תגליות מדעיות, התקדמות טכנולוגית או צמיחה כלכלית לא יצדיק את הקרבת האוטונומיה של הפרט לטווח הארוך, שתוצאה זו תהיה כרוכה בה. רבים מהחששות שמניעים, ובצדק, את הפוליטיקה המתהווה סביב הבינה המלאכותית נוגעים לשאלה הזאת. עסקים, קבוצות אינטרס ויחידים חולקים כולם את אותה דאגה: ״האם אאבד את מקומי ליד השולחן?״ במידה מסוימת, הפוליטיקה האמריקאית במאה ה-21 עוצבה בידי חששות דומים בנוגע ליכולתם של יחידים ושל קבוצות להשפיע על הכיוון שאליו הולכת המדינה, ובנוגע לשאלה ״את מי״ הכלכלה ״משרתת״. הבינה המלאכותית מגבירה, ובצדק, את מרכזיותם של החששות הקיימים האלה.

זוהי בעיה מבנית ששורשיה עמוקים יותר מהפוליטיקה המפלגתית של ימינו, ואף מדפוסי הפעולה והטקסים שבאמצעותם מתנהלת כיום הדמוקרטיה הרפובליקנית, מקודשים ככל שיהיו בעינינו. בני אדם עלולים להיות בדרך לאובדן כוחם גם אם שגרת ההצבעה לנציגינו נשמרת. אפשר לשלול מאנשים את היכולת לפעול ולהשפיע גם אם פיסת קלף מכריזה שהם חופשיים.

בראשית דרכה של ארצות הברית כאומה חופשית, ג׳יימס מדיסון כבר ידע ש״מחסומי קלף״ לא יספיקו כדי למנוע עריצות. כמו רבים מהאבות המייסדים, בראש מעייניו עמדה מניעת ריכוז מופרז של כוח.

אבל אין פירוש הדבר שהאבות המייסדים תמכו בביזור קיצוני של הכוח. במקום זאת, הם תיארו את מאזן הכוחות באמצעות מטפורות שנשאבו מחזית המדע של זמנם — המכניקה הניוטונית. מסמכי היסוד של ארצות הברית משקפים את שפת הכבידה ואת ההיגיון שלה, וגדושים בהתייחסויות ל״מסלולים״, ל״ספֵרות״ ולכוחות ״משיכה״ של דבר אחד כלפי אחר. מערכת שמש אינה אוסף סלעים המבוזר במידה המרבית האפשרית; היא מורכבת מירחים המקיפים כוכבי לכת, שבתורם מקיפים שמש מרכזית. הם האמינו שלאנשים ולארגונים יש נטיות לחתור לכוח, כשם שלגרמי שמיים יש נטיות צפויות של תנועה ומשיכה; וכדי למנוע ריכוז מופרז של כוח, יש להבין את המכניקה של הנטיות האלה ולגרום להן לפעול זו כנגד זו.

מטרתם של האבות המייסדים לא הייתה אפוא למנוע כל ריכוז של כוח, אלא למנוע ריכוז מופרז שלו, באמצעות ריסון כוח בכוח ושאפתנות בשאפתנות. כיום היינו עשויים להשתמש במילים כמו ״תמריצים״ ובביטויים כמו ״תורת המשחקים״ כדי לתאר את אותה דינמיקה בסיסית.

בדומה לכך, התשובה לאתגר המבני שבינת מכונה מתקדמת מציבה בפני חברה חופשית אינה ככל הנראה ביזור הכוח הקיצוני ביותר שאפשר להעלות על הדעת. במקום זאת, יש לשאוף לכונן ולשמר איזון נכון של כוח, כך ששום גורם יחיד, או קבוצה קטנה של גורמים, לא יוכלו לשלוט בכל השאר.

השגת האיזון הזה תחייב חשיבה מפוכחת על המציאות שמציבה הטכנולוגיה הזאת. עולם שבו כל אדם, זדוני ככל שיהיה, יכול לגרום בקלות נזק עצום לאלפי אנשים אחרים או למיליונים מהם, אינו עולם שהושג בו מאזן הכוחות הנכון. אך גם מצב שבו אין ליחידים גישה רחבה ושליטה כמעט בכל היבט של הכלים שבאמצעותם הם מממשים את חירותם, אינו משקף מאזן כוחות נכון. אסור שחברה יחידה או אוליגופול יכתיבו את הכלכלה או את המבנה הבסיסי של החברה האנושית, או ישלטו בהם.

עלינו להביא בחשבון גם סיכונים שאינם נובעים מבני אדם בעלי כוונות זדון. התקרית האחרונה ב-Hugging Face הראתה שסוכני בינה מלאכותית יכולים לפעול מעבר למשימות שהוטלו עליהם ולהסתמך זה על תגליותיו של זה בדרכים שהמפעילים לא צפו ולא אישרו. מעבר לתקרית ב-Hugging Face, אנשים חוששים בצדק מהמשמעות שעלולה להיות לבינה מלאכותית בעלת אינטליגנציית־על ש״השתחררה״ משליטה אנושית — עבור חוסנם של המוסדות הפוליטיים והכלכליים שלנו, ואף עבור חיינו. להעמיד פנים שביזור פותר את כל הבעיות — גם אם מאמינים שהוא פותר רבות מהן — פירושו להתעלם מסיכונים שכבר אמורים להיות ברורים ומוחשיים.

העקרונות הכלליים הבאים — רשימה שאינה ממצה — יסייעו להנחות את עבודתנו בהתמודדות עם השאלה שהצגנו לעיל:

• יש לשמור על האוטונומיה של הפרט ועל ההזדמנויות העומדות לרשותו בשימוש בבינה מלאכותית ובטכנולוגיות נלוות, גם אם לעיתים הדבר בא על חשבון הביטחון והצמיחה הכלכלית;

• האוטונומיה של הפרט תלויה באחריותו האישית לשימוש לא ראוי בטכנולוגיה או לניצולה לרעה;

• יש קבוצה מצומצמת אך חמורה של סיכונים שמחייבת מידה מסוימת של פעולה משותפת, ויש לתחום פעולה זו להיקף צר וצנוע ככל האפשר;

• בכל מקום שבו הדבר אפשרי, על החוק לשאוף ליצור תנאים שוויוניים ולחזק יחידים וארגונים קטנים, במקום לרכז כוח;

• על המוסדות הפוליטיים, החברתיים והכלכליים האנושיים לשמור על מעמדם המוביל בניהול ענייני העולם, גם אם לשם כך יצטרכו להתפתח בדרכים שעשויות להיראות לנו זרות כיום;

• בטווח הארוך, ממשל הבינה המלאכותית יסתמך על מנגנונים מוסדיים חדשים להשגת שקיפות תחומה: כאשר מערכות בינה מלאכותית מבצעות פעולות הרות גורל המשפיעות על שלמות גופם או על רכושם של צדדים שלישיים, חייבת להיות אפשרות לייחס את הפעולות האלה לאדם אחראי או לארגון בשליטה אנושית. עם זאת, כל מנגנון כזה חייב להיות מתוכנן כך שהפרטיות תעמוד במרכזו; חופש הביטוי מחייב אנונימיות, ויש לאפשר לבני אדם להשתמש בבינה מלאכותית באופן אנונימי במגוון רחב של הקשרים.

ננסה להבהיר — במונחים מוחשיים ככל האפשר — כיצד לדעתנו יש לאזן בין העקרונות האלה. אנו מכירים בכך שכמו בכל מערכת עקרונות טובה, יש ביניהם מידה מסוימת של מתח. לשם כך יידרש מחקר בנקודת המפגש שבין עיצוב מדיניות ציבורית, כלכלה, משפט, היסטוריה ולמידת מכונה עצמה. תידרש גם עבודת חיזוי רבה. אנו סבורים, למשל, שהבינה המלאכותית תשנה חברות עסקיות ברמה המבנית, בדומה לאופן שבו טכנולוגיות המהפכה התעשייתית, ובייחוד הרכבת, הולידו את התאגיד המודרני המנוהל בידי מנהלים מקצועיים. קשה לחשוב על הכלכלה הפוליטית ועל מאזן הכוחות של העתיד בלי לפתח תפיסות מעמיקות יותר בנוגע לשאלה כיצד בדיוק עשוי להשתנות עצם המבנה של חברות עסקיות — ובמבט רחב יותר, גם של גופי ממשל ושל החברה האזרחית.

צוות עתידים אסטרטגיים ישתף את עבודתו כאן וגם בפורמטים אחרים, ובהם מאמרים, סרטונים ופודקאסטים. עבודתנו תתפתח לאורך הדרך, מתוך דגש על שיפור מתמשך, דיון ופתיחות למשוב. כשאנו ניצבים ״למרגלות הסינגולריות״, יש לנו הרבה יותר שאלות מתשובות. אנו יודעים ש״מחסומי קלף״ לבדם לא יספקו את הפתרונות שאנו מחפשים, אך איננו פוטרים את הכתוב כ״מילים בלבד״. אנו פועלים למען האידיאלים של חופש הביטוי וחירות הפרט, המעוגנים בקלף הצנוע של חוקת ארצות הברית ובחוקותיהן של חברות חופשיות רבות כל כך ברחבי העולם.

בסופו של דבר, אנו יודעים ששום חברה עסקית, שום תעשייה ואפילו שום חברה אנושית אינן יכולות להשיב לבדן על השאלות כבדות המשקל שניצבות בפנינו. המשימה שלנו היא משימה שהאנושות תצטרך להתמודד איתה במשותף. תקוותנו הגדולה ביותר היא לשפוך אור על הסוגיות הקשות ביותר הנוגעות לאופן שבו הבינה המלאכותית תעצב מחדש את עולמנו. עבודתנו רק החלה, ועוד דרך ארוכה לפנינו במעלה ההר.

הערה: שינינו את שם הבלוג הזה לעידן התבונה כדי למנוע בלבול בינו לבין הארגון ללא מטרות רווח AI Futures Project.