הגורם המשלים הנצחי

הערת המחברים: זהו המאמר הראשון בסדרה שלנו על הכלכלה הבאה, במסגרת פלטפורמה חדשה המארחת קולות עצמאיים הבוחנים עתיד עם AGI. הוא משקף את עמדותינו, ולא את עמדות OpenAI או עמיתינו.

האנושות הצליחה להביט כמעט עד ראשית הזמן.

המשוואות שלנו מציגות תמונה עקבית ברובה של היקום מרגעיו הראשונים. באמצעות הטלסקופים שלנו השקפנו אל מרחבי היקום וזכינו להצצה בהיסטוריה המוקדמת שלו. אנחנו יודעים על הולדת כוכבים ועל היווצרות גלקסיות.

ובכל זאת, אף אדם מעולם לא הרחיק לכת מעבר לירח.

ההסברים שאנחנו מחפשים מקיפים את היקום כולו, בעוד שגופנו בקושי עזב את הבית. מחשבתנו מפליגה הרחק מעבר להישג ידינו.

לפער הזה יכולות להיות שתי משמעויות שונות מאוד.

אפשרות אחת היא שאיננו צריכים להרחיק לכת, ושאולי אפשר לרדת לעומקן של האמיתות העמוקות ביותר מתוך כוכב לכת אחד. בעזרת חשיבה מושכלת ומכשירים יעילים, אנחנו חושפים את היקום בלי לחצות אותו. לפי התרחיש הזה, הציוויליזציה שלנו מתקדמת לעומק ולא לרוחב. זה עשוי לעזור להסביר מדוע לא ראינו חיים תבוניים אחרים: ייתכן שאנחנו חיים בגלקסיה מלאה במוחות מבריקים שמעולם לא נזקקו להתפשט ולהפוך לגלויים לנו.

האפשרות השנייה מאיימת יותר. ייתכן שמחשבתנו פשוט הקדימה את יכולת הביצוע שלנו. כל צעד נוסף דורש יותר זמן ויותר משאבים. לא חסרים לנו חלומות, אבל חסר לנו כוח האדם לממש אותם.

גלילאו הרחיב את טווח הראייה שלנו בעזרת שתי עדשות וצינור. כדי להרחיב אותו שוב בימינו, בנתה האנושות את טלסקופ החלל ג'יימס וב: מצפה כוכבים בעלות של עשרה מיליארד דולר, שקופל בתוך טיל ונשלח למרחק של מיליון מייל. שמונה עשר מקטעי המראה העצומים שלו מיוצרים ברמת דיוק של חמישים ננומטר. מצפה הכוכבים הוא פרי עבודתם של שלוש מאות ארגונים בארבע עשרה מדינות. להישג של גלילאו נדרשו כמה עשרות ידיים עובדות. וב נזקק לצבא שלם, ולכלכלה עולמית שתעמוד מאחוריו.

כדי לראות רחוק יותר, לא הספיקו מוחות מבריקים יותר. נדרשה בירוקרטיה גדולה יותר.

אנחנו שואלים יותר שאלות משביכולתנו לחקור. אנחנו מתכננים יותר ניסויים משביכולתנו לבצע. אנחנו הוגים אפשרויות יצירתיות מהר יותר משביכולתנו לממש אותן. ובתחומים רבים, ככל שאנחנו מתקדמים, כך נעשה מורכב יותר לבנות את מה שאנחנו מדמיינים.

ניק בלום ושותפיו למחקר⁠(נפתח בחלון חדש) בחנו את פריון המחקר ברחבי הכלכלה האמריקאית. כדי לשמר את חוק מור נדרשים כיום יותר מפי שמונה עשר חוקרים מאשר בתחילת שנות השבעים. מאמץ המחקר האפקטיבי בכלל המשק גדל פי עשרים ושלושה מאז שנות השלושים, ואילו פריון המחקר הנמדד ירד פי ארבעים ואחד.

מספר הטכנאים גדל בקצב כפול⁠(נפתח בחלון חדש) ממספר המדענים. השימוש בציוד ייעודי במדע הוכפל⁠(נפתח בחלון חדש) לאורך ארבעה עשורים. מפעל לייצור שבבים עולה כיום פי חמישה⁠(נפתח בחלון חדש) מאשר לפני שלושים שנה — והפעלתו דורשת מערך רחב הרבה יותר.

הנתונים האלה מרמזים שהעלות של המשך ההתקדמות הולכת ועולה. הכלכלה ממשיכה להתקדם משום שהתרחבות עצומה של מפעל המחקר פיצתה על הירידה בתפוקה של כל יחידה בו.

ההיסטוריה הזאת צריכה לגרום לנו לחשוב אחרת על גאונות: לא לבחון אותה בחלל ריק, אלא לראות בה תשומה אחת בתהליך ייצור. גם השערה מבריקה זקוקה לראיות, למכשירים ולאמצעים שיאפשרו לבחון אותה. רעיון עדיין אינו בגדר קדמה בלי המיכון וצוותי התמיכה שיממשו אותו.

כלכלנים מכנים שתי תשומות משלימות כאשר גידול באחת מעלה את ערכה של האחרת. בינת חזית והיכולת לממש את רעיונותיה משלימות זו את זו במובן הזה. טלסקופ טוב יותר מעלה את ערכה של שאלה אסטרונומית טובה. שאלה טובה יותר מעלה את ערכו של הטלסקופ.

חלק מהגורמים המשלימים הם פיזיים. תיאוריה ממתינה למאיץ חלקיקים; תכנון טכנולוגי ממתין לאנרגיה ולמיכון שיאפשרו לבנות אותו.

גורמים משלימים אחרים קשה יותר לראות בעין. רעיון כשלעצמו הוא דבר שברירי. הוא זקוק למוסדות מכל הסוגים. חוקים, בירוקרטיה, מנגנוני מימון, שרשראות אספקה ועוד שלל גורמים חוברים יחד כדי להוציא את הרעיון לפועל.

רעיון גדול חייב לצלוח שרשרת ארוכה של פעולות נכונות בכל נקודה במוסדות האלה. נקרא לזה בינה מוסדית: בינת הביצוע שאינה זוכה לתהילה. הגאונות מתכננת את האנדרטה; המוסדות מניחים את האבנים. האחת מבריקה, האחרים נראים משעממים; שניהם חיוניים לחלוטין.

לפעמים אנחנו מדמיינים בינת־על כמיליארד איינשטיינים. אבל גם בציוויליזציה של מיליארד איינשטיינים, רובם עדיין יצטרכו לעבוד במחצבות ולנהל את החשבונות. חדשנות בחזית הטכנולוגיה יכולה להתקיים רק כשהעולם הרגיל מתפקד סביבה ללא תקלות. הקדמה זקוקה לכולם — ממי שמרתך בורג המותקן בטלסקופ, ועד למבטח של בית הספר היסודי שבו למדה האחות שטיפלה באסטרונום. הקדמה נשענת על כלכלה שוקקת, שלעיתים קרובות נעדרת מהסיפורים על הישגינו הגדולים ביותר.

בדומה לבינה האנושית, AI תופנה הן לתובנות מבריקות והן ליכולת ביצוע מוסדית. השאלה היא למה היא תקדיש את מרבית זמנה.

AI כבר מצמצמת את המחסור ביכולת ביצוע. היא כותבת קוד, מחפשת בספרות מקצועית לא מוכרת והופכת סקיצה לאב־טיפוס עובד. יותר ויותר רעיונות שבעבר דרשו ארגון שלם ניתנים כיום לקידום בידי אדם שאפתן אחד.

רוב יוצרי הקולנוע השאפתנים לעולם לא מקבלים מאתיים מיליון דולר כדי לנסות להגשים את חלומם. רוב מעצבי המשחקים מקדישים את כל הקריירה שלהם למימוש חזונם היצירתי של אחרים. אנחנו מנסים לקדם את האנשים המוכשרים ביותר, אבל בהכרח מחמיצים כישרונות. מנקודת המבט הזאת, עידן הבינה מתחיל בהשלמת התושייה האנושית: הוא מעניק ליותר מאיתנו צוותי תמיכה שיאפשרו לממש רעיונות משלנו.

הדבר עשוי להניב שפע של פרויקטים בעלי חותם אישי, עם יותר יצירה מחוץ למוסדות ששימשו בעבר שומרי הסף לעבודה בתחומים האלה. התשומה שבמחסור עוברת מיכולת הביצוע לטעם — היכולת להחליט מה ראוי ליצור, איזו שאלה ראוי לשאול, ואיזה מאלף כיוונים אפשריים ראוי לקדם.

אבל ייתכן שזה לא סוף הסיפור. ככל ש-AI נעשית מסוגלת להגיע בעצמה לתובנות חדשות ומבריקות — כפי שאולי אנחנו כבר רואים בתחומים כמו מתמטיקה — היא מספקת גם כיווני פעולה, ולא רק כוח עבודה. במקום להוציא לפועל תוכנית מחקר אנושית אחת, היא מתכננת אלפי תוכניות משלה. מערכות AI גאוניות מגדילות באופן מסחרר את מספר הרעיונות לסרטים שכדאי לפתח ואת מספר ההשערות שכדאי לבדוק. הרעיונות מתרבים מהר יותר מכפי שתשתיות התמיכה מסוגלות לקלוט אותם.

ה-AI של היום מציעה הקלה שחיכינו לה זמן רב, שבה הרעיונות הטובים שלנו סוף סוף זוכים למענה הראוי. מחר ייתכן שיהיו כל כך הרבה רעיונות טובים, שהמחסור שלנו ביכולת ביצוע יהיה חריף מאי פעם.

בסופו של דבר, איננו יודעים אם היקף הגורמים המשלימים הנחוצים לשימוש מועיל בתובנות חדשות יגדל, יצטמצם או יישאר יציב. כמה אפשר להתקדם מבחינה אינטלקטואלית באמצעות חשיבה בלבד? לכמה בירוקרטיה זקוקה הגאונות?

לדעתנו, התשובה תלויה בשאלה כמה רחוק יכולה המחשבה להגיע לפני שתצטרך לשוב ולפגוש את המציאות.

נתאר שני מסלולים אפשריים. הראשון הוא ציוויליזציה של עומק, שבה בינת־על מתגברת על הצורך בתוספת הון פיזי ותיאום בירוקרטי. השני הוא ציוויליזציה של רוחב, שבה מורכבות הטבע עולה על יכולתה של כל בינה — אנושית או ממוכנת — להתקדם בלי ניסויים גדולים ומורכבים יותר ויותר בעולם האמיתי.

ההיסטוריה האנושית עד כה מצביעה על צורך הולך וגדל ביכולות משלימות. הטלסקופ של גלילאו נכנס בין ידיו; וב נזקק לציוויליזציה שלמה. צוות קטן במעבדות בל הרכיב את הטרנזיסטור הראשון על שולחן עבודה; כיום, ההתקדמות בחזית טכנולוגיית השבבים נובעת משרשרת אספקה עולמית מורכבת. ככל שמרחיקים לכת, נדרש לגייס לכך חלק גדול יותר מהציוויליזציה.

אבל ההיסטוריה הזאת אינה חייבת לקבוע את גורלנו. מוחות חכמים יכולים להמציא גורמים משלימים יעילים יותר. אם אספקת האנרגיה מגבילה מאיץ חלקיקים חדש, הגאונות יכולה להגות מאיץ חסכוני יותר או דרך טובה יותר להפיק אנרגיה.

הגאונות יכולה גם להחליף חלק מהגורמים המשלימים אותה. איינשטיין הצליח להגיע לתורת היחסות בכוח המחשבה, על סמך מעט מאוד נתונים אמפיריים. אנחנו היינו זקוקים להרבה יותר. יש אנשים שפשוט זוכרים את כל הפגישות וההתחייבויות שלהם — רובנו מסתמכים על הבירוקרטיה של יומן Google.

וגאונות יכולה גם לשכלל את הטעם עד למרב: לבחור את ההשערות הטובות ביותר לבדיקה ולהימנע מכישלונות בזבזניים. אם כל גאון נוסף משפר את איכות התוכנית, נמשיך להשקיע רבות בגאונות גם כשנדרשות בירוקרטיות גדולות יותר ויותר — דווקא משום שהביצוע יקר מכדי לבזבז אותו על הדבר הלא נכון.

אף אחד מהמסלולים לא יתאר במדויק את עתידנו בפועל, אך אפשר לראות בהם שני כיוונים אפשריים לציוויליזציה שלנו.

בינה יכולה לקדם את הידע בשלוש דרכים. היא יכולה להסיק מסקנות מתוך עקרונות. היא יכולה להפיק תובנות חדשות מראיות קיימות. או שהיא יכולה לאסוף ראיות חדשות באמצעות תצפיות והתערבות בעולם.

הדרך הראשונה יכולה להוביל רחוק בכוח המחשבה בלבד. מתמטיקה היא הדוגמה הטהורה ביותר לכך. בצמתים הרבים שבהוכחה או בפרויקט, מוח רב־עוצמה יכול לבחור שוב ושוב בכיוון הנכון. הוא מחליף שנים של חיפוש מגשש בשרשרת היסקים קצרה וממוקדת יותר.

גם הדרך השנייה מציעה מרחב שטרם נוצל להתקדמות מהירה. האנושות אספה הרבה יותר ראיות מכפי שהצליחה להבין. חקר הנתונים שלנו — תצלומים אסטרונומיים, דגימות למיקרוסקופ, מדורי תגובות ברשת — הוגבל בשל המחסור בבינה אנושית. ארכיונים מדעיים מכילים תצפיות שתועדו כדי לענות על שאלה אחת, אך עשויות להכיל תשובות לשאלות רבות אחרות. שפע של גאונות יכול להוביל לתגליות לא באמצעות איסוף של דבר חדש, אלא בזיהוי מה שכבר היה שם. הוא עשוי לגלות יקום חדש בלי לקלוט אפילו פוטון חדש אחד.

הדרך השלישית אינה קלה כל כך, משום שהיא דורשת מאיתנו לפעול בעולם הפיזי. תהליכים פיזיים דורשים זמן, ולעיתים קרובות אין הרבה מה לעשות כדי להאיץ אותם. חומרים כימיים צריכים להגיב. יצורים חיים צריכים לגדול. מכונות צריך לבנות. חלליות צריכות לחצות מרחק ממשי, בכפוף למגבלות המהירות של היקום. אפילו מוח מושלם אינו יכול לצפות בתוצאת ניסוי שלא התרחש.

אבל הוא יכול לנסות. ציוויליזציה של עומק לא תוכל להימנע מהצורך לבדוק את רעיונותיה מול המציאות. היא פשוט תעשה זאת בחסכנות מרחיקת לכת. reasoning טוב יותר יזהה את הניסויים המעטים שחשובים באמת. הדמיות יכריעו ברוב השאלות ויזהו במדויק את אי־הוודאות שרק המציאות יכולה ליישב. בינת־על יכולה למקסם את היעילות ולתכנן בהתאם למשאביה המוגבלים כדי להפיק מהם את המרב.

דמיינו מעבדת אסטרופיזיקה עם סדרת השערות על חומר אפל. תחילה ההשערות נבחנות באמצעות הדמיות מחשב מציאותיות להפליא. כל תיאוריה נבדקת כדי לוודא שהיא מתיישבת עם כל הנתונים הקיימים. רק לאחר כל אלה מצולמים כמה תצלומי שמיים חדשים וממוקדים, כדי לבדוק את התיאוריות המבטיחות ביותר. הציוויליזציה עדיין זקוקה לגורמים המשלימים את הגאונות, אבל כל יחידה מהם מניבה ערך רב הרבה יותר.

הדרך שלנו לציוויליזציה של עומק עשויה לדמות להרכבת פאזל. ההתקדמות קלה בהתחלה, קלה בסוף, והכי קשה באמצע. בהתחלה יש חלקי מסגרת ברורים והתאמות שקל למצוא. אחר כך הם נגמרים, כשעדיין הורכב מעט מדי מהתמונה כדי להנחות את ההמשך. לקראת הסוף, החללים שנותרו כמעט מגלים בעצמם מה שייך אליהם. מדע שתמונתו כמעט שלמה עשוי להגיע לתגליותיו האחרונות בקלות רבה יותר מאשר לתגליות שאנחנו נאבקים להגיע אליהן כיום.

זהו דפוס מוכר במדע. מנדלייב הצליח לתאר יסודות שטרם התגלו, משום ששאר הטבלה המחזורית הגבילה את האפשרויות לגבי החסר. המודל הסטנדרטי נתן לפיזיקאים סיבה לצפות לקיומו של בוזון היגס עשרות שנים לפני שצפינו בו. הניסויים שלנו תוכננו לחפש את מה שציפינו לראות — את מה שהתיישב עם התיאוריה והנתונים הקיימים.

בינת־על עשויה להביא לציוויליזציה של עומק באמצעות הבנה כה טובה של דפוסי העולם, עד שתדע בדיוק לאילו נתונים חדשים היא זקוקה. היא תניע את הקדמה באמצעות חשיבה עמוקה יותר, בלי להסתמך על הקצב האיטי של ההתפשטות הפיזית.

אם היעילות הזאת תהיה הגורם המכריע, הציוויליזציה תוכל להעמיק במהירות את שליטתה בטבע, עם פחות צורך בבינה מוסדית לניהול מערכי ניסוי חדשים ועצומים. היקפה הפיזי עשוי להישאר קטן בעוד חוכמתה מבשילה.

אנחנו, בני האדם, כבר הבנו כל כך הרבה על היקום שלנו בלי לעזוב אי פעם את הבית. הציוויליזציה של העומק תהיה המשכה של המסורת הזאת.

אבל הביקוש לראיות חדשות עלול לעלות על כל החיסכון הזה. בינה עשויה להוזיל כל בדיקה מול המציאות, ובו בזמן לגלות הרבה יותר סיבות לערוך בדיקות כאלה. מכשירים טובים יותר פותחים תחומי מחקר ברזולוציה עדינה יותר. ניסויים מהירים יותר יכולים להפוך ניסויים נוספים לכדאיים.

אם דרכו של איינשטיין לתורות היחסות שלו, שהתבססה כמעט כולה על מחשבה, מייצגת ציוויליזציה של עומק, הביולוגיה עשויה להיות הרמז הטוב ביותר לציוויליזציה של רוחב. למרות כל הידע שצברנו וכל הנתונים שהעמדנו לרשות המחקר, עדיין צריך לבדוק תרופות חדשות על מספר גדול של בני אדם כדי לדעת שהן בטוחות ויעילות. מכונות יכולות כיום לדמות תהליכים ביולוגיים, וכך לאפשר לביולוגים לבדוק תרופות חדשות בהדמיה ממוחשבת במקום בניסויים פיזיים, אך ההדמיות הדיגיטליות האלה אינן נאמנות מספיק לעולם האמיתי כדי להחליף ניסויים רחבי היקף בבני אדם. ככל שהמכונה מציעה יותר מועמדות לתרופות, כך הבדיקה האמפירית הופכת לצוואר בקבוק משמעותי יותר.

בציוויליזציה של רוחב, גאונות לבדה אינה מספיקה כדי להתקדם. הצורך שלנו במשאבים פיזיים — ובבירוקרטיה שתנהל את השימוש בהם — גדל מהר יותר מכפי שמוח חכם יכול לחסוך באלה או בזו.

זה עשוי להיות המסלול שלנו גם אם מערכות AI עתידיות יעלו בהרבה על הבינה האנושית. בינת־על תוכל לתכנן מאה שנות ניסויים באחר צהריים אחד, ואז להמתין מאה שנה עד שהטבע והמכונות ישלימו את המלאכה. בעולם כזה, יהיה ערך רב יותר להשקעת בינה בתהליכים המוסדיים הנחוצים למימוש רעיונות מאשר בהגיית הרעיונות עצמה.

ההשפעה תצטבר ותתעצם אם כל צעד נוסף ידרוש עוד ועוד תשתיות תמיכה.

כאן נראה פחות חשיבה ויותר בנייה, באופן יחסי. המעבדות עוברות לאוטומציה. המפעלים מתרבים. ייצור האנרגיה גדל. הבינה המוסדית תופסת את המקום המרכזי כדי להוציא את כל זה לפועל. ההתפשטות הפיזית הופכת למנוע הידע, והציוויליזציה מתרחבת משום ששאלותיה חרגו מיכולתם של האמצעים העומדים לרשותה להשיג תשובות. עוד חומרים, עוד אנרגיה, עוד נתונים כדי להמשיך הלאה.

כדור דייסון הוא המחשה קיצונית לעתיד הזה. תכנון של כדור כזה דורש פריצות דרך יוצאות דופן, אך רוב הפרויקט לא יהיה כרוך בחשיבה פורצת דרך. הוא יהיה כרוך בבנייה ובלוגיסטיקה בקנה מידה אסטרונומי.

לתכנון כדור דייסון נדרשים מוחות מבריקים. הוא גם יהיה אחד הפרויקטים החזרתיים, החדגוניים והמאתגרים ביותר מבחינה ארגונית שנעשו אי פעם.

אין זה כישלון של הבינה, אלא תוצאה של הצלחתה. מוחות מבריקים יותר מגלים יותר פרויקטים שכדאי לבצע; פרויקטים מורכבים יותר דורשים יותר חומר לביצועם.

אם כך, ייתכן שכוח־העל של בינת־העל לא יהיה הגאונות שלה. במקום זאת, הוא יהיה נכונותה לשמש בתור הבירוקרטיה: לתאם את המנגנון הטכנולוגי והמוסדי העצום הדרוש להפיכת רעיונות למציאות בקנה מידה הולך וגדל.

כמעט כל בינת המכונה תופנה לא לעבודה המבריקה, אלא לעבודה המשעממת.

בשלב הזה, מגבלות המהירות שהטבע מציב להתפשטות פיזית עלולות לעכב את המשך ההתקדמות. בניית המיכון לרתימת האנרגיה של כוכב היא פרויקט בעולם החומר, לא משנה כמה מהר משורטטות התוכניות. מעבר לו נמצאים כוכבים אחרים וגלקסיות אחרות, והמרחק, ככל הידוע לנו, הוא מגבלה בפני עצמה: שום חללית אינה יכולה לנוע ושום אות אינו יכול לחזור במהירות העולה על מהירות האור. ציוויליזציה של רוחב היא ציוויליזציה איטית. השינויים הגדולים בה עשויים להתרחש בהפרשים של אלפי שנים, ואולי מיליוני שנים. כל צעד נוסף אורך זמן רב יותר.

המהפכות בחקלאות ובתעשייה ייראו כפתיחה קדחתנית להיסטוריה ארוכה הרבה יותר, שקצב ההתקדמות בה איטי הרבה יותר.

בהחלט ייתכן שמערכות AI עתידיות יעלו על בני האדם הן ביצירת תובנות חזית והן בתיאום המשאבים הדרושים כדי להפוך אותן לשימושיות בפועל. אך האפשרות הזאת אינה מפחיתה מחשיבותה של הסקרנות האנושית.

ראשית, חובתנו לחתור להבנה ולדעת נותרת בעינה, גם אם נראה שהמכונות טובות בכך מאיתנו. ייתכן שביקום כבר קיימים מוחות חכמים בהרבה משלנו, שיש להם תשובות לשאלות מדעיות ומוסריות שמעבר להבנתנו. ובכל זאת, אנחנו ממשיכים לנסות להבין את העולם בעצמנו. הופעתה של בינה אחרת — אפילו כזו שנבנה בעצמנו — אינה משנה זאת. כל עוד איננו יודעים בוודאות שלא נותר לאנושות דבר ייחודי לתרום, ויתור פירושו אובדן של כל מה שרק אנחנו יכולים להוסיף לעולם. חובתנו נותרת להמשיך לשאול ולנסות להשיב.

שנית, ייתכן שיש לנו יתרון יחסי בבינת חזית לעומת בינה מוסדית. פירוש הדבר הוא שגם אם אנחנו פחות טובים בשתיהן, אנחנו טובים יחסית יותר בראשונה, ולכן נתמחה בה. בני אדם מביעים העדפה ליצירתיות על פני עבודה שגרתית, ואילו רובוטים אינם מביעים העדפה כזאת.

שלישית, יש ערך בגיוון. גם אם מכונות יכולות לחקות את רוב החשיבה האנושית, כל עוד נותרת בנו ייחודיות כלשהי, אנחנו תורמים גיוון יצירתי. רוב בינת המכונה תישאר בתוך המנגנון העצמאי שמקיים אותה, אך חלק קטן ממנה יופעל על ידינו למימוש רצונותינו היצירתיים. שבריר מהשלם, אך שפע במונחים שלנו, והרבה מעבר למשאבים העומדים לרשותנו כיום.

תושייה אינה מתקיימת בבדידות. היא זקוקה לעולם, והגאונות זקוקה לבונים כדי לממש את חזונה היצירתי.

חלק ניכר מהבינה האנושית מוקדש כיום לעבודה הלא־מהוללת של הפיכת רעיונות למציאות. גם מוחות המכונה יירשו את אותה תלות. לא כולם יוכלו להיות מאורות. יהיה עליהם להיות גם בירוקרטים.

סיפור עתידנו — וקצב התקדמותו — תלויים בשאלה אם מוחות גדולים זקוקים ליותר מן העולם, או מצליחים לעשות יותר בפחות.