მარადიული შემავსებელი

ავტორების შენიშვნა: ეს ჩვენი სერიის პირველი ესეა მომავალი ეკონომიკის შესახებ და ნაწილია ახალი პლატფორმისა, რომელიც დამოუკიდებელ ავტორებს აერთიანებს AGI-სთან დაკავშირებული მომავლის საკვლევად. აქ ჩვენი შეხედულებებია ასახული და არა OpenAI-ს ან ჩვენი კოლეგებისა.

კაცობრიობამ მზერა თითქმის დროის დასაბამამდე მიაწვდინა.

ჩვენი განტოლებები სამყაროს პირველივე წამებიდან მეტწილად თანმიმდევრულად აღწერს. ტელესკოპებით კოსმოსის შორეულ სივრცეებს გავხედეთ და მისი ადრეული ისტორია დავინახეთ. ვიცით, როგორ იბადებიან ვარსკვლავები და როგორ ყალიბდება გალაქტიკები.

თუმცა არცერთ ადამიანს მთვარეზე შორს არ უმოგზაურია.

ახსნას მთელი სამყაროს მასშტაბით ვეძებთ, სხეულით კი სახლს თითქმის არ გავცდენივართ. ჩვენი გონება ბევრად უფრო შორს აღწევს, ვიდრე ჩვენი ხელი.

ეს შეუსაბამობა შეიძლება ორ სრულიად განსხვავებულ რამეს ნიშნავდეს.

შესაძლოა შორს წასვლა არც გვჭირდებოდეს და ყველაზე ღრმა ჭეშმარიტებების წვდომა ერთი პლანეტიდანაც შეიძლებოდეს. ცოდნაზე დაფუძნებული მსჯელობითა და ეფექტიანი ხელსაწყოებით სამყაროს შეუვლელად ვხსნით მის საიდუმლოებებს. ამ სცენარში ჩვენი ცივილიზაცია გაფართოების ნაცვლად ცოდნის გაღრმავებით ვითარდება. ეს იმაზეც მიგვანიშნებდა, რატომ ვერ აღმოვაჩინეთ სხვა გონიერი სიცოცხლე: შეიძლება ვცხოვრობთ ბრწყინვალე მოაზროვნეებით სავსე გალაქტიკაში, რომელთაც არასდროს დასჭირვებიათ გაფართოება და ჩვენთვის შესამჩნევი გამხდარიყვნენ.

მეორე შესაძლებლობა უფრო შემაშფოთებელია. შესაძლოა ჩვენმა გონებამ უბრალოდ გადაასწრო ჩვენი ჩანაფიქრების განხორციელების უნარს. ყოველი მომდევნო ნაბიჯი მეტ დროსა და რესურსს მოითხოვს. ოცნებები არ გვაკლია, მაგრამ მათ ასახდენად მუშახელი არ გვყოფნის.

გალილეომ ორი ლინზითა და მილით ჩვენი თვალსაწიერი გააფართოვა. დღეს თვალსაწიერის კიდევ უფრო გასაფართოებლად კაცობრიობამ ჯეიმზ უების კოსმოსური ტელესკოპი შექმნა — ათმილიარდდოლარიანი ობსერვატორია რაკეტაში დაკეცა და მილიონი მილის მანძილზე გაგზავნა. მისი სარკის თვრამეტი უზარმაზარი სეგმენტი ორმოცდაათი ნანომეტრის სიზუსტითაა დამზადებული. ობსერვატორია თოთხმეტი ქვეყნის სამასმა ორგანიზაციამ შექმნა. გალილეოს ჩანაფიქრს რამდენიმე ათეული ადამიანის ხელი სჭირდებოდა. უებს კი მთელი არმია დასჭირდა, მის უკან მდგომი გლობალური ეკონომიკით.

უფრო შორს დასანახად მხოლოდ უფრო ბრწყინვალე გონება არ ყოფილა საკმარისი. ამას უფრო დიდი ბიუროკრატია დასჭირდა.

უფრო მეტ კითხვას ვსვამთ, ვიდრე გამოკვლევა შეგვიძლია. უფრო მეტ ექსპერიმენტს ვგეგმავთ, ვიდრე ვატარებთ. შემოქმედებითი შესაძლებლობები უფრო სწრაფად გვებადება, ვიდრე მათი განხორციელება შეგვიძლია. ბევრ სფეროში კი, რაც უფრო წინ მივიწევთ, მით უფრო რთული ხდება იმის შექმნა, რასაც წარმოვიდგენთ.

ნიკ ბლუმმა და მისმა თანაავტორებმა⁠(იხსნება ახალ ფანჯარაში) ამერიკის ეკონომიკაში კვლევების პროდუქტიულობა შეისწავლეს. მურის კანონის მოქმედების შესანარჩუნებლად დღეს თვრამეტჯერ მეტზე მეტი მკვლევარია საჭირო, ვიდრე 1970-იანი წლების დასაწყისში. 1930-იანი წლებიდან ეკონომიკაში კვლევაზე დახარჯული ეფექტიანი ძალისხმევა ოცდასამჯერ გაიზარდა, კვლევების გაზომილი პროდუქტიულობა კი ორმოცდაერთჯერ შემცირდა.

ტექნიკური პერსონალის რაოდენობა მეცნიერთა რაოდენობაზე ორჯერ სწრაფად იზრდება⁠(იხსნება ახალ ფანჯარაში). მეცნიერებაში სპეციალიზებული აღჭურვილობის გამოყენება ოთხი ათწლეულის განმავლობაში გაორმაგდა⁠(იხსნება ახალ ფანჯარაში). დღეს ჩიპების ქარხანა ოცდაათი წლის წინანდელთან შედარებით ხუთჯერ ძვირია⁠(იხსნება ახალ ფანჯარაში) და გაცილებით უფრო მასშტაბურ საქმიანობას მოიცავს.

ეს სტატისტიკა მიანიშნებს, რომ შემდგომი პროგრესის ფასი იზრდება. ეკონომიკა კვლავ ვითარდება, რადგან კვლევითი საქმიანობის უზარმაზარი ზრდა თითოეული ერთეულის კლებად უკუგებას ანაზღაურებს.

ამ ისტორიამ გენიალურობაზე სხვაგვარად უნდა დაგვაფიქროს: ის განყენებულად კი არ უნდა განვიხილოთ, არამედ წარმოების პროცესის ერთ-ერთ რესურსად. ბრწყინვალე ჰიპოთეზას მაინც სჭირდება მტკიცებულებები, ხელსაწყოები და შესამოწმებელი საშუალებები. იდეა ჯერ კიდევ არ არის პროგრესი, თუ მის განსახორციელებლად დანადგარები და დამხმარე პერსონალი არ არსებობს.

ეკონომისტები ორ რესურსს ურთიერთშემავსებელს უწოდებენ, როცა ერთის მატება მეორის ღირებულებას ზრდის. ამ გაგებით, მოწინავე ინტელექტი და მისი იდეების განხორციელების უნარი ერთმანეთს ავსებს. უკეთესი ტელესკოპი კარგ ასტრონომიულ კითხვას მეტ ღირებულებას სძენს. უკეთესი კითხვა კი ტელესკოპს ხდის უფრო ღირებულს.

ზოგი შემავსებელი რესურსი ფიზიკურია. თეორია ნაწილაკების ამაჩქარებელს ელოდება; ტექნოლოგიური პროექტი კი — მისი აგებისთვის საჭირო ენერგიასა და დანადგარებს.

სხვა შემავსებელი რესურსები თვალით ნაკლებად შესამჩნევია. იდეა თავისთავად მყიფეა. მას მრავალგვარი ინსტიტუცია სჭირდება. იდეის განსახორციელებლად ერთიანდება კანონები, ბიუროკრატია, დაფინანსების მექანიზმები, მიწოდების ჯაჭვები და მრავალი სხვა რამ.

დიდმა იდეამ ამ ინსტიტუციებში სწორად შესრულებული ცალკეული მოქმედებების გრძელი ჯაჭვი უნდა გაიაროს ისე, რომ არ დაიკარგოს. ამას ინსტიტუციური ინტელექტი ვუწოდოთ — განხორციელების დაუფასებელი ინტელექტი. გენიოსი ძეგლს აპროექტებს, ინსტიტუციები კი ქვას ქვაზე აწყობს. ერთი ბრწყინავს, მეორე მოსაწყენი ჩანს; ორივე კი სრულიად აუცილებელია.

სუპერინტელექტს ზოგჯერ მილიარდ აინშტაინად წარმოვიდგენთ. მაგრამ მილიარდი აინშტაინის ცივილიზაციაშიც მათი უმრავლესობა მაინც კარიერებში ქვის მოპოვებასა და ბუღალტერიის წარმოებას დასჭირდება. მოწინავე ინოვაცია მხოლოდ მაშინ ხდება შესაძლებელი, როცა მის გარშემო ჩვეულებრივი სამყარო შეუფერხებლად მუშაობს. პროგრესს ყველა სჭირდება — ტელესკოპის ხრახნის შემდუღებლიდან იმ დაწყებითი სკოლის მზღვეველამდე, სადაც ის ექთანი სწავლობდა, რომელმაც ასტრონომს უმკურნალა. პროგრესი გამართულად მომუშავე ეკონომიკას ეყრდნობა, რომელსაც უდიდეს მიღწევებზე საუბრისას ხშირად უგულებელვყოფთ.

ადამიანური ინტელექტის მსგავსად, AI-ც როგორც ბრწყინვალე მიგნებებს, ისე ინსტიტუციურ კომპეტენტურობას მოხმარდება. საკითხავი ისაა, რომელს დაუთმობს დროის უდიდეს ნაწილს.

AI უკვე ამცირებს იდეების განხორციელების შესაძლებლობათა დეფიციტს. ის წერს კოდს, ეძებს ინფორმაციას უცნობ ლიტერატურაში და მონახაზს მოქმედ პროტოტიპად აქცევს. იდეებს, რომელთაც ადრე მთელი ორგანიზაცია სჭირდებოდა, სულ უფრო ხშირად ერთი ამბიციური ადამიანი ახორციელებს.

დამწყები კინემატოგრაფისტების უმრავლესობა საკუთარი ძალების მოსასინჯად ორას მილიონ დოლარს ვერასდროს იღებს. თამაშების დიზაინერთა უმრავლესობა მთელ კარიერას სხვების შემოქმედებითი ხედვების განხორციელებას უთმობს. ვცდილობთ, ყველაზე ნიჭიერი ადამიანები წავახალისოთ, მაგრამ ზოგი ნიჭი აუცილებლად გვრჩება შეუმჩნეველი. ამ თვალსაზრისით, ინტელექტის ეპოქა ადამიანური გამომგონებლობის შევსებით იწყება: სულ უფრო მეტ ჩვენგანს აძლევს დამხმარე პერსონალს საკუთარი იდეების განსახორციელებლად.

ამან შეიძლება მრავალი თვითმყოფადი პროექტი წარმოშვას და მეტი შემოქმედებითი ნამუშევარი შეიქმნას იმ ინსტიტუციების გარეთ, რომლებიც ადრე ამ სფეროებში მუშაობის უფლებას ფაქტობრივად თავად განსაზღვრავდნენ. დეფიციტურ რესურსად განხორციელების უნარის ნაცვლად გემოვნება იქცევა — უნარი, გადაწყვიტო, რისი შექმნა ღირს, რომელი კითხვის დასმაა საჭირო და ათასი შესაძლო მიმართულებიდან რომელს უნდა გაჰყვე.

თუმცა ამით ამბავი შეიძლება არ დასრულდეს. როცა AI დამოუკიდებლად ბრწყინვალე ახალი მიგნებების გაკეთებას შეძლებს — რასაც შესაძლოა უკვე ვხედავთ, მაგალითად, მათემატიკაში — ის შრომასთან ერთად სამუშაო მიმართულებებსაც შემოგვთავაზებს. ადამიანის მიერ შედგენილი ერთი კვლევითი პროგრამის შესრულების ნაცვლად, ის ათასობით საკუთარს შეიმუშავებს. AI-გენიოსები მკვეთრად გაზრდიან ფილმების იმ ჩანაფიქრებისა და ჰიპოთეზების რაოდენობას, რომელთა განვითარება და შემოწმებაც ღირს. იდეები უფრო სწრაფად მრავლდება, ვიდრე დამხმარე ინფრასტრუქტურა მათ ათვისებას ასწრებს.

დღევანდელი AI დიდი ხნის ნანატრ შვებას გვთავაზობს: ჩვენი კარგი იდეები ბოლოს და ბოლოს სათანადო ყურადღებას იღებს. ხვალ კი კარგი იდეა შეიძლება იმდენი იყოს, რომ მათი განხორციელების შესაძლებლობები უფრო მეტად გვაკლდეს, ვიდრე ოდესმე.

საბოლოოდ, არ ვიცით, ახალი მიგნებების ნაყოფიერად გამოსაყენებლად საჭირო შემავსებელი რესურსების მოცულობა გაიზრდება, შემცირდება თუ უცვლელი დარჩება. რამდენად შორს შეიძლება წავიდეთ ინტელექტუალურად მხოლოდ ფიქრით? რამხელა ბიუროკრატია სჭირდება გენიალურობას?

ჩვენი აზრით, პასუხი დამოკიდებულია იმაზე, რამდენად შორს შეუძლია აზრს წასვლა, სანამ რეალობასთან ხელახლა შეხება დასჭირდება.

განვიხილოთ ორი შესაძლო გზა. პირველია სიღრმეზე ორიენტირებული ცივილიზაცია, სადაც სუპერინტელექტი მეტ ფიზიკურ კაპიტალსა და ბიუროკრატიულ კოორდინაციაზე დამოკიდებულებას დაძლევს. მეორეა გაფართოებაზე ორიენტირებული ცივილიზაცია, სადაც ბუნება იმდენად რთულია, რომ ვერც ადამიანური და ვერც მანქანური ინტელექტი ვერ აღწევს პროგრესს რეალურ სამყაროში ფართომასშტაბიანი და სულ უფრო რთული ექსპერიმენტების გარეშე.

კაცობრიობის ისტორია ჯერჯერობით იმაზე მიანიშნებს, რომ შემავსებელი შესაძლებლობების საჭიროება იზრდება. გალილეოს ტელესკოპი ხელში ეტეოდა; უებისას მთელი ცივილიზაცია დასჭირდა. Bell Labs-ის მცირე გუნდმა პირველი ტრანზისტორი სამუშაო მაგიდაზე ააწყო; დღეს კი ჩიპების სფეროში მოწინავე მიღწევებს რთული გლობალური მიწოდების ჯაჭვი ქმნის. რაც უფრო შორს მივიწევთ, მით მეტ საყრდენს ვითხოვთ ცივილიზაციისგან.

თუმცა ისტორიამ მომავალი გარდაუვლად არ უნდა განსაზღვროს. გონიერ მოაზროვნეებს უფრო ეფექტიანი შემავსებელი საშუალებების გამოგონება შეუძლიათ. თუ ნაწილაკების ახალ ამაჩქარებელს ენერგიის დეფიციტი აფერხებს, გენიალურ გონებას უფრო ეკონომიური ამაჩქარებლის ან ენერგიის მოპოვების უკეთესი გზის მოფიქრება შეუძლია.

გენიალურობას თავისი ზოგი შემავსებელი რესურსის ჩანაცვლებაც შეუძლია. აინშტაინმა ძალიან მცირე ემპირიულ მონაცემებზე დაყრდნობით, აზროვნების გზით მიაღწია ფარდობითობის თეორიას. ჩვენ გაცილებით მეტი მონაცემი დაგვჭირდებოდა. ზოგს ყველა დაგეგმილი საქმე უბრალოდ ახსოვს, ჩვენგან უმეტესობა კი Google Calendar-ის ბიუროკრატიას ეყრდნობა.

გენიალურობას გემოვნების სრულყოფაც შეუძლია: შესამოწმებლად საუკეთესო ჰიპოთეზების შერჩევა და ძვირად ღირებული მარცხის თავიდან აცილება. თუ ყოველი დამატებითი გენიოსი გეგმას აუმჯობესებს, გენიალურობაში მაინც დიდ ინვესტიციას ჩავდებდით, თუნდაც სულ უფრო დიდი ბიუროკრატია გვჭირდებოდეს — სწორედ იმიტომ, რომ განხორციელება მეტისმეტად ძვირია, რათა ის მცდარ მიზანს მოვახმაროთ.

არცერთი გზა ზუსტად არ აღწერს ჩვენს რეალურ მომავალს, თუმცა ისინი ჩვენი ცივილიზაციის ორ შესაძლო მიმართულებად შეგვიძლია მივიჩნიოთ.

ინტელექტს ცოდნის გაღრმავება სამი გზით შეუძლია. მას შეუძლია პრინციპებზე დაყრდნობით მსჯელობა. შეუძლია არსებული მტკიცებულებებიდან ახალი დასკვნების გამოტანა. ან შეუძლია სამყაროზე დაკვირვებითა და მასში ჩარევით ახალი მტკიცებულებების შეგროვება.

პირველი გზა მხოლოდ ფიქრითაც შორს მიგვიყვანს. ამის ყველაზე თვალსაჩინო მაგალითი მათემატიკაა. მტკიცების ან პროექტის მრავალ გზაგასაყარზე ძლიერ გონებას ყოველ ჯერზე სწორი არჩევანის გაკეთება შეუძლია. ის წლობით უშედეგო ძიებას მსჯელობის მოკლე, უფრო მიზანმიმართული ჯაჭვით ცვლის.

მეორე გზაც სწრაფი პროგრესისთვის აუთვისებელ შესაძლებლობებს გვთავაზობს. კაცობრიობამ გაცილებით მეტი მტკიცებულება შეაგროვა, ვიდრე გაიაზრა. ჩვენი მონაცემების — ასტრონომიული სურათების, მიკროსკოპული პრეპარატების, ონლაინკომენტარების — შესწავლას ადამიანური ინტელექტის სიმწირე ზღუდავდა. სამეცნიერო არქივებში ინახება ერთი კითხვის საპასუხოდ ჩაწერილი დაკვირვებები, რომლებიც შესაძლოა ბევრ სხვა კითხვაზეც იძლეოდეს პასუხს. გენიალურობის სიუხვეს აღმოჩენების მოტანა ახლის შეგროვების გარეშეც შეუძლია — იმის დანახვით, რაც უკვე არსებობს. შესაძლოა ახალი სამყარო ისე აღმოაჩინოს, რომ ერთი ახალი ფოტონიც არ შეაგროვოს.

მესამე გზა არც ისე მარტივია, რადგან ფიზიკურ სამყაროსთან ურთიერთქმედებას მოითხოვს. ფიზიკურ პროცესებს დრო სჭირდება და ხშირად მათი დაჩქარებისთვის ბევრი არაფრის გაკეთება შეგვიძლია. ქიმიური ნივთიერებები რეაქციაში უნდა შევიდეს. ორგანიზმები უნდა გაიზარდოს. მანქანები უნდა აიგოს. კოსმოსურმა ხომალდებმა რეალური მანძილი უნდა დაფარონ, კოსმოსური სიჩქარის შეზღუდვების ფარგლებში. სრულყოფილი გონებაც კი ვერ დააკვირდება იმ ექსპერიმენტის შედეგს, რომელიც ჯერ არ ჩატარებულა.

თუმცა ცდა შეუძლია. სიღრმეზე ორიენტირებული ცივილიზაცია რეალობასთან გადამოწმების საჭიროებას ვერ გაექცეოდა. სამაგიეროდ, ამას რადიკალურად უფრო ეკონომიურად გააკეთებდა. უკეთესი მსჯელობა გამოავლენდა იმ მცირერიცხოვან ექსპერიმენტებს, რომლებსაც ნამდვილად აქვს მნიშვნელობა. სიმულაციები საკითხების უმეტესობას გადაჭრიდა და ზუსტად გამოკვეთდა იმ გაურკვევლობას, რომელიც რეალობაში უნდა გაირკვეს. სუპერინტელექტს შეუძლია ეფექტიანობა მაქსიმუმამდე გაზარდოს: გეგმები მწირი რესურსების გათვალისწინებით შეადგინოს და მათგან უდიდესი სარგებელი მიიღოს.

წარმოიდგინეთ ასტროფიზიკის ლაბორატორია, რომელსაც ბნელი მატერიის შესახებ რამდენიმე ჰიპოთეზა აქვს. ჯერ ეს ჰიპოთეზები ჰიპერრეალისტური კომპიუტერული მოდელირებით მოწმდება. თითოეული თეორია ყველა არსებულ მონაცემთან შესაბამისობაზე მოწმდება. მხოლოდ ამის შემდეგ იღებენ ცის რამდენიმე მიზნობრივ ახალ სურათს ყველაზე პერსპექტიული თეორიების შესამოწმებლად. ცივილიზაციას კვლავ სჭირდება გენიალურობის შემავსებელი რესურსები, მაგრამ თითოეულ ერთეულს გაცილებით მეტი ღირებულება მოაქვს.

სიღრმეზე ორიენტირებული ცივილიზაციისკენ ჩვენი გზა შეიძლება ფაზლის აწყობას ჰგავდეს. წინსვლა ადვილია დასაწყისში, ადვილია ბოლოში და ყველაზე რთულია შუაში. თავიდან კიდეები აშკარაა და ზოგი ნაწილი ერთმანეთს ადვილად ერგება. მერე ასეთი ნაწილები ილევა, სურათის აწყობილი ნაწილი კი ჯერ მეტისმეტად მცირეა, რომ დანარჩენისთვის გზა გვიჩვენოს. დასასრულისკენ დარჩენილი სიცარიელეები თითქმის თავად გვკარნახობს, რა უნდა ჩაჯდეს მათში. თითქმის დასრულებული მეცნიერებისთვის ბოლო აღმოჩენები შეიძლება უფრო ადვილი იყოს, ვიდრე ისინი, რომელთა მიღწევასაც დღეს ამდენ ძალას ვახმართ.

მეცნიერებისთვის ეს კარგად ნაცნობი მიდგომაა. მენდელეევს შეეძლო ჯერ აღმოუჩენელი ელემენტების აღწერა, რადგან პერიოდული სისტემის ცნობილი ნაწილი განსაზღვრავდა, როგორი შეიძლებოდა ყოფილიყო დანაკლისი. სტანდარტული მოდელი ფიზიკოსებს ჰიგსის ბოზონის არსებობის ვარაუდის საფუძველს აძლევდა მის აღმოჩენამდე ათწლეულებით ადრე. ჩვენი ექსპერიმენტები მიზნად ისახავდა იმის ძიებას, რის დანახვასაც ველოდით — რაც არსებულ თეორიასა და მონაცემებს შეესაბამებოდა.

სუპერინტელექტმა შეიძლება სიღრმეზე ორიენტირებული ცივილიზაცია შექმნას, თუ სამყაროს კანონზომიერებებს იმდენად კარგად გაიგებს, რომ ზუსტად ეცოდინება, რომელი ახალი მონაცემები სჭირდება. ის პროგრესს უფრო ღრმა აზროვნებით წარმართავდა და არა ფიზიკური გაფართოების ნელი სვლით.

თუ ეფექტიანობის ეს ზრდა გადაწონის, ცივილიზაცია სწრაფად გააღრმავებს ბუნებაზე ბატონობას და ნაკლებად დასჭირდება ინსტიტუციური ინტელექტი უზარმაზარი ახალი ექსპერიმენტული სისტემების სამართავად. მისი ფიზიკური მასშტაბი შეიძლება მცირე დარჩეს, სიბრძნე კი მომწიფდეს.

ჩვენ, ადამიანებმა, სამყაროს შესახებ უკვე ამდენი რამ გავიგეთ ისე, რომ სახლიდან არც კი წავსულვართ. სიღრმეზე ორიენტირებული ცივილიზაცია ამ ტრადიციის გაგრძელება იქნებოდა.

თუმცა ახალი მტკიცებულებების მოთხოვნამ შეიძლება ეფექტიანობის ეს ზრდა გადაწონოს. ინტელექტმა შეიძლება რეალობასთან ყოველი გადამოწმება გააიაფოს და ამავე დროს გადამოწმების გაცილებით მეტი მიზეზი აღმოაჩინოს. უკეთესი ხელსაწყოები უფრო დახვეწილი კვლევების შესაძლებლობას ხსნის. უფრო სწრაფმა ექსპერიმენტებმა შეიძლება დამატებითი ექსპერიმენტების ჩატარება გახადოს ღირებული.

თუ აინშტაინის თითქმის წმინდად აზროვნებითი გზა ფარდობითობის თეორიებამდე სიღრმეზე ორიენტირებულ ცივილიზაციას განასახიერებს, ბიოლოგია შესაძლოა ყველაზე უკეთ გვიჩვენებდეს გაფართოებაზე ორიენტირებული ცივილიზაციის მომავალს. მიუხედავად დაგროვილი ცოდნისა და გამოყენებული მონაცემებისა, ახალი წამლები მაინც უამრავ ადამიანზე უნდა გამოვცადოთ, რათა მათი უსაფრთხოება და ეფექტიანობა დავადგინოთ. მანქანებს უკვე შეუძლიათ ბიოლოგიური პროცესების სიმულაცია, რაც ბიოლოგებს ახალი წამლების ფიზიკური ექსპერიმენტების ნაცვლად კომპიუტერულად გამოცდის საშუალებას აძლევს, თუმცა ეს ციფრული სიმულაციები რეალურ სამყაროს იმდენად ზუსტად ვერ ასახავს, რომ ადამიანებზე ფართომასშტაბიანი კვლევები ჩაანაცვლოს. რაც მეტ კანდიდატ წამალს გვთავაზობს მანქანა, მით უფრო დიდ შემაფერხებელ ფაქტორად იქცევა ემპირიული შემოწმება.

გაფართოებაზე ორიენტირებულ ცივილიზაციაში პროგრესისთვის მხოლოდ გენიალურობა საკმარისი არ არის. ფიზიკური რესურსებისა და მათი გამოყენების მმართველი ბიუროკრატიის საჭიროება უფრო სწრაფად იზრდება, ვიდრე გონიერ მოაზროვნეს რომელიმე მათგანის დაზოგვა შეუძლია.

შესაძლოა ამ გზას დავადგეთ მაშინაც, თუ მომავლის AI-სისტემები ადამიანურ ინტელექტს ბევრად გადააჭარბებს. სუპერინტელექტმა შეიძლება ერთ ნაშუადღევს მთელი საუკუნის ექსპერიმენტები დაგეგმოს, შემდეგ კი საუკუნე ელოდოს, სანამ ბუნება და დანადგარები მათ განახორციელებს. ასეთ სამყაროში ინტელექტის მიმართვა იდეების განსახორციელებლად საჭირო ინსტიტუციური პროცესებისკენ უფრო ღირებული ხდება, ვიდრე თავად იდეების შექმნისკენ.

ეს ეფექტი გაძლიერდება, თუ ყოველი შემდეგი ნაბიჯი სულ უფრო მეტ დამხმარე ინფრასტრუქტურას მოითხოვს.

აქ შედარებით ნაკლებ აზროვნებას და შედარებით მეტ მშენებლობას ვიხილავდით. ლაბორატორიები ავტომატიზდება. ქარხნები მრავლდება. ენერგიის წარმოება იზრდება. ამ ყველაფრის განსახორციელებლად წამყვან როლს ინსტიტუციური ინტელექტი იკავებს. ფიზიკური გაფართოება ცოდნის მამოძრავებელი ძალა ხდება, ცივილიზაცია კი ვრცელდება, რადგან მისი კითხვები პასუხების მოპოვების არსებულ საშუალებებს გასცდა. გასაგრძელებლად საჭიროა მეტი მასალა, მეტი ენერგია, მეტი მონაცემი.

დაისონის სფერო ამ მომავლის უკიდურესი გამოხატულებაა. მის დაპროექტებას უჩვეულო გარღვევები სჭირდება, თუმცა პროექტის უდიდესი ნაწილი სულაც არ დაეთმობოდა რევოლუციური იდეების მოფიქრებას. ეს ასტრონომიული მასშტაბის მშენებლობა და ლოგისტიკა იქნებოდა.

დაისონის სფეროს გეგმის შედგენას ბრწყინვალე გონება სჭირდება. ამავე დროს, ის ისტორიაში ერთ-ერთი ყველაზე განმეორებადი, მონოტონური და ორგანიზაციულად რთული პროექტი იქნებოდა.

ეს ინტელექტის მარცხი კი არა, მისი წარმატების შედეგია. უფრო გონიერი მოაზროვნეები მეტ ღირებულ პროექტს აღმოაჩენენ; უფრო რთული პროექტების განხორციელებას კი მეტი მატერია სჭირდება.

თუ ასეა, სუპერინტელექტის მთავარი ძალა შეიძლება მის გენიალურობაში არ იყოს. ამის ნაცვლად, მისი ძალა იქნებოდა მზადყოფნა, თავად იქცეს ბიუროკრატიად და კოორდინაცია გაუწიოს უზარმაზარ ტექნოლოგიურ და ინსტიტუციურ მექანიზმს, რომელიც იდეების სულ უფრო დიდი მასშტაბით განხორციელებას სჭირდება.

მანქანური ინტელექტი თითქმის მთლიანად არა გენიალურ, არამედ მოსაწყენ სამუშაოს მოხმარდებოდა.

შემდგომი პროგრესი შეიძლება ფიზიკური გაფართოების სიჩქარის ბუნებრივმა ზღვარმა შეაფერხოს. ვარსკვლავის ენერგიის შესაგროვებელი დანადგარების აგება მატერიალურ სამყაროში განსახორციელებელი პროექტია, როგორი სისწრაფითაც უნდა შედგეს გეგმა. მის მიღმა სხვა ვარსკვლავები და გალაქტიკებია, მანძილი კი, რამდენადაც ვიცით, თავად აწესებს შეზღუდვას: ვერც ხომალდი იმოძრავებს და ვერც სიგნალი დაბრუნდება სინათლეზე სწრაფად. გაფართოებაზე ორიენტირებული ცივილიზაცია ნელი ცივილიზაციაა. მის დიდ გარდაქმნებს შორის შეიძლება ათასწლეულები, შესაძლოა მილიონობით წელიც კი გავიდეს. ყოველი მომდევნო ნაბიჯი მეტ დროს მოითხოვს.

აგრარული და ინდუსტრიული რევოლუციები გაცილებით ხანგრძლივი, ბევრად უფრო ნელა განვითარებადი ისტორიის თავბრუდამხვევ დასაწყისად გამოჩნდებოდა.

სავსებით შესაძლებელია, მომავალში AI-სისტემებმა ადამიანებს აჯობონ როგორც მოწინავე იდეების შექმნაში, ისე ამ იდეების პრაქტიკულად გამოსაყენებლად საჭირო რესურსების კოორდინაციაში. თუმცა ეს შესაძლებლობა ადამიანის ცნობისმოყვარეობის მნიშვნელობას არ ამცირებს.

პირველ რიგში, შემეცნების ვალდებულება კვლავ გვაკისრია, თუნდაც მანქანები ამ საქმეში უკეთესები ჩანდნენ. შესაძლოა სამყაროში უკვე არსებობენ ჩვენზე გაცილებით ბრძენი მოაზროვნეები, რომლებმაც იციან პასუხები ჩვენთვის მიუწვდომელ მეცნიერულ და მორალურ კითხვებზე. ამის მიუხედავად, მაინც ვცდილობთ, სამყარო თავად გავიაზროთ. სხვა ინტელექტის გამოჩენა — თუნდაც ჩვენივე შექმნილის — ამას არ ცვლის. ვიდრე დანამდვილებით არ ვიცით, რომ კაცობრიობას აღარაფერი აქვს უნიკალური შესამატებელი, დანებებით ვკარგავთ ყველაფერს, რისი მიცემაც სამყაროსთვის მხოლოდ ჩვენ შეგვიძლია. ჩვენ კვლავ გვევალება კითხვების დასმა და პასუხების ძიება.

მეორე მხრივ, შეიძლება მოწინავე ინტელექტში შედარებითი უპირატესობა გვქონდეს ინსტიტუციურ ინტელექტთან მიმართებით. ეს ნიშნავს, რომ ორივეში ჩამორჩენის შემთხვევაშიც, პირველს შედარებით უკეთ ვუმკლავდებით და მასზე ვსპეციალიზდებით. ადამიანები რუტინულ საქმიანობას შემოქმედებით შრომას ამჯობინებენ, რობოტები კი ასეთ უპირატესობას არ გამოხატავენ.

მესამე მხრივ, მრავალფეროვნება ჩვენთვის ღირებულია. თუნდაც მანქანებს ადამიანური აზროვნების უმეტესი ნაწილის მიბაძვა შეეძლოთ, თუ გარკვეულ უნიკალურობას შევინარჩუნებთ, შემოქმედებით მრავალფეროვნებას მაინც შევიტანთ. მანქანური ინტელექტის დიდი ნაწილი საკუთარ, თვითუზრუნველყოფად სისტემაში დარჩებოდა, მცირე ნაწილს კი ჩვენი შემოქმედებითი ჩანაფიქრების შესასრულებლად გამოვიყენებდით. ეს მთლიანობის უმცირესი ნაწილი იქნებოდა, მაგრამ ჩვენი მასშტაბისთვის — ფუფუნება, და ბევრად მეტი, ვიდრე დღეს ხელთ არსებული რესურსებია.

გამომგონებლობა იზოლაციაში არ არსებობს. მას სამყარო სჭირდება, გენიალურობას კი — მშენებლები, რომლებიც მის შემოქმედებით ხედვას განახორციელებენ.

დღეს ადამიანური ინტელექტის დიდი ნაწილი იდეების რეალობად ქცევის დაუფასებელ შრომას ხმარდება. მანქანურ გონებასაც იგივე დამოკიდებულება გადაეცემა. ყველა მათგანი გამორჩეული მოაზროვნე ვერ იქნება. ბიუროკრატებიც უნდა იყვნენ.

ჩვენი მომავალი ისტორია და მისი წინსვლის ტემპი იმაზეა დამოკიდებული, დიდ მოაზროვნეებს სამყაროს მეტი რესურსი დასჭირდებათ თუ ნაკლებით მეტის გაკეთებას შეძლებენ.