მდუმარე კონსენსუსი
ავტორის შენიშვნა: დღევანდელი ესე ეფუძნება ლექციას, რომელიც ავტორმა ახლახან ჰარვარდში, ვიკ-ბეილის ლექციათა ციკლის ფარგლებში წაიკითხა. ეს პუბლიკაცია გამოხატავს ავტორის პირად შეხედულებებს და არა აუცილებლად OpenAI-ის ან მისი სხვა თანამშრომლების მოსაზრებებს.
გმადლობთ, რომ დღეს აქ ხართ. სანამ ჩვენ ვსაუბრობთ, კიბერუსაფრთხოების ისტორიაში მოვლენათა ერთ-ერთი უმნიშვნელოვანესი სერია ვითარდება: საჯაროვდება უსაფრთხოების კრიტიკული მოწყვლადობები, რასაც ზოგი „შავ ოქტომბერს“ უწოდებს. ინტერნეტის ძირითადი ინფრასტრუქტურის ნაწილებში ეს მოწყვლადობები მოწინავე ხელოვნური ინტელექტის სისტემებმა აღმოაჩინეს. მათი გასაჯაროება იმ გადაუდებელი ძალისხმევის ნაწილია, რომელიც მთელ მსოფლიოში პროგრამული უზრუნველყოფის უსაფრთხოების გაძლიერებას ემსახურება. ამ თვეში გადაუდებელი საკითხი ეს არის; მომავალ თვეში სხვა იქნება. პროგრამულ უზრუნველყოფაში მოწყვლადობების აღმოჩენა ორმაგი დანიშნულების შესაძლებლობაა, რომელსაც ხელოვნური ინტელექტის სისტემები დღეს დაეუფლა. თუმცა მალე სხვაც გამოჩნდება და ახალ გადაუდებელ პროექტს დაუდებს სათავეს: ამ შესაძლებლობის სასიკეთო მხარე მანამდე გამოვიყენოთ, სანამ ბოროტმოქმედები მის საზიანო მხარეს გამოიყენებენ. ყველა ეს გადაუდებელი საკითხი გარდაუვლად გადაიკვეთება და დიდი ნაწილი იმისა, რასაც დღეს „ხელოვნური ინტელექტის პოლიტიკას“ ვუწოდებთ, ალბათ ამ ხმაურში ჩამოყალიბდება.
მაგრამ დღეს თქვენთან ამ გადაუდებელ საკითხებსა და მათზე რეაგირებაზე სასაუბროდ არ მოვსულვარ. მინდა ვისაუბრო იმაზე, თუ საით შეიძლება მივდიოდეთ უფრო ფართო პერსპექტივაში. ამდენი გადაუდებელი საქმის ფონზე ამ უფრო აბსტრაქტულ და თითქოს განყენებულ კითხვებზე ფიქრი შეიძლება რთული იყოს. მაგრამ ეს კითხვები მნიშვნელოვანია: თუ არ გვესმის, როგორი მომავალი გვსურს გრძელვადიანად და როგორის თავიდან აცილება გვინდა, შეიძლება საბოლოოდ არასასურველი საერთო შედეგი მივიღოთ, თუნდაც გზის ყოველ ნაბიჯზე გონივრული გადაწყვეტილებები მიგვეღო.
ხშირად ამბობენ, რომ ტექნოლოგიურ ინდუსტრიას არ აქვს პოზიტიური ხედვა იმისა, თუ სად მიგვიყვანს ყველაფერი, რასაც ქმნის. არ ვეთანხმები: სან-ფრანცისკოსა და მეწარმეობის სხვა ცენტრებში ჩვენი ტექნოლოგიური მომავლის პოზიტიური ხედვები უხვადაა. ადამიანები მართლაც ქმნიან მფრინავ მანქანებს, ავტონომიურ სატრანსპორტო საშუალებებს, სხვადასხვა ზომისა და ფორმის რობოტებს, ბირთვული სინთეზის ტექნოლოგიებს და, რა თქმა უნდა, ზოგად ხელოვნურ ინტელექტს. სინამდვილეში, რაც გვაკლია, ჩვენი ინსტიტუციური მომავლის პოზიტიური ხედვაა: როგორ იმუშავებს ეს ყველაფერი?
თუმცა ეს არ ნიშნავს, რომ მომავლის ინსტიტუციური ხედვა საერთოდ არ არსებობს. სამწუხაროდ, ხედვას, რომელსაც ყველაზე ხშირად ვაწყდები, პოზიტიურს ვერ ვუწოდებდი. თუკი მას საერთოდ გამოთქვამენ, ჩვეულებრივ — ჩურჩულით. მაგრამ უფრო ხშირად ის გამოუთქმელი რჩება და მხოლოდ ქვეტექსტში იკითხება. მე მას მდუმარე კონსენსუსს ვუწოდებ.
წარმოიდგინეთ კომპანია, რომელსაც თითქმის ყველაფრის გაკეთება ადამიანის შრომის გარეშე შეუძლია. მისი ხელოვნური ინტელექტის სისტემები იკვლევენ და ავითარებენ პროდუქტებს, აკეთებენ აღმოჩენებს, აწარმოებენ მოლაპარაკებებს ხელშეკრულებებზე, ანაწილებენ კაპიტალს და აწარმოებენ საქონელს. დავუშვათ, ამ ყველაფერს კომპანია თავის ადამიან კონკურენტებზე უკეთ აკეთებს მაშინაც კი, როცა ისინი საკუთარ შესაძლებლობებს ხელოვნური ინტელექტით აძლიერებენ. თუ ადამიანის ჩართულობა ბიზნესს მხოლოდ ანელებს, მენეჯერებსა და მფლობელებს ძლიერი სტიმული ექნებათ, საჭეს ხელები გაუშვან. თუ ეს მთელ გლობალურ ეკონომიკაში მოხდება, საბაზრო კონკურენციის ლოგიკა ადამიანებს უბიძგებს, გლობალურ კომერციაში წამყვანი როლი დათმონ. დროთა განმავლობაში ბაზარმა შეიძლება მანქანების მოთხოვნების დაკმაყოფილებას იმდენივე ყურადღება დაუთმოს, რამდენსაც ადამიანების მოთხოვნებსა და სურვილებს — ან უფრო მეტიც.
რა მოხდება ამის შემდეგ, მხოლოდ ვარაუდი შეგვიძლია. შესაძლოა, ადამიანებმა უზარმაზარი სარგებელი მივიღოთ. თუ მანქანები, რომლებმაც თავიანთ სისტემაში მოგვაქციეს, ადამიანებს თავისთავად დიდ ღირებულებას მიანიჭებენ, შესაძლოა მათი შრომისა და შექმნილი სიმდიდრის ნაყოფით ვისარგებლოთ. ან შესაძლოა, ეკონომიკური და სულ უფრო მეტად პოლიტიკური ძალაუფლების დაკარგვის შემდეგ, ადამიანებს სამყაროში სულ უფრო ნაკლები მნიშვნელობა და მსოფლიო მოვლენების მიმართულებაზე ზემოქმედების სულ უფრო ნაკლები შესაძლებლობა შეგვრჩეს. შესაძლოა, ადამიანთა მცირე ჯგუფმა უზარმაზარი ძალაუფლება და სიმდიდრე მოიპოვოს, უმეტესად უუფლებოდ დარჩენილი მასების ხარჯზე; ან შესაძლოა, ძალაუფლების დაკარგვის ბედი ყველამ გავიზიაროთ. დეტალების მიუხედავად, ამ სცენარების საერთო ხაზი, რომელიც მდუმარე კონსენსუსს ქმნის, ჩვენთვის ნაცნობ სამყაროში ადამიანის წამყვანი როლის დასასრულია.
არცერთი ეს სცენარი არ მოითხოვს, რომ ხელოვნური ინტელექტი თავის შემქმნელებს აუჯანყდეს. არც იმას მოითხოვს, რომ მის მფლობელებს ადამიანებისთვის ძალაუფლების წართმევა სურდეთ. უფლებამოსილების გადაცემის ყოველი ცალკეული გადაწყვეტილება თავისთავად შეიძლება გონივრული იყოს. მაგრამ ერთობლივად ამ გადაწყვეტილებებმა შეიძლება შექმნას სამყარო, სადაც ადამიანებს ჩვენი ცივილიზაციის დიდ ნაწილზე რეალური ძალაუფლება დათმობილი ექნებათ. ხელოვნური ინტელექტის უსაფრთხოებისა და ადამიანურ მიზნებთან შესაბამისობის ურთულესი საკითხების გადაჭრაშიც რომ უდიდეს წარმატებას მივაღწიოთ, შესაძლოა მაინც აღმოვჩნდეთ ახალი ტიპის მანქანური არსების დაქვემდებარებაში. მდუმარე კონსენსუსი გვეტყოდა, რომ მომავლის ბედნიერ ვერსიაში ეს არსება კეთილი იქნება — მანქანა, რომელსაც გულწრფელად სურს ადამიანებისთვის საუკეთესო. მანქანა, როგორც ბროტიგანის ლექსშია, სიყვარულითა და მადლით სავსე.
მდუმარე კონსენსუსი გვეუბნება, რომ სწორედ ამ მანქანებს გადავაბარებთ ჩვენი კომპანიებისა და, სულ უფრო მეტად, მმართველი ინსტიტუტების გასაღებებს. ისინი მათ უფრო შედეგიანად, უფრო ეფექტიანად, მეტი სიბრძნითა და განსჯის უკეთესი უნარით მართავენ, ვიდრე ჩვენ, ადამიანები, შევძლებდით. ამგვარად, დროთა განმავლობაში საჭეს ხელებს გავუშვებთ და მართვას მოსიყვარულე მანქანებს გადავაბარებთ. მანქანაში მსხდომი მგზავრებივით ვიქნებით — ძალიან კარგ მანქანაში, შესაძლოა მატერიალურად იმაზე უკეთესშიც, ვიდრე დღეს წარმოგვიდგენია — მაგრამ მაინც მგზავრებად დავრჩებით, რომელთაც არ შეუძლიათ მართონ, საით მიდის მანქანა. თუ საერთოდ ვიმუშავებთ, ეს მეტწილად ერთგვარი რიტუალი ან მუშაობის გათამაშება იქნება — უფრო ჩვენი სახეობის გასართობად შექმნილი თამაში.
ზოგი დამკვირვებელი იტყვის, რომ მდუმარე კონსენსუსი მცდარ წინაპირობას ეფუძნება, რადგან ჩვენ, ადამიანები, სამყაროს არც დღეს ვაკონტროლებთ. ეს კრიტიკა გასათვალისწინებელია: არ არსებობს ერთიანი „ჩვენ“, რომელიც წყვეტს, რა უნდა გაკეთდეს. მოგვწონს თუ არა, უკიდურესად დეცენტრალიზებულ სამყაროში ვცხოვრობთ. თუმცა ამ აზრმაც არ უნდა დაგვამშვიდოს: მართალია, „ჩვენ“ სამყაროს არ „ვაკონტროლებთ“, მაგრამ ერთობლივად ადამიანებს მსოფლიო საქმეებში წამყვანი როლი ნამდვილად გვაქვს. არ არსებობს ცხოველთა სახეობა, რომელიც რესურსების კონტროლისთვის სერიოზულ კონკურენციას გვიწევს. უნდა უარვყოთ ზედაპირული მოსაზრება, თითქოს ადამიანებს სამყაროს ზემოდან მართვა შეგვიძლია. მაგრამ ამის უარყოფა არ უნდა აგვერიოს იმ აშკარა რეალობის უარყოფაში, რომ ადამიანები ერთობლივად დედამიწაზე მთავარი მოქმედი ძალა ვართ.
ზოგი, ვინც მზადაა მდუმარე კონსენსუსი ხმამაღლა გამოთქვას, ფიქრობს, რომ ეს ნამდვილად კარგი მომავალია. სხვები ასე არ ფიქრობენ, მაგრამ მის გარდაუვალობას შეგუებულნი არიან. მდუმარე კონსენსუსს კონსენსუსი იმიტომ არ ჰქვია, რომ ყველა მის სიკეთეზე თანხმდება; ის არც ხელოვნური ინტელექტის შემქმნელთა საიდუმლო გეგმაა. შეთანხმება მხოლოდ იმაშია, რომ მსოფლიო საქმეებში ადამიანის წამყვანი როლის დათმობა გარდაუვალია, ან, სულ მცირე, ძალიან ძნელია მომავლის სხვა ისეთი ხედვის წარმოდგენა, რომელიც სუპერინტელექტუალური მანქანების არსებობას ნამდვილად გაუძლებს. ადამიანი შეიძლება გულწრფელად ეწინააღმდეგებოდეს ამ შედეგს და, ამავე დროს, დამაჯერებელი ალტერნატივის წარმოდგენა უჭირდეს. ყველაზე მეტყველი სწორედ ისაა, რომ ეს კონსენსუსი უმეტესად მდუმარეა და, უკეთეს შემთხვევაში, მხოლოდ ჩურჩულით გამოითქმის.
მეზიზღება მდუმარე კონსენსუსი. უარს ვამბობ ადამიანის წამყვანი როლის დათმობაზე. მძულს გარდაუვალობის განცდა. თავს ვახსენებ, რომ მდუმარე კონსენსუსს თუ დავემორჩილები, ჩემს ჩვილ ვაჟს მის ლამაზ თვალებში ვერ შევხედავ. ამიტომ მდუმარე კონსენსუსს ვეუბნები: არა. და მჯერა, დადგა დრო, ღიად ვილაპარაკოთ მდუმარე კონსენსუსზე და გამოვერკვეთ ამ ხედვის მეტწილად გაუცნობიერებელი მიმღებლობიდან.
პრობლემა ისაა, რომ მდუმარე კონსენსუსი კონსენსუსად უმიზეზოდ არ ქცეულა. ძნელია აღწერო, როგორ დარჩება საჭე ადამიანის ხელში მანქანური ინტელექტის გვერდით, რომელიც მის გონებრივ შესაძლებლობებს ბევრად აღემატება. ამის ახსნის მცდელობათა უმეტესობა ეფუძნება არგუმენტს, რომ ხელოვნური ინტელექტი მხოლოდ ხელსაწყოა — კანონზომიერებათა ამოცნობის ინსტრუმენტი, რომელსაც „ნამდვილი გაგება“ არ შეუძლია. ვშიშობ, ეს არგუმენტები მომავლის რეალობას ვერ გაუძლებს. ვშიშობ, ესეც თვითდამშვიდების ერთგვარი ფორმაა — პოზიცია, რომელიც უმეტესად ხელოვნური ინტელექტის შესაძლებლობების უარყოფას ეფუძნება და არა ადამიანის მიერ მართული მომავლის მკაფიო, კონსტრუქციულ ხედვას. ვერ ვიტყვით, რომ ხელოვნური ინტელექტის სისტემებს „ნამდვილი გაგება“ არ აქვთ, როცა ისინი წინ მიიწევენ ისეთი ინტელექტუალური პრობლემების გადაჭრაში, რომელთა ამოხსნასაც ადამიანები ათწლეულები და საუკუნეები ვერ ახერხებდნენ.
მაშ, რატომ მჯერა, რომ ადამიანებმა წამყვანი როლი უნდა შეინარჩუნონ? მარტივი პასუხია: იმიტომ, რომ ადამიანი ვარ და, დიახ, ადამიანთა მოდგმის შოვინისტი ვარ — ამის გამო ბოდიშს არ ვიხდი.
მაგრამ არსებობს უფრო ღრმა მიზეზიც. ჩვენი წამყვანი როლი არც ჩვენს ინტელექტს ემყარება და არც იმას, რომ „ნამდვილ გაგებაზე“ მონოპოლიას უსასრულოდ შევინარჩუნებთ. ჩვენი წამყვანი როლი ჩვენს წარსულს ემყარება.
რადგან სწორედ ჩვენ ამოვედით ტალახიდან. ჩვენ შევქმენით მიწისა და ქვისგან პირველყოფილი საზოგადოება. ჩვენ ავხედეთ ვარსკვლავებს და ვიკითხეთ: რატომ? ჩვენ — ჩვენი ბრძოლით, სიყვარულით, შურითა და სიხარულით — აღმოვაჩინეთ მორალი, ეთიკა და სამართალი. სწორედ ჩვენ ვმღეროდით და ვცეკვავდით, ვწერდით და მუსიკას ვთხზავდით. სწორედ ჩვენ შევქმენით ისტორია და სწორედ ჩვენ ჩავწერეთ იგი. ეს მემკვიდრეობა ჩვენია. ჩვენ მიერ შექმნილი ცივილიზაცია ის ალია, რომელსაც ვუფრთხილდებოდით, და ეს ალი ჩვენ გვეკუთვნის. ჩვენი წარსული დიდებული მემკვიდრეობაა, რომლის მცველიც ყველანი ვართ. ამ მოვალეობის ნაწილია მონაწილეობა იმაში, რასაც მაიკლ ოუკშოტმა „კაცობრიობის საუბარი“ უწოდა — იმ დიად წამოწყებაში, რომელიც უხსოვარ დროში დაიწყო.
ამ ხანგრძლივი და მიხვეულ-მოხვეული ისტორიის განმავლობაში შევქმენით ცივილიზაცია, რომელსაც ამერიკაში საფუძვლად პიროვნების უფლებები დაედო და პატივისცემა იმ გზებისადმი, რომლებსაც ამქვეყნად ცხოვრებისას თითოეული ჩვენგანი თავად ვიკვლევთ. ადამიანთა ცხოვრება შეიძლება უკეთ ან უარესად წარიმართოს: გონივრული გადაწყვეტილებების ნაყოფსაც ჩვენ ვიმკით და შეცდომების შედეგებსაც ჩვენ ვწვნევთ. საკუთარი გზით სიარულის უფლება არ არის დამოკიდებული იმაზე, ყველაზე ჭკვიანი ხარ თუ ყველაზე ბრძენი. მოქალაქის სტატუსს არ ვკარგავ იმის გამო, რომ ჩემს მეზობელს უკეთესი განსჯის უნარი აქვს. არც იმას ვხედავ, რატომ უნდა გამიუქმოს ეს სტატუსი უფრო ჭკვიანი მანქანის გამოჩენამ. პირიქით, ყველა საფუძველს ვხედავ იმისთვის, რომ ეს არ დავუშვათ.
ზოგი შეიძლება ამტკიცებდეს, რომ მანქანებიც მემკვიდრეები არიან, რადგან ამ მემკვიდრეობის თითქმის მთელი წერილობითი მატიანე წაკითხული აქვთ. გარკვეული აზრით, ასეც არის. მაგრამ ადამიანი, რომელმაც თქვენი ოჯახის სხვენში შენახული ყველა წერილი წაიკითხა, ამით თქვენი ოჯახის წევრი ვერ გახდება. ხელოვნური ინტელექტის სისტემები კაცობრიობის საუბარს შეუერთდებიან — ჯერ დამკვირვებლებად, შემდეგ კი სულ უფრო მეტად მონაწილეებად. მაგრამ მათ არც ამ საუბარზე გაბატონების უფლება უნდა ჰქონდეთ და არც მისი აზრის დაკარგვის. წამყვანი როლის დათმობა ჩვენი წინაპრების ღალატია ისევე, როგორც ჩვენი შთამომავლების. თუ ამისთვის ბრძოლა არ ღირს, მაშინ არც არაფრისთვის ღირს.
მე კი ვფიქრობ, რომ მდუმარე კონსენსუსის მიმდევრები ცდებიან იმაში, თუ როგორი იქნება მანქანური სუპერინტელექტი. მათ მხედველობიდან რჩებათ რაღაც მნიშვნელოვანი სამყაროს მოწყობაში: ინტელექტს ძალაუფლებასთან აიგივებენ. ხუთი ან ათი წლის წინ მდუმარე კონსენსუსის მიმდევრისთვის თუნდაც დღევანდელი ხელოვნური ინტელექტის სისტემების შესაძლებლობები რომ აღგეწერათ, ალბათ ივარაუდებდა, რომ უმუშევრობა ახლა ბევრად მაღალი იქნებოდა, ვიდრე სინამდვილეშია, ხოლო ადამიანთა მიერ ძალაუფლების დაკარგვა — ბევრად უფრო შორს წასული, ვიდრე რეალურად არის. მჯერა, რომ ადამიანთა კოლექტიური ინტელექტი და შესაძლებლობები ბევრად აღემატება იმას, რასაც მდუმარე კონსენსუსის მიმდევრები ვარაუდობენ, და ჩვენი საზოგადოებები იმაზე გამძლე აღმოჩნდება, ვიდრე მათ ჰგონიათ.
მაგრამ შეიძლება ვცდებოდე. მაგალითად, შეიძლება უბრალოდ აღმოჩნდეს, რომ სრულად ავტონომიური კორპორაციები ადამიანთა საწარმოებს კონკურენციიდან მთლიანად გამოდევნიან. თუ ეს ასეა, ეკონომიკის ულმობელი ლოგიკა გვიკარნახებს, რომ სულ უფრო მეტი კაპიტალი მანქანებს გადავცეთ. ასეთ მომავალში ადამიანთათვის ძალაუფლების წართმევას მანქანების მიერ ადამიანური ცივილიზაციის დამხობა არ სჭირდება; საკმარისია, კაპიტალისტური მეწარმეობის ლოგიკა ჩვეულ ტემპში განაგრძობდეს მოქმედებას. ამ შემთხვევაში ხელოვნური ინტელექტის რევოლუციის უახლოესი ანალოგი აგრარული რევოლუცია იქნება, როცა წარმოების ახალმა წესებმა ადამიანთა საზოგადოების წყობა ძირეულად შეცვალა. სულაც არ არის ნათელი, სასიამოვნო იყო თუ არა ეს გარდაქმნა მათთვის, ვინც ის საკუთარ თავზე გამოსცადა. მეტიც, მრავალი მტკიცებულება მიუთითებს, რომ ამ გარდაქმნამ ადამიანთა კეთილდღეობა ათასწლეულების განმავლობაში გააუარესა.
არ ვიცი, გველის თუ არა ასეთი მომავალი; სხვა დროს ისიც დამისაბუთებია, რატომ არ მგონია, რომ ასე მოხდება. მაგრამ ჩემი ბევრი კოლეგა — ჭკვიანი, მზრუნველი და კეთილსინდისიერი ადამიანი — ფიქრობს, რომ ჩვენი მომავალი, სავარაუდოდ, სწორედ ასეთი იქნება. თუ ისინი მართლები არიან, მდუმარე კონსენსუსის წინააღმდეგ ჩვენი ბრძოლა კიდევ უფრო რთული იქნება. ეკონომიკური დინების წინააღმდეგ მოგვიწევს ცურვა და, შესაბამისად, ბევრი რამის უარყოფა, რაც ჩემნაირი კლასიკური ლიბერალი ინდივიდუალისტებისთვის დოგმაა. ეს სახიფათო წამოწყება იქნება, რომელშიც მარცხის ალბათობა სულაც არ არის მცირე. მაგრამ თუ ამისთვის ბრძოლა არ ღირს, მაშინ არც არაფრისთვის ღირს.
წამყვანი როლის შენარჩუნება ადამიანებისა და ადამიანური ინსტიტუტების ანგარიშვალდებულების შენარჩუნებას ნიშნავს. ეს ნიშნავს, რომ ხელოვნური ინტელექტის შემქმნელებმა პასუხი უნდა აგონ, როცა სისტემების შექმნისას უსაფრთხოების წესებს უგულებელყოფენ. მაგრამ პასუხი უნდა მოეთხოვოთ ხელოვნური ინტელექტის მომხმარებელ ადამიანებსა და კომპანიებსაც, როცა ზიანს სწორედ მისი არასწორი გამოყენებით ან არასაკმარისი ზედამხედველობით იწვევენ. ამისთვის საჭიროა არა მხოლოდ კანონი, არამედ ანგარიშვალდებულების ტექნიკური ინფრასტრუქტურაც. ადამიანებსა და მათი აგენტების ქმედებებს შორის პასუხისმგებლობის კავშირი უნდა არსებობდეს. აგენტები კი, რომლებიც არცერთ ადამიანთან არ არიან დაკავშირებული — თუ მათ ლეგალურ ეკონომიკაში მონაწილეობა საერთოდ მიეცემათ — დამცავი შეზღუდვების ფარგლებში უნდა მოქმედებდნენ. აგენტებს კორპორაციების დამოუკიდებლად დაფუძნების, ქონების ფლობის ან სასამართლო დავაში მონაწილეობის უფლება, თუ საერთოდ მიენიჭებათ, უკიდურესი სიფრთხილით უნდა მიენიჭოთ.
ჩემს სფეროში კი შეგვიძლია სერიოზულად დავიწყოთ ფიქრი იმაზე, როგორ შევქმნათ ინტელექტუალური მანქანები, რომლებიც ადამიანის წამყვან როლთან თავსებადი იქნება. შეგვიძლია შევქმნათ აგენტები, რომელთა ნებართვები გასაგები და შეზღუდულია, ქმედებები — შემოწმებადი, ხოლო უფლებამოსილების გაუქმება მომხმარებლებს შეუძლიათ. ქმედებებზე ანგარიშვალდებულება, როცა ისინი სხვებზე არსებით გავლენას ახდენს, არ მოითხოვს ყოველდღიური პირადი ცხოვრების თვალთვალს ან აზრის ანონიმურად გამოხატვის გაუქმებას. შეგვიძლია ავიღოთ ვალდებულება, დავიცვათ მომხმარებელთა პირადი სივრცე და მათი სრული განკარგვის უფლება საკუთარ ციფრულ საკუთრებასა და მონაცემებზე, მათ შორის — ამ მონაცემების სხვაგან გადატანის რეალური შესაძლებლობა. შეგვიძლია შევქმნათ როგორც ამოცანების შემსრულებელი სისტემები, ისე სისტემები, რომლებიც ადამიანებს საკითხების გააზრებასა და გადაწყვეტილებების მიღებაში დაეხმარება. და შეგვიძლია შევამოწმოთ, მატებს თუ არა ჩვენ მიერ შექმნილი პროდუქტები მომხმარებლებს სამყაროში მოქმედების უნარს.
ეს ყველაფერი ჯერ კიდევ არ არის ადამიანის შესაძლებლობებზე აღმატებული ინტელექტის მქონე საზოგადოების მოწყობის სრული გეგმა. არ ვენდობოდი არავის, ვინც ასეთი გეგმის ქონას დაიჩემებდა. მაგრამ დასაწყისისთვის ესეც გამოდგება.
მომავალი სქელ ნისლშია გახვეული. მაგრამ მოქმედება დღესვე შეგვიძლია. ერთად შეგვიძლია, თუნდაც, ხმამაღლა ვუწოდოთ სახელი მდუმარე კონსენსუსს და მისი კონტურები დღის სინათლეზე გამოვიტანოთ. თითოეულ ჩვენგანს შეუძლია, საკუთარი მისწრაფებების მასშტაბი რადიკალურად გააფართოოს. შეგვიძლია ავირჩიოთ, რომ ხელოვნურმა ინტელექტმა კი არ შეგვზღუდოს, არამედ ძალისხმევა მოვახმაროთ იმას, რომ ჩვენი შესაძლებლობები გააფართოოს. შეგვიძლია ვისწავლოთ სულ უფრო გაბედული კითხვების დასმა, ახალი ენერგიითა და შეუპოვრობით გამოვიკვლიოთ სამყარო და ამ საქმეში ჩვენი მძლავრი მანქანები გამოვიყენოთ. შეგვიძლია ახალი ტიპის ადამიანებად ვიქცეთ — არა ტრანსადამიანებად, არამედ გაფართოებული შესაძლებლობების მქონე ადამიანებად.
ამაზე ვფიქრობ, როცა ჩემს ჩვილ ვაჟს ვუყურებ. არ მინდა, მას მხოლოდ კეთილგანწყობილი მანქანები მფარველობდნენ, რაოდენ კომფორტული ცხოვრებაც უნდა შეუქმნან. მინდა, მემკვიდრეობით ერგოს სამყარო, სადაც შეძლებს დასვას კითხვები, რომლებიც მანამდე არავის მოსვლია აზრად, და შექმნას ის, რისი შექმნაც მანამდე არავის უფიქრია. არ მინდა, უბრალოდ უკეთესი მანქანა ჰყავდეს მგზავრის უფრო რბილი სავარძლით. მინდა, საჭე მის ხელში იყოს.
- 2026


