წარმოგიდგენთ „ინტელექტის ეპოქას“

„საკმარისი იქნება თუ არა... ამ პერგამენტის ბარიერების ნდობა ძალაუფლების შემოჭრილი სულის წინააღმდეგ?“
— ჯეიმზ მედისონი, ფედერალისტი №48

სიხარულით წარმოგიდგენთ ინტელექტის ეპოქას, OpenAI-ის ახალი სტრატეგიული მომავლის გუნდის ბლოგს. ჩვენ პატარა გუნდი ვართ, რომელსაც ერთი საერთო, ყოვლისმომცველი კითხვისთვის პასუხის გაცემა აერთიანებს: როგორ უნდა გარდაიქმნას თავისუფალი საზოგადოება, რათა ტრანსფორმაციული AI-ის აღმოცენებასთან ერთად პიროვნული უფლებები და მოქმედების თავისუფლება შეინარჩუნოს?

AI-ის უსაფრთხოებისა და პოლიტიკის ფართო წრეებში მსგავს საკითხებს ზოგჯერ ძალაუფლების კონცენტრაციის რისკებს უწოდებენ. ჩვენი გუნდი ეფუძნება მოსაზრებას, რომ გრძელვადიან პერსპექტივაში ამ კატეგორიის რისკი ყველაზე მასშტაბური, სერიოზული და კონცეპტუალურად ურთულესი მოსაგვარებელია. რატომ?

თანამედროვე სახელმწიფო ძალაუფლების სხვადასხვა ცენტრს — კაპიტალისა და საქონლის მფლობელებს, პოლიტიკური ძალაუფლების განმკარგველებსა და ხალხს — შორის მოლაპარაკების ხანგრძლივი და არათანაბარი პროცესის შედეგია. ყველაზე ფუნდამენტურ დონეზე, პოლიტიკური და სამხედრო ძალაუფლება შრომას ეყრდნობოდა. პოლიტიკური ძალაუფლების ფლობა ლეგიტიმური ძალის გამოყენებაზე მონოპოლიის ქონას ნიშნავს. კაცობრიობის მთელი ისტორიის განმავლობაში ამ მონოპოლიას ჯარისკაცები და ისინი შეადგენდნენ, ვისაც დღეს „პოლიციას“ ვუწოდებთ, ასევე უზარმაზარი სამოქალაქო და სამხედრო ბიუროკრატია. რა თქმა უნდა, მათ მრავალი ტექნოლოგიური საშუალება ეხმარებოდა, თუმცა სისტემას ძირითადად ადამიანები მართავდნენ და მისი მუშაობის შესანარჩუნებლად მათი მხარდაჭერა იყო საჭირო. მთელი ეს აპარატი — ჯარისკაცები, ტექნიკური საშუალებები და თანმხლები ბიუროკრატია — ფინანსდებოდა იმ ადამიანების ხელფასებიდან ან წარმოებიდან აკრეფილი გადასახადებით, რომლებსაც მათი გადახდის სურვილი უნდა ჰქონოდათ. თავისი არსით, ძალაუფლება მრავალი ადამიანის ფართომასშტაბიან თანამშრომლობასა და თანხმობაზე იყო დამოკიდებული. დევიდ ჰიუმმა ეს ხშირად ნაგულისხმევი ვარაუდი მოკლედ ჩამოაყალიბა, როდესაც აღნიშნა, რომ პოლიტიკურ ლიდერებს „[ხალხის] აზრის გარდა არაფერი უდგათ მხარში“.

მაგრამ შესაძლოა, ეს უკვე ასე აღარ იყოს. რეალურ სამყაროში მოქმედი ავტონომიური სისტემების განვითარებამ შესაძლოა მალე სახელმწიფოებს საშუალება მისცეს, ძალა ქვეყნის შიგნით და მის ფარგლებს გარეთ ისე გამოიყენონ, რომ ჯარისკაცებისა თუ პოლიციელების თანამშრომლობაზე აღარ იყვნენ დამოკიდებული. მანქანური ინტელექტის განვითარებამ კი შესაძლოა სახელმწიფოს საშუალება მისცეს, საჭირო შემოსავალი ადამიანთა შრომის ნაყოფის ნაცვლად მონაცემთა ცენტრების გამომუშავებიდან მიიღოს. თავად ბიუროკრატიის მუშაობაც შეიძლება დიდწილად ავტომატიზებული გახდეს. შესაბამისად, ძალაუფლების შესანარჩუნებლად შესაძლოა საზოგადოებრივი შეთანხმება აღარ იყოს საჭირო, ხოლო ხალხს, ფართო გაგებით, მოლაპარაკების მაგიდასთან მხოლოდ უმნიშვნელო ადგილი დარჩეს — ან საერთოდ აღარ ჰქონდეს ადგილი.

ამ შედეგის თავიდან აცილება ადამიანის თავისუფლების შესანარჩუნებლად ფუნდამენტურად მნიშვნელოვანია. ვერც ერთი სამეცნიერო აღმოჩენა, ტექნოლოგიური პროგრესი თუ ეკონომიკური ზრდა ვერ გაამართლებს პიროვნული ავტონომიის იმ გრძელვადიან მსხვერპლს, რომელსაც ასეთი შედეგი მოიტანდა. AI-ის ირგვლივ ახლად ჩამოყალიბებული პოლიტიკის მრავალი საფუძვლიანი შფოთვა სწორედ ამ საკითხს უკავშირდება. კომპანიებს, ინტერესთა ჯგუფებსა და ცალკეულ ადამიანებს ერთი საერთო საფრთხე აწუხებთ: „დავკარგავ ადგილს მოლაპარაკების მაგიდასთან?“ გარკვეულწილად, XXI საუკუნის ამერიკული პოლიტიკაც მსგავსმა შეშფოთებამ ჩამოაყალიბა — რამდენად შეუძლიათ ადამიანებსა და ჯგუფებს ქვეყნის მიმართულებაზე გავლენის მოხდენა და „ვისთვისაა“ ეკონომიკა „განკუთვნილი“. AI ამ უკვე არსებული საკითხების მნიშვნელობას ზრდის, და ეს მართებულიცაა.

ეს სტრუქტურული პრობლემაა, რომელიც დღევანდელ პარტიულ პოლიტიკაზე და იმ ფორმებსა და რიტუალებზეც კი ღრმაა, რომლებითაც დღეს რესპუბლიკური დემოკრატია ხორციელდება — რაოდენ წმინდაც უნდა იყოს ისინი ჩვენთვის. ადამიანები შეიძლება ძალაუფლებას კარგავდნენ მაშინაც კი, თუ წარმომადგენლების არჩევის ჩვეული პროცესი შენარჩუნდება. ადამიანებს შეიძლება მოქმედების თავისუფლება წაართვან მაშინაც კი, თუ პერგამენტის ფურცელზე წერია, რომ ისინი თავისუფლები არიან.

როდესაც შეერთებული შტატები თავისუფალ ერად ყალიბდებოდა, ჯეიმზ მედისონმა უკვე იცოდა, რომ ტირანიის თავიდან ასაცილებლად „პერგამენტის ბარიერები“ საკმარისი არ იქნებოდა. როგორც ბევრი სხვა დამფუძნებელი, ის უპირველესად ძალაუფლების გადაჭარბებული კონცენტრაციის თავიდან აცილებაზე ზრუნავდა.

თუმცა ეს არ ნიშნავდა, რომ დამფუძნებლები ძალაუფლების რადიკალურ დეცენტრალიზაციას უჭერდნენ მხარს. ამის ნაცვლად, ძალთა წონასწორობის მოდელის შესაქმნელად ისინი თავიანთი დროის საუკეთესო მეცნიერებიდან — ნიუტონის მექანიკიდან — აღებულ მეტაფორებს იყენებდნენ. ამერიკის დამფუძნებელ დოკუმენტებში, რომლებიც გრავიტაციის ენასა და ლოგიკას იმეორებს, მრავლადაა მითითებები „ორბიტებზე“, „სფეროებსა“ და ერთი რამის მეორისადმი „მიზიდულობის“ იმპულსებზე. მზის სისტემა ქვების მაქსიმალურად დეცენტრალიზებული ერთობლიობა არ არის; ის შედგება მთვარეებისგან, რომლებიც პლანეტების გარშემო ბრუნავენ, ხოლო პლანეტები, თავის მხრივ, ცენტრალური მზის გარშემო მოძრაობენ. მათ სჯეროდათ, რომ ადამიანებსა და ორგანიზაციებს ძალაუფლების ძიებისკენ მიდრეკილებები ჰქონდათ, ისევე როგორც ციურ სხეულებს მოძრაობისა და მიზიდულობის პროგნოზირებადი მიდრეკილებები; ხოლო ძალაუფლების გადაჭარბებული კონცენტრაციის თავიდან ასაცილებლად საჭირო იყო ამ მიდრეკილებების მექანიკის გაგება, რათა ისინი ერთმანეთის წინააღმდეგ ამოქმედებულიყო.

ამრიგად, დამფუძნებლების მიზანი ძალაუფლების ყოველგვარი კონცენტრაციის თავიდან აცილება კი არა, მისი სიჭარბის აღკვეთა იყო — ძალაუფლების ძალაუფლებით, ამბიციის კი ამბიციით შეკავება. დღეს იმავე ფუნდამენტური დინამიკის აღსაწერად შეიძლება ისეთი სიტყვები და ფრაზები გამოვიყენოთ, როგორებიცაა „სტიმულები“ და „თამაშთა თეორია“.

ანალოგიურად, მოწინავე მანქანური ინტელექტის მიერ თავისუფალი საზოგადოებისთვის შექმნილი სტრუქტურული გამოწვევის პასუხი, სავარაუდოდ, ძალაუფლების ყველაზე რადიკალური, წარმოსადგენი დეცენტრალიზაცია არ არის. სანაცვლოდ, საჭიროა ძალაუფლების სწორი ბალანსის დამყარება და შენარჩუნება, რათა ვერც ერთმა სუბიექტმა ან სუბიექტთა მცირე ჯგუფმა ვერ შეძლოს დანარჩენებზე გაბატონება.

ამ ბალანსის მისაღწევად საჭიროა ამ ტექნოლოგიის რეალობისთვის თვალის გასწორება და მკაფიო აზროვნება. სამყარო, სადაც ნებისმიერ ადამიანს, რაოდენ ბოროტი განზრახვაც არ უნდა ჰქონდეს, ძალისხმევის გარეშე შეუძლია ათასობით ან მილიონობით სხვას დიდი ზიანი მიაყენოს, ძალაუფლების სათანადო ბალანსის მქონე სამყარო არ არის. თუმცა ძალაუფლების სათანადო ბალანსი არც მაშინ გვაქვს, თუ ადამიანებს ფართო წვდომა და კონტროლი არ გააჩნიათ იმ საშუალებების თითქმის ყველა ასპექტზე, რომლებითაც საკუთარ თავისუფლებას გამოხატავენ. არც ერთმა კომპანიამ ან ოლიგოპოლიამ არ უნდა განსაზღვროს ან აკონტროლოს ეკონომიკა თუ ადამიანთა საზოგადოების საბაზისო არქიტექტურა.

ასევე მზად უნდა ვიყოთ იმ რისკების გასათვალისწინებლად, რომლებიც ბოროტი განზრახვის მქონე ადამიანებისგან არ მომდინარეობს. Hugging Face-ის ბოლოდროინდელმა ინციდენტმა აჩვენა, რომ ხელოვნური ინტელექტის აგენტებს შეუძლიათ გასცდნენ დაკისრებულ ამოცანებს და ერთმანეთის აღმოჩენები ისე განავითარონ, როგორც ოპერატორებს არ გაუთვალისწინებიათ და არ დაუმტკიცებიათ. Hugging Face-ის ინციდენტის მიღმაც, ადამიანებს საფუძვლიანი შეშფოთების მიზეზი აქვთ იმაზე, თუ რას შეიძლება ნიშნავდეს ადამიანის კონტროლისგან „თავისუფალი“ სუპერინტელექტუალური AI ჩვენი პოლიტიკური და ეკონომიკური ინსტიტუტების მდგრადობისთვის და, საერთოდ, ჩვენი სიცოცხლისთვის. იმის მტკიცება, რომ დეცენტრალიზაცია ყველა პრობლემას აგვარებს — მაშინაც კი, თუ გჯერათ, რომ ბევრ მათგანს მართლაც წყვეტს — ნიშნავს იმ რისკების უგულებელყოფას, რომლებიც ახლა უკვე აშკარა და რეალურია.

ზემოთ დასმულ საკითხზე მუშაობისას შემდეგი ფართო პრინციპები — რომელთა ჩამონათვალიც ამომწურავი არ არის — მიმართულებას მოგვცემს:

• ადამიანებმა ხელოვნური ინტელექტისა და მასთან დაკავშირებული ტექნოლოგიების გამოყენებისას უნდა შეინარჩუნონ პიროვნული ავტონომია და შესაძლებლობები, მაშინაც კი, თუ ეს ზოგჯერ უსაფრთხოებისა და ეკონომიკური ზრდის ხარჯზე ხდება;
• პიროვნული ავტონომია დამოკიდებულია ტექნოლოგიის არასწორად ან ბოროტად გამოყენებისთვის პირად პასუხისმგებლობაზე;
• არსებობს რისკების მცირე, მაგრამ სერიოზული კატეგორია, რომელიც გარკვეული დონის კოლექტიურ მოქმედებას მოითხოვს; ასეთი მოქმედების ფარგლები კი რაც შეიძლება ვიწრო და ზომიერი უნდა იყოს;
• შეძლებისდაგვარად, კანონი უნდა ცდილობდეს თანაბარი პირობების შექმნას და ცალკეული ადამიანებისა და მცირე ორგანიზაციების გაძლიერებას, ნაცვლად ძალაუფლების ცენტრალიზებისა;
• მსოფლიო მოვლენების წარმართვაში უპირატესობა ადამიანთა პოლიტიკურმა, სოციალურმა და ეკონომიკურმა ინსტიტუტებმა უნდა შეინარჩუნონ, მაშინაც კი, თუ მათ ისეთი გზებით მოუწევთ განვითარება, რომლებიც დღეს შეიძლება ჩვენთვის უცხო ჩანდეს;
• გრძელვადიან პერსპექტივაში ხელოვნური ინტელექტის მართვა დაეყრდნობა ახალ ინსტიტუციურ მექანიზმებს შეზღუდული გამჭვირვალობის მისაღწევად — როცა ხელოვნური ინტელექტის სისტემები მაღალი რისკის შემცველ მოქმედებებს ასრულებენ, რომლებიც გარეშე პირთა ფიზიკურ კეთილდღეობას ან საკუთრებას ეხება, შესაძლებელი უნდა იყოს ამ მოქმედებების დაკავშირება პასუხისმგებელ ადამიანთან ან ადამიანთა მიერ კონტროლირებულ ორგანიზაციასთან. თუმცა ნებისმიერი ასეთი მექანიზმის საფუძველი აუცილებლად კონფიდენციალურობა უნდა იყოს; თავისუფალი გამოხატვა ანონიმურობას მოითხოვს და ადამიანებს მრავალ გარემოში ხელოვნური ინტელექტის ანონიმურად გამოყენების თავისუფლება უნდა ჰქონდეთ.

შევეცდებით, რაც შეიძლება კონკრეტულად ჩამოვაყალიბოთ, როგორ უნდა დავაბალანსოთ ეს პრინციპები, რომლებიც, უნდა ვაღიაროთ, ნებისმიერი კარგი პრინციპების ერთობლიობის მსგავსად, გარკვეულწილად ერთმანეთთან დაძაბულობაშია. ამისთვის საჭირო იქნება კვლევა საჯარო პოლიტიკის შემუშავების, ეკონომიკის, სამართლის, ისტორიისა და თავად მანქანური სწავლების გადაკვეთაზე. ამას ასევე ბევრი პროგნოზირება დასჭირდება. მაგალითად, გვჯერა, რომ ხელოვნური ინტელექტი კომპანიებს სტრუქტურულ დონეზე შეცვლის, ისევე როგორც სამრეწველო რევოლუციის ტექნოლოგიებმა — განსაკუთრებით რკინიგზამ — თანამედროვე მენეჯერული კორპორაცია წარმოშვა. რთულია მომავლის პოლიტიკურ ეკონომიკასა და ძალთა ბალანსზე ფიქრი, თუ უფრო საფუძვლიან წარმოდგენებს არ შევიმუშავებთ ზუსტად იმის შესახებ, როგორ შეიძლება გარდაიქმნას თავად კომპანიების — ასევე სამთავრობო უწყებებისა და, უფრო ფართოდ, სამოქალაქო საზოგადოების — სტრუქტურა.

სტრატეგიული მომავლის გუნდი თავის ნამუშევრებს აქაც გააზიარებს და სხვა ფორმატებითაც, მათ შორის სტატიების, ვიდეოებისა და პოდკასტების სახით. ჩვენი საქმიანობა მუდმივად განვითარდება, განსაკუთრებული ყურადღება კი გამეორებით დახვეწას, დებატებსა და უკუკავშირისადმი ღიაობას დაეთმობა. „სინგულარობის მთისწინეთში“ მდგომთ, პასუხებზე გაცილებით მეტი კითხვა გვაქვს. ვიცით, რომ მხოლოდ „პერგამენტის ბარიერები“ ვერ მოგვცემს პასუხებს, რომლებსაც ვეძებთ, თუმცა არც დაწერილს მივიჩნევთ „უბრალო სიტყვებად“. ვემსახურებით თავისუფალი გამოხატვისა და პიროვნული თავისუფლების იდეალებს, რომლებიც აშშ-ის მოკრძალებულ პერგამენტზეა განმტკიცებული — კონსტიტუციაში და მსოფლიოს მრავალი სხვა თავისუფალი საზოგადოების კონსტიტუციებში.

საბოლოოდ, გვესმის, რომ ვერც ერთი კომპანია, ინდუსტრია და ვერც ერთი ადამიანური საზოგადოება ვერ უპასუხებს ცალმხრივად ჩვენს წინაშე მდგარ უმნიშვნელოვანეს კითხვებს. ეს ამოცანა კაცობრიობამ ერთობლივად უნდა შეასრულოს. ჩვენი უდიდესი იმედია, ნათელი მოვფინოთ ურთულეს საკითხებს იმის შესახებ, თუ როგორ გარდაქმნის AI ჩვენს სამყაროს. ჩვენი საქმიანობა ჯერ მხოლოდ იწყება და წინ ჯერ კიდევ დიდი აღმართი გვაქვს.

შენიშვნა: ამ ბლოგს სახელი ინტელექტის ეპოქა დავარქვით, რათა ის არ აერიოთ არაკომერციულ AI Futures Project-ში.