სემ ოლტმენის გამოსვლა გაეროს უშიშროების საბჭოში
დღეს OpenAI-ის აღმასრულებელი დირექტორმა სემ ოლტმენმა გაეროს უშიშროების საბჭოს ხელოვნური ინტელექტის საკითხზე სიტყვით მიმართა. მან ისაუბრა ხელოვნური ინტელექტის შესაძლებლობაზე, გააფართოოს ადამიანთა პერსპექტივები, მძლავრი სისტემების ადამიანთა კონტროლის ქვეშ შენარჩუნების მნიშვნელობასა და ხელოვნური ინტელექტის უსაფრთხოების სფეროში საერთაშორისო თანამშრომლობის საჭიროებაზე.
გმადლობთ, ბატონო პრეზიდენტო და თქვენო აღმატებულებავ. ჩემთვის დიდი პატივია, ამ მნიშვნელოვან დროს აქ ყოფნა და თქვენთან საუბრის შესაძლებლობა.
ხელოვნურ ინტელექტზე წლებია ვსაუბრობთ, თუმცა ბოლო კვირებსა და თვეებში ვითარება განსხვავებულად აღიქმება. მოდელების სწრაფმა პროგრესმა დროის ჰორიზონტი შეამოკლა და შესაძლო სარგებელი უფრო ხელშესახები გახადა, თუმცა ამავდროულად ფსონები და რისკებიც უფრო უშუალო გახდა.
არჩევანის წინაშე ვდგავართ. ხელოვნურმა ინტელექტმა შეიძლება შემოქმედებისა და აღმოჩენების ახალი აღორძინება მოგვიტანოს ან გარდატეხებითა და ქაოსით სავსე ახალი ინდუსტრიული რევოლუცია გამოიწვიოს.
აღორძინება იყო ეპოქა, როდესაც ახალმა ხელსაწყოებმა, იდეებმა და ინსტიტუტებმა ადამიანებს საკუთარი შესაძლებლობების ახლებურად დანახვის საშუალება მისცა. ჩვენს ეპოქაში ეს როლი ხელოვნურ ინტელექტს შეუძლია შეასრულოს. მჯერა, რომ ადამიანები იმაზე ბევრად მეტის შემძლენი არიან, ვიდრე თავად ჰგონიათ, თუმცა მათ ზღუდავდა არასრულყოფილი ტექნოლოგია, რომელსაც შესაძლებლობები უნდა გაეზარდა, მაგრამ სანაცვლოდ ყურადღებას უფანტავს და ხშირად ართმევს კიდეც.
ხელოვნური ინტელექტის საუკეთესო ვერსია არ გულისხმობს ადამიანების გადაქცევას გიგანტური მანქანის ჭანჭიკებად ან ცხოვრების ყველა ნაწილის ისე ოპტიმიზაციას, რომ ადამიანური საწყისი გაქრეს. მისი მიზანია, სულ უფრო რთულ სამყაროში ადამიანებს მოქმედების მეტი თავისუფლება მისცეს: სწავლის, შექმნის, აღმოჩენის, აწყობისა და მონაწილეობის მეტი შესაძლებლობა. ბევრი რამ არსებობს, რისი ავტომატიზაციაც ხელოვნურ ინტელექტს არ შეუძლია და არც უნდა შეეძლოს.
ხელოვნური ინტელექტი ადამიანებისთვის უნდა შეიქმნას და არა მხოლოდ იმისთვის, რომ მანქანებმა საკუთარი მიზნებისთვის უფრო სწრაფად იმუშაოს. ხელოვნური ინტელექტის შექმნაზე მომუშავე ადამიანების ზოგიერთი განცხადება იმდენად დისტოპიურია, რომ ცუდი სამეცნიერო ფანტასტიკის ფილმის სიუჟეტს ჰგავს.
ასეთი მძლავრი რამ, ბუნებრივია, შიშსაც იწვევს. ეს რთული მომენტია, რადგან ერთდროულად ვგრძნობთ უზარმაზარ პოტენციალსა და სრულიად გასაგებ შფოთვას.
ამ მოდელებს შეუძლია ადამიანებს ახალი ცოდნის აღმოჩენაში დაეხმაროს: შექმნას ახალი წამლები, გააუმჯობესოს ჯანდაცვა და განათლება და ააწყოს უფრო პროდუქტიული ეკონომიკები. ისინი შეიძლება იქცეს ახალ ხელსაწყოებად, რომლებითაც ადამიანები დღეს მიუწვდომლად მიჩნეული ოცნებებისა და მიზნების მისაღწევად იღვწიან. ჩვეულებრივი ადამიანისთვის ცხოვრება საგრძნობლად გართულდა. ხელოვნური ინტელექტი შეიძლება ამ სირთულისგან თავდაცვის საშუალებაც იყოს და უპრეცედენტო აღმოჩენებისა და ინოვაციების ხელსაწყოც.
მეორე მხრივ, ხელოვნური ინტელექტის სისტემების შესაძლებლობებისა და ავტონომიურობის ზრდასთან ერთად, ისინი შეიძლება ჩვენს ინსტიტუტებზე სწრაფად განვითარდეს, ძალაუფლება მეტისმეტად ცოტა ადამიანის ხელში მოაქციოს ან მიიღოს გადაწყვეტილებები, რომლებსაც ადამიანები ვეღარ გაიგებენ ან გააკონტროლებენ.
ეს განსაკუთრებით საყურადღებოა, რადგან ვუახლოვდებით სისტემებს, რომლებსაც საკუთარი თავისა და მომავალი ვერსიების გაუმჯობესება შეუძლია — ამას ხშირად რეკურსიულ თვითგაუმჯობესებას უწოდებენ. ხელოვნური ინტელექტის შექმნის პროცესის ავტომატიზაციასთან ერთად, მისი პროგრესის ტემპი შეიძლება სწრაფად დაჩქარდეს. ეს მომენტი განსაკუთრებულ სიფრთხილეს მოითხოვს.
პროფესორ ბენჟიოს მოსაზრებას დიდწილად ვეთანხმები. თუმცა სამის ნაცვლად ორს დავასახელებ — მჯერა, რომ ხელოვნური ინტელექტის პროგრესი შეიძლება ორი გზით წარიმართოს ძალიან ცუდად და ორივე უნდა ავიცილოთ თავიდან.
პირველი: შეიძლება მომავალზე კონტროლი ხელოვნურმა ინტელექტმა წაგვართვას. რისკი ის არის, რომ ის იმდენად სწრაფად განვითარდება, ადამიანები მიმდინარე პროცესებს ვეღარ მიჰყვებიან და საჭიროებისას ვეღარ ჩაერევიან. ცხადია, ეს საშინელება იქნებოდა.
დარგმა არ უნდა მიიღოს ზედმეტად დიდი ტექნოლოგიური რისკი მხოლოდ იმიტომ, რომ მოსალოდნელი სარგებელი უზარმაზარია და ტემპის შენელება მეტისმეტად მნიშვნელოვან შესაძლებლობაზე უარის თქმად ეჩვენება. კონკურენტულ რბოლაში სხვა კომპანიების დამარცხების სურვილი ნაჩქარევი გადაწყვეტილებების მიღებას არ ამართლებს. არც ის გვჯერა, რომ ისეთ რბოლაში ვართ ჩაკეტილი, სადაც ტემპის შენელება არ შეგვიძლია. წარსულში ტემპი საკუთარი გადაწყვეტილებით შეგვინელებია. მომავალშიც ასე მოვიქცევით. არ გვსურს ისეთი სისტემების შექმნა — და მიგვაჩნია, რომ მათ შექმნას ყველამ უნდა აარიდოს თავი — რომელთა თანხვედრილობის, მონიტორინგის შესაძლებლობისა და უსაფრთხოების აუცილებელ გარანტიებს ვერ უზრუნველვყოფთ.
უნდა გვესმოდეს, რას აკეთებს ეს სისტემები, და გვქონდეს მყარი მტკიცებულება, რომ ისინი ადამიანთა განზრახვის შესაბამისად იმოქმედებს მაშინაც კი, როცა უაღრესად ჭკვიანი გახდება. სინამდვილეში, განსაკუთრებით მაშინ, როცა უაღრესად ჭკვიანი გახდება. არ აქვს მნიშვნელობა, ადამიანები კატასტროფის რისკს 10%-ად შეაფასებენ, 1%-ად, 12%-ად თუ 0,1%-ად. არცერთი ეს მაჩვენებელი ოდნავადაც კი არ არის მისაღები. არ უნდა გავწვრთნათ მოდელები, თუ უკიდურესად დამაჯერებლად ვერ დავასაბუთებთ, რომ ისინი ადამიანთა მხრიდან კონტროლის ქვეშ დარჩება.
ეს მოვლენათა ცუდად განვითარების ერთ-ერთი გზაა. მეორე მხრივ, ამ სისტემებმა შეიძლება მეტისმეტად დიდი ძალაუფლება ადამიანთა ძალიან მცირე ჯგუფის ხელში მოაქციოს. არცერთ ადამიანს, კომპანიას ან ქვეყანას არ უნდა შეეძლოს ხელოვნური ინტელექტის უძლიერესი მოდელების გამოყენება საკუთარი მსოფლმხედველობის დანარჩენი მსოფლიოსთვის მოსახვევად. კომპანიას ან ქვეყანას, რომელსაც მიაჩნია, რომ ამ ტექნოლოგიის მინდობა მხოლოდ მისთვის შეიძლება, ამ რწმენით თითქმის ნებისმიერი სხვა ქმედების გამართლება შეუძლია. ეს ლოგიკა უნდა უარვყოთ მაშინაც კი, როცა ის რომელიმე მხარისთვის ხელსაყრელია.
მჯერა, რომ ორივე საკითხის მოსაგვარებლად პრაქტიკული გზა არსებობს. OpenAI-ში ამ საკითხებს მკაფიო მიზნით ვუდგებით: ხელოვნურმა ინტელექტმა ადამიანებს საკუთარ ცხოვრებაზე მეტი ძალაუფლება უნდა მისცეს. მეტი თავისუფლება, რათა იცხოვრონ ისე, როგორც სურთ. მეტი შესაძლებლობა, გადაჭრან დიდი თუ მცირე პრობლემები და გააუმჯობესონ თავიანთი თემები. არ გვინდა, ბრმა ოპტიმიზმის მახეში გავებათ. არც განწირულობის განცდის მახეში მოქცევა გვინდა. რომელიმე უკიდურესობაში გადახრა ხელს შეგვიშლის არსებული გამოწვევების წარმატებით დაძლევაში, განსაკუთრებით ახლა, როცა მსოფლიო და მისი მოსახლეობა ისეთი უზარმაზარი პრობლემების წინაშე დგას, რომელთა მოგვარებაც ამ ტექნოლოგიას შეუძლია. ამიტომ ვცდილობთ, ამ ორ უკიდურესობას შორის ზომიერი გზა ვიპოვოთ.
ჩვენთვის ეს სამ პრინციპს ნიშნავს.
პირველი: ხელოვნური ინტელექტის შესაძლებლობების ზრდასთან ერთად, მის გადაწყვეტილებათა მიღების პროცესში მთავარი ადგილი ადამიანებმა უნდა შეინარჩუნონ. თანხვედრილობა მხოლოდ აბსტრაქტული კვლევითი საკითხი არ არის. ეს არის მუშაობა იმის უზრუნველსაყოფად, რომ ეს სისტემები საიმედოდ დარჩეს ადამიანთა კონტროლის ქვეშ, ასახავდეს ადამიანურ ღირებულებებს და ადამიანებს განვითარების მომდევნო ეტაპების წარმართვაში ეხმარებოდეს. ჩვენ არ ვცდილობთ და არც უნდა ვეცადოთ ადამიანური განსჯისა თუ ღირებულებების ავტომატიზაციას.
მეორე: სამეცნიერო პროგრესისა და ეკონომიკური ზრდის სარგებელს ადამიანები უნდა ქმნიდნენ და ის ადამიანებსვე უნდა ემსახურებოდეს. ხელოვნური ინტელექტი უნდა ეხმარებოდეს მკვლევრებს აღმოჩენებში, ექიმებს — პაციენტების მკურნალობაში, მასწავლებლებს — მოსწავლეთა განათლებაში, მეწარმეებს — კომპანიების შექმნაში, თემებს კი — აქამდე გადაუჭრელად მიჩნეული პრობლემების მოგვარებაში და კიდევ ბევრ სხვა საქმეში. კაცობრიობის უწყვეტი პროგრესის ისტორია იმას არ გვასწავლის, რომ ხელსაწყოები ადამიანის მოქმედების უნარს ანაცვლებს. ის გვასწავლის, რომ სწორი ხელსაწყოები ადამიანთა შესაძლებლობებს ზრდის, და მჯერა, ეს იმაზე ბევრად შორს წაგვიყვანს, ვიდრე ახლა წარმოგვიდგენია.
მესამე: ამ ტექნოლოგიამ თითოეულ ადამიანს მეტი ძალა და შესაძლებლობა უნდა მისცეს. შესანიშნავი მომავალი მაშინ დადგება, როცა ადამიანები საკუთარ პოტენციალს გამოავლენენ და შექმნიან ღირებულებას საკუთარი თავისთვის, თავიანთი თემებისა და ქვეყნებისთვის, ასევე მთელი მსოფლიოსთვის. შესაძლოა, ამ ტექნოლოგიის ერთ-ერთი შემქმნელი ჩვენ ვიყოთ, მაგრამ ამ ისტორიის გმირები ჩვენ არ ვართ. ჩვენი როლია, შესაძლებლობები მივცეთ ადამიანებს მთელ მსოფლიოში და ვენდოთ კაცობრიობის უნარებისა და შესაძლებლობების საოცარ ძალას.
ახლა უკვე გვაქვს მოდელები, რომლებსაც აქამდე უცნობი ცოდნის აღმოჩენა შეუძლია. გავიხსენოთ მათემატიკაში მიღწეული პროგრესი. სამი ზაფხულის წინ ჩვენი მოდელები დაწყებითი სკოლის მათემატიკას დამაკმაყოფილებლად ართმევდა თავს. ორი ზაფხულის წინ ისინი უკვე საკმაოდ კარგად უმკლავდებოდა საშუალო სკოლის მათემატიკურ ოლიმპიადებს. გასულ ზაფხულს კი ყველაზე პრესტიჟულ საერთაშორისო მათემატიკურ ოლიმპიადაზე ოქროს მედლის დონეს მივაღწიეთ. ამ ზაფხულს, სულ რამდენიმე კვირის წინ, ჩვენმა ერთ-ერთმა მოდელმა ათასწლეულის ერთ-ერთი ამოცანა — ნავიე–სტოქსის განტოლებები — ამოხსნა.
ეს განტოლებები გამოიყენება თვითმფრინავების პროექტირებაში, ამინდის პროგნოზირებასა და სისხლის ნაკადის შესწავლაში. მათემატიკური ამოცანების ამოხსნა თვითმიზანი არაა. ჩვენი მიზანია, ადამიანებს ახალი ცოდნის აღმოჩენისა და მისი ჯანდაცვის გასაუმჯობესებლად, ცხოვრების დონის ასამაღლებლად და მთელ მსოფლიოში თითოეული ადამიანის პოტენციალის გასაფართოებლად გამოყენების შესაძლებლობა მივცეთ. ჯერ კიდევ ბევრი რამ არის აღმოსაჩენი.
თუმცა ძალიან მნიშვნელოვანია, რომ კომპანიებმა დემოკრატიული პროცესი არ ჩაანაცვლონ.
თუ ხელოვნური ინტელექტი დემოკრატიული უნდა იყოს, უმნიშვნელოვანეს გადაწყვეტილებებს მხოლოდ სან-ფრანცისკოს ლაბორატორიები ვერ მიიღებენ. ისინი უნდა ჩამოყალიბდეს დემოკრატიული პროცესებითა და იმ ხალხის წინაშე ანგარიშვალდებული მთავრობების მონაწილეობით, რომელსაც ემსახურებიან.
საერთაშორისო დონეზე ამას თანამშრომლობა დასჭირდება. ისტორიაში ყოფილა შემთხვევები, როდესაც მეტოქე და ერთმანეთისადმი არცთუ კეთილგანწყობილი ქვეყნებიც კი მძლავრი ახალი ტექნოლოგიის გამოჩენისას საერთო ინტერესებისა და საყოველთაო კეთილდღეობისთვის გაერთიანებულან. გვჯერა, რომ ახლა სწორედ ასეთი დრო უნდა დადგეს.
გვჭირდება ეროვნული და საერთაშორისო მოწინავე ხელოვნური ინტელექტის სტანდარტების ურთიერთშემავსებელი მექანიზმი: შესაძლებლობების გაზომვის, რისკების შეფასების, დაცვის ზომების საკმარისობის განსაზღვრისა და სისტემების ავტონომიურობის ზრდისას ადამიანთა ქმედითი ზედამხედველობის შენარჩუნების სტანდარტები.
გვჭირდება საერთო სტანდარტები, რათა ქვეყნებმა შეძლონ მტკიცებულებების შედარება, მოთხოვნებთან შესაბამისობის გადამოწმება და მიმდინარე პროცესებზე საერთო ენისა და გაგების ჩამოყალიბება.
გვჭირდება ინციდენტების შესახებ ზუსტი და სწრაფი მოხსენება, ასევე მათი კლასიფიკაციისა და მოხსენების პროტოკოლები, რათა მსოფლიომ გაუმართაობებზე მანამდე ისწავლოს, სანამ ისინი კატასტროფად იქცევა.
ასევე გვჭირდება უსაფრთხო საკომუნიკაციო არხები მთავრობებს, კრიტიკულად მნიშვნელოვანი ინფრასტრუქტურის ოპერატორებსა და ტექნიკურ ექსპერტებს შორის, რათა მათ ახლად გამოვლენილი მოწყვლადობებისა და ახალი საფრთხეების შესახებ ინფორმაცია გაცვალონ.
ცხადია, ამ სტანდარტებმა არსებული მსხვილი მოთამაშეების პოზიციები არ უნდა განამტკიცოს და რომელიმე ბიზნესმოდელს არ უნდა მიანიჭოს უპირატესობა სხვასთან შედარებით. მათ ხელი უნდა შეუწყონ ღია და დახურული მოდელების შემქმნელებს, ახალ მონაწილეებსა და დამკვიდრებულ ლაბორატორიებს, ასევე სახელმწიფოთა სუვერენულ უფლებამოსილებასა და საერთაშორისო თანამშრომლობას. თითოეულმა მთავრობამ თავად უნდა გადაწყვიტოს, როგორ შეიტანოს ეს სტანდარტები საკუთარ სამართლებრივ სისტემაში. თუმცა ყველასთვის უკეთესი იქნება, თუ გლობალურ დონეზე შევთანხმდებით, რას ნიშნავს სანდო მტკიცებულება, სათანადო დაცვის ზომები და ეფექტიანი ზედამხედველობა.
ყველა პასუხი არ გვაქვს და უკეთესი იდეებისთვის სრულიად ღია ვართ. მზად ვართ, ყველასთან ვითანამშრომლოთ და მთელი ძალისხმევა მოვახმაროთ წინსვლის გზის პოვნას.
გზაჯვარედინზე ვდგავართ. ერთი გზა მიგვიყვანს სამყარომდე, სადაც ძალაუფლება კონცენტრირებულია, გადაწყვეტილებები გაუმჭვირვალეა და ადამიანებს განცდა აქვთ, რომ მათ ცხოვრებაში ყველაზე მნიშვნელოვან ტექნოლოგიას მათი მონაწილეობის გარეშე ქმნიან. მეორე გზა მიგვიყვანს სამყარომდე, სადაც ხელოვნური ინტელექტი ადამიანებს ემსახურება, რადგან ისინი დემოკრატიული ინსტიტუტების მეშვეობით მონაწილეობენ მისი განვითარებისა და მართვის განსაზღვრაში; სადაც სამეცნიერო პროგრესი ადამიანთა რეალურ ცხოვრებას აუმჯობესებს; სადაც მომავალში მონაწილეობის შესაძლებლობა მეტ ადამიანს აქვს; და სადაც ეს ტექნოლოგია კვლავ აძლევს ადამიანებსა და თემებს მეტ ძალას, იცხოვრონ საკუთარი არჩევანით. ეს არის რეალიზებული შესაძლებლობებით, აღფრთოვანებითა და საოცრებებით სავსე მომავალი.
და გვჯერა, რომ სწორედ ასეთი მომავლის აშენება ღირს. დიდი მადლობა.
