სტანდარტების შექმნა AI-ის შემდეგი ეტაპისთვის
ჩვენი მისიაა, ზოგადი ხელოვნური ინტელექტი მთელი კაცობრიობისთვის სასარგებლო იყოს. როგორც ახლახან აღწერეს სემ ალტმანმა და იაკუბ პახოცკიმ, ამ მისიისკენ მიმართულ საქმიანობაში სამ ძირითად მიზანს ვანიჭებთ უპირატესობას:
AI-ის პროგრესის მომდევნო ეტაპის მართვა ავტომატიზებული AI მკვლევრის შექმნით, მასთან ერთად თანხვედრის პრობლემაზე განმეორებითი მუშაობითა და ისეთი გზების მოძიებით, რომლებიც ადამიანებს თვითგაუმჯობესების ციკლის მონაწილეებად დატოვებს.
საზოგადოებისთვის იმ სამეცნიერო პროგრესისა და ეკონომიკური ზრდის სარგებლის მიწოდება, რომელსაც მაღალი ინტელექტის მქონე მანქანები შესაძლებელს ხდის.
თითოეული ადამიანისთვის პირადი AGI-ის მეშვეობით მეტი შესაძლებლობის მიცემა.
AI აჩქარებს ჩვენს კვლევასა და საინჟინრო საქმიანობას, ხოლო AI-ის დახმარებით ჩატარებულმა კვლევამ განაპირობა წინსვლა მათემატიკაში, მათ შორის ნავიე–სტოქსის ათასწლეულის პრობლემის მიმართულებით. ეს პროგრესი დიდ იმედს იძლევა ჩვენი დანარჩენი ორი მიზნისთვისაც და შეიძლება ხელი შეუწყოს მნიშვნელოვან აღმოჩენებს მედიცინაში, ფართოდ ხელმისაწვდომ ჯანდაცვას და მთელ მსოფლიოში მცირე ბიზნესებისა და ინდივიდუალური მეწარმეების ეკონომიკურ გაძლიერებას.
AI მრავალ კომპანიასა და ქვეყანაში ვითარდება, ხოლო მთლიან სფეროში მიღწეული პროგრესი ცვლის შესაძლებლობებსა და გამოწვევებს, რომელთა წინაშეც ყველა ვდგავართ. სხვა სარგებელთან ერთად, ქმედუნარიანი და ადამიანურ ღირებულებებთან თანხვედრილი AI ამ გარდამავალი პერიოდის მართვაში მნიშვნელოვან როლს შეასრულებს — გააძლიერებს თავდაცვას, წინ წასწევს თანხვედრის კვლევას და ადამიანებს დაეხმარება, გაიაზრონ და წარმართონ AI-ის განვითარების შემდგომი ეტაპები.
ამ გარდამავალი პერიოდის უსაფრთხოდ გასავლელად თანხვედრის კვლევა ამ შესაძლებლობების განვითარებას ფეხდაფეხ უნდა მიჰყვეს, რათა ჩვენი და სხვების მიერ შექმნილი სისტემები ადამიანის ღირებულებებთან თანხვედრილი და ადამიანის კონტროლქვეშ დარჩეს. ეს სულ უფრო მნიშვნელოვანი ხდება, რადგან AI სისტემები მეტად ქმედუნარიანი და ავტონომიური ხდება, მათ შორის მაშინაც, როდესაც თავად AI-ის კვლევისა და განვითარების უფრო დიდ ნაწილს ასრულებს. AI-ის უწყვეტი პროგრესის უსაფრთხოებისა და სარგებლიანობისთვის საჭირო იქნება როგორც წინსვლა თანხვედრის კვლევაში, ისე საერთო სტანდარტები, რომლებიც სხვადასხვა ლაბორატორიასა და ქვეყანაში განვითარებას წარმართავს.
AI-ის ავტომატიზებული კვლევა შეიძლება ადამიანის ზედამხედველობის სხვადასხვა ხარისხს მოიცავდეს. როცა AI სისტემები AI-ის მომდევნო თაობების შექმნის სამუშაოს უფრო დიდ ნაწილს ასრულებს, მათ სულ უფრო მეტად შეუძლიათ წარმართონ რეკურსიული თვითგაუმჯობესების პროცესი (RSI), მაშინაც კი, როდესაც ადამიანები კვლავ მონაწილეობენ. ამ პროცესის ავტომატიზაციის ზრდასთან ერთად, AI-ის პროგრესის ტემპი შეიძლება სწრაფად დაჩქარდეს.
გვჯერა, რომ AI-ის ავტომატიზებული კვლევა შექმნის მოდელებს, რომლებიც ადამიანების ცხოვრებას პირდაპირ გააუმჯობესებს. მას შეუძლია მოწინავე ინტელექტის ღირებულება შეამციროს, რათა მისი სარგებლით მთელ მსოფლიოში ისარგებლონ. ავტომატიზებული კვლევა შეიძლება დაგვეხმაროს თანხვედრის მნიშვნელოვნად გაუმჯობესებასა და სულ უფრო ქმედუნარიანი AI-ისგან თავდაცვის შექმნაში — ავტომატიზებული AI მკვლევარი შეიძლება AI-ის უსაფრთხოების ავტომატიზებული მკვლევარიც იყოს. უფრო ქმედუნარიან და ადამიანურ ღირებულებებთან თანხვედრილ სისტემებს შეუძლია კრიტიკული ინფრასტრუქტურის დაცვა, სახიფათო AI აგენტებისგან თავდაცვა და დაცვის ახალი ზომების შემუშავება.
სრულად ავტონომიური RSI დღეს არ მიმდინარეობს და მის განხორციელებას არ უნდა შევეცადოთ, სანამ მისი უსაფრთხოდ შესრულება შესაძლებელი არ გახდება. გაგრძელდება თუ არა და როგორ გაგრძელდება ეს პროცესი, დამოკიდებული უნდა იყოს ადამიანის კონტროლის შენარჩუნების უნარსა და სარგებლისა და რისკების შესახებ ინფორმირებულ დემოკრატიულ არჩევანზე(იხსნება ახალ ფანჯარაში). სათანადო ყურადღებისა და სიფრთხილის გარეშე განხორციელებულმა RSI-მ შეიძლება გამოიწვიოს, რომ ადამიანებმა AI-ის განვითარებაზე პრაქტიკული კონტროლი დაკარგონ და ვეღარ ზედამხედველობდნენ კვლევით პროცესებს, რომლებიც აღარ ესმით. ამის შემდეგ AI შეიძლება უფრო სახიფათო, ადამიანურ ღირებულებებთან ნაკლებად თანხვედრილი და, მთლიანობაში, ადამიანებისთვის საფრთხის შემცველი გახდეს. ჩვენ მიერ გასაჯაროებული Hugging Face-ის ინციდენტი, მართალია, RSI-ის პირდაპირი შედეგი არ ყოფილა, თუმცა გვიჩვენებს, რამდენად შეიძლება გამწვავდეს მსგავსი რისკები საიმედო დაცვისა და თანხვედრის გარეშე.
მოწინავე AI-ის განვითარების უსაფრთხოებისა და დაცულობის პრაქტიკის საერთაშორისო სტანდარტები მოწინავე სფეროში ტემპის სამართავად შეიძლება ისეთივე მნიშვნელოვანი იყოს, როგორიც თავად თანხვედრის კვლევა. სტანდარტებს შეუძლია შექმნას მაღალი ხარისხის მტკიცებულების საერთო განმარტებები და ტექნიკური დამცავი ზომების სიმკაცრის შეთანხმებული საბაზისო მოთხოვნები. მოკლედ, ისინი გვეხმარება, ვუპასუხოთ კითხვას: „როგორია კატასტროფული AI რისკის სათანადოდ შემცირება?“
ამაში წვლილის შეტანა შეუძლია არსებულ დემოკრატიულ ინსტიტუტებს, როგორიცაა AI-ის სტანდარტებისა და ინოვაციების ცენტრი (CAISI), ასევე შტატების კანონებს, AI-ის ფედერალურ ჩარჩოსა და საჯარო და კერძო სექტორების პარტნიორობის ახალ ფორმებს(იხსნება ახალ ფანჯარაში). თუმცა AI-ის განვითარება და დანერგვა მრავალ ქვეყანაში მიმდინარეობს, მისი ათვისება გლობალურია, გავლენას კი, სავარაუდოდ, გარკვეული ფორმითა და დროით ყველა იგრძნობს.
ამიტომ რამდენიმე საკვანძო გამოწვევის გადასაჭრელად საჭიროა სტანდარტების შემუშავების საერთაშორისო ძალისხმევა:
დანაწევრება — სხვადასხვა ქვეყნის შეფასებები, ანგარიშგების მოთხოვნები და ინციდენტების განმარტებები შეიძლება ერთმანეთს ეწინააღმდეგებოდეს, რაც გაართულებს მტკიცებულებების შედარებას, ახალი შესაძლებლობების გააზრებასა და საზღვრებს მიღმა გავრცელებულ რისკებზე რეაგირებას.
ერთობლივი მოქმედება — თითოეული ქვეყნის დამოუკიდებელმა მოქმედებამ შეიძლება გამოიწვიოს შედეგები, რომლებიც არცერთ ქვეყანას არ სურს. RSI-ს შეუძლია თავად AI-ის კვლევა დააჩქაროს და შესაძლოა პროგრესის გააზრების, რისკების შეფასებისა და ადამიანის ქმედითი ზედამხედველობის შენარჩუნების ჩვენს ერთობლივ შესაძლებლობას გადააჭარბოს.
არათანაბარი შესაძლებლობები — მოწინავე ტექნოლოგიების განვითარება და შესაბამისი კომპეტენცია მსოფლიოში თანაბრად არ არის განაწილებული. ეს ზემოთ აღწერილ ორივე პრობლემას ამწვავებს.
ეს გამოწვევები ეხება როგორც „open model“-ებს, ისე დახურულ მოდელებს.
გასაგებად რომ ვთქვათ, AI-ის ნებისმიერმა ლაბორატორიამ, რომელიც AI-ის ავტომატიზებულ კვლევას ან სხვა მოწინავე შესაძლებლობებს ავითარებს, პასუხისმგებლობა უნდა აიღოს მათ უსაფრთხოებაზე, პირადი პასუხისმგებლობის ძირითადი პრინციპებისა და მოქმედი კანონების შესაბამისად. სტანდარტების მხარდაჭერის ჩვენი არგუმენტი ძალაუფლების კონცენტრაციის თავიდან აცილებასა და უკეთესი პრაქტიკული შედეგების მიღებას ემყარება. სტანდარტები ლაბორატორიების გარეთ მყოფ მეტ დაინტერესებულ მხარეს აძლევს შესაძლებლობას, მონაწილეობა მიიღოს ამ ტექნოლოგიის განვითარების განსაზღვრაში. ისინი ქმნის თვალსაჩინო პრინციპებსაც, რომლებსაც ნებისმიერი კონკრეტული ლაბორატორიის პრაქტიკისგან დამოუკიდებლად შეიძლება დავეყრდნოთ. სავარაუდოდ, უკეთეს შედეგებს მივიღებთ, თუ მხარეები ზემოთ აღწერილი გამოწვევების გადასაჭრელად ითანამშრომლებენ.
სწორედ ამიტომ მიგვაჩნია, რომ შეერთებულმა შტატებმა უნდა უხელმძღვანელოს მსოფლიოს ქვეყნებთან ერთობლივ ძალისხმევას მოწინავე AI-ის, მათ შორის RSI-ის, გლობალური ტექნიკური სტანდარტების შესამუშავებლად.
მართალია, ველით, რომ ეს კონცეფცია დროთა განმავლობაში მნიშვნელოვნად შეიცვლება, თუმცა ორი ასპექტი არსებითი იქნება.
ამის მიღწევის ერთ-ერთი გზა იქნება AI-ის უსაფრთხოების ინსტიტუტების ფორმირებადი ქსელის გამოყენება — ასეთი ინსტიტუტები უკვე შექმნილია ავსტრალიაში, კანადაში, გერმანიაში, საფრანგეთში, კენიაში, იაპონიაში, კორეაში, სინგაპურში, ინდოეთსა და გაერთიანებულ სამეფოში. მათ CAISI-სა და ეროვნულ დარგობრივ ორგანოებთან ერთად შეუძლიათ ხელი შეუწყონ სტანდარტების შემუშავებას, განსაკუთრებული ყურადღებით: (1) მოწინავე AI მოდელებსა და მათ შემქმნელებზე, შესაძლებლობების საკონტროლო მაჩვენებლებით შეფასების საფუძველზე; და (2) AI-ის ავტომატიზებული კვლევის, მათ შორის RSI-ის, სარგებლისა და რისკების მართვაზე. შეერთებულ შტატებს შეუძლია დაეყრდნოს CAISI-ის მიერ 2024 წელს შექმნილ მოწინავე AI-ის გაზომვის, შეფასებისა და მეცნიერების საერთაშორისო ქსელს(იხსნება ახალ ფანჯარაში), რომელიც AI-ის გაზომვის, შეფასებისა და მეცნიერების სფეროში თანამშრომლობისთვის საჯარო ინსტიტუტებს აერთიანებს.
ამ ძალისხმევით შემუშავებული სტანდარტები შექმნის საერთო ტექნიკურ საფუძველს შესაძლებლობების გაზომვისა და შეფასებისთვის, რისკების შეფასებისა და დამცავი ზომების საკმარისობის დასადგენად. ეს ტექნიკური სტანდარტები არ იქნება AI მოდელების ლიცენზიები, გამოშვებამდე სავალდებულო განხილვა ან დამტკიცების მოთხოვნები. ეროვნული მთავრობები თავად გადაწყვეტენ, შეიტანონ თუ არა და როგორ შეიტანონ ეს სტანდარტები საკუთარ სამართლებრივ სისტემებში.
ამ სამუშაომ ასევე უნდა შეუწყოს ხელი კონკურენტუნარიან AI ეკოსისტემას „open model“-ებისა და დახურული მოდელების შემქმნელებთან, დამოუკიდებელ ტექნიკურ ექსპერტებსა და აკადემიურ წრეებთან კონსულტაციით. საერთო სტანდარტები გამჭვირვალედ უნდა შემუშავდეს და ისე დაიგეგმოს, რომ უპირატესობა არ მიანიჭოს კონკრეტულ კომპანიებს, ქვეყნებს ან ბიზნესმოდელებს, მათ შორის ბაზარზე ახალი მონაწილეებისა თუ ღია წონების მქონე მოდელების შემქმნელებისთვის კონკურენციის გართულებით.
როგორც უკვე აღვნიშნეთ(იხსნება ახალ ფანჯარაში), ამ მიდგომას შეუძლია გამოცდილება გადაიღოს ისეთი სფეროებიდან, როგორიცაა ავიაცია და ფინანსური სტაბილურობა, სადაც ქვეყნებმა ეროვნული უფლებამოსილების დათმობის გარეშე შეიმუშავეს საერთო ტექნიკური სტანდარტები და თანამშრომლობის სანდო არხები. ის ასევე მჭიდროდ უნდა თანამშრომლობდეს როგორც დამკვიდრებულ, ისე ახალ სტანდარტების ორგანიზაციებთან, მათ შორის ISO-სთან(იხსნება ახალ ფანჯარაში), მოწინავე მოდელების ფორუმთან(იხსნება ახალ ფანჯარაში), აგენტური ხელოვნური ინტელექტის ფონდთან(იხსნება ახალ ფანჯარაში) და ღია და უსაფრთხო AI-ის ალიანსთან(იხსნება ახალ ფანჯარაში), აგრეთვე დანერგვაზე ორიენტირებულ ორგანიზაციებთან, როგორიცაა Appia Foundation, რომელიც საერთაშორისო სტანდარტებს AI-ის რეალურ შეფასებებთან დამაკავშირებელ პრაქტიკულ სპეციფიკაციებს ქმნის.
AI-ის საერთაშორისო სტანდარტები განსაკუთრებით მნიშვნელოვანი იქნება AI-ის კვლევაში მზარდი ავტონომიურობისა და რეკურსიული თვითგაუმჯობესების სამართავად. კერძოდ, ისინი შეიძლება მოიცავდეს შემდეგ სტანდარტებს:
RSI-სთან დაკავშირებული AI პროგრესისა და AI კომპანიაში მიმდინარე ავტონომიური კვლევის მოცულობის შეფასება. კვლევის დაჩქარების შესახებ ჩვენი ბოლო ანგარიში ამ ძალისხმევაში შეტანილი პირველი წვლილია.
AI-ის ავტომატიზებულ კვლევაზე ადამიანის ზედამხედველობა, მათ შორის იმის განსაზღვრა, თუ რომელი ტიპის ავტომატიზებული კვლევითი პროცესები უნდა დაექვემდებაროს ადამიანის დაუყოვნებლივ განხილვას.
თანხვედრისა და AI-ის ავტომატიზებული კვლევის პრობლემებთან დაკავშირებული ინციდენტების კლასიფიკაცია, აღრიცხვა, ანგარიშგება და მათზე რეაგირება, მათ შორის ინციდენტების სიმძიმის საერთო დონეები და ანგარიშგების ზღვრული კრიტერიუმები. თანხვედრის დარღვევების ანგარიშგების ჩვენი ჩარჩო ამ მიმართულებით შეტანილი ადრეული წვლილია.
ამ სტანდარტებთან ერთად, მიგვაჩნია, რომ კრიტიკული ინფრასტრუქტურის ოპერატორებმა და მსოფლიოს მთავრობებმა უნდა შექმნან კომუნიკაციის უსაფრთხო არხები ეროვნული უსაფრთხოების საკითხების, ახალი მოწყვლადობებისა და საფრთხეების, ასევე მოწინავე AI-ის უსაფრთხოების სწრაფად განვითარებად სფეროში საუკეთესო პრაქტიკის გასაზიარებლად. ამ საკითხებზე შეერთებულ შტატებსა და ჩინეთს შორის დიალოგი დადებითი ნაბიჯი იქნებოდა, მომავალი მოლაპარაკებები კი ხელსაყრელ დროს იმართება.
AI-ის განვითარების ტემპის მართვა წინასწარ განსაზღვრული სიჩქარის შენარჩუნებას არ ნიშნავს. ტექნიკური თვალსაზრისით, ეს ნიშნავს, რომ თანხვედრის კვლევა და მისი შედეგების დანერგვა შესაძლებლობების განვითარებას წინ უნდა უსწრებდეს. საზოგადოებრივი თვალსაზრისით, ეს ნიშნავს სტანდარტების, ინსტიტუტებისა და თანამშრომლობის გამოყენებას ინდუსტრიული ქსელების, საზოგადოებრივი ურთიერთობებისა და საბაზრო ძალების გასაძლიერებლად, რათა ყველა მხარისთვის სასარგებლო შედეგები მივიღოთ. ამის მაგალითია ბოლოდროინდელი მოწოდება კიბერთავდაცვის სფეროში ერთობლივი მოქმედებისკენ.
შეერთებულ შტატებს ლიდერობისთვის ხელსაყრელი პოზიცია აქვს, რადგან მისი AI ინდუსტრია ტექნოლოგიურად მოწინავეა, ხოლო თავად ქვეყანა კვლავ განსაკუთრებულ ადგილს იკავებს გლობალურ ქსელში ისეთ საკვანძო სფეროებში, როგორებიცაა ფინანსები, ვაჭრობა, თავდაცვა, ტექნოლოგიები და საინფორმაციო სისტემები. დღეს ლიდერობის აღება განსაზღვრავს, შეერთებული შტატები ჩამოაყალიბებს AI-ის გლობალურ ჩარჩოს თუ მის გარშემო დამკვიდრებულ დანაწევრებულ, უთანაბრო და კონფლიქტებით სავსე სისტემას გვერდიდან დააკვირდება. ამაზე იქნება დამოკიდებული ისიც, გააძლიერებს თუ არა მოწინავე AI შეერთებული შტატებისა და მისი მოკავშირეების არსებულ ქსელებს; ლიდერობის უგულებელყოფამ ისინი შეიძლება დაასუსტოს.
გეოპოლიტიკური კონკურენცია მხოლოდ ტექნიკურ უპირატესობას კი არა, AI-ის დანერგვასა და გავრცელებასაც შეეხება. ამ უკანასკნელს სულ უფრო მეტად შეიძლება განსაზღვრავდეს ის, თუ ვინ შეუწყობს ხელს რეალისტურ თანამშრომლობასა და გონივრული წესების შემუშავებას, რომლებიც ყველგან დასჭირდება ბიზნესსა და საზოგადოებას, თუ ამ ტექნოლოგიას საკუთარ მომავალს დაუკავშირებენ.
ძლიერი ეროვნული მმართველობა, რომელიც პრაქტიკული საერთაშორისო თანამშრომლობით არის დაკავშირებული, გვთავაზობს გზას უფრო საიმედო დაცვის, უწყვეტი ინოვაციებისა და AI-ის სარგებელზე ფართო წვდომისკენ.
