მოწინავე ხელოვნური ინტელექტის სტანდარტების შექმნის მხარდაჭერა
სულ უფრო მძლავრ მოდელებს შეუძლია, გააძლიეროს კიბერდაცვა, დააჩქაროს სამეცნიერო აღმოჩენები და გააფართოოს ექსპერტიზაზე წვდომა. მაგრამ მათ უსაფრთხოებისა და დაცულობის რისკებიც შეიძლება წარმოქმნას, თუ მათი შესაძლებლობები არასწორად იქნება გაგებული, დამცავი მექანიზმები არასაკმარისი აღმოჩნდება ან მთავრობებს რეაგირებისთვის საჭირო ინფორმაცია არ ექნება. სარგებლის უსაფრთხოდ და დამაჯერებლად მისაღებად საზოგადოებებს დასჭირდება ინსტიტუტები, რომლებსაც ექნება ტექნიკური და მმართველობითი შესაძლებლობა, შეაფასოს, დაიცვას და მართოს სულ უფრო მძლავრი სისტემები.
ეს ერთ-ერთი მიზეზია, რის გამოც OpenAI დაეხმარა ლინუქსის ფონდის პლატფორმაზე განთავსებულ Appia-ს ფონდის(იხსნება ახალ ფანჯარაში) დაფუძნებას. Appia შეიმუშავებს ღია, მოდულურ სპეციფიკაციებს, რომელთა მიზანია საერთაშორისო სტანდარტებისა და დამკვიდრებული ჩარჩოების გადატანა პრაქტიკულ შეფასების კრიტერიუმებში ხელოვნური ინტელექტის ღირებულების ჯაჭვის მასშტაბით. მისმა მუშაობამ შეიძლება შექმნას ნდობის კრიტიკულად საჭირო შრე, რომლის მეშვეობითაც მესამე მხარეები სტანდარტებთან შესაბამისობას ამოწმებენ და ქმნიან უფრო ნათელ, ხელახლა გამოსაყენებელ მტკიცებულებებს მაშინ, როცა მოდელები, ინფრასტრუქტურა და აპლიკაციები სხვადასხვა ორგანიზაციის მიერ მუშავდება. ამ სამუშაოს შესრულებით Appia-მ ხელი შეუწყო საერთო ტექნიკური ენის შექმნას, რომელიც ეროვნულ და საერთაშორისო ინსტიტუტებს ერთმანეთის მუშაობის ნდობის საშუალებას მისცემს.
ამ ძალისხმევას წარმოვიდგენთ მნიშვნელოვან მომდევნო ნაბიჯად უფრო ფართო სამუშაოში, რომელიც მოწინავე ხელოვნური ინტელექტის სისტემებისთვის საჭირო ინსტიტუტების, სტანდარტებისა და შეფასების მეთოდების გაძლიერებას ემსახურება.
ჩვენი ბოლო გეგმა მოწინავე ხელოვნური ინტელექტის დემოკრატიული მართვისთვის ამ სამუშაოს საგზაო რუკას გვთავაზობს. ის მოითხოვს მდგრად ჩარჩოს აშშ-ში, ხელოვნური ინტელექტის სტანდარტებისა და ინოვაციის გაძლიერებულ ცენტრსა (CAISI) და უფრო ფართო მედეგობის სტრატეგიას მთავრობის მასშტაბით. იგი ასევე აღიარებს, რომ მოწინავე სისტემებთან დაკავშირებული რისკები საერთაშორისო მასშტაბისაა. ქვეყნებმა ერთად უნდა იმუშაოს თავსებადი უსაფრთხოების ჩარჩოების შესამუშავებლად, რისკის შესახებ დასკვნების გაზიარებისთვის სანდო არხების შესაქმნელად და ინციდენტებზე კოორდინირებული რეაგირების შესამუშავებლად.
ეროვნული შესაძლებლობები და საერთაშორისო თანამშრომლობა ერთმანეთს უნდა აძლიერებდეს. ძლიერ ინსტიტუტებს, როგორიცაა CAISI, შეუძლია, განავითაროს ტექნიკური ექსპერტული ცოდნა, შეაფასოს მოწინავე სისტემები და მხარი დაუჭიროს დამოუკიდებელი შეფასების ეკოსისტემას. ამის შემდეგ კი კომპეტენტურ ეროვნულ ინსტიტუტთა ქსელს შეუძლია საერთო მეთოდების ჩამოყალიბება, სანდო მტკიცებულებების აღიარება და მთავრობებისთვის საჭირო საერთო ტექნიკური გაგების უზრუნველყოფა ერთობლივად მოქმედებისთვის.
სტანდარტები ამ ძალისხმევის ცენტრალური ნაწილია და ისინი სანდო შეფასების პრაქტიკასა და ტექნიკურ სიზუსტეს უნდა ეფუძნებოდეს. ჩვენს სანდო მესამე მხარის შეფასებების საერთო სახელმძღვანელოში განვსაზღვრეთ, რა ინფორმაციის გამჟღავნება სჭირდება სულ უფრო მეტად მოწინავე შეფასებებს: შემოწმებული სისტემა, მისი წვდომა ხელსაწყოებზე და შეფასების სარტყელი, შესაძლებლობების გამოსავლენად გამოყენებული მეთოდები, ხელმისაწვდომი რესურსები და შედეგების დასადასტურებლად ჩატარებული შემოწმებები. ეს პრინციპები პრაქტიკაშიც განვახორციელეთ აშშ-ის CAISI-სა და გაერთიანებული სამეფოს AISI-სთან სატესტო პარტნიორობების მეშვეობით; მათმა მუშაობამ მოწინავე შესაძლებლობების შეფასებებსა და ბიოლოგიის სფეროში ბოროტად გამოყენებისგან დაცვის მექანიზმებზე ჩვენს სისტემებში კონკრეტული გაუმჯობესებები გამოიწვია. ეს სამუშაო მნიშვნელოვან ფუნქციას ასრულებს: ქმნის საფუძველს მეთოდებისთვის, რომელთა სტანდარტიზებაც შესაძლებელია ეფექტიანობის შესამოწმებლად შედარებადი გზით.
ეს მეთოდები ავსებს OpenAI-ს უსაფრთხოების უფრო ფართო ინფრასტრუქტურას. ჩვენი მზაობის ჩარჩო არის საფუძველი იმისა, თუ როგორ განვსაზღვრავთ და ვახორციელებთ ჩვენს მიდგომას მოწინავე ხელოვნური ინტელექტის სისტემებიდან მომდინარე ყველაზე სერიოზული რისკების მართვისადმი, მათ შორის, შიდა მეთოდებს. ჩვენი მოწინავე სისტემების მართვის ჩარჩო ამ მიდგომის შესაბამის ნაწილებს აქცევს საჯარო მართვის დოკუმენტად, რომელიც კონკრეტულ სარეგულაციო ვალდებულებებზეა ორიენტირებული, მათ შორის, რისკის შეფასებაზე, მოდელების ანგარიშგებაზე, უსაფრთხოების კონტროლებზე, ინციდენტებზე რეაგირებასა და გარე ექსპერტების მოსაზრებების გათვალისწინებაზე. ერთად აღებული, ეს დოკუმენტები ფართო ვალდებულებებს გარდაქმნის საოპერაციო მეთოდებად, რომელთა გადამოწმება და გაუმჯობესებაც შესაძლებელია.
Appia-ს მუშაობა მიმართულია მომდევნო გამოწვევისკენ: ეს მეთოდები ურთიერთშეთავსებადი გახდეს ორგანიზაციებს, იურისდიქციებსა და მიწოდების ჯაჭვს შორის.
OpenAI-ს უკვე შეაქვს წვლილი სტანდარტებისა და წინასწარი სტანდარტიზაციის ძალისხმევის უფრო ფართო ეკოსისტემაში. ჩვენ ვმონაწილეობთ სტანდარტიზაციის საერთაშორისო ორგანიზაციისა და საერთაშორისო ელექტროტექნიკური კომისიის ერთობლივი ტექნიკური კომიტეტი 1-ის, ხელოვნური ინტელექტის საკითხებზე მომუშავე ქვეკომიტეტი 42-ისა(იხსნება ახალ ფანჯარაში) და სტანდარტებისა და ტექნოლოგიების ეროვნული ინსტიტუტის ხელმძღვანელობით მომუშავე ხელოვნური ინტელექტის კონსორციუმის(იხსნება ახალ ფანჯარაში) მუშაობაში; ხელი შევუწყვეთ, დაფუძნებულიყო მოწინავე მოდელების ფორუმი (Frontier Model Forum) და ლინუქსის ფონდის (Linux Foundation) აგენტური ხელოვნური ინტელექტის ფონდი(იხსნება ახალ ფანჯარაში) (Agentic Artificial Intelligence Foundation); ვმონაწილეობთ უსაფრთხო ხელოვნური ინტელექტის კოალიციაში(იხსნება ახალ ფანჯარაში) (Coalition for Secure Artificial Intelligence); წარმოდგენილი ვართ შიგთავსის წარმომავლობისა და ავთენტურობის კოალიციის(იხსნება ახალ ფანჯარაში) (Coalition for Content Provenance and Authenticity) მმართველ კომიტეტში; და ჩართული ვართ ინტერნეტინჟინერიის სამუშაო ჯგუფისა(იხსნება ახალ ფანჯარაში) (Internet Engineering Task Force) და სწრაფი ონლაინიდენტიფიკაციის ალიანსის(იხსნება ახალ ფანჯარაში) (Fast Identity Online Alliance) პროცესებში ურთიერთშეთავსებადი ტექნიკური სტანდარტების განსავითარებლად.
ამ ფორუმებში ახლა უკვე Appia-ს მეშვეობითაც ჩვენი მიზანია მოწინავე სისტემების შემუშავებისგან მიღებული გამოცდილება გადავაქციოთ ღია, ტექნიკურად დასაბუთებულ მეთოდებად, რომელთა გამოყენებაც მთავრობებს, კომპანიებსა და დამოუკიდებელ შემფასებლებს სხვადასხვა იურისდიქციაში შეეძლებათ.
