OpenAI-ის კომენტარი NTIA-სთვის open model weight-ების შესახებ

OpenAI მიიჩნევს⁠(იხსნება ახალ ფანჯარაში), რომ AI-ის შექმნას, ფართოდ დანერგვასა და გამოყენებას შეუძლია ადამიანების ცხოვრების გაუმჯობესება და უკეთესი მომავლის გახსნა. პროგრესი ინოვაციასა და თავისუფალი ბაზრის კონკურენციას ეყრდნობა. ამ ფართო ჩარჩოს ფარგლებში ბევრი განსხვავებული გზა არსებობს, რომლითაც ადამიანებს შეუძლიათ AI-ის პოტენციალის გაძლიერება. OpenAI იყო ერთ-ერთი პირველი AI დეველოპერი, რომელმაც უპრეცედენტოდ ძლიერი საბაზისო მოდელების სარგებლის განაწილების საკითხთან ბრძოლა დაიწყო, და ჩვენ ვიწყებთ ამ ისტორიული კონტექსტის მიწოდებით, რათა NTIA-ის განხილვებს ინფორმაცია დავუმატოთ.

2019 წელს ჩვენ შევქმენით GPT‑2, რომელსაც ტექსტის თანმიმდევრული აბზაცების გენერირების ახალი შესაძლებლობა ჰქონდა, და დავდექით კითხვის წინაშე, როგორ უნდა გაგვეშვა ის. ერთი მხრივ, მოდელი ძალიან სასარგებლო ჩანდა; მეორე მხრივ, დარწმუნებული არ ვიყავით⁠, შეიძლებოდა თუ არა მისი გამოყენება ბოროტი მიზნებისთვის, მაგალითად ფიშინგ-ელფოსტების გენერირებისთვის. გადავწყვიტეთ გამოგვეცადა „ეტაპობრივი გამოშვება“. როგორც მაშინ დავწერეთ⁠, „ეტაპობრივი გამოშვება გულისხმობს მოდელების ოჯახის დროში თანდათანობით გამოშვებას. GPT‑2‑ის ჩვენი ეტაპობრივი გამოშვების მიზანია, ადამიანებს მივცეთ დრო, შეაფასონ ამ მოდელების თვისებები, განიხილონ მათი საზოგადოებრივი გავლენები და შეაფასონ გამოშვების შედეგები თითოეული ეტაპის შემდეგ.“ როცა მნიშვნელოვანი ბოროტად გამოყენების ეფექტები ვერ დავინახეთ, ამან მოგვცა თავდაჯერება, რომ ღიად გამოგვეშვა სრული მოდელის⁠ წონები.

2020 წელს შევქმენით GPT‑3, რომელიც ყველა მაჩვენებელზე ბევრად უფრო ძლიერი იყო, ვიდრე მასამდე არსებული ნებისმიერი ენობრივი მოდელი, და კვლავ დავდექით კითხვის წინაშე, როგორ უნდა გამოგვეშვა. ამჯერად გადავწყვიტეთ, ის ჩვენი პირველი პროდუქტის, OpenAI API-ის საშუალებით გამოგვეშვა (Application Programming Interface, რომელიც დეველოპერებს საშუალებას აძლევს ჩვენს ტექნოლოგიაზე ააგონ აპები). როგორც მაშინ დავწერეთ⁠, ამ ახალი გამოშვების სტრატეგიისთვის რამდენიმე მოტივაცია გვქონდა: „ტექნოლოგიის კომერციალიზაცია გვეხმარება, დავაფინანსოთ ჩვენი მიმდინარე AI კვლევა, უსაფრთხოება და პოლიტიკის ძალისხმევა“ და „API მოდელი გვაძლევს შესაძლებლობას, ტექნოლოგიის ბოროტად გამოყენებას უფრო მარტივად ვუპასუხოთ. რადგან ჩვენი მოდელების ქვედა დონის გამოყენების შემთხვევების წინასწარ პროგნოზირება რთულია, ბუნებრივად უფრო უსაფრთხოდ მიგვაჩნია მათი API-ის საშუალებით გამოშვება და დროთა განმავლობაში წვდომის გაფართოება, ვიდრე open source მოდელის გამოშვება, სადაც წვდომის შეცვლა შეუძლებელია, თუ აღმოჩნდება, რომ მას მავნე გამოყენებები აქვს.“ რამდენიმე წლის განმავლობაში ამ API გამოშვებამ ჩვენც და საზოგადოებაც გვასწავლა გაკვეთილები GPT‑3 დონის მოდელების უსაფრთხოებისა და ბოროტად გამოყენების შაბლონების შესახებ⁠.

მას შემდეგ გასულ წლებში ჩვენ განვაგრძეთ ღია კოდის AI ეკოსისტემის მხარდაჭერა და მისი პოტენციალის რწმენა, მათ შორის ჩვენი ზოგიერთი უახლესი მოდელის წონების ღიად გამოშვებით (მაგალითად CLIP და Whisper) და სხვა AI დეველოპერებისთვის ღია კოდის ინფრასტრუქტურის შექმნით (მაგალითად Triton GPU პროგრამირების ენა). ვნახეთ, რომ ღიად გამოშვებულმა წონებმა მოიტანა მნიშვნელოვანი სარგებლის მრავალფეროვანი სპექტრი, მათ შორის ხელი შეუწყო აკადემიურ კვლევას AI მოდელების შიდა სტრუქტურაზე, მისცა მომხმარებლებსა და ორგანიზაციებს საშუალება, მოდელები ლოკალურად გაუშვან საკუთარ edge მოწყობილობებზე, და გაამარტივა მოდელების კრეატიული მოდიფიკაციები მომხმარებელთა მიზნების შესაბამისად. მრავალმა AI კომპანიამ გადაწყვიტა მნიშვნელოვნად დაებანდებინა open model weight გამოშვებებში სხვადასხვა მიზეზით, მათ შორის ბრენდისთვის, კადრების მოზიდვისთვის და დეველოპერული ეკოსისტემის მისაზიდად, რომელიც კომპანიის ტექნოლოგიის საფუძველზე ააშენებს და დააჩქარებს მის განვითარებას.

ამავე დროს, ჩვენი მიდგომა, whereby ჩვენი ფლაგმანური AI მოდელები API-ებისა და ისეთი კომერციული პროდუქტების საშუალებით გამოგვაქვს, როგორიცაა ChatGPT, გვაძლევს საშუალებას, გავაგრძელოთ იმ რისკების შესწავლა და შემცირება, რომლებიც საწყისი გამოშვების შემდეგ აღმოვაჩინეთ — ხშირად ისე, რაც შეუძლებელი იქნებოდა, თვითონ წონები რომ ყოფილიყო გამოშვებული. მაგალითად, ცოტა ხნის წინ Microsoft-თან ვითანამშრომლეთ, რათა აღმოგვეჩინა, შეგვესწავლა და ჩაგვეშალა⁠ რამდენიმე სახელმწიფოსთან დაკავშირებული კიბერსაფრთხის აქტორის ოპერაციები, რომლებიც ჩვენს GPT‑3.5‑Turbo და GPT‑4 მოდელებს კიბერთავდასხმითი ოპერაციების დასახმარებლად ბოროტად იყენებდნენ. ამ საფრთხის აქტორების შეჩერება შეუძლებელი იქნებოდა, იმ დროისთვის მოწინავე ამ მოდელების წონები ფართოდ რომ ყოფილიყო გამოშვებული, რადგან იმავე კიბერსაფრთხის აქტორებს შეეძლებოდათ მოდელის საკუთარ აპარატურაზე ჰოსტინგი და არასოდეს ექნებოდათ შეხება თავდაპირველ დეველოპერთან. ამ მიდგომამ მოგვცა საშუალება, AI-ის სარგებელი კვლავ ფართოდ გაგვენაწილებინა, მათ შორის ფართოდ ხელმისაწვდომი უფასო და დაბალფასიანი სერვისებით.

ამ გამოცდილებებმა დაგვარწმუნა, რომ როგორც open weights გამოშვებები, ისე API- და პროდუქტზე დაფუძნებული გამოშვებები, სასარგებლო AI-ის მისაღწევი ინსტრუმენტებია, და გვჯერა, რომ საუკეთესო ამერიკული AI ეკოსისტემა ორივეს მოიცავს.

კვლავ და კვლავ, როგორც პროდუქტების გამოშვებების, ისე წონების გამოშვებების შემთხვევაში, ვნახეთ „ეტაპობრივი დანერგვის“ წარმოუდგენელი სარგებელი: სულ უფრო ძლიერი AI-ის თანდათანობით მიცემა ადამიანებისთვის, რათა მათ ის საკუთარი ცხოვრების გასაუმჯობესებლად გამოიყენონ, და საზოგადოების დახმარება ახალ ტექნოლოგიებთან შეგუებაში. როგორც 2023 წელს დავწერეთ⁠: „ჩვენ ბევრს ვმუშაობთ იმისთვის, რომ პროგნოზირებადი რისკები დანერგვამდე ავიცილოთ თავიდან, თუმცა არსებობს ზღვარი იმისა, რისი სწავლაც ლაბორატორიაში შეგვიძლია. ფართო კვლევისა და ტესტირების მიუხედავად, ვერ ვიწინასწარმეტყველებთ ყველა სასარგებლო გზას, რომლითაც ადამიანები ჩვენს ტექნოლოგიას გამოიყენებენ, და ვერც ყველა გზას, რომლითაც მას ბოროტად გამოიყენებენ. სწორედ ამიტომ გვჯერა, რომ რეალურ სამყაროში გამოყენებიდან სწავლა დროთა განმავლობაში უფრო უსაფრთხო AI სისტემების შექმნისა და გამოშვების კრიტიკული კომპონენტია.“

რადგან AI მოდელები კიდევ უფრო ძლიერდებიან და მათი დანერგვისა თუ გამოშვების სარგებელი და რისკები მატულობს, ასევე მნიშვნელოვანია, სულ უფრო დახვეწილად გადავწყვიტოთ, უნდა მოხდეს თუ არა მოდელის დანერგვა და როგორ. ეს განსაკუთრებით მართებულია, თუ AI შესაძლებლობებს საზოგადოებრივ უსაფრთხოებაზე ან ეროვნულ უსაფრთხოებაზე მნიშვნელოვანი გავლენა ექნება. უფრო განვითარებული AI სისტემებიდან მომდინარე ასეთი „კატასტროფული“ რისკების მომავალში არსებობა ბუნებრივად გაურკვეველია, და აკადემიურ წრეებში აზრთა სხვადასხვაობაა იმაზე, რამდენად სავარაუდოა და რამდენად მალე წარმოიშობა ასეთი რისკები. არ გვჯერა, რომ ჯერ საკმარისი მტკიცებულება არსებობს; ვერ გამოვრიცხავთ მათ, მაგრამ ვერც დარწმუნებით ვიტყვით, რომ გარდაუვალია. როგორც დეველოპერები, რომლებიც AI შესაძლებლობების მოწინავე ზღვარს წინ ვწევთ მათი სარგებლის მაქსიმიზებისთვის, ამ ტექნოლოგიის რისკების მეცნიერების შექმნას (მათ შორის, ამ რისკებთან დაკავშირებული მტკიცებულებების შეგროვებას) ჩვენი საქმიანობის განუყოფელ ნაწილად მივიჩნევთ.

ამ გაურკვევლობებში ემპირიულ მონაცემებზე დაფუძნებული ნავიგაციისთვის OpenAI-მ საჯაროდ წარადგინა ჩვენი მზაობის ჩარჩო⁠(იხსნება ახალ ფანჯარაში) — მეცნიერებაზე დაფუძნებული მიდგომა, რომლითაც უწყვეტად ვაფასებთ და ვამცირებთ ნებისმიერ კატასტროფულ რისკს, რომელიც ჩვენს AI მოდელებს შეიძლება ჰქონდეთ. მზაობის ჩარჩო განსაზღვრავს, როგორ ვაფასებთ ჩვენი AI მოდელების შესაძლებლობის დონეებს რამდენიმე მაღალი რისკის მქონე სფეროში, მათ შორის კიბერუსაფრთხოებაში, ავტონომიურ ოპერირებაში, ინდივიდუალიზებულ დარწმუნებაში და CBRN (ქიმიური, ბიოლოგიური, რადიოლოგიური და ბირთვული) საფრთხეებში. ამ ჩარჩოს მოქმედების მაგალითისთვის იხილეთ ჩვენი უახლესი კვლევა⁠, რომელიც GPT‑4‑ის ბიოლოგიური საფრთხის შექმნაში დახმარების უნარს ამოწმებდა და დაასკვნა, რომ ის მნიშვნელოვან დამატებით რისკს არ ქმნის.

ამ შეფასებების საფუძველზე თითოეულ კატეგორიაში მოდელების რისკის დონეს ვაფასებთ როგორც Low, Medium, High ან Critical. გადამწყვეტად მნიშვნელოვანია, რომ ჩვენი მზაობის ჩარჩოს მიხედვით, არ დავნერგავთ AI სისტემებს, რომლებიც ჩვენს ტაქსონომიაში „High“ ან „Critical“ რისკის დონეს წარმოადგენენ (და „Critical“ კატეგორიის სისტემებს არც კი ვავარჯიშებთ მათი რისკის დონის გამო), თუ ჩვენი შემამსუბუქებელი ზომები ამ სისტემების რისკს მაქსიმუმ „Medium“ დონემდე არ დაიყვანს. მზაობის ჩარჩო მნიშვნელოვანია, რადგან საშუალებას გვაძლევს ავაშენოთ და ფართოდ გავაზიაროთ სულ უფრო ძლიერი AI-ის სარგებელი, და ამავე დროს მოვემზადოთ, რომ კატასტროფული რისკები, თუ ისინი რეალურად წარმოიშობა, რაც შეიძლება ადრე აღმოვაჩინოთ და მათგან დავიცვათ თავი.

გვჯერა, რომ ადამიანებსა და კომპანიებს უნდა შეეძლოთ AI-ში მონაწილეობა საკუთარი არჩევანის მიხედვით — რაც შეიძლება მოიცავდეს ისეთი AI-ის შექმნას ან გამოყენებას, რომელიც მათ ღირებულებებსა და ხედვას ასახავს — რათა AI-ის სარგებელი მიიღონ. ამავდროულად, ძალიან მაღალი შესაძლებლობების მქონე AI სისტემები უსაფრთხოდ უნდა იქმნებოდეს და გამოიყენებოდეს, ხოლო აღმოჩენილი კატასტროფული რისკები სათანადოდ უნდა შემცირდეს. ეს ინტერესები ზოგჯერ შესაძლოა დაძაბულობაში იყოს ერთმანეთთან და საუკეთესო საზოგადოებრივი შედეგების მისაღწევად, კონკრეტულ შემთხვევებზე მორგებულად, გააზრებულ მართვას საჭიროებდეს.

მაღალი შესაძლებლობების მქონე საბაზისო მოდელების შემთხვევაში, რომელთა შექმნაც მნიშვნელოვან რესურსებს მოითხოვს (ასობით მილიონი დოლარის ან მეტის ოდენობით), გვჯერა, რომ AI-ის დეველოპერებმა უნდა შეაფასონ მათი მოდელის პოტენციალი, შექმნას კატასტროფული რისკები, და თუ მოდელის რისკის დონე მაღალი აღმოჩნდება, მის გაშვებამდე ან გამოშვებამდე შესაბამისი შემამსუბუქებელი ზომები დანერგონ. ეს რისკების მართვასა და ინოვაციას შორის სათანადო ბალანსს ქმნის: მოსალოდნელია, რომ ამ მოდელებს ყველაზე დიდი შესაძლებლობები ექნებათ⁠(იხსნება ახალ ფანჯარაში), ხოლო შეფასების ღირებულება მათი განვითარების ღირებულების მაქსიმუმ მცირე ნაწილია. ასეთი შეფასებები აზრს ინარჩუნებს, მიუხედავად იმისა, მოდელის წონების ფართოდ გამოშვებაა განზრახული თუ API-ის საშუალებით მიწოდება.

სპექტრის მეორე ბოლოში, ნაკლებად რესურსმომთხოვნი საბაზისო მოდელების შემთხვევაში, ინტერესთა ბალანსი განსხვავებულია. ამჟამინდელი მტკიცებულებებით, ასეთი მოდელები გაცილებით ნაკლებად არიან კატასტროფული რისკების მატარებელი, თუნდაც ფაინტიუნინგისა და მოდელის მოდიფიკაციის ტექნიკების მოსალოდნელი წინსვლის პირობებში. ამასთან, კატასტროფული რისკის შეფასება მცირე სასწავლო გაშვებების ბიუჯეტის მნიშვნელოვან ნაწილს შეიძლება შეადგენდეს, რაც ინოვაციასა და კონკურენციაზე შემაკავებელ ეფექტს გამოიწვევს. გვჯერა, რომ ასეთი მოდელებისთვის კატასტროფული რისკების მსგავსი შეფასებები მოსალოდნელი არ უნდა იყოს, რადგან დიდი მნიშვნელობა აქვს დეველოპერების მრავალფეროვანი ჯგუფის ინოვაციის უნარის დაცვას AI-ის ახალ, შთამბეჭდავ შესაძლებლობებზე და იდეებისა და პროდუქტების ბაზრის აყვავების დაშვებას, ხოლო მეცნიერება მიუთითებს, რომ ამ მოდელების რისკი შედარებით დაბალია.

მზაობის ჩარჩოს მსგავსი შეფასების პროტოკოლები სასარგებლო ინსტრუმენტია ნებისმიერი ტიპის მოდელის გამოშვებიდან მომდინარე ex ante რისკების შესაფასებლად, მათ შორის open model weight გამოშვებებისთვისაც. არსებობს რამდენიმე მოსაზრება, რომლებიც სპეციფიკურია open weights გამოშვებებზე მათი გამოყენებისთვის.

ერთ-ერთი ასეთი მოსაზრება ის არის, რომ ტესტირების პირობები იდეალურ შემთხვევაში უნდა ასახავდეს იმ გზების დიაპაზონს, რომლითაც ქვედა დონის აქტორებს შეუძლიათ მოდელის შეცვლა. open model-ების ერთ-ერთი ყველაზე სასარგებლო თვისება ისაა, რომ ქვედა დონის აქტორებს შეუძლიათ მოდელების მოდიფიცირება, რათა გააფართოონ მათი საწყისი შესაძლებლობები და მოარგონ ისინი დეველოპერის კონკრეტულ გამოყენებებს. თუმცა, ეს ასევე ნიშნავს, რომ ბოროტმოქმედ მხარეებს შესაძლოა მოდელის მავნე შესაძლებლობების გაძლიერებაც შეეძლოთ. შესაბამისად, open-weights გამოშვების რისკების მკაცრი შეფასება უნდა მოიცავდეს გონივრული სპექტრის ტესტირებას, თუ როგორ შეიძლება ბოროტმოქმედმა მხარემ რეალურად შეცვალოს მოდელი, მათ შორის ფაინტიუნინგის გზითაც. OpenAI უკვე ატარებს გარკვეულ მოდიფიკაციის ტესტირებას ჩვენი მზაობის ჩარჩოს ფარგლებში (როგორც ეს გავაკეთეთ ჩვენს ბიორისკის შეფასებაში⁠).

კიდევ ერთი მნიშვნელოვანი მოსაზრებაა, რომ open model-ის დეველოპერებმა შესაძლოა ვერ შეძლონ სისტემის დონის დამცავ მექანიზმებზე დაყრდნობა, რათა შეამცირონ მათი მოდელის ბოროტად გამოყენების რისკი, რადგან დაცვითი მექანიზმები ხშირად შეიძლება მოიხსნას ბოროტმოქმედმა ქვედა დონის მომხმარებელმა, რომელსაც მოდელის წონები აქვს. დღეს ამ განსხვავებას რისკის შემცირების შესაძლებლობაში შეზღუდული შედეგები აქვს, რადგან ჩვენი ყველაზე ძლიერი მიმდინარე მოდელებიც კი განსაკუთრებით რისკიანად არ ფასდება. მაგრამ თუ მომავალში მეცნიერულად დადგინდება, რომ გამოშვების შემთხვევაში რომელიმე მოდელი მძიმე რისკებს ქმნის, მაშინ open-weights გამოშვების რისკის შემცირების გზა შესაძლოა დაეყრდნოს იმ გარე გარემოს მდგრადობის ზრდას, რომელშიც მოდელი გამოდის.

საზოგადოებრივი მდგრადობის საჭიროება AI-ის ბოროტად გამოყენების წინააღმდეგ უფრო ფართოა, ვიდრე რომელიმე ერთი ორგანიზაციის გამოშვების გადაწყვეტილებები. AI-ის ალგორითმების უწყვეტი პროგრესისა და გავრცელების, ასევე გამოთვლით რესურსებზე მზარდად ფართო წვდომის პირობებში (მათ შორის იმ ქვეყნებში, რომლებიც შეერთებული შტატებისთვის შეშფოთების საგანია), დღევანდელი მოწინავე AI შესაძლებლობები — რომლებიც შექმნის მომენტში ხშირად მხოლოდ რამდენიმე აქტორისთვის არის ხელმისაწვდომი — საბოლოოდ ფართოდ გავრცელდება. შეერთებულ შტატებსა და მსოფლიოს სხვა ქვეყნებს ასევე აქვთ შესაძლებლობა, ჩადონ ინვესტიცია და ლიდერობა გაუწიონ შემამსუბუქებელ ზომებს, რომლებიც ბოროტად გამოყენების შედეგებს შეზღუდავს, რათა შედეგების ბალანსი მაქსიმალურად დადებითი იყოს.

მაგალითად, AI-ით დაჩქარებული კიბერშეტევების რისკების წინააღმდეგ მდგრადობის გაძლიერება შეიძლება მოიცავდეს კრიტიკული ინფრასტრუქტურის პროვაიდერებისთვის იმავე AI მოდელებზე ადრეული წვდომის მიცემას, რათა ისინი კიბერდაცვის გასაუმჯობესებლად გამოიყენონ (როგორც იმ ადრეულ პროექტებში, რომლებიც ჩვენ დავაფინანსეთ OpenAI Cybersecurity Grant Program⁠-ის ფარგლებში). AI-ით დაჩქარებული ბიოლოგიური საფრთხეების შექმნის რისკების წინააღმდეგ მდგრადობის გაძლიერება შეიძლება მოიცავდეს გადაწყვეტილებებს, რომლებიც AI-სთან საერთოდ არაა დაკავშირებული, მაგალითად, ნუკლეინის მჟავების სინთეზის სკრინინგის მექანიზმების გაუმჯობესებას (როგორც ამას Executive Order 14110 მოითხოვს), ან საზოგადოებრივი ჯანმრთელობის სისტემების შესაძლებლობის გაუმჯობესებას, რათა ახალი პათოგენების აფეთქებები შეამოწმონ და ამოიცნონ. თუ მკაცრი შეფასებით დადგინდება, რომ AI მოდელი საზოგადოებრივ უსაფრთხოებას ან ეროვნულ უსაფრთხოებას მძიმე რისკებს უქმნის, მაშინ დეველოპერს შესაძლოა მნიშვნელოვანი როლი ჰქონდეს ფართო გამოშვებამდე ამ ახალი შესაძლებლობების შესახებ ცნობიერების შექმნაში (მაგალითად, ინფრასტრუქტურის პროვაიდერების გაფრთხილებით ან API-ის გავრცელების შეზღუდვით), რათა შეიქმნას როგორც დრო, ისე მოტივაცია სასწრაფოდ საჭირო მდგრადობის ძალისხმევისთვის. ეს ჰგავს კიბერსფეროში არსებულ „პასუხისმგებლიანი გამჟღავნების“ ნორმას, სადაც უსაფრთხოების მკვლევრები დროებით აყოვნებენ აღმოჩენილი მოწყვლადობების გამოშვებას, რათა დამცველებს სისტემების შესწორების დრო მისცენ, და ამასთანავე არ შეაფერხონ უსაფრთხოების შემდგომი კვლევა.

მიუხედავად იმისა, რომ გვჯერა, ყველაზე ძლიერი მოდელების რისკების შეფასება მნიშვნელოვანია, AI-ის რისკების შეფასების მეცნიერება ჯერ საწყის ეტაპზეა. OpenAI და უფრო ფართო AI საზოგადოება ჯერ კიდევ აყალიბებენ საფუძვლებს იმისა, თუ როგორ უნდა შეფასდეს AI-ის რისკები, და ჩვენ კვლავ მუდმივად ვაუმჯობესებთ მზაობის ჩარჩოში ოპერატიულად განხორციელების ბევრ დეტალს. მთავრობებს მნიშვნელოვანი როლი აქვთ AI ეკოსისტემას დაეხმარონ რისკებისა და შესაძლებლობების შეფასების პრაქტიკის მომწიფებაში, მაგალითად, თავდასხმითი კიბერუსაფრთხოების, კრიტიკული ინფრასტრუქტურისა და AI სფეროების ექსპერტების შეკრებით, რათა შეთანხმდნენ პრიორიტეტული AI კიბერსაფრთხის მოდელების ნაკრებზე და შექმნან მათი შესაფასებელი მკაცრი და ემპირიული სატესტო გარემოები. ჩვენ მკაცრად ვუჭერთ მხარს ნებაყოფლობით, ინოვაციაზე ორიენტირებულ და მეცნიერებაზე დაფუძნებულ მიდგომას, რომელსაც USAISI მისდევს.

მას შემდეგ, რაც OpenAI 2019 წელს GPT‑2‑ის გამოშვების არჩევანის წინაშე დადგა — და თავდაპირველად მხოლოდ მოდელის მცირე ვერსიის გამოშვება გადაწყვიტა — ახალმა აღმოჩენებმა და მოვლენებმა მუდმივად ცვალეს საბაზისო მოდელების წონების ღია გამოშვებასთან დაკავშირებული მოსაზრებების ლანდშაფტი, ზოგჯერ ყოველ რამდენიმე თვეშიც კი. ველით, რომ ეს ტენდენცია გაგრძელდება. ნებისმიერი სამთავრობო პოლიტიკა მოქნილი და მომავალ ცვლილებებთან ადაპტირებადი უნდა იყოს.