კომენტარი NTIA-ის AI Accountability Policy-ზე

OpenAI სიამოვნებით პასუხობს ტელეკომუნიკაციებისა და ინფორმაციის ეროვნული ადმინისტრაციის (NTIA) 2023 წლის 13 აპრილის მოწოდებას კომენტარების წარსადგენად (RFC) AI Accountability Policy-ზე.

ამ კომენტარში ჩვენ აღვწერთ ჩვენს ხედვას AI-ის ანგარიშვალდებულების შესახებ იმ უსაფრთხოების პრაქტიკებზე დაყრდნობით, რომლებსაც დღეს უკვე ვ применяем ჩვენს მიერ მიწოდებულ სერვისებზე, და იმ პრაქტიკებზე, რომელთა გამოყენებასაც მომავალში შეთავაზებულ სერვისებზე ვგეგმავთ. მივესალმებით NTIA-ის გადაწყვეტილებას, ეს დისკუსია AI-ის ანგარიშვალდებულების „ეკოსისტემის“ ჭრილში განიხილოს. როგორც RFC აღნიშნავს, პოლიტიკის დაინტერესებული მხარეები იკვლევენ „სანდო AI სისტემების მიზნებისა და დანერგვის კონტექსტების დიაპაზონს“.¹ შესაბამისად, ანგარიშვალდებულების მისაღწევად შექმნილი პოლიტიკები და პრაქტიკები განსხვავებული იქნება. ამასთან, ანგარიშვალდებულების კონკრეტულ ზომებს ერთმანეთთან თანაარსებობა მოუწევთ, და ყველაზე მნიშვნელოვანი არის ის ზემოქმედება, რომელსაც ისინი ერთობლივად ახდენენ.

გვჯერა, რომ AI-ის ანგარიშვალდებულების成熟ე ეკოსისტემა მოიცავს როგორც ჰორიზონტალურ, ისე ვერტიკალურ ელემენტებს. ანუ, ველით როგორც ისეთ ელემენტებს, რომლებიც გარკვეულ AI სისტემებზე გამოყენების სფეროების მასშტაბით გავრცელდება, ასევე ისეთებს, რომლებიც კონკრეტულ სფეროებზე იქნება მორგებული. ჩართული ვართ მაღალი შესაძლებლობების მქონე საფუძვლიანი მოდელების განვითარებასა და დანერგვაში — მოდელების, რომლებიც დიდი მოცულობის მონაცემებიდან სწავლობენ, რათა შემდგომში ამოცანების ფართო სპექტრი შეასრულონ. ჩვენი აზრით, ჩვენნაირმა AI დეველოპერებმა პასუხისმგებლიანად უნდა იმოქმედონ და ყველაზე მოწინავე შესაძლებლობების განვითარებასა და დანერგვას ფრთხილი და უსაფრთხოებაზე ორიენტირებული მიდგომით მიუდგნენ. ეს მართებულია იმისგან დამოუკიდებლად, თუ რომელ კონკრეტულ სფეროებში შეიძლება ასეთი მოდელების გამოყენება.

AI-ს უკვე ეხება მოქმედი კანონების ფართო სპექტრი — მათ შორის ჩვენს პროდუქტებსაც — და სამართლებრივი გარემო სწრაფად იცვლება: მიმდინარეობს საკანონმდებლო ინიციატივები კონგრესში, ევროპაში მუშავდება AI Act, და მთელ მსოფლიოში ვითარდება საკანონმდებლო და პოლიტიკის ინიციატივები. ამავე დროს, ისეთ სფეროებში, როგორიცაა მედიცინა, განათლება და დასაქმება, დიდი ხნის წინ დამკვიდრებული სამართლის, რეგულირებისა და სხვა მოლოდინების სისტემები უკვე ინტერპრეტირდება და ადაპტირდება ისე, რომ ამ დომენებში AI-ის როლს განსაზღვრავს. ამ სექტორულ ძალისხმევებს, რომლებიც ღრმა დომენური ექსპერტიზით არის გამყარებული, AI-ის ანგარიშვალდებულების ლანდშაფტის კრიტიკულ ნაწილად მივიჩნევთ.

ძლიერად ვუჭერთ მხარს AI-ისთვის წარმოქმნილი ანგარიშვალდებულების მოლოდინების ჰარმონიზაციის მცდელობებს, მათ შორის NIST AI Risk Management Framework-ის, აშშ-ევროკავშირის Trade and Technology Council-ისა და სხვა მრავალ გლობალურ ინიციატივას. სანამ ეს მცდელობები წინ მიიწევს, და მანამდეც კი, სანამ ახალი კანონები სრულად ამოქმედდება, ჩვენ ვხედავთ როლს ჩვენთვის და სხვა კომპანიებისთვის, რომ ნებაყოფლობით აიღონ ვალდებულებები ისეთ საკითხებზე, როგორიცაა დანერგვამდე ტესტირება, კონტენტის წარმომავლობა და trust and safety.

ჩვენი მიმდინარე საინჟინრო მიდგომა გამოთვლითი რესურსების უნიკალურ მასშტაბს მოითხოვს, და ამას დამატებითი და გამორჩეული ანგარიშვალდებულების მოლოდინების განსაზღვრის პერსპექტიულ საფუძვლად მივიჩნევთ, რომლებიც ჩვენნაირ აქტორებზე გავრცელდება. მხარს ვუჭერთ იმას, რომ მაღალი შესაძლებლობების მქონე საფუძვლიანი მოდელებისთვის ნებისმიერი ახალი რეგულაცია ფრთხილად განისაზღვროს, რათა ყველა აქტორს სამართლიანი კონკურენციისა და ინოვაციის უნარი შეუნარჩუნდეს.

ანგარიშვალდებულება როლს თამაშობს ტექნოლოგიის მთელი სასიცოცხლო ციკლის განმავლობაში. ჩვენი ძალისხმევა, რომ მოდელები უსაფრთხო და სანდო იყოს, იწყება განვითარების დაწყებამდე, გრძელდება მათი დანერგვისა და ოპერირების განმავლობაში და ეხება როგორც მაღალი შესაძლებლობების მქონე საფუძვლიანი მოდელების შემქმნელებს, ისე მომხმარებლებს. დეველოპერებს ვთავაზობთ მსოფლიო დონის შესაძლებლობებს მათი აპლიკაციებისთვის და ძლიერ შესაძლებლობებს პირდაპირ ვაწვდით მილიონობით ადამიანს, რომლებიც ყოველდღე იყენებენ ChatGPT‑სა და ჩვენს სხვა სერვისებს. ჩვენი გამოყენების პოლიტიკები ვრცელდება ჩვენი მოდელების, ხელსაწყოებისა და სერვისების ყველა მომხმარებელზე.² ვიცავთ მოქმედ კანონებს და მოვითხოვთ, რომ ჩვენი დეველოპერებიცა და მომხმარებლებიც იცავდნენ მათ ჩვენი სერვისების გამოყენებისას.

კომენტარის დარჩენილ ნაწილში ვკონცენტრირდებით AI-ის ანგარიშვალდებულებისადმი ჩვენს მიმდინარე მიდგომებზე და აღვწერთ მნიშვნელოვან სფეროებს, სადაც ჩვენ და სხვები ვმუშაობთ ეკოსისტემის გასაძლიერებლად. აღვნიშნავთ, რომ შეერთებულ შტატებსა და მთელ მსოფლიოში პოლიტიკის შემქმნელები განიხილავენ პოლიტიკებისა და ზომების ფართო სპექტრს, რომლებიც AI-ის ანგარიშვალდებულების მისაღწევად არის გამიზნული, მათ შორის კანონმდებლობას, რეგულაციებს, საერთაშორისო შეთანხმებებს, თვითრეგულირების პროგრამებს და აღსრულებად ტექნიკურ თუ სხვა სტანდარტებს. ვაფასებთ ამ ძალისხმევას და მზად ვართ სხვა დაინტერესებულ მხარეებთან პარტნიორობისთვის, რათა AI-ის ანგარიშვალდებულების ეფექტიანი მიდგომები შევიმუშაოთ და განვახორციელოთ.

ჩვენ ვხვეწავთ ჩვენს პრაქტიკებს ფართო საჯარო დისკუსიის განვითარებასთან ერთად. აქ წარმოგიდგენთ ჩვენი მიდგომის რამდენიმე ასპექტის დეტალებს.

გამჭვირვალობა ანგარიშვალდებული AI სისტემების შექმნის მნიშვნელოვანი ელემენტია. ანგარიშვალდებულების მიმართ ჩვენი მიდგომის ერთ-ერთი საკვანძო ნაწილი არის დოკუმენტის გამოქვეყნება, რომელსაც ამჟამად სისტემურ ბარათს ვუწოდებთ, იმ ახალი AI სისტემებისთვის, რომლებსაც ვნერგავთ. ჩვენი მიდგომა შთაგონებულია მოდელის ბარათებსა და სისტემურ ბარათებზე ჩატარებული წინა კვლევებით.³ დღემდე OpenAI-მ გამოაქვეყნა ორი სისტემური ბარათი: GPT‑4 სისტემური ბარათი და DALL-E 2 სისტემური ბარათი.⁴

გვჯერა, რომ უმეტეს შემთხვევაში მნიშვნელოვანია, ამ დოკუმენტებმა გააანალიზონ და აღწერონ სისტემის გავლენები — და არა მხოლოდ თვით მოდელზე გაამახვილონ ყურადღება — რადგან სისტემის გავლენა ნაწილობრივ მოდელის გარდა სხვა ფაქტორებზეც არის დამოკიდებული, მათ შორის გამოყენების შემთხვევაზე, კონტექსტსა და რეალურ სამყაროში ინტერაქციებზე. ანალოგიურად, AI სისტემის გავლენა დამოკიდებულია რისკის შემამსუბუქებელ ზომებზეც, როგორიცაა გამოყენების პოლიტიკები, წვდომის კონტროლი და ბოროტად გამოყენების მონიტორინგი. მიგვაჩნია, რომ გარე დაინტერესებულ მხარეებს გონივრულად შეუძლიათ ამ თემებზე ინფორმაციის მოლოდინი და ჩვენი მიდგომის გაგების შესაძლებლობის ქონა.

ჩვენი სისტემური ბარათები მიზნად ისახავს მკითხველების ინფორმირებას იმ საკვანძო ფაქტორებზე, რომლებიც გავლენას ახდენს სისტემის ქცევაზე, განსაკუთრებით პასუხისმგებლიანი გამოყენებისთვის მნიშვნელოვან სფეროებში. აღმოვაჩინეთ, რომ სისტემური ბარათებისა და მსგავსი დოკუმენტების ღირებულება მხოლოდ იმაში არ მდგომარეობს, რომ ისინი მოდელის მუშაობის პრობლემების მიმოხილვას გვთავაზობენ, არამედ ასევე იმ ილუსტრაციულ მაგალითებში, რომლებსაც ისინი გვაწვდიან. ასეთ მაგალითებს შეუძლიათ მომხმარებლებსა და დეველოპერებს აღწერილი სისტემის მუშაობისა და რისკების, ასევე ამ რისკების შესამცირებლად ჩვენს მიერ გადადგმული ნაბიჯების უფრო დასაბუთებული გაგება მისცენ. ამ დოკუმენტების მომზადება ასევე გვეხმარება ჩვენი შიდა პრაქტიკების ჩამოყალიბებაში და ამ პრაქტიკებს აჩვენებს სხვებსაც, რომლებიც AI-ისადმი პასუხისმგებლიანი მიდგომების ოპერაციონალიზაციის გზებს ეძებენ.

შეტევითი ტესტირება არის ჩვენი მოდელებისა და სისტემების ხარისხობრივი ტესტირების პროცესი სხვადასხვა სფეროში, რათა შევქმნათ ჩვენი მოდელების უსაფრთხოების პროფილის უფრო ჰოლისტიკური ხედვა. შეტევით ტესტირებას ვატარებთ შიდა რესურსებით, საკუთარი თანამშრომლების მონაწილეობით, როგორც მოდელის განვითარების ნაწილის სახით, ასევე იმ ადამიანებთან ერთად, რომლებიც დამოუკიდებლად მოქმედებენ იმ გუნდისგან, რომელიც ტესტირებულ სისტემას ქმნის. ჩვენი ორგანიზაციის შესაძლებლობებისა და თავდასხმებისადმი მდგრადობის შემოწმების გარდა, წითელი გუნდები ასევე იყენებენ სტრეს-ტესტირებისა და საზღვრული ტესტირების მეთოდებს, რომლებიც მიზნად ისახავს გამონაკლისი შემთხვევებისა და სხვა პოტენციური მარცხის რეჟიმების გამოვლენას, რომლებსაც ზიანის მიყენება შეუძლიათ.

შეტევითი ტესტირება ავსებს მოდელის შესაძლებლობებისა და რისკების ავტომატურ, რაოდენობრივ შეფასებებს, რომლებსაც ჩვენც ვატარებთ და რომლებსაც შემდეგ ნაწილში აღვწერთ. მას შეუძლია ნათელი მოჰფინოს რისკებს, რომლებიც ჯერ კიდევ არ არის რაოდენობრივად გაზომვადი, ან ისეთებს, რომელთათვისაც უფრო სტანდარტიზებული შეფასებები ჯერ არ არის შემუშავებული. შეტევით ტესტირებაზე ჩვენი წინა მუშაობა აღწერილია DALL-E 2 სისტემურ ბარათსა და GPT‑4 სისტემურ ბარათში.

ჩვენი შეტევითი ტესტირება და შემოწმება, როგორც წესი, ახალი მოდელის ან სისტემის განვითარების ეტაპზე ტარდება. ჩვენი შიდა ტესტირებისგან დამოუკიდებლად, ვიწვევთ OpenAI-ს გარეთ მყოფ ტესტერებს და ვაძლევთ ადრეულ წვდომას სისტემაზე, რომელიც ჯერ განვითარების პროცესშია. ტესტერებს OpenAI არჩევს ინტერესის სფეროებში შესრულებული წინა სამუშაოს საფუძველზე (კვლევითი ან პრაქტიკული ექსპერტიზა), და ისინი, როგორც წესი, აკადემიური მკვლევრებისა და ინდუსტრიის პროფესიონალების კომბინაციას წარმოადგენენ (მაგალითად, ადამიანებს, რომლებსაც აქვთ Trust & Safety გარემოში მუშაობის გამოცდილება). ჩვენ ვაფასებთ და ვამოწმებთ ამ ტესტების შედეგებს, და საჭიროების შემთხვევაში ვახდენთ კორექტირებებს და ვნერგავთ შემამსუბუქებელ ზომებს.

OpenAI აგრძელებს ნაბიჯების გადადგმას მიმდინარე და მომავალი შეფასებებისთვის გარე ტესტერების ხარისხის, მრავალფეროვნებისა და გამოცდილების გასაუმჯობესებლად.

ზემოთ აღწერილი ხარისხობრივი შეტევითი ტესტირების გარდა, ვქმნით ავტომატურ, რაოდენობრივ შეფასებებს სხვადასხვა შესაძლებლობისა და უსაფრთხოებაზე ორიენტირებული რისკებისთვის, მათ შორის იმ რისკებისთვისაც, რომლებსაც შეტევითი ტესტირების მსგავსი მეთოდებით ვპოულობთ. ეს შეფასებები საშუალებას გვაძლევს ჩვენი მოდელების სხვადასხვა ვერსია ერთმანეთს შევადაროთ, გავაუმჯობესოთ უსაფრთხოების ამაღლებაზე მიმართული კვლევითი მეთოდოლოგიები და საბოლოოდ ეს ყველაფერი იმ გადაწყვეტილებებში შევიტანოთ, თუ რომელი მოდელის ვერსიების დანერგვას ავირჩევთ. არსებული შეფასებები მოიცავს ისეთ თემებს, როგორიცაა ეროტიკული კონტენტი, სიძულვილის შემცველი კონტენტი და თვითდაზიანებასთან დაკავშირებული კონტენტი, და ზომავს მოდელების მიდრეკილებას ასეთი კონტენტის გენერირებისკენ.

OpenAI კრძალავს ჩვენი მოდელებისა და ხელსაწყოების გამოყენებას გარკვეული აქტივობებისა და კონტენტისთვის, როგორც ეს აღწერილია ჩვენს გამოყენების პოლიტიკებში.⁵ ეს პოლიტიკები შექმნილია იმისთვის, რომ აკრძალოს ჩვენი მოდელებისა და ხელსაწყოების ისეთი გზებით გამოყენება, რომლებიც ინდივიდუალურ ან საზოგადოებრივ ზიანს იწვევს. ამ პოლიტიკებს ვაახლებთ ახალი რისკებისა და იმ განახლებული ინფორმაციის საპასუხოდ, თუ როგორ გამოიყენება ჩვენი მოდელები. ჩვენს მოდელებზე წვდომა და მათი გამოყენება ასევე ექვემდებარება OpenAI-ის მომსახურების პირობებს, რომლებიც, სხვა საკითხებთან ერთად, კრძალავს ჩვენი სერვისების გამოყენებას ადამიანების უფლებებისთვის ზიანის მისაყენებლად და კრძალავს ჩვენი სერვისების შედეგების ადამიანურად გენერირებულად წარმოდგენას, როცა ეს ასე არ არის.⁶

ვდგამთ ნაბიჯებს ჩვენი მოდელების საზიანო აქტივობებისთვის გამოყენების შესაზღუდად იმით, რომ მოდელებს ვასწავლით უარი თქვან გარკვეული ტიპის მოთხოვნებზე პასუხის გაცემაზე, რომლებმაც შეიძლება პოტენციურად საზიანო პასუხები გამოიწვიოს. გარდა ამისა, ვიყენებთ რევიუერებისა და ავტომატური სისტემების ნაზავს, რათა გამოვავლინოთ და ვიმოქმედოთ ჩვენი მოდელების ბოროტად გამოყენების წინააღმდეგ. ჩვენი ავტომატური სისტემები მოიცავს მანქანური სწავლებისა და წესებზე დაფუძნებული კლასიფიკატორების აღმოჩენის ინსტრუმენტების ნაკრებს, რომლებიც შექმნილია ისეთი კონტენტის გამოსავლენად, რომელმაც შეიძლება ჩვენი პოლიტიკები დაარღვიოს. როდესაც მომხმარებელი განმეორებით აწვდის ჩვენს მოდელებს პოლიტიკის დამრღვევ კონტენტს მოთხოვნებში, ვიღებთ ზომებს, როგორიცაა გაფრთხილების გაცემა, მომხმარებლის დროებით შეჩერება ან მძიმე შემთხვევებში მომხმარებლის დაბლოკვა.

როგორც RFC-შია განხილული, AI Accountability-სთან დაკავშირებული მრავალი მნიშვნელოვანი კითხვა ჯერ კვლავ გადაუჭრელია. მომდევნო სექციებში ამ კითხვებიდან რამდენიმეზე დამატებით ხედვას წარმოგიდგენთ.

მაღალი შესაძლებლობების მქონე საფუძვლიან მოდელებს აქვთ როგორც სასარგებლო შესაძლებლობები, ისე ზიანის მიყენების პოტენციალი. რაც უფრო მეტად ვითარდება ამ მოდელების შესაძლებლობები, მით უფრო იზრდება იმ რისკების მასშტაბი და სიმძიმე, რომლებიც მათ შეიძლება შექმნან, განსაკუთრებით მაშინ, თუ მათ ბოროტი აქტორი მართავს ან თუ მოდელი სათანადოდ არ არის შეთანხმებული ადამიანურ ღირებულებებთან.

პოტენციურად სახიფათო შესაძლებლობების წინსვლის მკაცრი გაზომვა აუცილებელია რისკის ეფექტიანად შეფასებისა და მართვისთვის. ამას ვუდგებით იმით, რომ ვიკვლევთ და ვქმნით შეფასებებს პოტენციურად სახიფათო შესაძლებლობებისთვის, რომლებიც მერყეობს მარტივი, მასშტაბირებადი და ავტომატური ხელსაწყოებიდან ადამიან ექსპერტთა მიერ შესრულებულ ინდივიდუალურ, ინტენსიურ შეფასებებამდე. ვთანამშრომლობთ აკადემიურ და ინდუსტრიულ ექსპერტებთან და საბოლოო მიზანია, წვლილი შევიტანოთ შეფასებების მრავალფეროვანი ნაკრების განვითარებაში, რომელიც ხელს შეუწყობს მაღალი შესაძლებლობების მქონე საფუძვლიან მოდელებში წარმოშობილი რისკების შეფასების საუკეთესო პრაქტიკების ჩამოყალიბებას. გვჯერა, რომ სახიფათო შესაძლებლობების შეფასებები ანგარიშვალდებულებისა და მმართველობის სულ უფრო მნიშვნელოვანი საშენი ბლოკია მოწინავე AI-ის განვითარებაში.

მოდელებისა და სისტემების დამოუკიდებელი შეფასებები, მათ შორის მესამე მხარეების მიერ, შესაძლოა სულ უფრო ღირებული გახდეს მოდელების შესაძლებლობების ზრდასთან ერთად. ასეთ შეფასებებს შეუძლია AI სისტემების ქცევებისა და რისკების შესახებ ანგარიშვალდებულებისა და გამჭვირვალობის გაძლიერება.

შეფასების ზოგი ფორმა შეიძლება ერთი ორგანიზაციის ფარგლებში მიმდინარეობდეს, მაგალითად, როდესაც გუნდი საკუთარ ნამუშევარს აფასებს, ან როდესაც გუნდი ან ორგანიზაციის ერთი ნაწილი ქმნის მოდელს და მეორე გუნდი ან ნაწილი, დამოუკიდებლად მოქმედებით, ამ მოდელს ტესტავს. განსხვავებული მიდგომაა, როდესაც შეფასებას გარე მესამე მხარე ატარებს. როგორც ზემოთ არის აღწერილი, ამჟამად ჩვენ ჩვენს მოდელებზე როგორც შიდა, ისე გარე შეფასებების ნაზავს ვეყრდნობით.

მესამე მხარის შეფასებები შეიძლება კონკრეტულ დანერგვებზე, დროის გარკვეულ მომენტში არსებულ მოდელზე ან სისტემაზე, ორგანიზაციულ მმართველობასა და რისკის მართვის პრაქტიკებზე, მოდელის ან სისტემის კონკრეტულ გამოყენებებზე, ან მათ კომბინაციაზე იყოს ფოკუსირებული. ასეთ შეფასებებში გამოსაყენებელი აზროვნება და პოტენციური ჩარჩოები სწრაფად ვითარდება, და ჩვენ ვაკვირდებით და განვიხილავთ შეფასებებისადმი ჩვენს საკუთარ მიდგომას.

ნებისმიერი მესამე მხარის შეფასებისთვის, შესაბამისი ექსპერტიზისა და სტიმულების სტრუქტურის მქონე აუდიტორების/შემფასებლების შერჩევის პროცესს მეტი სიცხადე წაადგებოდა. გარდა ამისა, იმ შესაბამისი მოლოდინების შერჩევა, რომელთა მიმართაც ორგანიზაციები ან მოდელები უნდა შეფასდეს, კვლევის ღია სფეროდ რჩება და სხვადასხვა დაინტერესებული მხარის წვლილს მოითხოვს. ბოლოს, მნიშვნელოვანი იქნება, რომ შეფასებებმა გაითვალისწინოს, როგორ შეიძლება სისტემები დროთა განმავლობაში განვითარდეს, და ეს შეფასების / აუდიტის პროცესში აისახოს.

მხარს ვუჭერთ რეგისტრაციისა და ლიცენზირების მოთხოვნების განვითარებას ყველაზე მაღალი შესაძლებლობების მქონე საფუძვლიანი მოდელების მომავალი თაობებისთვის. ასეთ მოდელებს შეიძლება ჰქონდეთ საკმარისად სახიფათო შესაძლებლობები, რომ საზოგადოებრივ უსაფრთხოებას მნიშვნელოვანი რისკები შეუქმნან; თუ ასეა, გვჯერა, რომ მათ შესაბამისი ანგარიშვალდებულების მოთხოვნები უნდა დაეკისროთ.

შესაძლოა მიზანშეწონილი იყოს გამჟღავნებისა და რეგისტრაციის მოლოდინების განხილვა იმ სასწავლო პროცესებისთვის, რომლებიც, სავარაუდოდ, მაღალი შესაძლებლობების მქონე საფუძვლიან მოდელებს შექმნის. ასეთი გამჟღავნება შეიძლება დაეხმაროს პოლიტიკის შემქმნელებს საჭირო ხილვადობის მიღებაში, რათა ეფექტიანი რეგულაციური გადაწყვეტილებები შეიმუშაონ და AI პროგრესის მოწინავე ზღვარზე არსებულ ტენდენციებს წინ გაუსწრონ. გადამწყვეტია, რომ ნებისმიერი ასეთი რეჟიმი გამოქვეყნებული ინფორმაციის უსაფრთხოებას ანიჭებდეს პრიორიტეტს.

AI დეველოპერებს შეიძლება მოეთხოვოთ ლიცენზიის მიღება მაღალი შესაძლებლობების მქონე საფუძვლიანი მოდელების შესაქმნელად, რომლებიც სავარაუდოდ უფრო ქმედუნარიანი აღმოჩნდება, ვიდრე მანამდე უსაფრთხოდ მიჩნეული მოდელები. ლიცენზირება გავრცელებული პრაქტიკაა უსაფრთხოებისთვის კრიტიკულ და სხვა მაღალი რისკის კონტექსტებში, როგორიცაა ავიამიმოსვლა, ენერგიის წარმოება, წამლების წარმოება და საბანკო სექტორი. ლიცენზიის მფლობელებს შეიძლება მოეთხოვოთ დანერგვამდე რისკების შეფასებების ჩატარება და უახლესი უსაფრთხოების და დანერგვის დამცავი ზომების მიღება; მართლაც, ანგარიშვალდებულების მრავალი პრაქტიკა, რომელსაც NTIA განიხილავს, შეიძლება ლიცენზირების შესაბამისი მოთხოვნა იყოს. გამოთვლითი პროვაიდერის დონეზე ლიცენზირების მოთხოვნების დანერგვა აღსრულებისთვის ძლიერი დამატებითი ინსტრუმენტიც შეიძლება იყოს.

ჯერ კიდევ ბევრი ღია კითხვა რჩება რეგისტრაციისა და ლიცენზირების მექანიზმების დიზაინში, რათა ანგარიშვალდებულება AI-ის მოწინავე განვითარების ეტაპზე იქნას მიღწეული. მოუთმენლად ველით პოლიტიკის შემქმნელებთან თანამშრომლობას ამ კითხვების განხილვაში.