Palīdzam veidot kopīgus standartus progresīvākajam MI

Arvien spējīgāki modeļi var stiprināt kiberaizsardzību, paātrināt zinātniskus atklājumus un paplašināt piekļuvi ekspertīzei. Taču tie var radīt drošuma un drošības riskus, ja to spējas tiek pārprastas, aizsargmehānismi ir nepietiekami vai valdībām trūkst reaģēšanai vajadzīgās informācijas. Lai droši un pārliecinoši izmantotu ieguvumus, sabiedrībām būs vajadzīgas institūcijas ar tehnisko un pārvaldības spēju izvērtēt, aizsargāt un pārvaldīt arvien spējīgākas sistēmas.

Tas ir viens no iemesliem, kāpēc OpenAI palīdzēja dibināt Appia Foundation⁠(atveras jaunā logā), ko uztur Linux Foundation. Appia izstrādās atvērtas, modulāras specifikācijas, kuru mērķis ir starptautiskos standartus un iedibinātus satvarus pārvērst praktiskos novērtēšanas kritērijos visā MI vērtību ķēdē. Tās darbs var palīdzēt izveidot būtisku trūkstošo uzticamības slāni, ar kuru trešās puses pārbauda atbilstību standartiem, radot skaidrākus un atkārtoti izmantojamākus pierādījumus gadījumos, kad modeļus, infrastruktūru un lietotnes izstrādā dažādas organizācijas. Veicot šo darbu, Appia palīdzēs izveidot kopīgu tehnisko valodu, kas ļaus nacionālajām un starptautiskajām institūcijām uzticēties citai citas darbam.

Mēs šo iniciatīvu uzskatām par svarīgu nākamo soli plašākā darbā, lai stiprinātu institūcijas, standartus un novērtēšanas prakses, kas vajadzīgas progresīvākajām MI sistēmām.

Mūsu nesenais plāns progresīvākā MI demokrātiskai pārvaldībai piedāvā ceļvedi šim darbam. Tas aicina izveidot noturīgu ASV satvaru, stiprināt AI Standartu un inovācijas centru (CAISI) un plašāku noturības stratēģiju visā valdībā. Tajā arī atzīts, ka robežriski pēc būtības ir starptautiski. Valstīm būtu jāsadarbojas, lai izstrādātu saderīgus drošuma satvarus, uzticamus kanālus riska konstatējumu kopīgošanai un koordinētu reaģēšanu uz incidentiem.

Nacionālajai kapacitātei un starptautiskajai sadarbībai būtu citai citu jāstiprina. Spēcīgas institūcijas, piemēram, CAISI, var attīstīt tehnisko ekspertīzi, izvērtēt progresīvās sistēmas un atbalstīt neatkarīgu novērtēšanas ekosistēmu. Spējīgu nacionālo institūciju tīkls pēc tam var ieviest kopīgas metodes, atzīt uzticamus pierādījumus un sniegt valdībām kopīgu tehnisko izpratni, kas vajadzīga kopīgai rīcībai.

Standarti ir šī darba centrā, un tiem jābalstās uzticamā izvērtēšanas praksē un tehniskā stingrībā. Mūsu kopīgajā rokasgrāmatā uzticamiem trešo pušu izvērtējumiem izklāstām, kas progresīvo sistēmu novērtējumos arvien biežāk jāatklāj: testētā sistēma, tās piekļuve rīkiem un testēšanas ietvars, spēju atklāšanai izmantotās metodes, pieejamie resursi un pārbaudes, kas veiktas rezultātu validēšanai. Šos principus esam arī īstenojuši praksē, izmantojot testēšanas partnerības ar ASV CAISI un Apvienotās Karalistes AISI, kuru darbs pie progresīvo spēju novērtējumiem un aizsargmehānismiem pret bioloģisku ļaunprātīgu izmantošanu ļāva panākt konkrētus uzlabojumus mūsu sistēmās. Šim darbam ir svarīga loma: tas veido pamatu praksei, ko var standartizēt, lai veiktspēju varētu pārbaudīt salīdzināmā veidā.

Šīs prakses papildina OpenAI plašāku drošuma infrastruktūru. Mūsu Preparedness Framework ir pamats tam, kā definējam un īstenojam savu pieeju nopietnāko progresīvu MI sistēmu risku pārvaldībai, tostarp mūsu iekšējās prakses. Mūsu Progresīvo modeļu pārvaldības satvars attiecīgās šīs pieejas daļas pārvērš publiskā pārvaldības dokumentā, kas vērsts uz konkrētiem regulatīvajiem pienākumiem, tostarp riska novērtēšanu, modeļu ziņošanu, drošības kontrolēm, incidentu reaģēšanu un ārējo ekspertu ieguldījuma iekļaušanu. Kopā šie materiāli palīdz plašas apņemšanās pārvērst operatīvās praksēs, kuras var validēt un pilnveidot.

Appia darbs ir vērsts uz nākamo izaicinājumu: panākt, lai šīs prakses būtu savietojamas starp organizācijām, jurisdikcijām un piegādes ķēdi.

OpenAI jau sniedz ieguldījumu plašākā standartu un pirmsstandartizācijas iniciatīvu ekosistēmā. Mēs piedalāmies Starptautiskās Standartizācijas organizācijas un Starptautiskās Elektrotehnikas komisijas Apvienotās tehniskās komitejas 1. apakškomitejā 42 par mākslīgo intelektu⁠(atveras jaunā logā) un Nacionālā standartu un tehnoloģiju institūta vadītajā Mākslīgā intelekta konsorcijā⁠(atveras jaunā logā); palīdzējām dibināt Progresīvo modeļu forumu un Linux Foundation Aģentu mākslīgā intelekta fondu⁠(atveras jaunā logā); piedalāmies Droša mākslīgā intelekta koalīcijā⁠(atveras jaunā logā); darbojamies Satura izcelsmes un autentiskuma koalīcijas⁠(atveras jaunā logā) vadības komitejā; kā arī iesaistāmies Interneta inženierijas darba grupas⁠(atveras jaunā logā) un Fast Identity Online Alliance⁠(atveras jaunā logā) procesos, lai veicinātu savietojamus tehniskos standartus.

Visos šajos forumos, ieskaitot tagad arī ar Appia starpniecību, mūsu mērķis ir progresīvās izstrādes gaitā gūtās atziņas pārvērst atvērtās, tehniski pamatotās praksēs, ko valdības, uzņēmumi un neatkarīgi vērtētāji var izmantot dažādās jurisdikcijās.