Padedame kurti bendrus pažangiojo DI standartus

Vis pajėgesni modeliai gali stiprinti kibernetinę gynybą, spartinti mokslo atradimus ir plėsti prieigą prie ekspertinių žinių. Tačiau jie taip pat gali kelti saugos ir saugumo riziką, jei jų pajėgumai suprantami neteisingai, apsaugos priemonės nepakankamos arba vyriausybės neturi informacijos, kurios reikia norint reaguoti. Kad nauda būtų gaunama saugiai ir užtikrintai, visuomenėms reikės institucijų, turinčių techninių ir valdymo pajėgumų vertinti, apsaugoti ir valdyti vis pajėgesnes sistemas.

Tai viena iš priežasčių, kodėl „OpenAI“ padėjo įsteigti „Linux Foundation“ globojamą „Appia“ fondą⁠(atsidaro naujame lange). „Appia“ rengs atviras, modulines specifikacijas, skirtas tarptautinius standartus ir nusistovėjusias sistemas paversti praktiniais vertinimo kriterijais visoje DI vertės grandinėje. Jos darbas gali padėti sukurti itin reikalingą pasitikėjimo sluoksnį, kuriuo naudodamosi trečiosios šalys tikrintų atitiktį standartams ir pateiktų aiškesnius, lengviau pakartotinai naudojamus įrodymus, kai modelius, infrastruktūrą ir programas kuria skirtingos organizacijos. Atlikdama šį darbą, „Appia“ padės sukurti bendrą techninę kalbą, kuri leis nacionalinėms ir tarptautinėms institucijoms pasitikėti viena kitos darbu.

Šias pastangas laikome svarbiu kitu žingsniu platesnėje veikloje siekiant stiprinti institucijas, standartus ir vertinimo praktikas, reikalingas pažangioms DI sistemoms.

Mūsų naujausias demokratinio priešakinio DI valdymo planas pateikia šio darbo veiksmų gaires. Jame raginama sukurti tvarią JAV sistemą, sustiprinti DI standartų ir inovacijų centrą (CAISI) ir parengti platesnę valdžios atsparumo strategiją. Jame taip pat pripažįstama, kad priešakinių modelių rizikos veiksniai yra tarptautinio masto. Valstybės turėtų bendradarbiauti kurdamos suderinamas saugos sistemas, patikimus kanalus dalytis rizikos išvadomis ir koordinuotus reagavimo į incidentus veiksmus.

Nacionaliniai pajėgumai ir tarptautinis bendradarbiavimas turėtų vienas kitą stiprinti. Stiprios institucijos, tokios kaip CAISI, gali ugdyti techninę kompetenciją, vertinti priešakines sistemas ir remti nepriklausomo vertinimo ekosistemą. Pajėgių nacionalinių institucijų tinklas tuomet gali nustatyti bendrus metodus, pripažinti patikimus įrodymus ir suteikti vyriausybėms bendrą techninį supratimą, kurio reikia norint veikti kartu.

Standartai yra šių pastangų ašis, todėl jie turi remtis patikima vertinimo praktika ir techniniu griežtumu. Savo bendrame patikimų trečiųjų šalių vertinimų vadove apibrėžėme, ką vis dažniau turi atskleisti priešakinių sistemų vertinimai: tikrintą sistemą, jos prieigą prie priemonių ir vertinimo aplinką, metodus, taikytus pajėgumams išryškinti, turimus išteklius ir patikras, atliktas rezultatams patvirtinti. Šiuos principus taip pat pritaikėme praktiškai per testavimo partnerystes su JAV CAISI ir JK AISI, kurių priešakinių pajėgumų ir apsaugos priemonių nuo biologinio netinkamo naudojimo vertinimo darbas lėmė konkrečius mūsų sistemų patobulinimus. Šis darbas atlieka svarbią funkciją – kuria pagrindą praktikoms, kurias galima standartizuoti, kad veikimas būtų tikrinamas palyginamu būdu.

Šios praktikos papildo platesnę „OpenAI“ saugos infrastruktūrą. Mūsų Pasirengimo sistema yra pagrindas, pagal kurį apibrėžiame ir praktiškai įgyvendiname savo požiūrį į rimčiausių pažangių DI sistemų keliamų rizikos veiksnių valdymą, įskaitant vidines praktikas. Mūsų Priešakinių technologijų valdymo sistema atitinkamas šio požiūrio dalis perkelia į viešą valdymo dokumentą, kuriame daugiausia dėmesio skiriama konkrečioms reguliacinėms prievolėms, įskaitant rizikos vertinimą, modelių ataskaitas, saugumo kontrolės priemones, reagavimą į incidentus ir išorės ekspertų nuomonės įtraukimą. Kartu šie dokumentai padeda plačius įsipareigojimus paversti veiklos praktikomis, kurias galima patikrinti ir tobulinti.

„Appia“ darbas nukreiptas į kitą iššūkį: užtikrinti, kad šios praktikos būtų tarpusavyje suderinamos organizacijose, jurisdikcijose ir tiekimo grandinėje.

„OpenAI“ jau prisideda prie platesnės standartų ir priešstandartizacinių iniciatyvų ekosistemos. Dalyvaujame Tarptautinės standartizacijos organizacijos ir Tarptautinės elektrotechnikos komisijos jungtinio 1-ojo technikos komiteto 42-ajame dirbtinio intelekto pakomitetyje⁠(atsidaro naujame lange) ir Nacionalinio standartų ir technologijų instituto vadovaujamame dirbtinio intelekto konsorciume⁠(atsidaro naujame lange); padėjome įsteigti Priešakinių modelių forumą ir „Linux Foundation“ Agentinio dirbtinio intelekto fondą⁠(atsidaro naujame lange); dalyvaujame Saugaus dirbtinio intelekto koalicijoje⁠(atsidaro naujame lange); dirbame Turinio kilmės ir autentiškumo koalicijos valdymo komitete⁠(atsidaro naujame lange); taip pat įsitraukiame į Interneto inžinerijos darbo grupės⁠(atsidaro naujame lange) ir „Fast Identity Online Alliance“⁠(atsidaro naujame lange) procesus, kad skatintume tarpusavyje suderinamus techninius standartus.

Visuose šiuose forumuose, o dabar ir per „Appia“, siekiame priešakinių technologijų kūrimo patirtį paversti atviromis, techniškai pagrįstomis praktikomis, kurias vyriausybės, įmonės ir nepriklausomi vertintojai galėtų taikyti įvairiose jurisdikcijose.