Aitame luua arenenud AI ühiseid standardeid
Üha võimekamad mudelid võivad tugevdada küberkaitset, kiirendada teadusavastusi ja laiendada ligipääsu eksperditeadmistele. Ent need võivad tekitada ka ohutus- ja turvariske, kui nende võimekusi mõistetakse valesti, kaitsemeetmed on ebapiisavad või valitsustel puudub reageerimiseks vajalik teave. Et kasu turvaliselt ja kindlalt realiseerida, vajavad ühiskonnad institutsioone, millel on tehniline ja juhtimisalane võimekus üha võimekamaid süsteeme hinnata, turvata ja juhtida.
See on üks põhjus, miks OpenAI aitas asutada Linux Foundationi majutatava Appia Foundationi(avaneb uues aknas). Appia töötab välja avatud moodulspetsifikatsioonid, mille eesmärk on muuta rahvusvahelised standardid ja väljakujunenud raamistikud praktilisteks hindamiskriteeriumideks kogu AI väärtusahelas. See töö võib aidata luua kriitiliselt vajaliku usalduskihi, mille kaudu kolmandad osapooled kontrollivad vastavust standarditele ning loovad selgemaid ja paremini taaskasutatavaid tõendeid olukorras, kus mudelid, taristu ja rakendused arendatakse eri organisatsioonides. Seda tööd tehes aitab Appia luua ühise tehnilise keele, mis võimaldab riiklikel ja rahvusvahelistel institutsioonidel üksteise tööd usaldada.
Näeme selles algatuses olulist järgmist sammu laiemas töös, mille eesmärk on tugevdada arenenud AI süsteemide jaoks vajalikke institutsioone, standardeid ja hindamistavasid.
Meie hiljutine tegevuskava tipptasemel AI demokraatlikuks juhtimiseks pakub selle töö jaoks teekaarti. See kutsub üles looma kestlikku USA raamistikku, tugevdatud AI standardite ja innovatsiooni keskust (CAISI) ning laiemat vastupidavusstrateegiat kogu valitsuses. Samuti tunnistab see, et eesliiniriskid on rahvusvahelise ulatusega. Riigid peaksid tegema koostööd, et töötada välja ühilduvad ohutusraamistikud, usaldusväärsed kanalid riskitulemuste jagamiseks ja koordineeritud reageerimine intsidentidele.
Riiklik võimekus ja rahvusvaheline koostöö peaksid üksteist tugevdama. Tugevad institutsioonid, nagu CAISI, saavad arendada tehnilist eksperditeadmist, hinnata eesliinisüsteeme ja toetada sõltumatut hindamisökosüsteemi. Võimekate riiklike institutsioonide võrgustik saab seejärel kehtestada ühised meetodid, tunnustada usaldusväärseid tõendeid ja anda valitsustele koos tegutsemiseks vajaliku ühise tehnilise arusaama.
Standardid on selle töö keskmes ning need peavad tuginema usaldusväärsele hindamispraktikale ja tehnilisele rangusele. Oma usaldusväärsete kolmandate osapoolte hindamiste ühises juhendis kirjeldasime, mida eesliinihindamised peavad üha enam avaldama: testitud süsteemi, selle juurdepääsu tööriistadele ja hindamiskeskkonda, võimekuste esilekutsumiseks kasutatud meetodeid, kättesaadavaid ressursse ning tulemuste valideerimiseks tehtud kontrolle. Oleme neid põhimõtteid rakendanud ka testimispartnerlustes USA CAISI ja Ühendkuningriigi AISI-ga, kelle töö eesliinivõimekuste hindamise ja bioloogilise väärkasutuse vastaste kaitsemeetmete alal tõi meie süsteemides kaasa konkreetsed täiustused. See töö täidab olulist rolli, luues aluse tavadele, mida saab standardida, et kontrollida toimivust võrreldaval viisil.
Need tavad täiendavad OpenAI laiemat ohutustaristut. Meie Valmisoleku raamistik on alus sellele, kuidas määratleme ja rakendame oma lähenemist arenenud AI süsteemidest tulenevate kõige tõsisemate riskide juhtimisele, sealhulgas oma sisetavasid. Meie Tipptasemel tehisintellekti juhtimisraamistik rakendab selle lähenemise asjakohaseid osi avalikus juhtimisdokumendis, mis keskendub konkreetsetele regulatiivsetele kohustustele, sealhulgas riskihindamisele, mudelite aruandlusele, turvakontrollidele, intsidentidele reageerimisele ja välisekspertide sisendi kaasamisele. Koos aitavad need dokumendid muuta laiad kohustused toimivateks tavadeks, mida saab valideerida ja täiustada.
Appia töö keskendub järgmisele proovikivile: muuta need tavad organisatsioonide, jurisdiktsioonide ja tarneahela üleselt koostalitlusvõimeliseks.
OpenAI panustab juba laiemasse standardite ja standardimiseelsete algatuste ökosüsteemi. Osaleme Rahvusvahelise Standardiorganisatsiooni ja Rahvusvahelise Elektrotehnikakomisjoni ühise tehnilise komitee 1 tehisintellekti alamkomitees 42(avaneb uues aknas) ning Riikliku Standardite ja Tehnoloogia Instituudi juhitud tehisintellekti konsortsiumis(avaneb uues aknas); aitasime asutada Frontier Model Forumi ja Linux Foundationi Agentic Artificial Intelligence Foundationi(avaneb uues aknas); osaleme Turvalise tehisintellekti koalitsioonis(avaneb uues aknas); kuulume Sisu päritolu ja autentsuse koalitsiooni(avaneb uues aknas) juhtkomiteesse; ning osaleme Interneti Tehnilise Töörühma(avaneb uues aknas) ja Fast Identity Online Alliance’i(avaneb uues aknas) protsessides, et edendada koostalitlusvõimelisi tehnilisi standardeid.
Kõigis neis foorumites, nüüd ka Appia kaudu, on meie eesmärk muuta eesliiniarendusest saadud õppetunnid avatud ja tehniliselt põhjendatud tavadeks, mida valitsused, ettevõtted ja sõltumatud hindajad saavad kasutada eri jurisdiktsioonides.
