Pomažemo izgraditi zajedničke standarde za napredni AI
Sve sposobniji modeli mogu ojačati kibernetičku obranu, ubrzati znanstvena otkrića i proširiti pristup stručnom znanju. No mogu stvoriti i rizike za sigurnost ako se njihove sposobnosti pogrešno shvate, zaštitne mjere nisu dostatne ili vlade nemaju informacije potrebne za odgovor. Kako bi društva te koristi ostvarila sigurno i s povjerenjem, trebat će im institucije s tehničkim i upravljačkim kapacitetom za evaluaciju, zaštitu i upravljanje sve sposobnijim sustavima.
To je jedan od razloga zbog kojih je OpenAI sudjelovao u osnivanju Appia Foundationa(otvara se u novom prozoru), koji djeluje pod okriljem Linux Foundationa. Appia će razvijati otvorene, modularne specifikacije namijenjene pretvaranju međunarodnih standarda i uspostavljenih okvira u praktične kriterije procjene u cijelom lancu vrijednosti AI-ja. Njezin rad može pomoći u razvoju ključnog sloja povjerenja koji je dosad nedostajao i kojim treće strane provjeravaju usklađenost sa standardima, stvarajući jasnije i višekratno upotrebljivije dokaze kada modele, infrastrukturu i aplikacije razvijaju različite organizacije. Time će Appia pomoći stvoriti zajednički tehnički jezik koji će nacionalnim i međunarodnim institucijama omogućiti da uzajamno vjeruju rezultatima svojeg rada.
Taj napor smatramo važnim sljedećim korakom u širem skupu aktivnosti za jačanje institucija, standarda i praksi procjene potrebnih za napredne AI sustave.
Naš nedavni plan za demokratsko upravljanje frontier AI-jem nudi smjernice za taj rad. Poziva na stabilan američki okvir, ojačani Center for AI Standards and Innovation (CAISI) i širu strategiju otpornosti na razini cijele vlade. Također prepoznaje da su rizici najnaprednijih sustava međunarodnog dosega. Države bi trebale surađivati na razvoju usklađenih sigurnosnih okvira, pouzdanih kanala za razmjenu nalaza o rizicima i koordiniranih odgovora na incidente.
Nacionalni kapaciteti i međunarodna suradnja trebali bi se međusobno jačati. Snažne institucije kao što je CAISI mogu razvijati tehničku stručnost, evaluirati najnaprednije sustave i podržavati ekosustav neovisnih procjena. Mreža sposobnih nacionalnih institucija tada može uspostaviti zajedničke metode, priznavati pouzdane dokaze i vladama pružiti zajedničko tehničko razumijevanje potrebno za usklađeno djelovanje.
Standardi su u središtu tog nastojanja i moraju se temeljiti na vjerodostojnoj evaluacijskoj praksi i tehničkoj rigoroznosti. U našem zajedničkom priručniku za pouzdane evaluacije trećih strana iznosimo što procjene najnaprednijih sustava sve više trebaju otkrivati: testirani sustav, njegov pristup alatima i evaluacijsko okruženje, metode korištene za izazivanje sposobnosti, dostupne resurse i provjere provedene radi validacije rezultata. Ta smo načela također proveli u praksi kroz partnerstva za testiranje s američkim CAISI-jem i britanskim AISI-jem, čiji je rad na procjenama najnaprednijih sposobnosti i zaštitnim mjerama protiv biološke zloupotrebe doveo do konkretnih poboljšanja naših sustava. Taj rad ima važnu funkciju: stvara temelj za prakse koje se mogu standardizirati kako bi se performanse provjeravale na usporediv način.
Te prakse nadopunjuju širu sigurnosnu infrastrukturu OpenAI-ja. Naš Okvir pripravnosti temelj je za način na koji definiramo i operacionaliziramo svoj pristup upravljanju najozbiljnijim rizicima naprednih AI sustava, uključujući naše interne prakse. Naš Okvir za upravljanje frontier modelima primjenjuje relevantne dijelove tog pristupa u javnom dokumentu o upravljanju usmjerenom na konkretne regulatorne obveze, uključujući procjenu rizika, izvješćivanje o modelima, sigurnosne kontrole, odgovor na incidente i uključivanje mišljenja vanjskih stručnjaka. Ti dokumenti zajedno pomažu široke obveze pretočiti u operativne prakse koje se mogu provjeravati i poboljšavati.
Appijin rad usmjeren je na sljedeći izazov: omogućiti interoperabilnost tih praksi među organizacijama, jurisdikcijama i u cijelom opskrbnom lancu.
OpenAI već doprinosi širem ekosustavu standarda i predstandardizacijskim nastojanjima. Sudjelujemo u Zajedničkom tehničkom odboru 1 Međunarodne organizacije za normizaciju i Međunarodnog elektrotehničkog povjerenstva, Pododboru 42 za umjetnu inteligenciju(otvara se u novom prozoru) te u Konzorciju za umjetnu inteligenciju pod vodstvom Nacionalnog instituta za standarde i tehnologiju(otvara se u novom prozoru); pomogli smo osnovati Frontier Model Forum i Agentic Artificial Intelligence Foundation(otvara se u novom prozoru) Linux Foundationa; sudjelujemo u Koaliciji za sigurnu umjetnu inteligenciju;(otvara se u novom prozoru) članovi smo upravljačkog odbora Koalicije za podrijetlo i autentičnost sadržaja(otvara se u novom prozoru); te se uključujemo u procese Radne skupine za internetsko inženjerstvo(otvara se u novom prozoru) i Saveza Fast Identity Online(otvara se u novom prozoru) radi unapređenja interoperabilnih tehničkih standarda.
U svim tim forumima, a sada i putem Appije, cilj nam je lekcije iz razvoja najnaprednijih sustava pretočiti u otvorene, tehnički utemeljene prakse koje vlade, tvrtke i neovisni procjenitelji mogu koristiti u različitim jurisdikcijama.
