Pomažemo izgradnju zajedničkih standarda za naprednu AI
Sve sposobniji modeli mogu ojačati kibernetičku odbranu, ubrzati naučna otkrića i proširiti pristup stručnom znanju. Ali mogu stvoriti i sigurnosne rizike ako se njihove sposobnosti pogrešno shvate, zaštitne mjere nisu dovoljne ili vlade nemaju informacije potrebne za odgovor. Da bi sigurno i s povjerenjem ostvarila koristi, društvima će biti potrebne institucije s tehničkim i upravljačkim kapacitetom za evaluaciju, zaštitu i upravljanje sve sposobnijim sistemima.
To je jedan od razloga zašto je OpenAI pomogao u osnivanju Appia Foundation(otvara se u novom prozoru), pod okriljem Linux Foundationa. Appia će razvijati otvorene, modularne specifikacije namijenjene pretvaranju međunarodnih standarda i etabliranih okvira u praktične kriterije procjene kroz cijeli lanac vrijednosti AI-ja. Njen rad može pomoći u razvoju ključnog nedostajućeg sloja povjerenja, putem kojeg treće strane provjeravaju usklađenost sa standardima i stvaraju jasnije, višekratno upotrebljive dokaze kada modele, infrastrukturu i aplikacije razvijaju različite organizacije. Radeći na tome, Appia će pomoći u stvaranju zajedničkog tehničkog jezika koji će nacionalnim i međunarodnim institucijama omogućiti da vjeruju radu jedne drugih.
Ovaj napor vidimo kao važan sljedeći korak u širem radu na jačanju institucija, standarda i praksi procjene potrebnih za napredne AI sisteme.
Naš nedavni plan za demokratsko upravljanje najnaprednijom AI nudi mapu puta za taj rad. On poziva na trajan američki okvir, ojačani Centar za AI standarde i inovacije (CAISI) i širu strategiju otpornosti u cijeloj vladi. Također prepoznaje da granični rizici imaju međunarodni domet. Države bi trebale sarađivati na razvoju kompatibilnih sigurnosnih okvira, pouzdanih kanala za razmjenu nalaza o rizicima i koordiniranih odgovora na incidente.
Nacionalni kapaciteti i međunarodna saradnja trebali bi se međusobno jačati. Snažne institucije poput CAISI-ja mogu razvijati tehničku ekspertizu, evaluirati frontier sisteme i podržavati ekosistem nezavisne procjene. Mreža sposobnih nacionalnih institucija zatim može uspostaviti zajedničke metode, priznavati pouzdane dokaze i vladama pružiti zajedničko tehničko razumijevanje potrebno za zajedničko djelovanje.
Standardi su u središtu tog napora i moraju se zasnivati na vjerodostojnoj praksi evaluacije i tehničkoj rigoroznosti. U našem zajedničkom priručniku za pouzdane evaluacije trećih strana naveli smo šta procjene najnaprednijih sistema sve češće trebaju otkriti: testirani sistem, njegov pristup alatima i evaluacijsko okruženje, metode korištene za izazivanje sposobnosti, dostupne resurse i provjere provedene radi potvrde rezultata. Ove principe smo proveli u praksi i kroz partnerstva za testiranje s američkim CAISI-jem i britanskim AISI-jem, čiji je rad na procjenama frontier sposobnosti i zaštitnim mjerama protiv biološke zloupotrebe doveo do konkretnih poboljšanja u našim sistemima. Ovaj rad ima važnu funkciju: stvara osnovu za prakse koje se mogu standardizovati radi uporedive provjere učinka.
Ove prakse dopunjuju širu sigurnosnu infrastrukturu kompanije OpenAI. Naš Preparedness Framework temelj je za to kako definišemo i operativno provodimo naš pristup upravljanju najozbiljnijim rizicima naprednih AI sistema, uključujući naše interne prakse. Naš Okvir za upravljanje najnaprednijim modelima prenosi relevantne dijelove tog pristupa u javni dokument o upravljanju usmjeren na konkretne regulatorne obaveze, uključujući procjenu rizika, izvještavanje o modelima, sigurnosne kontrole, odgovor na incidente i uključivanje mišljenja vanjskih stručnjaka. Zajedno, ovi dokumenti pomažu da se široke obaveze pretoče u operativne prakse koje se mogu provjeravati i unapređivati.
Rad Appije usmjeren je na sljedeći izazov: učiniti te prakse interoperabilnim među organizacijama, jurisdikcijama i u cijelom lancu snabdijevanja.
OpenAI već doprinosi širem ekosistemu standarda i naporima prije standardizacije. Učestvujemo u Zajedničkom tehničkom odboru 1 Međunarodne organizacije za standardizaciju i Međunarodne elektrotehničke komisije, Potkomitetu 42 za umjetnu inteligenciju(otvara se u novom prozoru) i Konzorciju za umjetnu inteligenciju koji vodi Nacionalni institut za standarde i tehnologiju(otvara se u novom prozoru); pomogli smo u osnivanju Foruma za najnaprednije modele i Fondacije za agentsku umjetnu inteligenciju(otvara se u novom prozoru) Linux Foundationa; učestvujemo u Koaliciji za sigurnu umjetnu inteligenciju(otvara se u novom prozoru); članovi smo upravnog odbora Koalicije za porijeklo i autentičnost sadržaja(otvara se u novom prozoru); te smo angažovani u procesima Radne grupe za internetsko inženjerstvo(otvara se u novom prozoru) i Saveza za brzi online identitet(otvara se u novom prozoru) radi unapređenja interoperabilnih tehničkih standarda.
Na svim ovim forumima, uključujući sada i kroz Appiju, naš je cilj da lekcije iz razvoja najnaprednijih sistema pretočimo u otvorene, tehnički utemeljene prakse koje vlade, kompanije i nezavisni procjenitelji mogu koristiti u različitim jurisdikcijama.
