Rakennamme yhteisiä standardeja edistyneelle AI:lle

Yhä kyvykkäämmät mallit voivat vahvistaa kyberpuolustusta, vauhdittaa tieteellisiä löytöjä ja laajentaa asiantuntemuksen saatavuutta. Ne voivat kuitenkin myös aiheuttaa turvallisuus- ja tietoturvariskejä, jos niiden kyvykkyyksiä ymmärretään väärin, suojatoimet ovat riittämättömiä tai hallituksilta puuttuu reagointiin tarvittavaa tietoa. Jotta hyödyt voidaan saavuttaa turvallisesti ja luottavaisesti, yhteiskunnat tarvitsevat instituutioita, joilla on tekninen ja hallinnollinen kyky arvioida, suojata ja hallinnoida yhä kyvykkäämpiä järjestelmiä.

Tämä on yksi syy siihen, miksi OpenAI oli mukana perustamassa Linux Foundationin isännöimää Appia Foundationia⁠(avautuu uudessa ikkunassa). Appia kehittää avoimia, modulaarisia määrittelyjä, joiden tarkoituksena on muuntaa kansainväliset standardit ja vakiintuneet viitekehykset käytännön arviointikriteereiksi koko AI:n arvoketjussa. Sen työ voi auttaa luomaan kriittisen, toistaiseksi puuttuvan luottamuskerroksen, jonka avulla kolmannet osapuolet tarkistavat standardienmukaisuuden ja tuottavat selkeämpää ja paremmin uudelleenkäytettävää näyttöä, kun mallit, infrastruktuuri ja sovellukset ovat eri organisaatioiden kehittämiä. Tämän työn kautta Appia auttaa luomaan yhteisen teknisen kielen, jonka avulla kansalliset ja kansainväliset instituutiot voivat luottaa toistensa työhön.

Näemme tämän hankkeen tärkeänä seuraavana askeleena laajemmassa työssä, jonka tavoitteena on vahvistaa edistyneille AI-järjestelmille tarvittavia instituutioita, standardeja ja arviointikäytäntöjä.

Tuore suunnitelmamme edistyneen AI:n demokraattiseksi hallinnaksi tarjoaa tälle työlle etenemissuunnitelman. Se edellyttää kestävää yhdysvaltalaista viitekehystä, vahvistettua Center for AI Standards and Innovationia (CAISI) sekä laajempaa resilienssistrategiaa koko hallinnossa. Siinä myös tunnistetaan, että frontier-riskien ulottuvuus on kansainvälinen. Maiden tulisi tehdä yhteistyötä kehittääkseen yhteensopivia turvallisuusviitekehyksiä, luotettuja kanavia riskihavaintojen jakamiseen ja koordinoituja toimia poikkeamiin vastaamiseksi.

Kansallisen kapasiteetin ja kansainvälisen yhteistyön tulisi vahvistaa toisiaan. CAISI:n kaltaiset vahvat instituutiot voivat kehittää teknistä asiantuntemusta, arvioida edistyneitä järjestelmiä ja tukea riippumatonta arviointiekosysteemiä. Kyvykkäiden kansallisten instituutioiden verkosto voi sen jälkeen luoda yhteisiä menetelmiä, hyväksyä luotettua näyttöä ja antaa hallituksille yhteisen teknisen ymmärryksen, jota tarvitaan yhdessä toimimiseen.

Standardit ovat tämän työn ytimessä, ja niiden on perustuttava uskottaviin arviointikäytäntöihin ja tekniseen tinkimättömyyteen. Luotettavien kolmannen osapuolen arviointien yhteisessä pelikirjassamme kuvaamme, mitä edistyneiden arviointien on yhä useammin kerrottava: testattu järjestelmä, sen työkalupääsy ja arviointiympäristö, menetelmät kyvykkyyksien esiin tuomiseksi, käytettävissä olleet resurssit sekä tarkistukset, joilla tulokset validoitiin. Olemme myös vieneet nämä periaatteet käytäntöön testauskumppanuuksissa Yhdysvaltain CAISI:n ja Ison-Britannian AISI:n kanssa. Niiden työ edistyneiden kyvykkyyksien arvioinnissa ja biologisen väärinkäytön suojatoimissa johti konkreettisiin parannuksiin järjestelmissämme. Tällä työllä on tärkeä tehtävä: se luo perustan käytännöille, jotka voidaan standardoida suorituskyvyn vertailukelpoista tarkistamista varten.

Nämä käytännöt täydentävät OpenAI:n laajempaa turvallisuusinfrastruktuuria. OpenAI:n Preparedness Framework on perusta sille, miten määrittelemme ja viemme käytäntöön lähestymistapamme edistyneiden AI-järjestelmien vakavimpien riskien hallintaan, mukaan lukien sisäiset käytäntömme. OpenAI:n Frontier Governance Framework soveltaa tämän lähestymistavan olennaisia osia julkiseen hallinta-asiakirjaan, joka keskittyy tiettyihin sääntelyvelvoitteisiin, kuten riskinarviointiin, malliraportointiin, turvallisuuskontrolleihin, poikkeamiin reagointiin ja ulkopuolisten asiantuntijoiden näkemyksen hyödyntämiseen. Yhdessä nämä aineistot auttavat muuttamaan laajat sitoumukset käytännöiksi, joita voidaan validoida ja parantaa.

Appian työ tähtää seuraavaan haasteeseen: siihen, että nämä käytännöt saadaan toimimaan yhteen eri organisaatioissa, lainkäyttöalueilla ja toimitusketjussa.

OpenAI osallistuu jo laajempaan standardien ja standardointia edeltävien hankkeiden ekosysteemiin. Osallistumme International Organization for Standardizationin ja International Electrotechnical Commissionin yhteisen teknisen komitean 1 AI-alakomiteaan 42⁠(avautuu uudessa ikkunassa) sekä National Institute of Standards and Technologyn johtamaan AI-konsortioon⁠(avautuu uudessa ikkunassa); olimme mukana perustamassa Frontier Model Forumia ja Linux Foundationin Agentic Artificial Intelligence Foundationia⁠(avautuu uudessa ikkunassa); osallistumme Coalition for Secure Artificial Intelligence⁠(avautuu uudessa ikkunassa) -työhön; toimimme Coalition for Content Provenance and Authenticity⁠(avautuu uudessa ikkunassa) -järjestön ohjauskomiteassa; sekä edistämme yhteentoimivia teknisiä standardeja Internet Engineering Task Force⁠(avautuu uudessa ikkunassa)- ja Fast Identity Online Alliance⁠(avautuu uudessa ikkunassa) -prosesseissa.

Näissä foorumeissa, nyt myös Appian kautta, tavoitteemme on muuttaa edistyneestä kehityksestä saadut opit avoimiksi, teknisesti perustelluiksi käytännöiksi, joita hallitukset, yritykset ja riippumattomat arvioijat voivat hyödyntää eri lainkäyttöalueilla.