Pomoč pri oblikovanju skupnih standardov za napredne sisteme UI
Vse zmogljivejši modeli lahko okrepijo kibernetsko obrambo, pospešijo znanstvena odkritja in razširijo dostop do strokovnega znanja. Lahko pa ustvarijo tudi tveganja za varnost in varovanje, če so njihove zmogljivosti napačno razumljene, zaščitni ukrepi nezadostni ali vlade nimajo informacij, ki jih potrebujejo za odziv. Da bi družbe koristi uresničile varno in z zaupanjem, bodo potrebovale institucije s tehnično in upravljavsko zmogljivostjo za ocenjevanje, zaščito in upravljanje vse zmogljivejših sistemov.
To je eden od razlogov, da je OpenAI pomagal ustanoviti fundacijo Appia(odpre se v novem oknu), ki jo gosti fundacija Linux Foundation. Appia bo razvijala odprte, modularne specifikacije, namenjene prenosu mednarodnih standardov in uveljavljenih okvirov v praktična merila ocenjevanja po celotni vrednostni verigi UI. Njeno delo lahko pomaga razviti ključno manjkajočo plast zaupanja, prek katere tretje osebe preverjajo skladnost s standardi ter ustvarjajo jasnejše in bolj ponovno uporabne dokaze, kadar modele, infrastrukturo in aplikacije razvijajo različne organizacije. S tem bo Appia pomagala ustvariti skupen tehnični jezik, ki bo nacionalnim in mednarodnim institucijam omogočil, da zaupajo delu drugih.
To prizadevanje vidimo kot pomemben naslednji korak v širšem sklopu dela za krepitev institucij, standardov in ocenjevalnih praks, potrebnih za napredne sisteme UI.
Naš nedavni načrt za demokratično upravljanje UI na meji zmogljivosti ponuja usmeritve za to delo. Poziva k trajnemu ameriškemu okviru, okrepljenemu Centru za standarde in inovacije na področju UI (CAISI) ter širši strategiji odpornosti v celotni vladi. Priznava tudi, da so področja tveganja na meji zmogljivosti mednarodna. Države bi morale sodelovati pri razvoju združljivih varnostnih okvirov, zaupanja vrednih kanalov za izmenjavo ugotovitev o tveganjih in usklajenih odzivov na incidente.
Nacionalne zmogljivosti in mednarodno sodelovanje bi se morali medsebojno krepiti. Močne institucije, kot je CAISI, lahko razvijajo tehnično strokovno znanje, ocenjujejo sisteme na meji zmogljivosti in podpirajo neodvisen ekosistem ocenjevanja. Mreža sposobnih nacionalnih institucij lahko nato vzpostavi skupne metode, priznava zaupanja vredne dokaze in vladam zagotovi skupno tehnično razumevanje, potrebno za skupno ukrepanje.
Standardi so osrednjega pomena za ta prizadevanja, temeljiti pa morajo na verodostojnih ocenjevalnih praksah in tehnični strogosti. V našem skupnem priročniku za zaupanja vredna ocenjevanja tretjih oseb smo opredelili, kaj morajo ocenjevanja na meji zmogljivosti vse pogosteje razkriti: preizkušeni sistem, njegov dostop do orodij in ocenjevalno okolje, metode za izvabljanje zmogljivosti, razpoložljive vire ter preverjanja, opravljena za potrditev rezultatov. Ta načela smo v praksi udejanjili tudi prek partnerstev za testiranje z ameriškim CAISI in britanskim AISI, katerih delo pri ocenjevanju zmogljivosti na meji in zaščitnih ukrepih proti biološki zlorabi je privedlo do konkretnih izboljšav naših sistemov. To delo ima pomembno vlogo pri postavljanju temeljev za prakse, ki jih je mogoče standardizirati za primerljivo preverjanje delovanja.
Te prakse dopolnjujejo širšo varnostno infrastrukturo OpenAI. Naš Preparedness Framework je temelj, na katerem opredeljujemo in udejanjamo svoj pristop k obvladovanju najresnejših tveganj naprednih sistemov UI, vključno z našimi internimi praksami. Naše Varnostno ogrodje naprednih sistemov ustrezne dele tega pristopa prenaša v javni dokument upravljanja, s poudarkom na konkretnih regulativnih obveznostih, vključno z ocenjevanjem tveganj, poročanjem o modelih, varnostnimi kontrolami, odzivanjem na incidente in vključevanjem prispevkov zunanjih strokovnjakov. Ti dokumenti skupaj pomagajo široke zaveze prevesti v operativne prakse, ki jih je mogoče preverjati in izboljševati.
Delo fundacije Appia je usmerjeno v naslednji izziv: zagotoviti interoperabilnost teh praks med organizacijami, jurisdikcijami in v dobavni verigi.
OpenAI že prispeva v širšem ekosistemu standardov in prizadevanj za predstandardizacijo. Sodelujemo v Skupnem tehničnem odboru Mednarodne organizacije za standardizacijo in Mednarodne elektrotehniške komisije, pododboru 42 za umetno inteligenco (odpre se v novem oknu) ter v Konzorciju za umetno inteligenco, ki ga vodi Nacionalni inštitut za standarde in tehnologijo(odpre se v novem oknu); pomagali smo ustanoviti Forum za modele na meji zmogljivosti in Fundacijo za agentno umetno inteligenco(odpre se v novem oknu) pri fundaciji Linux Foundation; sodelujemo v Koaliciji za varno umetno inteligenco(odpre se v novem oknu); smo člani usmerjevalnega odbora Koalicije za izvor in pristnost vsebin(odpre se v novem oknu); ter se vključujemo v procese Delovne skupine za internetni inženiring(odpre se v novem oknu) in Zavezništvo za hitro spletno identifikacijo(odpre se v novem oknu) za spodbujanje interoperabilnih tehničnih standardov.
Na teh forumih, zdaj tudi prek Appie, želimo spoznanja iz razvoja na meji zmogljivosti prevesti v odprte, tehnično utemeljene prakse, ki jih lahko vlade, podjetja in neodvisni ocenjevalci uporabljajo v različnih jurisdikcijah.
