Pomáhame budovať spoločné štandardy pre pokročilú AI

Čoraz schopnejšie modely môžu posilniť kybernetickú obranu, urýchliť vedecké objavy a rozšíriť prístup k odbornosti. Ak však ich schopnosti nie sú správne pochopené, ochranné opatrenia sú nedostatočné alebo vládam chýbajú informácie potrebné na reakciu, môžu vytvárať riziká pre bezpečnosť a zabezpečenie. Aby spoločnosti mohli tieto prínosy využívať bezpečne a s dôverou, budú potrebovať inštitúcie s technickými a riadiacimi kapacitami na hodnotenie, zabezpečenie a správu čoraz schopnejších systémov.

Aj preto OpenAI pomohla založiť Appia Foundation⁠(otvorí sa v novom okne), ktorú hostí Linux Foundation. Appia bude vyvíjať otvorené modulárne špecifikácie, ktoré majú prevádzať medzinárodné normy a zavedené rámce na praktické hodnotiace kritériá naprieč hodnotovým reťazcom AI. Jej práca môže pomôcť vytvoriť dôležitú chýbajúcu vrstvu dôvery, prostredníctvom ktorej tretie strany overujú súlad so štandardmi a vytvárajú jasnejšie a opakovane použiteľné dôkazy, keď modely, infraštruktúru a aplikácie vyvíjajú rôzne organizácie. Appia tým pomôže vytvoriť spoločný technický jazyk, ktorý národným a medzinárodným inštitúciám umožní dôverovať práci ostatných.

Toto úsilie vnímame ako dôležitý ďalší krok v širšom súbore aktivít na posilnenie inštitúcií, štandardov a hodnotiacich postupov potrebných pre pokročilé systémy AI.

Náš nedávny návrh demokratickej správy najpokročilejšej AI ponúka plán tejto práce. Vyzýva na stabilný americký rámec, posilnené Centrum pre štandardy a inovácie v oblasti AI (CAISI) a širšiu stratégiu odolnosti naprieč verejnou správou. Zároveň uznáva, že hraničné riziká majú medzinárodný rozsah. Štáty by mali spolupracovať na vývoji kompatibilných bezpečnostných rámcov, dôveryhodných kanálov na zdieľanie zistení o rizikách a koordinovaných reakcií na incidenty.

Národné kapacity a medzinárodná spolupráca by sa mali navzájom posilňovať. Silné inštitúcie, ako je CAISI, môžu rozvíjať technickú odbornosť, hodnotiť najpokročilejšie systémy a podporovať ekosystém nezávislého posudzovania. Sieť schopných národných inštitúcií potom môže zavádzať spoločné metódy, uznávať dôveryhodné dôkazy a poskytovať vládam spoločné technické porozumenie potrebné na koordinovaný postup.

Štandardy sú pre toto úsilie kľúčové a musia vychádzať z dôveryhodnej hodnotiacej praxe a technickej dôslednosti. V našej spoločnej príručke pre dôveryhodné hodnotenia tretích strán uvádzame, čo musia hodnotenia najpokročilejších systémov čoraz viac zverejňovať: testovaný systém, jeho prístup k nástrojom a hodnotiace prostredie, metódy použité na vyvolanie schopností, dostupné zdroje a kontroly vykonané na overenie výsledkov. Tieto zásady sme uviedli do praxe aj prostredníctvom testovacích partnerstiev s americkým CAISI a britským AISI, ktorých práca na hodnoteniach najpokročilejších schopností a ochranných opatreniach proti biologickému zneužitiu viedla ku konkrétnym zlepšeniam našich systémov. Táto práca plní dôležitú úlohu: vytvára základ pre postupy, ktoré možno štandardizovať na porovnateľné overovanie výkonnosti.

Tieto postupy dopĺňajú širšiu bezpečnostnú infraštruktúru OpenAI. Náš Preparedness Framework je základom toho, ako definujeme a v praxi uplatňujeme náš prístup k riadeniu najzávažnejších rizík vyplývajúcich z pokročilých systémov AI vrátane našich interných postupov. Náš Rámec správy frontier systémov prenáša relevantné časti tohto prístupu do verejného dokumentu o správe zameraného na konkrétne regulačné povinnosti vrátane posudzovania rizík, reportovania modelov, bezpečnostných kontrol, reakcie na incidenty a zapájania vstupov externých expertov. Spoločne tieto dokumenty pomáhajú prevádzať široké záväzky do prevádzkových postupov, ktoré možno overovať a zlepšovať.

Práca Appie sa zameriava na ďalšiu výzvu: zabezpečiť interoperabilitu týchto postupov naprieč organizáciami, jurisdikciami a dodávateľským reťazcom.

OpenAI už prispieva v širšom ekosystéme štandardov a predštandardizačných iniciatív. Zapájame sa do Spoločného technického výboru 1 Medzinárodnej organizácie pre normalizáciu a Medzinárodnej elektrotechnickej komisie, podvýboru 42 pre umelú inteligenciu⁠(otvorí sa v novom okne) a do Konzorcia pre umelú inteligenciu vedeného Národným inštitútom pre štandardy a technológie⁠(otvorí sa v novom okne); pomohli sme založiť Fórum frontier modelov a Nadáciu pre agentnú umelú inteligenciu⁠(otvorí sa v novom okne) nadácie Linux Foundation; zapájame sa do Koalície pre bezpečnú umelú inteligenciu⁠(otvorí sa v novom okne); pôsobíme v riadiacom výbore Koalície pre pôvod a autenticitu obsahu⁠(otvorí sa v novom okne); a zúčastňujeme sa procesov Pracovnej skupiny pre internetové inžinierstvo⁠(otvorí sa v novom okne) a Aliancie Fast Identity Online⁠(otvorí sa v novom okne) s cieľom rozvíjať interoperabilné technické štandardy.

Na týchto fórach, teraz aj prostredníctvom Appie, je naším cieľom premieňať poznatky z vývoja najpokročilejších systémov na otvorené, technicky podložené postupy, ktoré môžu vlády, firmy a nezávislí posudzovatelia používať naprieč jurisdikciami.