Pomáháme vytvářet sdílené standardy pro pokročilou AI

Stále schopnější modely mohou posílit kybernetickou obranu, urychlit vědecké objevy a rozšířit přístup k odborným znalostem. Mohou však také vytvářet bezpečnostní rizika, pokud jsou jejich schopnosti špatně pochopeny, jejich ochranná opatření nedostatečná nebo vlády nemají informace potřebné k reakcím. Aby společnosti mohly tyto přínosy využívat bezpečně a s důvěrou, budou potřebovat instituce, které jsou technicky a po správní stránce schopny hodnotit, zabezpečovat a řídit stále schopnější systémy.

I proto OpenAI pomohla založit Appia Foundation⁠(otevře se v novém okně), kterou zastřešuje Linux Foundation. Společnost Appia bude vyvíjet otevřené modulární specifikace, které mají převést mezinárodní standardy a zavedené rámce do praktických kritérií hodnocení napříč hodnotovým řetězcem AI. Její práce může pomoci vytvořit zásadní chybějící vrstvu důvěry, díky níž externí subjekty ověřují shodu se standardy a vytvářejí jasnější, opakovaně použitelnější důkazy, když modely, infrastrukturu a aplikace vyvíjejí různé organizace. Těmito snahami pomáhá Appia vytvářet společný technický jazyk, díky němuž si národní a mezinárodní instituce budou moci navzájem důvěřovat.

Toto úsilí vnímáme jako důležitý další krok v širší úsilí o posilování institucí, standardů a hodnoticích postupů potřebných pro pokročilé systémy AI.

Náš nejnovější plán demokratické správy průkopnickýé AI nabízí plán pro tyto snahy. Vyzývá k vytvoření trvalého amerického rámce, posíleného Centra pro standardy a inovace v AI (CAISI) a širší strategie odolnosti v rámci veřejné správy. Uznává také, že rizika nejvyspělejších technologií mají mezinárodní rozsah. Státy by měly spolupracovat na vývoji kompatibilních bezpečnostních rámců, důvěryhodných kanálů pro sdílení zjištění o rizicích a koordinovaných reakcí na incidenty.

Národní kapacity a mezinárodní spolupráce by se měly vzájemně posilovat. Silné instituce, jako je CAISI, mohou rozvíjet technické odborné znalosti, hodnotit nejvyspělejší systémy a podporovat nezávislý ekosystém hodnocení. Síť schopných národních institucí pak může zavést sdílené metody, uznávat důvěryhodné důkazy a poskytnout veřejné správě společné technické porozumění potřebné ke společnému postupu.

Standardy jsou pro tyto snahy zásadní a musí vycházet z důvěryhodné hodnoticí praxe a technické důslednosti. V naší společné příručce pro důvěryhodná hodnocení třetími stranami jsme popsali, co musí hodnocení nejvyspělejších systémů stále častěji zveřejňovat: testovaný systém, jeho přístup k nástrojům a evaluační prostředí, metody použité k vyvolání schopností, dostupné zdroje a kontroly provedené k ověření výsledků. Tyto principy jsme také uvedli do praxe prostřednictvím testovacích partnerství s americkým CAISI a britským AISI, jejichž práce na hodnocení nejvyspělejších schopností a ochranných opatřeních proti biologickému zneužití vedla ke konkrétním zlepšením našich systémů. Tyto snahy plní důležitou roli: vytváří základ pro postupy, které lze standardizovat, aby bylo možné porovnatelně ověřovat výkon.

Tyto postupy doplňují širší bezpečnostní infrastrukturu OpenAI. Náš rámec připravenosti je základem toho, jak definujeme a uvádíme do praxe náš přístup k řízení nejzávažnějších rizik plynoucích z pokročilých systémů AI, včetně našich interních postupů. Náš rámec pro governance průkopnické AI převádí relevantní části tohoto přístupu do veřejného dokumentu o správě zaměřeného na konkrétní regulatorní povinnosti, včetně posuzování rizik, reportování modelů, bezpečnostních kontrol, reakce na incidenty a zapojování externích odborníků. Tyto dokumenty společně pomáhají aplikovat široké závazky do provozních postupů, které lze ověřovat a zlepšovat.

Snahy společnosti Appia míří na další výzvu: zajistit interoperabilitu těchto postupů napříč organizacemi, jurisdikcemi i dodavatelským řetězcem.

OpenAI se už podílí na širším ekosystému standardů a předstandardizačních aktivit. Účastníme se práce Společné technické komise 1 Mezinárodní organizace pro normalizaci a Mezinárodní elektrotechnické komise, subkomise 42 pro umělou inteligenci⁠(otevře se v novém okně) a konsorcia pro umělou inteligenci vedeného Národním institutem pro standardy a technologie⁠(otevře se v novém okně); pomohli jsme založit Fórum pro nejvyspělejší modely a Nadaci pro agentní umělou inteligenci⁠(otevře se v novém okně) při Linux Foundation; účastníme se Koalice pro bezpečnou umělou inteligenci⁠(otevře se v novém okně); působíme v řídicím výboru Koalice pro původ a autenticitu obsahu⁠(otevře se v novém okně) a zapojujeme se do procesů Internet Engineering Task Force⁠(otevře se v novém okně) a Aliance Fast Identity Online⁠(otevře se v novém okně) s cílem podporovat interoperabilní technické standardy.

Na všech těchto fórech, nyní i prostřednictvím společnosti Appia, je naším cílem převádět poznatky z vývoje nejvyspělejších systémů do otevřených, technicky podložených postupů, které mohou vlády, firmy a nezávislí posuzovatelé používat v různých jurisdikcích.