Közös szabványok építése a fejlett AI-hoz

Az egyre nagyobb képességű modellek erősíthetik a kibervédelmet, felgyorsíthatják a tudományos felfedezéseket, és szélesebb hozzáférést adhatnak a szakértelemhez. Ugyanakkor biztonsági kockázatokat is teremthetnek, ha félreértik a képességeiket, nem megfelelőek a védőintézkedéseik, vagy a kormányok nem rendelkeznek a szükséges információkkal a reagáláshoz. Ahhoz, hogy a társadalmak biztonságosan és magabiztosan élhessenek az előnyökkel, olyan intézményekre lesz szükségük, amelyek rendelkeznek az egyre nagyobb képességű rendszerek értékeléséhez, védelméhez és irányításához szükséges műszaki és irányítási kapacitással.

Ez az egyik oka annak, hogy az OpenAI segített megalapítani a Linux Foundation által befogadott Appia Foundationt⁠(új ablakban nyílik meg). Az Appia nyílt, moduláris specifikációkat dolgoz majd ki, amelyek célja, hogy a nemzetközi szabványokat és a bevett keretrendszereket gyakorlati értékelési kritériumokká alakítsák az AI-értéklánc egészében. Munkája segíthet létrehozni egy kritikus, ma még hiányzó bizalmi réteget, amelyben harmadik felek ellenőrzik a szabványoknak való megfelelést, és egyértelműbb, könnyebben újrahasznosítható bizonyítékokat állítanak elő, amikor a modelleket, az infrastruktúrát és az alkalmazásokat különböző szervezetek fejlesztik. E munka révén az Appia segít létrehozni egy közös műszaki nyelvet, amely lehetővé teszi, hogy a nemzeti és nemzetközi intézmények megbízzanak egymás munkájában.

Ezt az erőfeszítést egy tágabb munkafolyamat fontos következő lépésének tekintjük, amely a fejlett AI-rendszerekhez szükséges intézmények, szabványok és értékelési gyakorlatok megerősítését szolgálja.

Az élvonalbeli AI demokratikus irányításáról szóló friss tervünk ütemtervet kínál ehhez a munkához. Tartós amerikai keretrendszert, megerősített Center for AI Standards and Innovationt (CAISI), valamint a kormányzat egészére kiterjedő, átfogóbb rezilienciastratégiát szorgalmaz. Azt is elismeri, hogy a határkockázatok nemzetközi hatókörűek. Az országoknak együtt kell működniük kompatibilis biztonsági keretrendszerek, a kockázati megállapítások megosztására szolgáló megbízható csatornák és az incidensekre adott összehangolt válaszok kialakításában.

A nemzeti kapacitásnak és a nemzetközi együttműködésnek egymást kell erősítenie. Az olyan erős intézmények, mint a CAISI, műszaki szakértelmet építhetnek, értékelhetik az élvonalbeli rendszereket, és támogathatják a független értékelési ökoszisztémát. A felkészült nemzeti intézmények hálózata ezután közös módszereket alakíthat ki, elismerheti a megbízható bizonyítékokat, és megadhatja a kormányoknak az együtt cselekvéshez szükséges közös műszaki megértést.

A szabványok központi szerepet töltenek be ebben az erőfeszítésben, és hiteles értékelési gyakorlaton, valamint műszaki szigoron kell alapulniuk. A megbízható, harmadik fél általi értékelésekhez készült közös útmutatónkban meghatároztuk, mit kell egyre inkább feltárniuk az élvonalbeli értékeléseknek: a tesztelt rendszert, annak eszközhozzáférését és értékelési tesztkörnyezetét, a képességek előhívására használt módszereket, a rendelkezésre álló erőforrásokat, valamint az eredmények ellenőrzésére elvégzett vizsgálatokat. Ezeket az elveket a gyakorlatban is alkalmaztuk a US CAISI-val és a UK AISI-val folytatott tesztelési partnerségek révén; az élvonalbeli képességértékelésekkel és a biológiai visszaélések elleni védőintézkedésekkel kapcsolatos munkájuk kézzelfogható javulásokat eredményezett rendszereinkben. Ez a munka fontos szerepet tölt be: megalapozza azokat a gyakorlatokat, amelyek szabványosíthatók a teljesítmény összehasonlítható ellenőrzésére.

Ezek a gyakorlatok kiegészítik az OpenAI tágabb biztonsági infrastruktúráját. A Felkészültségi keretrendszer az alapja annak, hogyan határozzuk meg és ültetjük át a gyakorlatba a fejlett AI-rendszerek legsúlyosabb kockázatainak kezelésére vonatkozó megközelítésünket, beleértve belső gyakorlatainkat is. Az élvonalbeli modellek irányítási keretrendszere e megközelítés releváns részeit egy nyilvános irányítási dokumentumban alkalmazza, amely konkrét szabályozási kötelezettségekre összpontosít, többek között a kockázatértékelésre, a modelljelentésekre, a biztonsági kontrollokra, az incidenskezelésre és a külső szakértői vélemények beépítésére. Ezek a dokumentumok együtt segítenek a széles körű vállalásokat ellenőrizhető és továbbfejleszthető működési gyakorlatokká alakítani.

Az Appia munkája a következő kihívásra irányul: arra, hogy ezek a gyakorlatok átjárhatók legyenek szervezetek, joghatóságok és az ellátási lánc szereplői között.

Az OpenAI már most is hozzájárul a szabványok és az előszabványosítási erőfeszítések tágabb ökoszisztémájához. Részt veszünk a Nemzetközi Szabványügyi Szervezet és a Nemzetközi Elektrotechnikai Bizottság mesterséges intelligenciával foglalkozó 1. közös műszaki bizottságának 42. albizottságában⁠(új ablakban nyílik meg), valamint a National Institute of Standards and Technology által vezetett Artificial Intelligence Consortiumban⁠(új ablakban nyílik meg); közreműködtünk a Frontier Model Forum és a Linux Foundation Agentic Artificial Intelligence Foundation⁠(új ablakban nyílik meg) nevű szervezetének megalapításában; részt veszünk a Coalition for Secure Artificial Intelligence⁠(új ablakban nyílik meg) munkájában; tagjai vagyunk a Coalition for Content Provenance and Authenticity⁠(új ablakban nyílik meg) irányítóbizottságának; továbbá bekapcsolódunk az Internet Engineering Task Force⁠(új ablakban nyílik meg) és a Fast Identity Online Alliance⁠(új ablakban nyílik meg) folyamataiba az interoperábilis műszaki szabványok előmozdítása érdekében.

E fórumokon – most már az Appián keresztül is – az a célunk, hogy az élvonalbeli fejlesztések tanulságait nyílt, műszakilag megalapozott gyakorlatokká alakítsuk, amelyeket kormányok, vállalatok és független értékelők több joghatóságban is használhatnak.