Stuðlum að sameiginlegum stöðlum fyrir háþróaða gervigreind

Sífellt öflugri líkön geta styrkt netvarnir, hraðað vísindalegum uppgötvunum og aukið aðgang að sérfræðiþekkingu. En þau geta líka skapað öryggis- og verndaráhættu ef geta þeirra er misskilin, varnir þeirra eru ófullnægjandi eða stjórnvöld skortir þær upplýsingar sem þau þurfa til að bregðast við. Til að nýta ávinninginn á öruggan og traustan hátt þurfa samfélög stofnanir með tæknilega getu og stjórnsýslugetu til að meta, tryggja og stýra sífellt öflugri kerfum.

Það er ein ástæða þess að OpenAI tók þátt í að stofna Appia Foundation⁠(opnast í nýjum glugga), sem er hýst hjá Linux Foundation. Appia mun þróa opnar, einingaskiptar forskriftir sem eiga að yfirfæra alþjóðlega staðla og rótgróna ramma í hagnýt matsviðmið um alla virðiskeðju gervigreindar. Starfið getur hjálpað til við að byggja upp mikilvægt traustlag sem vantar, þar sem þriðju aðilar kanna samræmi við staðla og skapa skýrari og endurnýtanlegri sönnunargögn þegar líkön, innviðir og forrit eru þróuð af ólíkum stofnunum. Með þessu starfi mun Appia hjálpa til við að skapa sameiginlegt tæknilegt tungumál sem gerir innlendum og alþjóðlegum stofnunum kleift að treysta vinnu hver annarrar.

Við lítum á þetta verkefni sem mikilvægt næsta skref í víðtækara starfi við að styrkja þær stofnanir, staðla og matsvenjur sem þarf fyrir háþróuð gervigreindarkerfi.

Nýleg áætlun okkar um lýðræðislega stjórnun gervigreindar í fremstu röð leggur fram vegvísi fyrir það starf. Hún kallar á varanlegan bandarískan ramma, styrkta Center for AI Standards and Innovation (CAISI) og víðtækari áætlun um viðnámsþrótt innan stjórnsýslunnar. Hún viðurkennir einnig að áhætta tengd fremstu gervigreindarkerfum er alþjóðleg að umfangi. Þjóðir ættu að vinna saman að því að þróa samhæfða öryggisramma, traustar leiðir til að miðla áhættuniðurstöðum og samræmd viðbrögð við atvikum.

Innlend geta og alþjóðlegt samstarf ættu að styrkja hvort annað. Sterkar stofnanir á borð við CAISI geta byggt upp tæknilega sérþekkingu, metið fremstu kerfi og stutt vistkerfi óháðs mats. Net hæfra innlendra stofnana getur síðan komið á sameiginlegum aðferðum, viðurkennt traust sönnunargögn og veitt stjórnvöldum þann sameiginlega tæknilega skilning sem þarf til að þau geti brugðist við saman.

Staðlar eru lykilþáttur í því starfi og þeir verða að byggjast á trúverðugri matsframkvæmd og tæknilegri nákvæmni. Í sameiginlegri handbók okkar um traust þriðja aðila mat setjum við fram hvað mat á fremstu kerfum þarf í auknum mæli að upplýsa um: kerfið sem var prófað, aðgang þess að verkfærum og matsumhverfi, aðferðirnar sem notaðar voru til að kalla fram getu, tiltæk úrræði og þær athuganir sem gerðar voru til að sannreyna niðurstöðurnar. Við höfum einnig hrint þessum meginreglum í framkvæmd með prófunarsamstarfi við US CAISI og UK AISI, en starf þeirra við mat á getu fremstu kerfa og varnir gegn misnotkun á líffræðilegri þekkingu leiddi til áþreifanlegra umbóta á kerfum okkar. Þetta starf gegnir mikilvægu hlutverki við að leggja grunn að starfsvenjum sem hægt er að staðla til að kanna frammistöðu með sambærilegum hætti.

Þessar starfsvenjur styðja við víðtækari öryggisinnviði OpenAI. Undirbúningsrammi okkar er grunnurinn að því hvernig við skilgreinum og innleiðum nálgun okkar við að stýra alvarlegustu áhættunni af háþróuðum AI-kerfum, þar á meðal innri starfsvenjum okkar. Stjórnunarrammi okkar fyrir AI í fremstu röð yfirfærir viðeigandi hluta þeirrar nálgunar í opinbert stjórnunarskjal sem beinist að tilteknum reglufylgniskyldum, þar á meðal áhættumati, skýrslugjöf um líkön, öryggisstýringum, viðbrögðum við atvikum og því að nýta innsýn utanaðkomandi sérfræðinga. Saman hjálpa þessi gögn til við að breyta víðtækum skuldbindingum í starfsvenjur sem hægt er að sannreyna og bæta.

Starf Appia miðar að næstu áskorun: að gera þessar starfsvenjur samvirkar milli stofnana, lögsagna og aðfangakeðjunnar.

OpenAI leggur þegar sitt af mörkum í víðara vistkerfi staðla og forstöðlunarverkefna. Við tökum þátt í sameiginlegu tækninefnd 1 Alþjóðlegu staðlasamtakanna og Alþjóðlegu raftækninefndarinnar, undirnefnd 42 um gervigreind⁠(opnast í nýjum glugga) og samstarfsverkefni um gervigreind undir forystu National Institute of Standards and Technology⁠(opnast í nýjum glugga); tókum þátt í að stofna Frontier Model Forum og Agentic Artificial Intelligence Foundation⁠(opnast í nýjum glugga) hjá Linux Foundation; tökum þátt í Coalition for Secure Artificial Intelligence⁠(opnast í nýjum glugga); eigum sæti í stýrinefnd Coalition for Content Provenance and Authenticity⁠(opnast í nýjum glugga); og komum að ferlum hjá Internet Engineering Task Force⁠(opnast í nýjum glugga) og Fast Identity Online Alliance⁠(opnast í nýjum glugga) til að efla samvirka tæknistaðla.

Á þessum verkvöngum, nú einnig í gegnum Appia, er markmið okkar að yfirfæra lærdóm af þróun fremstu kerfa yfir í opnar, tæknilega traustar starfsvenjur sem stjórnvöld, fyrirtæki og óháðir matsaðilar geta nýtt þvert á lögsagnir.