Tumutulong bumuo ng iisang pamantayan para sa advanced AI

Mapapalakas ng mga modelong patuloy na humuhusay ang cyber defense, mapapabilis ang pagtuklas sa agham, at mapapalawak ang access sa kadalubhasaan. Ngunit maaari rin silang lumikha ng mga panganib sa kaligtasan at seguridad kung mali ang pagkaunawa sa kanilang mga kakayahan, kulang ang kanilang mga safeguard, o wala sa mga pamahalaan ang impormasyong kailangan nila upang tumugon. Upang ligtas at may kumpiyansang makuha ang mga benepisyo, kakailanganin ng mga lipunan ang mga institusyong may teknikal at pangpamamahalaang kapasidad na magsuri, mag-secure, at mamahala ng mga system na patuloy na humuhusay.

Isa iyan sa mga dahilan kung bakit tumulong ang OpenAI na itatag ang Appia Foundation⁠(magbubukas sa bagong window), na naka-host sa Linux Foundation. Bubuo ang Appia ng bukas at modular na mga espesipikasyong naglalayong isalin ang mga internasyonal na pamantayan at itinatag na framework sa praktikal na pamantayan sa pagtatasa sa buong AI value chain. Makatutulong ang gawain nito na bumuo ng mahalagang trust layer na kulang ngayon, kung saan sinusuri ng mga third party ang pagsunod sa mga pamantayan at lumilikha ng mas malinaw at mas magagamit muli na ebidensiya kapag ang mga modelo, imprastraktura, at aplikasyon ay binubuo ng iba’t ibang organisasyon. Sa paggawa nito, makatutulong ang Appia na lumikha ng iisang teknikal na wika na magbibigay-daan sa mga pambansa at internasyonal na institusyon na pagkatiwalaan ang gawain ng isa’t isa.

Itinuturing namin ang pagsisikap na ito bilang mahalagang susunod na hakbang sa mas malawak na gawain upang palakasin ang mga institusyon, pamantayan, at praktis sa pagtatasa na kailangan para sa mga advanced na AI system.

Nag-aalok ng roadmap para sa gawaing iyon ang kamakailan naming blueprint para sa demokratikong pamamahala ng frontier AI. Nanawagan ito ng isang matibay na framework sa U.S., pinalakas na Center for AI Standards and Innovation (CAISI), at mas malawak na estratehiya sa resilience sa buong pamahalaan. Kinikilala rin nito na pandaigdigan ang saklaw ng mga frontier risk. Dapat magtulungan ang mga bansa upang bumuo ng magkakatugmang safety framework, mapagkakatiwalaang channel para sa pagbabahagi ng mga natuklasan tungkol sa panganib, at magkakaugnay na tugon sa mga insidente.

Dapat magpalakas sa isa’t isa ang pambansang kapasidad at internasyonal na kooperasyon. Ang matitibay na institusyon gaya ng CAISI ay maaaring bumuo ng teknikal na kadalubhasaan, magsuri ng mga frontier system, at sumuporta sa isang independenteng ecosystem ng pagtatasa. Maaari namang magtatag ang isang network ng may kakayahang pambansang institusyon ng magkakaparehong pamamaraan, kumilala ng mapagkakatiwalaang ebidensiya, at magbigay sa mga pamahalaan ng iisang teknikal na pag-unawang kailangan upang kumilos nang magkakasama.

Mahalaga ang mga pamantayan sa pagsisikap na iyon, at dapat nakaugat ang mga ito sa kapani-paniwalang praktis sa pagsusuri at teknikal na higpit. Sa aming pinagsasaluhang playbook para sa mapagkakatiwalaang third-party evaluation, inilatag namin ang lalong kailangang ibunyag ng mga frontier assessment: ang system na sinubok, access nito sa mga tool at evaluation harness, mga paraang ginamit upang ilabas ang mga kakayahan, mga resource na magagamit, at mga check na isinagawa upang patunayan ang mga resulta. Isinabuhay din namin ang mga prinsipyong ito sa pamamagitan ng mga partnership sa testing kasama ang US CAISI at UK AISI, na ang gawain sa mga pagtatasa ng frontier capability at mga safeguard laban sa biological misuse ay nagbunga ng konkretong pagpapahusay sa aming mga system. May mahalagang tungkulin ang gawaing ito sa paglikha ng pundasyon para sa mga praktis na maaaring gawing pamantayan upang masuri ang performance sa paraang maihahambing.

Pinupunan ng mga gawaing ito ang mas malawak na imprastraktura ng kaligtasan ng OpenAI. Ang aming Preparedness Framework ang pundasyon kung paano namin itinatakda at isinasagawa ang aming paraan ng pamamahala sa pinakamalulubhang panganib mula sa mga advanced na AI system, kabilang ang aming mga panloob na gawain. Iniaangkop ng aming Frontier Governance Framework ang mahahalagang bahagi ng paraang iyon sa isang pampublikong dokumento ng pamamahala na nakatuon sa partikular na mga obligasyong pangregulasyon, kabilang ang pagtatasa ng panganib, pag-uulat ng modelo, mga kontrol sa seguridad, pagtugon sa insidente, at pagsasama ng pananaw ng mga panlabas na eksperto. Magkakasama, nakatutulong ang mga artifact na ito na isalin ang malalawak na pangako sa mga operasyonal na gawaing maaaring mapatunayan at mapahusay.

Nakatuon ang gawain ng Appia sa susunod na hamon: gawing interoperable ang mga gawaing iyon sa iba’t ibang organisasyon, hurisdiksyon, at supply chain.

Nag-aambag na ang OpenAI sa mas malawak na ecosystem ng mga pamantayan at pagsisikap bago ang standardisasyon. Lumalahok kami sa International Organization for Standardization and International Electrotechnical Commission Joint Technical Committee 1, Subcommittee 42 on Artificial Intelligence⁠(magbubukas sa bagong window) at sa National Institute of Standards and Technology-led Artificial Intelligence Consortium⁠(magbubukas sa bagong window); tumulong itatag ang Frontier Model Forum at ang Agentic Artificial Intelligence Foundation⁠(magbubukas sa bagong window) ng Linux Foundation; nakikilahok sa Coalition for Secure Artificial Intelligence⁠(magbubukas sa bagong window); nagsisilbi sa steering committee ng Coalition for Content Provenance and Authenticity⁠(magbubukas sa bagong window); at nakikibahagi sa mga proseso ng Internet Engineering Task Force⁠(magbubukas sa bagong window) at Fast Identity Online Alliance⁠(magbubukas sa bagong window) upang isulong ang interoperable na mga teknikal na pamantayan.

Sa lahat ng forum na ito, kabilang ngayon sa pamamagitan ng Appia, layunin naming isalin ang mga aral mula sa frontier development tungo sa bukas at teknikal na nakabatay na mga gawaing magagamit ng mga pamahalaan, kumpanya, at independiyenteng tagasuri sa iba’t ibang hurisdiksyon.