Pagsusulong ng kaligtasan at oportunidad ng kabataan sa pamamagitan ng pandaigdigang pamumuno

Maaaring maging makapangyarihang kasangkapan ang AI para sa kabataan. Matutulungan nito ang mga estudyante na maunawaan ang mahirap na konsepto, magsanay ng bagong wika, maghanda para sa job interview, tuklasin ang malikhaing ideya, o matuto ng bagong kasanayan. Kung paanong kinailangan ng kilusan para sa literasiya na lumaganap sa buong mundo noong kalagitnaan ng ika-20 siglo ang malawakang pamamahagi ng nakalimbag na teksto at access sa sinanay na mga guro, ngayon, ang pagbibigay ng access sa ligtas na AI ay magbubukas ng mga bagong oportunidad para sa personalisadong pagkatuto, tutulong na mabawasan ang mga hadlang para sa mga hindi sapat na napaglilingkuran, at magpapataas ng kahandaan ng workforce.

Dahil napakalaki ng mga potensyal na benepisyo, mahalagang ma-access ng kabataan ang AI sa mga paraang ligtas, angkop sa edad, at sumusuporta sa malusog na pag-unlad. Hindi dapat pangunahing nakasalalay ang responsibilidad na iyon sa mga magulang o sa kabataan mismo. May responsibilidad ang mga kumpanya, kabilang ang OpenAI, na bumuo ng mga produkto na may angkop na default na mga pananggalang, habang binibigyan ng kakayahan ang mga pamilya gamit ang mga tool at impormasyon para gabayan kung paano ginagamit ang AI.

Kapag nagtipon ang mga Pinuno ng Estado sa G7 Leaders’ Summit sa Évian, France, sa huling bahagi ng buwang ito, magiging pangunahing pokus ang paksa ng kaligtasan ng kabataan sa AI. Makikiisa ang OpenAI upang talakayin ang mas malawak na kolaborasyon sa kaligtasan ng kabataan, kung paano tayo makapagtutulungan para itaas ang mga pamantayan ng industriya, at ang bagong panawagan ng OpenAI na magtatag ng isang internasyonal na institute para sa kaligtasan ng kabataan.

Ang G7 Leaders’ Summit ay kumakatawan sa isang bihirang pagkakataon para sa pandaigdigang koordinasyon sa kaligtasan ng kabataan. Ngunit magbibigay ang isang nakalaang institute ng pagpapatuloy at pagsubaybay na kailangan lampas sa iisang summit, na tutulong sa mga pamahalaan, mananaliksik, civil society, at industriya na patuloy na magtulungan upang magbahagi ng ebidensya, bumuo ng gabay, at magtaas ng mga pamantayan sa paglipas ng panahon.

May ilang kapani-paniwalang paraan para gawin ito: sa pamamagitan ng bagong internasyonal na institute, o sa pagbibigay sa isang umiiral o bagong itatatag na pambansang AI institute ng pandaigdigang mandato na magbahagi ng pananaliksik, ebidensya, at gabay sa mga partner sa buong mundo. Ang pinakamahalaga ay ang tungkuling ginagampanan nito. Kailangan ng kaligtasan ng kabataan sa AI ang tuloy-tuloy na atensyon, mapagkakatiwalaang ebidensya, at praktikal na gabay na makakasabay sa teknolohiya.

Maaaring bumuo ang naturang institute mula sa mga umuusbong na inisyatiba tulad ng Youth AI Safety Institute ng Common Sense Media, na sinusuportahan ng OpenAI Foundation, pati na rin sa mga praktikal na kolaborasyon sa mga edukador, kabilang ang gawain ng OpenAI kasama ang American Federation of Teachers⁠. Dapat din itong kumuha ng aral mula sa mga deployment sa totoong mundo, tulad ng pambansang paglulunsad ng ChatGPT sa mga paaralan sa Estonia, kung saan nakikipagtulungan ang OpenAI sa mga mananaliksik mula Stanford at Estonia upang pag-aralan ang epekto at gabayan ang mas ligtas at mas epektibong paggamit sa pagkatuto.

Tinatanggap ng OpenAI ang pagkakataong makipagtulungan sa Pamahalaan ng France, iba pang pamahalaan ng G7, at mga partner sa civil society, akademya, at industriya sa mahalagang gawaing ito at upang itaas ang mga pandaigdigang pamantayan sa kaligtasan ng kabataan.

Naniniwala kami na ang matitibay na balangkas para sa kaligtasan ng kabataan sa AI, kabilang ang anumang potensyal na kasunduang maabot sa mga pagtitipon ng G7, ay dapat gabayan ng mga prinsipyong inilalahad namin dito.

1. Dapat malaman ng mga kumpanya kung menor de edad ang isang user at maglapat ng mga proteksyong angkop sa edad. Nangangahulugan ito ng pag-aatas sa mga provider na gumamit ng mga paraan tulad ng epektibo at nagpoprotekta sa privacy na pagtatantiya ng edad upang matukoy ang pagkakaiba ng mga menor de edad at matatanda, at gawing default ang mga proteksyong pananggalang kapag hindi matukoy ang edad ng user. Kung wala ang pundasyong ito, maaaring hindi maabot kahit ng pinakamabubuting proteksyon para sa kabataan ang mga kabataang nilalayon nitong protektahan.
2. Dapat regular na tasahin ng mga kumpanya ang parehong mga panganib at benepisyo para sa kabataan at gumawa ng mga hakbang upang tugunan ang mga ito—bago mangyari ang pinsala. Nangangahulugan ito ng pag-aatas sa mga provider na kumpletuhin ang taunang pagtatasa ng panganib sa kaligtasan ng kabataan at magpatupad ng proporsyonal na mga pananggalang batay sa mga panganib na natutukoy nila. Dapat isaalang-alang ng mga pagtatasa ang mga panganib sa kabataan batay sa kanilang yugto ng pag-unlad, empirikal na ebidensya mula sa aktuwal na paggamit, at kaugnay na pananaliksik o gabay sa regulasyon. Dapat isaalang-alang ng mga pagtatasa hindi lamang ang mga potensyal na pinsala, kundi pati kung sinusuportahan ng AI ang mga positibong resulta gaya ng pagkatuto, pagkamalikhain, pag-unlad ng kasanayan, at access sa oportunidad.
3. Dapat magkaroon ang mga magulang at tagapag-alaga ng naa-access at madaling gamiting mga kontrol upang tulungan silang gabayan ang mga karanasan ng kanilang mga anak habang sinusuportahan ang kalayaang angkop sa edad. Dapat kasama rito ang mga tool upang pamahalaan ang mahahalagang setting, kabilang ang memorya, paggamit ng data, at mga limitasyon sa oras. Dapat aktibong ipaalam ang mga tool para sa magulang upang malaman ng mga magulang na mayroon ang mga ito at maunawaan kung paano gamitin ang mga ito. 
4. Nararapat sa mga pamilya ang malinaw at nauunawaang impormasyon tungkol sa kung paano pinoprotektahan ng mga kumpanya ang mga batang user at ang pagbibigay ng makabuluhang impormasyon tungkol sa parehong mga benepisyo at panganib ng paggamit ng AI ng kabataan. Dapat maglathala ang mga kumpanya ng mga patakaran sa kaligtasan na nagpapaliwanag kung anong mga pananggalang ang nakalagay upang protektahan ang kabataan, kung anong mga tool para sa magulang ang available, at kung paano ina-update ang mga proteksyon habang umuunlad ang mga panganib. Ang transparency na ito ay bumubuo ng tiwala at tumutulong sa mga magulang na gumawa ng may-kaalamang mga pasya.
5. Dapat magkaroon ang mga kumpanya ng malinaw na mga protocol upang tugunan ang seryosong mga sitwasyong pangkaligtasan kabilang ang pananakit sa sarili, pagsasamantala, grooming, sekswal na mapagsamantalang content, at iba pang high-risk na interaksyon. Dapat kasama rito ang suporta sa loob ng serbisyo, referral sa angkop na mga resource, at napapanahong abiso sa magulang kapag nararapat. Dapat ding idisenyo ng mga kumpanya ang kanilang mga sistema upang pigilan ang mga ito sa pagbuo ng content na hindi ligtas o hindi angkop sa pag-unlad ng mga bata, kabilang ang graphic na sekswal o marahas na materyal.  
6. Ang mga AI system na ginagamit ng kabataan ay dapat idisenyo upang suportahan ang pagkatuto, pag-unlad, at mga ugnayan sa totoong mundo—hindi palitan ang mga ito. Dapat magsilbi ang AI bilang kasangkapang tumutulong sa kabataan na matuto, lumikha, bumuo ng mga kasanayan, at maghanda para sa hinaharap. Kasabay nito, dapat magtakda ang mga kumpanya ng malinaw na hangganan sa mga larangang nakasalalay ang malusog na pag-unlad sa paghatol ng tao, mga ugnayan sa totoong mundo, at propesyonal na suporta.
7. Dapat protektahan ang personal na impormasyon ng mga menor de edad. Nangangahulugan ito ng pagbabawal sa targeted advertising na lumalabag sa privacy para sa kabataan, at pagpigil sa mga kumpanya na ibenta ang personal na impormasyon.
8. Dapat isulong ng mga balangkas sa kaligtasan ng kabataan ang oportunidad, literasiya, at proteksyon. Dapat magkaroon ang kabataan ng access sa mga AI tool na sumusuporta sa pagkatuto, pagkamalikhain, pag-unlad ng kasanayan, at oportunidad sa hinaharap, habang binibigyan din sila ng kaalaman at mga kasanayan sa kritikal na pag-iisip na kailangan upang magamit ang AI nang ligtas at responsable. Kabilang dito ang pagtataguyod ng literasiya sa AI at pagtulong sa kabataan na maunawaan ang mga oportunidad at limitasyon ng mga AI system, upang makilahok sila nang may kumpiyansa at responsable sa mga digital na espasyo.
9. Mahalaga ang matitibay na mekanismo ng pananagutan, kabilang ang mga independent audit, upang matiyak na makabuluhan ang mga proteksyong ito sa praktika. Dapat suportahan ang mga audit ng isang hanay ng karaniwang mga pamantayan na nagpapahintulot ng interoperable na mga audit sa iba’t ibang hurisdiksyon. Dapat isama ng mga balangkas na pambatasan ang mga hakbang sa oversight at pagpapatupad na nagpapahintulot sa mga pamahalaan na tasahin kung epektibong ipinapatupad ng mga kumpanya ang mga pananggalang para sa kaligtasan ng kabataan, binabawasan ang mga natukoy na panganib, at sumusunod sa mga obligasyon sa kaligtasan ng kabataan at privacy.

Makikita ang mga prinsipyo sa kung paano namin binubuo at pinapatakbo ang ChatGPT, mula sa gawi ng modelo at disenyo ng produkto hanggang sa input ng eksperto at suporta sa totoong mundo. Pinalakas namin ang mga pananggalang para sa mga user na wala pang 18, naglunsad ng kontrol ng magulang⁠ na may mga proactive na abiso, at pinahusay na mga sistema sa paghula ng edad⁠ upang makapag-apply ang ChatGPT ng mas matitibay na proteksyon kapag maaaring wala pang 18 ang isang tao. Ang aming Spec ng Modelo, na nagbabalangkas kung paano dapat kumilos ang aming mga modelo, ay may kasama ring nakalaang mga prinsipyo para sa mga user na wala pang 18⁠(magbubukas sa bagong window), na inuuna ang kaligtasan ng teen, mga karanasang angkop sa edad, suporta sa totoong mundo, at malinaw na mga inaasahan. Sa praktika, nangangahulugan ito ng mas matitibay na guardrail tungkol sa pananakit sa sarili, mapanganib na gawain, graphic na content, body image, at paglilihim, kasama ang paghikayat na humingi ng mapagkakatiwalaang offline na suporta o mga crisis resource kapag kailangan. Kapag hindi tiyak ang edad, ginagawa naming default ang mas matitibay na pananggalang.

Ang AI na idinisenyo na may matitibay na pananggalang at iniaalok na may malinaw na gabay, kasama ang suporta mula sa mga pamilya at edukador, ay makatutulong sa kabataan na ligtas na makinabang sa mga tool na nagpapalawak ng pagkatuto, pagkamalikhain, at oportunidad. Matutulungan ng AI ang mga estudyante na maunawaan ang mahihirap na konsepto, magsanay ng mga wika, pagbutihin ang kanilang pagsusulat, matutong mag-code, ayusin ang pananaliksik, tuklasin ang malikhaing ideya, at maghanda para sa mga trabahong nagbabago na ngayon. Sa pamamagitan ng Edukasyon para sa mga Bansa⁠, nakikipagtulungan ang OpenAI sa mga pamahalaan at edukador sa mga deployment na nakabatay sa pananaliksik, mga lokal na tool sa pagkatuto, at pagsasanay ng guro upang ang pag-adopt ng AI ay nakaugat sa ebidensya at tunay na pangangailangan sa silid-aralan. Sinusuportahan na ng gawaing ito ang mga pambansang pagsisikap sa edukasyon kasama ang aming mga partner na bansa kabilang ang Estonia⁠, Greece⁠, at Singapore⁠.

Bilang karagdagan sa pakikilahok sa Leaders’ Summit, dadalhin namin ang OpenAI Forum⁠(magbubukas sa bagong window) sa Paris upang magtipon ng praktikal na pag-uusap kung paano maisasalin ng mga pamahalaan, mananaliksik, civil society, edukador, at industriya ang magkakaparehong layunin sa kaligtasan ng kabataan tungo sa kongkretong mga pananggalang, pamantayan, at praktika sa pagpapatupad. Makikiisa si Clara Chappaz, Ambassador ng France para sa AI at Digital Affairs, kay Chris Lehane, Chief Global Affairs Officer ng OpenAI, mga lider sa kaligtasan ng kabataan mula sa iRaise/Everyone.AI, at iba pang eksperto para sa talakayan kung paano makikinabang ang kabataan sa AI habang binabawasan ang mga panganib.