Spodbujanje varnosti in priložnosti za mlade z globalnim voditeljstvom

UI je lahko močno orodje za mlade. Študentom in dijakom lahko pomaga razumeti težaven koncept, vaditi nov jezik, se pripraviti na razgovor za službo, raziskovati ustvarjalne ideje ali osvojiti novo veščino. Tako kot je gibanje za pismenost, ki se je sredi 20. stoletja razširilo po svetu, zahtevalo množično distribucijo tiskanih besedil in dostop do usposobljenih učiteljev, bo danes zagotavljanje dostopa do varne UI odprlo nove priložnosti za prilagojeno učenje, pomagalo zmanjšati ovire za zapostavljene skupine in povečalo pripravljenost delovne sile.

Ker so potencialne koristi tako velike, je bistveno, da imajo mladi dostop do UI na načine, ki so varni, primerni njihovi starosti in podpirajo zdrav razvoj. Ta odgovornost ne bi smela biti predvsem na starših ali mladih samih. Podjetja, vključno z OpenAI, so odgovorna, da privzeto razvijajo izdelke z ustreznimi varovali, hkrati pa družinam zagotovijo orodja in informacije za usmerjanje uporabe UI.

Ko se bodo voditelji držav pozneje ta mesec zbrali na vrhu voditeljev skupine G7 v Évianu v Franciji, bo varnost mladih pri uporabi UI ena ključnih tem. OpenAI se bo pridružil razpravi o tesnejšem sodelovanju na področju varnosti mladih, o tem, kako lahko skupaj dvignemo standarde v panogi, ter o novem pozivu OpenAI k ustanovitvi mednarodnega inštituta za varnost mladih.

Vrh voditeljev skupine G7 predstavlja redko priložnost za globalno usklajevanje na področju varnosti mladih. Namenski inštitut pa bi zagotovil kontinuiteto in nadaljnje ukrepanje, potrebno po enem samem vrhu, ter vladam, raziskovalcem, civilni družbi in industriji pomagal še naprej sodelovati pri izmenjavi dokazov, oblikovanju smernic in postopnem dvigovanju standardov.

To bi lahko verodostojno izvedli na več načinov: z novim mednarodnim inštitutom ali tako, da bi obstoječemu oziroma novo ustanovljenemu nacionalnemu inštitutu za UI podelili globalni mandat za izmenjavo raziskav, dokazov in smernic s partnerji po svetu. Najpomembnejša je funkcija, ki jo opravlja. Varnost mladih pri uporabi UI potrebuje stalno pozornost, zaupanja vredne dokaze in praktične smernice, ki lahko sledijo tehnologiji.

Tak inštitut lahko gradi na nastajajočih pobudah, kot je Youth AI Safety Institute organizacije Common Sense Media, ki ga podpira OpenAI Foundation, pa tudi na praktičnem sodelovanju z učitelji, vključno z delom OpenAI z American Federation of Teachers⁠. Opirati bi se moral tudi na uvedbe v resničnem svetu, kot je estonska nacionalna uvedba ChatGPT v šolah, kjer OpenAI sodeluje z raziskovalci s Stanforda in iz Estonije, da bi preučili vpliv ter omogočili varnejšo in učinkovitejšo uporabo pri učenju.

OpenAI pozdravlja priložnost za sodelovanje s francosko vlado, drugimi vladami skupine G7 ter partnerji iz civilne družbe, akademskega sveta in industrije pri tem ključnem delu ter pri dvigovanju globalnih standardov varnosti mladih.

Menimo, da bi morala trdna ogrodja za varnost mladih pri uporabi UI, vključno z morebitnim dogovorom na srečanjih skupine G7, voditi načela, ki jih predstavljamo tukaj.

1. Podjetja bi morala vedeti, kdaj je uporabnik mladoleten, in uporabljati zaščito, primerno starosti. To pomeni, da se od ponudnikov zahteva uporaba sredstev, kot je učinkovito ocenjevanje starosti, ki varuje zasebnost, za razlikovanje mladoletnih od odraslih, ter privzeta uporaba zaščitnih varoval, kadar starosti uporabnika ni mogoče določiti. Brez tega temelja tudi najbolj dobronamerna zaščita mladih morda ne bo dosegla mladih, ki naj bi jih varovala.
2. Podjetja bi morala redno ocenjevati tveganja in koristi za mlade ter sprejeti ukrepe za njihovo obravnavo – preden pride do škode. To pomeni, da se od ponudnikov zahteva izvedba letnih ocen tveganja za varnost mladih in uvedba sorazmernih varoval na podlagi ugotovljenih tveganj. Takšne ocene bi morale upoštevati tveganja za mlade glede na njihovo razvojno stopnjo, empirične dokaze iz dejanske uporabe ter ustrezne raziskave ali regulativne smernice. Ocene bi morale upoštevati ne le morebitno škodo, temveč tudi, ali UI podpira pozitivne rezultate, kot so učenje, ustvarjalnost, razvoj veščin in dostop do priložnosti.
3. Starši in skrbniki bi morali imeti dostopne in preproste nadzorne mehanizme, ki jim pomagajo usmerjati izkušnje njihovih otrok, hkrati pa podpirajo starosti primerno samostojnost. Ti bi morali vključevati orodja za upravljanje ključnih nastavitev, vključno s pomnilnikom, uporabo podatkov in časovnimi omejitvami. Orodja za starše je treba dejavno promovirati, da starši vedo, da obstajajo, in razumejo, kako jih uporabljati.a0
4. Družine si zaslužijo jasne in razumljive informacije o tem, kako podjetja ščitijo mlade uporabnike, ter smiselne informacije o koristih in tveganjih uporabe UI pri mladih. Podjetja bi morala objaviti varnostne politike, ki pojasnjujejo, katera varovala so uvedena za zaščito mladih, katera starševska orodja so na voljo in kako se zaščite posodabljajo, ko se tveganja razvijajo. Takšna preglednost gradi zaupanje in staršem pomaga sprejemati informirane odločitve.
5. Podjetja bi morala imeti vzpostavljene jasne protokole za obravnavo resnih varnostnih situacij, vključno s samopoškodovanjem, izkoriščanjem, pridobivanjem zaupanja z namenom zlorabe, spolno izkoriščevalsko vsebino in drugimi visoko tveganimi interakcijami. Ti bi morali vključevati podporo znotraj storitve, napotitve na ustrezne vire in pravočasna obvestila staršem, kadar je to primerno. Podjetja bi morala svoje sisteme zasnovati tudi tako, da jim preprečijo ustvarjanje vsebin, ki so za otroke nevarne ali razvojno neprimerne, vključno z nazornim spolnim ali nasilnim gradivom.  
6. Sistemi UI, ki jih uporabljajo mladi, bi morali biti zasnovani tako, da podpirajo učenje, razvoj in odnose v resničnem svetu – ne pa jih nadomeščajo. UI bi morala služiti kot orodje, ki mladim pomaga pri učenju, ustvarjanju, razvijanju veščin in pripravi na prihodnost. Hkrati bi morala podjetja določiti jasne meje na področjih, kjer je zdrav razvoj odvisen od človeške presoje, odnosov v resničnem svetu in strokovne podpore.
7. Osebni podatki mladoletnih oseb bi morali biti zaščiteni. To pomeni prepoved ciljanega oglaševanja mladim, ki posega v zasebnost, ter prepoved prodaje osebnih podatkov s strani podjetij.
8. Ogrodja za varnost mladih bi morala spodbujati priložnosti, pismenost in zaščito. Mladi bi morali imeti dostop do orodij UI, ki podpirajo učenje, ustvarjalnost, razvoj veščin in prihodnje priložnosti, hkrati pa biti opremljeni z znanjem in veščinami kritičnega razmišljanja, potrebnimi za varno in odgovorno uporabo UI. To vključuje spodbujanje pismenosti na področju UI in pomoč mladim pri razumevanju priložnosti in omejitev sistemov UI, da lahko v digitalnih prostorih sodelujejo samozavestno in odgovorno.
9. Močni mehanizmi odgovornosti, vključno z neodvisnimi revizijami, so bistveni za zagotovitev, da so te zaščite v praksi smiselne. Revizije bi morale temeljiti na naboru skupnih standardov, ki omogočajo interoperabilne revizije med jurisdikcijami. Zakonodajna ogrodja bi morala vključevati nadzorne in izvršilne ukrepe, ki vladam omogočajo oceniti, ali podjetja učinkovito izvajajo varovala za varnost mladih, zmanjšujejo ugotovljena tveganja ter izpolnjujejo obveznosti glede varnosti mladih in zasebnosti.

Ta načela se odražajo v tem, kako razvijamo in upravljamo ChatGPT, od vedenja modela in zasnove izdelka do prispevkov strokovnjakov in podpore v resničnem svetu. Okrepili smo varovala za uporabnike, mlajše od 18 let, uvedli starševski nadzor⁠ s proaktivnimi obvestili in napredne sisteme za napovedovanje starosti⁠, da lahko ChatGPT uporabi močnejšo zaščito, kadar je nekdo morda mlajši od 18 let. Naše specifikacije modela, ki opisujejo, kako naj se naši modeli vedejo, vključujejo tudi namenska načela za uporabnike, mlajše od 18 let⁠(odpre se v novem oknu), pri čemer dajejo prednost varnosti najstnikov, starosti primernim izkušnjam, podpori v resničnem svetu in jasnim pričakovanjem. V praksi to pomeni močnejša varovala glede samopoškodovanja, nevarnih dejavnosti, nazorne vsebine, telesne samopodobe in skrivanja, skupaj s spodbudo, naj se po potrebi poišče zaupanja vredna podpora zunaj spleta ali krizni viri. Kadar starost ni gotova, privzeto uporabimo močnejša varovala.

UI, zasnovana z močnimi varovali ter ponujena z jasnimi smernicami in podporo družin in učiteljev, lahko mladim pomaga varno izkoristiti orodja, ki širijo učenje, ustvarjalnost in priložnosti. UI lahko študentom in dijakom pomaga razumeti težavne koncepte, vaditi jezike, izboljšati pisanje, se naučiti programirati, organizirati raziskovanje, raziskovati ustvarjalne ideje in se pripraviti na delovna mesta, ki se že spreminjajo. Prek programa Education for Countries⁠ OpenAI sodeluje z vladami in učitelji pri uvedbah, ki temeljijo na raziskavah, lokaliziranih učnih orodjih in usposabljanju učiteljev, da bi sprejemanje UI temeljilo na dokazih in resničnih potrebah učilnic. To delo že podpira nacionalna izobraževalna prizadevanja v naših partnerskih državah, vključno z Estonijo⁠, Grčijo⁠ in Singapurjem⁠.

Poleg sodelovanja na vrhu voditeljev bomo v Pariz pripeljali OpenAI Forum⁠(odpre se v novem oknu), da bi omogočili praktičen pogovor o tem, kako lahko vlade, raziskovalci, civilna družba, učitelji in industrija skupne cilje glede varnosti mladih pretvorijo v konkretna varovala, standarde in prakse izvajanja. Francoska veleposlanica za UI in digitalne zadeve Clara Chappaz se bo pridružila glavnemu direktorju OpenAI za področje Iz sveta Chrisu Lehanu, voditeljem na področju varnosti mladih iz iRaise/Everyone.AI in drugim strokovnjakom v razpravi o tem, kako lahko mladi izkoristijo UI ob hkratnem zmanjševanju tveganj.