Unapređivanje sigurnosti i mogućnosti za mlade kroz globalno vodstvo

Umjetna inteligencija može biti moćan alat za mlade. Može pomoći učenicima da razumiju zahtjevan koncept, vježbaju novi jezik, pripreme se za razgovor za posao, istraže kreativne ideje ili nauče novu vještinu. Baš kao što je pokret opismenjavanja, koji se sredinom 20. stoljeća proširio diljem svijeta, zahtijevao masovnu distribuciju tiskanog teksta i pristup osposobljenim nastavnicima, danas će omogućavanje pristupa sigurnoj umjetnoj inteligenciji otvoriti nove mogućnosti za personalizirano učenje, pomoći u smanjenju prepreka za nedovoljno obuhvaćene skupine i povećati spremnost za tržište rada.

Budući da su potencijalne koristi toliko značajne, ključno je da mladi mogu pristupati umjetnoj inteligenciji (AI) na način koji je siguran, primjeren dobi i poticajan za zdrav razvoj. Ta odgovornost ne bi trebala ponajprije pasti na roditelje ili na same mlade ljude. Tvrtke, uključujući OpenAI, imaju odgovornost razvijati proizvode s odgovarajućim zaštitnim mjerama prema zadanim postavkama, istodobno pružajući obiteljima alate i informacije za usmjeravanje načina na koji se AI upotrebljava.

Kada se šefovi država okupe na samitu čelnika G7-a u Évianu u Francuskoj kasnije ovog mjeseca, tema sigurnosti mladih u kontekstu umjetne inteligencije bit će u središtu pozornosti. OpenAI će se pridružiti raspravi o većoj suradnji na području sigurnosti mladih, o tome kako možemo zajedno raditi na podizanju standarda u industriji te o novom pozivu OpenAI-ja na osnivanje međunarodnog instituta za sigurnost mladih.

Sastanak na vrhu čelnika skupine G7 predstavlja rijetku priliku za globalnu koordinaciju na području sigurnosti mladih. Namjenski institut pružio bi kontinuitet i daljnju provedbu potrebnu i nakon jednog samita, pomažući vladama, istraživačima, civilnom društvu i industriji da nastave surađivati na razmjeni dokaza, razvoju smjernica i podizanju standarda tijekom vremena.

Postoji nekoliko vjerodostojnih načina na koje bi se to moglo ostvariti: putem novog međunarodnog instituta ili tako da se postojećem ili novoosnovanom nacionalnom institutu za umjetnu inteligenciju dodijeli globalni mandat za dijeljenje istraživanja, dokaza i smjernica s partnerima diljem svijeta. Ono što je najvažnije jest funkcija kojoj služi. Sigurnost mladih u kontekstu umjetne inteligencije zahtijeva kontinuiranu pozornost, pouzdane dokaze i praktične smjernice koje mogu držati korak s tehnologijom.

Takav se institut može nadovezati na inicijative u nastajanju, kao što je Institut za sigurnost mladih u području umjetne inteligencije (Youth AI Safety Institut) organizacije Common Sense Media, uz potporu OpenAI Foundation, kao i na praktične suradnje s nastavnicima, uključujući rad OpenAI-ja s Američkom federacijom učitelja⁠. Trebalo bi se oslanjati i na primjene u stvarnom svijetu, kao što je estonsko nacionalno uvođenje ChatGPT‑a u škole, u okviru kojeg OpenAI surađuje sa Stanfordom i estonskim istraživačima kako bi proučili utjecaj i pružili spoznaje za sigurniju i učinkovitiju upotrebu u učenju.

OpenAI pozdravlja priliku za suradnju s francuskom vladom, drugim vladama zemalja skupine G7 i partnerima iz civilnog društva, akademske zajednice i industrije na ovom ključnom radu te za podizanje globalnih standarda sigurnosti mladih.

Vjerujemo da snažni okviri za sigurnost mladih u području umjetne inteligencije, uključujući svaki potencijalni sporazum postignut na sastancima skupine G7, trebaju biti vođeni načelima koja ovdje iznosimo.

1. Tvrtke bi trebale znati kada je korisnik maloljetnik i primijeniti zaštitne mjere primjerene dobi. To znači zahtijevati od pružatelja usluga da koriste učinkovite metode procjene dobi koje štite privatnost kako bi razlikovali maloljetnike od odraslih te da prema zadanim postavkama primjenjuju zaštitne mjere kada se dob korisnika ne može utvrditi. Bez tog temelja, čak ni najbolje namjerene mjere zaštite mladih možda neće doprijeti do onih koje su namijenjene zaštiti.
2. Tvrtke bi trebale redovito procjenjivati i rizike i koristi za mlade osobe te poduzimati mjere za njihovo rješavanje — prije nego što nastane šteta. To znači zahtijevati od pružatelja usluga da provode godišnje procjene rizika za sigurnost mladih osoba i uvedu razmjerne mjere zaštite na temelju rizika koje utvrde. Takve procjene trebale bi uzeti u obzir rizike za mlade osobe na temelju njihove razvojne faze, empirijskih dokaza iz stvarne uporabe te relevantnih istraživanja ili regulatornih smjernica. Procjene bi trebale uzeti u obzir ne samo potencijalne štete, nego i to podržava li umjetna inteligencija pozitivne ishode poput učenja, kreativnosti, razvoja vještina i pristupa mogućnostima.
3. Roditelji i skrbnici trebali bi imati pristupačne i jednostavne kontrole koje im pomažu usmjeravati iskustva svoje djece, uz istodobnu podršku samostalnosti primjerene dobi. To bi trebalo uključivati alate za upravljanje ključnim postavkama, uključujući memoriju, upotrebu podataka i vremenska ograničenja. Roditeljske alate treba aktivno promicati kako bi roditelji znali da postoje i razumjeli kako ih koristiti. 
4. Obitelji zaslužuju jasne i razumljive informacije o tome kako tvrtke štite mlade korisnike, kao i sadržajne informacije o koristima i rizicima upotrebe umjetne inteligencije među mladima. Tvrtke bi trebale objavljivati sigurnosne pravilnike u kojima se objašnjava koje su zaštitne mjere uvedene radi zaštite mladih osoba, koji su roditeljski alati dostupni i kako se mjere zaštite ažuriraju kako se rizici razvijaju. Ta transparentnost gradi povjerenje i pomaže roditeljima da donose informirane odluke.
5. Tvrtke trebaju imati jasne protokole za rješavanje ozbiljnih sigurnosnih situacija, uključujući samoozljeđivanje, iskorištavanje, vrbovanje, sadržaj koji uključuje seksualno iskorištavanje i druge interakcije visokog rizika. Oni trebaju uključivati podršku tijekom rada, upućivanje na odgovarajuće resurse i pravodobno obavještavanje roditelja kada je to primjereno. Tvrtke trebaju također osmisliti svoje sustave tako da ne generiraju sadržaj koji nije siguran ili je razvojno neprikladan za djecu, uključujući eksplicitan seksualni ili nasilni materijal.  
6. AI sustavi koje koriste mladi trebali bi biti osmišljeni tako da podržavaju učenje, razvoj i stvarne međuljudske odnose — a ne da ih zamjenjuju. AI treba služiti kao alat koji mladima pomaže učiti, stvarati, razvijati vještine i pripremati se za budućnost. Istodobno, tvrtke bi trebale postaviti jasne granice u područjima u kojima zdrav razvoj ovisi o ljudskoj prosudbi, odnosima u stvarnom svijetu i stručnoj podršci.
7. Osobni podaci maloljetnika trebaju biti zaštićeni. To znači zabranu ciljanog oglašavanja mladim osobama koje zadiru u privatnost te zabranu prodaje osobnih podataka tvrtkama.
8. Okviri za sigurnost mladih trebali bi promicati mogućnosti, pismenost i zaštitu. Mladi bi trebali imati pristup alatima umjetne inteligencije koji podržavaju učenje, kreativnost, razvoj vještina i buduće prilike, uz to da budu opremljeni znanjem i vještinama kritičkog razmišljanja potrebnima za sigurnu i odgovornu upotrebu umjetne inteligencije. To uključuje promicanje pismenosti o umjetnoj inteligenciji i pomaganje mladima da razumiju mogućnosti i ograničenja sustava umjetne inteligencije kako bi mogli samouvjereno i odgovorno sudjelovati u digitalnim prostorima.
9. Snažni mehanizmi odgovornosti, uključujući neovisne revizije, nužni su kako bi se osiguralo da te zaštitne mjere imaju stvarni učinak u praksi. Revizije bi trebale biti utemeljene na skupu zajedničkih standarda koji omogućuju interoperabilne revizije u različitim jurisdikcijama. Zakonodavni okviri trebali bi uključivati mjere nadzora i provedbe koje vladama omogućuju da procijene provode li tvrtke učinkovito zaštitne mjere za sigurnost mladih, ublažavaju li utvrđene rizike te pridržavaju li se obveza u pogledu sigurnosti i privatnosti mladih.

Ta se načela odražavaju u načinu na koji razvijamo ChatGPT i upravljamo njegovim radom, od ponašanja modela i dizajna proizvoda do stručnog doprinosa i podrške u stvarnom svijetu. Ojačali smo zaštitne mjere za korisnike mlađe od 18 godina, uveli roditeljski nadzor⁠ s proaktivnim obavijestima i napredne sustave predviđanja dobi⁠ kako bi ChatGPT mogao primijeniti snažnije mjere zaštite kada je moguće da je netko mlađi od 18 godina. Naša specifikacija modela, u kojoj se navodi kako bi se naši modeli trebali ponašati, također uključuje načela za korisnike mlađe od 18 godina⁠(otvara se u novom prozoru), pri čemu se prednost daje sigurnosti tinejdžera, iskustvima primjerenima dobi, podršci u stvarnom svijetu i jasnim očekivanjima. U praksi to znači snažnije zaštitne mjere u vezi sa samoozljeđivanjem, opasnim aktivnostima, eksplicitnim sadržajem, percepcijom o vlastitom tijelu i tajnovitošću, uz poticanje na traženje pouzdane podrške izvan interneta ili resursa za krizne situacije kada je to potrebno. Ako dob nije pouzdano utvrđena, zadano primjenjujemo strože zaštitne mjere.

Umjetna inteligencija osmišljena uz snažne zaštitne mjere i ponuđena uz jasne smjernice, kao i uz podršku obitelji i obrazovnih djelatnika, može pomoći mladima da na siguran način iskoriste prednosti alata koji proširuju učenje, kreativnost i mogućnosti. AI može pomoći studentima u razumijevanju kompliciranih koncepata, vježbanju jezika, poboljšanju pisanja, učenju programiranja, organizaciji istraživanja, istraživanju kreativnih ideja i pripremi za poslove koji se već mijenjaju. Putem programa Obrazovanje za države⁠, OpenAI surađuje s vladama i obrazovnim djelatnicima na uvođenjima utemeljenima na istraživanjima, lokaliziranim alatima za učenje i osposobljavanju nastavnika kako bi uvođenje umjetne inteligencije bilo utemeljeno na dokazima i stvarnim potrebama u učionici. Ovaj rad već podupire nacionalna nastojanja u području obrazovanja u našim partnerskim zemljama, uključujući Estoniju⁠, Grčku⁠ i Singapur⁠.

Osim sudjelovanja na samitu čelnika (Leader's Summit), dovest ćemo OpenAI Forum⁠(otvara se u novom prozoru) u Pariz kako bismo organizirali praktičan razgovor o tome kako vlade, istraživači, civilno društvo, obrazovni djelatnici i industrija mogu zajedničke ciljeve sigurnosti mladih pretvoriti u konkretne zaštitne mjere, standarde i provedbene prakse. Francuska veleposlanica za umjetnu inteligenciju i digitalna pitanja, Clara Chappaz, pridružit će se Chrisu Lehaneu, glavnom direktoru za globalne poslove OpenAI-ja, voditeljima za sigurnost mladih iz iRaise/Everyone.AI-ja i drugim stručnjacima u raspravi o tome kako mladi mogu imati koristi od umjetne inteligencije uz smanjenje rizika.