Unapređenje sigurnosti i prilika za mlade kroz globalno liderstvo

AI može biti moćan alat za mlade ljude. Može pomoći učenicima da razumiju težak koncept, vježbaju novi jezik, pripreme se za razgovor za posao, istraže kreativne ideje ili nauče novu vještinu. Baš kao što je pokret opismenjavanja koji se sredinom 20. stoljeća proširio širom svijeta zahtijevao masovnu distribuciju štampanog teksta i pristup obučenim nastavnicima, danas će omogućavanje pristupa sigurnom AI-ju otvoriti nove prilike za personalizirano učenje, pomoći u smanjenju prepreka za nedovoljno opslužene zajednice i povećati spremnost radne snage.

Budući da su potencijalne koristi tako značajne, od ključne je važnosti da mladi mogu pristupati AI-ju na načine koji su sigurni, primjereni dobi i koji podržavaju zdrav razvoj. Ta odgovornost ne bi trebala prvenstveno pasti na roditelje ili same mlade ljude. Kompanije, uključujući OpenAI, imaju odgovornost da izrađuju proizvode s odgovarajućim zaštitnim mjerama po zadanim postavkama, istovremeno osnažujući porodice alatima i informacijama za usmjeravanje načina na koji se AI koristi.

Kada se šefovi država okupe na Samitu lidera G7 u Évianu u Francuskoj kasnije ovog mjeseca, tema sigurnosti mladih u korištenju AI-ja bit će u središtu pažnje. OpenAI će se pridružiti razgovorima o većoj saradnji na sigurnosti mladih, o tome kako možemo zajedno raditi na podizanju industrijskih standarda i o novom pozivu OpenAI-ja da se uspostavi međunarodni institut za sigurnost mladih.

Samit lidera G7 predstavlja rijetku priliku za globalnu koordinaciju u oblasti sigurnosti mladih. Međutim, namjenski institut pružio bi kontinuitet i daljnje djelovanje potrebno i nakon jednog samita, pomažući vladama, istraživačima, civilnom društvu i industriji da nastave zajednički rad na razmjeni dokaza, izradi smjernica i podizanju standarda tokom vremena.

Postoji nekoliko vjerodostojnih načina da se to uradi: kroz novi međunarodni institut ili davanjem globalnog mandata postojećem ili novoosnovanom nacionalnom institutu za AI da s partnerima širom svijeta dijeli istraživanja, dokaze i smjernice. Najvažnije je koju funkciju obavlja. Sigurnost mladih u korištenju AI-ja zahtijeva stalnu pažnju, pouzdane dokaze i praktične smjernice koje mogu držati korak s tehnologijom.

Takav institut može se nadovezati na inicijative u nastajanju, kao što je Institut za sigurnost mladih u korištenju AI-ja organizacije Common Sense Media, koji podržava OpenAI Foundation, kao i na praktične saradnje s edukatorima, uključujući rad OpenAI-ja s Američkom federacijom nastavnika⁠. Također bi se trebao oslanjati na primjene u stvarnom svijetu, poput nacionalnog uvođenja ChatGPT‑ja u škole u Estoniji, gdje OpenAI sarađuje sa Stanfordom i estonskim istraživačima kako bi proučili utjecaj i doprinijeli sigurnijoj i učinkovitijoj upotrebi u učenju.

OpenAI pozdravlja priliku da sarađuje s francuskom vladom, drugim vladama G7 i partnerima iz civilnog društva, akademske zajednice i industrije na ovom vitalnom radu i na podizanju globalnih standarda za sigurnost mladih.

Vjerujemo da snažni okviri za sigurnost mladih u korištenju AI-ja, uključujući svaki potencijalni sporazum postignut na okupljanjima G7, trebaju biti vođeni principima koje ovdje iznosimo.

1. Kompanije trebaju znati kada je korisnik maloljetan i primjenjivati zaštite primjerene dobi. To znači zahtijevati od pružalaca usluga da koriste sredstva kao što je učinkovita procjena dobi koja čuva privatnost, kako bi razlikovali maloljetnike od odraslih, te da primjenjuju zaštitne mjere po zadanim postavkama kada se dob korisnika ne može utvrditi. Bez ove osnove, čak i najbolje namijenjene zaštite za mlade možda neće dosegnuti mlade ljude koje trebaju zaštititi.
2. Kompanije trebaju redovno procjenjivati i rizike i koristi za mlade te poduzimati korake za njihovo rješavanje—prije nego što nastane šteta. To znači zahtijevati od pružalaca usluga da svake godine provedu procjene rizika za sigurnost mladih i primijene proporcionalne zaštitne mjere na osnovu rizika koje utvrde. Takve procjene trebaju razmotriti rizike za mlade na osnovu njihove razvojne faze, empirijskih dokaza iz stvarne upotrebe i relevantnih istraživanja ili regulatornih smjernica. Procjene trebaju uzeti u obzir ne samo potencijalne štete, nego i to podržava li AI pozitivne ishode kao što su učenje, kreativnost, razvoj vještina i pristup prilikama.
3. Roditelji i staratelji trebaju imati pristupačne kontrole jednostavne za korištenje koje im pomažu da usmjeravaju iskustva svoje djece, uz podršku samostalnosti primjerene dobi. One trebaju uključivati alate za upravljanje ključnim postavkama, uključujući memoriju, upotrebu podataka i vremenska ograničenja. Roditeljski alati trebaju se aktivno promovirati kako bi roditelji znali da postoje i razumjeli kako ih koristiti. 
4. Porodice zaslužuju jasne i razumljive informacije o tome kako kompanije štite mlade korisnike te značajne informacije i o koristima i o rizicima upotrebe AI-ja među mladima. Kompanije trebaju objavljivati sigurnosne politike koje objašnjavaju koje su zaštitne mjere uspostavljene radi zaštite mladih, koji su roditeljski alati dostupni i kako se zaštite ažuriraju kako se rizici razvijaju. Ova transparentnost gradi povjerenje i pomaže roditeljima da donose informirane odluke.
5. Kompanije trebaju imati uspostavljene jasne protokole za rješavanje ozbiljnih sigurnosnih situacija, uključujući samopovređivanje, iskorištavanje, vrbovanje, seksualno eksploatatorski sadržaj i druge visokorizične interakcije. Oni trebaju uključivati podršku unutar usluge, upućivanje na odgovarajuće resurse i pravovremena obavještenja roditeljima kada je to prikladno. Kompanije također trebaju dizajnirati svoje sisteme tako da ih spriječe da generiraju sadržaj koji je nesiguran ili razvojno neprimjeren za djecu, uključujući eksplicitan seksualni ili nasilni materijal.  
6. AI sistemi koje koriste mladi trebaju biti dizajnirani da podržavaju učenje, razvoj i odnose u stvarnom svijetu, a ne da ih zamjenjuju. AI treba služiti kao alat koji mladima pomaže da uče, stvaraju, razvijaju vještine i pripremaju se za budućnost. Istovremeno, kompanije trebaju uspostaviti jasne granice u područjima u kojima zdrav razvoj zavisi od ljudske prosudbe, odnosa u stvarnom svijetu i profesionalne podrške.
7. Lične informacije maloljetnika trebaju biti zaštićene. To znači zabranu ciljanog oglašavanja mladima koje narušava privatnost i zabranu kompanijama da prodaju lične informacije.
8. Okviri za sigurnost mladih trebaju promovirati prilike, pismenost i zaštitu. Mladi trebaju imati pristup AI alatima koji podržavaju učenje, kreativnost, razvoj vještina i buduće prilike, uz to da budu opremljeni znanjem i vještinama kritičkog razmišljanja potrebnim za sigurnu i odgovornu upotrebu AI-ja. To uključuje promoviranje AI pismenosti i pomaganje mladima da razumiju prilike i ograničenja AI sistema, kako bi se mogli samouvjereno i odgovorno uključivati u digitalne prostore.
9. Snažni mehanizmi odgovornosti, uključujući nezavisne revizije, ključni su kako bi se osiguralo da ove zaštite budu značajne u praksi. Revizije trebaju biti zasnovane na skupu zajedničkih standarda koji omogućavaju interoperabilne revizije u različitim jurisdikcijama. Zakonodavni okviri trebaju uključivati mjere nadzora i provedbe koje vladama omogućavaju da procijene provode li kompanije učinkovito zaštitne mjere za sigurnost mladih, ublažavaju li utvrđene rizike i poštuju li obaveze u vezi sa sigurnošću mladih i privatnošću.

Ti principi se odražavaju u načinu na koji gradimo i upravljamo ChatGPT‑jem, od ponašanja modela i dizajna proizvoda do stručnog doprinosa i podrške u stvarnom svijetu. Ojačali smo zaštitne mjere za korisnike mlađe od 18 godina, pokrenuli roditeljski nadzor⁠ s proaktivnim obavještenjima i napredne sisteme za predviđanje dobi⁠ kako bi ChatGPT mogao primijeniti snažnije zaštite kada neko može biti mlađi od 18 godina. Naša specifikacija modela, koja opisuje kako se naši modeli trebaju ponašati, također uključuje posebne principe za korisnike mlađe od 18 godina⁠(otvara se u novom prozoru), dajući prioritet sigurnosti tinejdžera, iskustvima primjerenim dobi, podršci u stvarnom svijetu i jasnim očekivanjima. U praksi to znači snažnije zaštitne ograde u vezi sa samopovređivanjem, opasnim aktivnostima, eksplicitnim sadržajem, slikom tijela i tajnovitošću, uz poticanje da se, kada je potrebno, potraži pouzdana podrška izvan interneta ili krizni resursi. Kada je dob neizvjesna, po zadanim postavkama primjenjujemo snažnije zaštitne mjere.

AI dizajniran sa snažnim zaštitnim mjerama i ponuđen uz jasne smjernice, kao i podršku porodica i edukatora, može pomoći mladima da sigurno imaju koristi od alata koji proširuju učenje, kreativnost i prilike. AI može pomoći učenicima da razumiju teške koncepte, vježbaju jezike, poboljšaju pisanje, nauče programirati, organiziraju istraživanje, istraže kreativne ideje i pripreme se za poslove koji se već mijenjaju. Kroz Obrazovanje za zemlje⁠, OpenAI sarađuje s vladama i edukatorima na primjenama zasnovanim na istraživanju, lokaliziranim alatima za učenje i obuci nastavnika, kako bi usvajanje AI-ja bilo utemeljeno na dokazima i stvarnim potrebama učionica. Ovaj rad već podržava nacionalne obrazovne napore s našim partnerskim zemljama, uključujući Estoniju⁠, Grčku⁠ i Singapur⁠.

Pored učešća na Samitu lidera, dovest ćemo OpenAI Forum⁠(otvara se u novom prozoru) u Pariz kako bismo okupili praktičan razgovor o tome kako vlade, istraživači, civilno društvo, edukatori i industrija mogu zajedničke ciljeve sigurnosti mladih pretvoriti u konkretne zaštitne mjere, standarde i prakse provedbe. Francuska ambasadorica za AI i digitalne poslove, Clara Chappaz, pridružit će se glavnom direktoru OpenAI-ja za Globalne poslove Chrisu Lehaneu, liderima za sigurnost mladih iz iRaise/Everyone.AI i drugim stručnjacima u razgovoru o tome kako mladi mogu imati koristi od AI-ja uz smanjenje rizika.