OpenAI podržava prijedlog zakona kalifornijskog Senata za sigurnost mladih pri uporabi AI-ja

Ann O’Leary, potpredsjednica za globalnu politiku

OpenAI podržava prijedlog zakona kalifornijskog Senata 1119, kojim se uvode važne zaštitne mjere za uporabu umjetne inteligencije među mladima, a istodobno im se omogućuje pristup alatima koji im mogu pomoći u učenju, stvaranju i pripremi za budućnost. Ta se podrška nadovezuje na prošlogodišnju obvezu Sama Altmana, suosnivača i glavnog izvršnog direktora tvrtke OpenAI, koju je iznio predstavljajući načela tvrtke o tinejdžerima.

Budući da nema djelovanja na saveznoj razini, Kalifornija ima priliku postaviti visoke standarde sigurnosti mladih pri uporabi umjetne inteligencije.

U našem pismu guverneru Newsomu⁠(otvara se u novom prozoru) pohvaljujemo njega, senatora Stevea Padillu, zastupnice Buffy Wicks i Rebeccu Bauer-Kahan te zakonodavno tijelo Kalifornije zbog njihova vodstva u ovom važnom pitanju. Prijedlog zakona SB 1119 nadovezuje se na mjere za sigurnost mladih koje OpenAI podupire svojim proizvodima, načelima globalne politike, zagovaranjem u Kaliforniji i radom na Zakonu o sigurnoj umjetnoj inteligenciji za roditelje i djecu. Potičemo guvernera Newsoma da potpiše ovaj prijedlog i proglasi ga zakonom.

Tinejdžeri su prva generacija koja odrasta uz umjetnu inteligenciju. Gotovo devet od deset tinejdžera koji upotrebljavaju ChatGPT tijekom određenog tjedna služi se njime za učenje, informiranje, razvoj vještina ili produktivnost. Ta prilika donosi jasnu odgovornost: tinejdžerima treba pružiti iskustva osmišljena prema njihovim posebnim razvojnim potrebama, sa snažnim zadanim zaštitama i primjerenim prilikama za učenje, stvaranje i istraživanje.

Naš nedavno pokrenuti ChatGPT za tinejdžere odražava taj pristup. Osmišljen je kako bi korisnicima mlađima od 18 godina pomogao učiti, kritički razmišljati i stvarati, uz promicanje zdrave uporabe, ugrađene zaštitne mjere i dodatne mogućnosti nadzora za roditelje. Ako naš sustav procijeni da je osoba mlađa od 18 godina ili ona navede da ima između 13 i 17 godina, automatski se prebacuje na ChatGPT za tinejdžere. Te su zaštite dio osnovnog iskustva, a ne izborne postavke koje korisnici mogu isključiti.

Općenito smatramo da tinejdžeri mogu imati koristi od umjetne inteligencije bez ugrožavanja sigurnosti, a taj je cilj u središtu prijedloga zakona SB 1119.

Prijedlog zakona SB 1119 objedinjuje snažne zaštite i kontinuiran pristup korisnim alatima umjetne inteligencije. Snažno podupiremo ključne zahtjeve koji traže:

• utvrđivanje dobi korisnika
• prepoznavanje i uklanjanje sigurnosnih rizika prije nego što proizvod postane dostupan mladima
• prolaženje neovisnih revizija
• zaštitu mladih od štetnog sadržaja, uključujući sadržaj o samoozljeđivanju, seksualnom iskorištavanju i drugim visokorizičnim interakcijama
• omogućivanje roditeljima alate za usmjeravanje i ograničavanje uporabe među njihovom djecom
• povezivanje mladih s resursima za pomoć u kriznim situacijama kada se pojave ozbiljni sigurnosni rizici, i
• ograničavanje ciljanog oglašavanja i zaštititu osobnih podataka mladih.

Za korisnike za koje se utvrdi da imaju od 13 do 17 godina te bi se zaštite trebale primjenjivati automatski. Ovaj bi zakon objedinio stvarnu odgovornost i zaštitne mjere koje bi pomogle zaštititi mlade pri uporabi umjetne inteligencije.

SB 1119 također ispravno prepoznaje da umjetna inteligencija nije društvena mreža. Prijedlog zakona uvodi zaštite prilagođene mladima kako bi im pomogle da umjetnu inteligenciju upotrebljavaju za učenje, stvaranje i istraživanje. Pri razvoju tog okvira oblikovatelji politika nastojali su očuvati pristup obrazovnim značajkama i značajkama ključnima za sigurnost, uključujući odgovornu uporabu značajke memorije u ChatGPT‑ju, uz promicanje sigurnijih iskustava primjerenih dobi tinejdžera.

ChatGPT za tinejdžere sadržava niz značajki posebno prilagođenih učenju tinejdžera, kao što su Kvizovi, Vizualizacije za učenje i Način učenja, razvijenih s nastavnicima i stručnjacima za učenje kako bi učenike korak po korak vodile kroz probleme. Ti su alati namijenjeni produbljivanju razumijevanja i razvoju boljih navika učenja. Značajke koje upotrebljavaju kontekst prethodnih razgovora, uključujući memoriju, pomažu dosljedno primjenjivati zaštitne mjere, prepoznavati zabrinjavajuće obrasce i s vremenom pružati korisniju podršku pri učenju.

Kontekst također pomaže da ti alati za sigurnost i učenje s vremenom djeluju dosljednije. Putem značajki poput memorije ChatGPT može zadržati relevantne informacije i postavke iz prethodnih razgovora, što tinejdžerima omogućuje nastavak dugoročnijih projekata učenja bez vraćanja na početak. Taj kontinuitet može pomoći i u izbjegavanju učvršćivanja štetnih obrazaca te omogućiti učinkovitije odgovore kada su mladoj osobi potrebni dodatna pomoć ili resursi.

Usklađivanje sigurnosti i učenja nije nam novost. Tijekom prošle godine dodali smo roditeljski nadzor, predviđanje dobi, naš Plan sigurnosti tinejdžera i Načela za mlađe od 18 godina u našoj specifikaciji modela – pravila koja određuju kako bi se naši modeli trebali ponašati – kako bismo postavili nove standarde njihove interakcije s mladima. Ona zabranjuju romantično zbližavanje, poticanje emocionalne ovisnosti i tvrdnje da je ChatGPT čovjek ili svjesno biće. Nudimo i roditeljski nadzor koji obiteljima omogućuje upravljanje ključnim postavkama za njihove tinejdžere te primanje obavijesti u visokorizičnim situacijama.

Prijedlog zakona SB 1119 uspostavlja snažan okvir za sigurnost mladih pri uporabi umjetne inteligencije u Kaliforniji. Kontinuirano proučavanje i suradnja tijekom provedbe mogu pomoći poboljšati ključne odredbe i očuvati učinkovitost okvira kako se tehnologija bude razvijala. OpenAI se raduje pružanju podrške tom radu i nastavku razvoja iskustava umjetne inteligencije koja uvažavaju dob tinejdžera, uz snažnije automatske zaštite i stvarne prilike za učenje i razvoj.