OpenAI podržava zakon Kalifornije o sigurnosti AI-ja za mlade

Piše Ann O’Leary, potpredsjednica za globalnu politiku

OpenAI podržava Prijedlog zakona Senata Kalifornije 1119, kojim se uspostavljaju značajne zaštitne mjere za korištenje AI-ja među mladima, uz očuvanje pristupa alatima koji im mogu pomoći da uče, stvaraju i pripremaju se za budućnost. Ova podrška nadovezuje se na prošlogodišnju obavezu Sama Altmana, suosnivača i izvršnog direktora OpenAI-ja, koju je preuzeo predstavljajući načela kompanije o tinejdžerima.

Budući da nema mjera na saveznom nivou, Kalifornija ima priliku postaviti visoke standarde sigurnosti AI-ja za mlade.

U našem pismu guverneru Newsomu⁠(otvara se u novom prozoru) pohvaljujemo njega, senatora Stevea Padillu, članice Skupštine Buffy Wicks i Rebeccu Bauer-Kahan te zakonodavno tijelo Kalifornije za vodstvo u ovom važnom pitanju. SB 1119 nadograđuje mjere sigurnosti mladih koje OpenAI podržava kroz svoje proizvode, načela globalne politike, zagovaranje u Kaliforniji i rad na Zakonu o sigurnom AI-ju za roditelje i djecu. Pozivamo guvernera Newsoma da potpiše ovaj prijedlog i time ga proglasi zakonom.

Tinejdžeri su prva generacija koja odrasta uz AI. Gotovo devet od deset tinejdžera koji koriste ChatGPT tokom sedmice obraća mu se radi učenja, informiranja, razvoja vještina ili veće produktivnosti. Ta prilika donosi jasnu odgovornost: tinejdžerima treba pružiti iskustva osmišljena prema njihovim posebnim razvojnim potrebama, sa snažnom zadanom zaštitom i odgovarajućim prilikama za učenje, stvaranje i istraživanje.

Naš novi proizvod ChatGPT za tinejdžere odražava takav pristup. Osmišljen je da korisnicima mlađim od 18 godina pomogne učiti, kritički razmišljati i stvarati, uz poticanje zdravog korištenja, ugrađene zaštitne mjere i dodatni roditeljski nadzor. Ako naš sistem procijeni da je neko mlađi od 18 godina ili osoba navede da ima između 13 i 17 godina, automatski se prebacuje na ChatGPT za tinejdžere. Te zaštitne mjere dio su osnovnog iskustva, a ne opcionalne postavke koje korisnici mogu isključiti.

Općenito smatramo da tinejdžeri mogu imati koristi od AI-ja bez ugrožavanja sigurnosti, što je cilj u samoj srži SB-a 1119.

SB 1119 objedinjuje snažnu zaštitu i daljnji pristup korisnim AI alatima. Snažno podržavamo sljedeće ključne zahtjeve:

• Utvrditi dob korisnika;
• Prepoznati i otkloniti sigurnosne rizike prije nego što proizvod postane dostupan mladima;
• Provoditi nezavisne revizije;
• Zaštititi mlade od štetnog sadržaja, uključujući samopovređivanje, seksualno iskorištavajući sadržaj i druge visokorizične interakcije;
• Roditeljima pružiti alate za usmjeravanje i ograničavanje načina na koji njihova djeca koriste proizvod;
• Povezati mlade s resursima za pomoć u kriznim situacijama kada se pojave ozbiljni sigurnosni rizici; i
• Ograničiti ciljano oglašavanje i zaštititi lične podatke mladih.

Za korisnike za koje se utvrdi da imaju od 13 do 17 godina ove zaštitne mjere trebaju se primjenjivati automatski. Ovaj zakon objedinio bi značajnu odgovornost i zaštitne mjere koje bi pomogle u zaštiti mladih dok koriste AI.

SB 1119 također s pravom prepoznaje da AI nije društvena mreža. Prijedlog zakona uspostavlja zaštitne mjere prilagođene mladima kako bi mogli koristiti AI za učenje, stvaranje i istraživanje. Pri izradi ovog okvira donosioci politika nastojali su očuvati pristup obrazovnim i sigurnosno važnim funkcijama, uključujući odgovorno korištenje ChatGPT‑ove funkcije memorije, uz poticanje sigurnijih iskustava prilagođenih uzrastu tinejdžera.

ChatGPT za tinejdžere sadrži skup funkcija posebno prilagođenih učenju tinejdžera, poput kvizova, vizualizacija za učenje i Načina učenja, razvijenih s nastavnicima i stručnjacima za obrazovanje kako bi učenike korak po korak vodile kroz probleme. Ovi alati namijenjeni su produbljivanju razumijevanja i razvoju boljih navika učenja. Funkcije koje koriste kontekst prethodnih razgovora, uključujući memoriju, pomažu u dosljednoj primjeni zaštitnih mjera, prepoznavanju zabrinjavajućih obrazaca i pružanju korisnije podrške učenju tokom vremena.

Kontekst također pomaže da ovi alati za sigurnost i učenje s vremenom rade dosljednije. Putem funkcija kao što je memorija, ChatGPT može prenijeti relevantne informacije i postavke iz prethodnih razgovora, omogućavajući tinejdžerima da nastave dugoročnije projekte učenja bez vraćanja na početak. Taj kontinuitet također može pomoći da se izbjegne učvršćivanje štetnih obrazaca i omoguće djelotvornije reakcije kada je mladoj osobi potrebna dodatna pomoć ili podrška.

Usklađivanje sigurnosti i učenja nije nam novost. Tokom protekle godine dodali smo roditeljski nadzor, procjenu dobi, naš Plan sigurnosti tinejdžera i Načela za mlađe od 18 godina u našoj specifikaciji modela — pravilima koja određuju kako bi se naši modeli trebali ponašati — kako bismo postavili nove standarde za njihovu interakciju s mladima. Ona zabranjuju romantično zbližavanje, poticanje emocionalne zavisnosti i tvrdnje da je ChatGPT čovjek ili svjesno biće. Nudimo i roditeljski nadzor koji porodicama omogućava upravljanje ključnim postavkama za njihove tinejdžere i primanje obavijesti u visokorizičnim situacijama.

SB 1119 uspostavlja čvrst okvir za sigurnost mladih pri korištenju AI-ja u Kaliforniji. Daljnje proučavanje i saradnja tokom provedbe mogu pomoći u poboljšanju ključnih odredbi i očuvanju djelotvornosti okvira kako se tehnologija bude razvijala. OpenAI se raduje što će podržati taj rad i nastaviti razvijati iskustva s AI-jem koja tinejdžere tretiraju u skladu s njihovim uzrastom, uz snažniju automatsku zaštitu i značajne prilike za učenje i razvoj.