OpenAI podpira kalifornijski zakon za večjo varnost mladih pri uporabi UI

Avtorica: Ann O’Leary, podpredsednica za globalno politiko

OpenAI podpira predlog zakona kalifornijskega senata št. 1119, ki uvaja pomembne zaščitne ukrepe za uporabo UI med mladimi, obenem pa jim ohranja dostop do orodij za učenje, ustvarjanje in pripravo na prihodnost. Ta podpora nadgrajuje zavezo, ki jo je lani sprejel soustanovitelj in izvršni direktor družbe OpenAI Sam Altman, ko je predstavil načela podjetja glede najstnikov.

Ker na zvezni ravni ni ukrepanja, ima Kalifornija priložnost postaviti visok standard za varnost mladih pri uporabi UI.

V našem pismu guvernerju Newsomu⁠(odpre se v novem oknu) njemu, senatorju Stevu Padilli, poslankama skupščine Buffy Wicks in Rebecci Bauer-Kahan ter kalifornijskemu zakonodajnemu telesu izražamo priznanje za vodilno vlogo pri tem pomembnem vprašanju. Predlog zakona SB 1119 nadgrajuje ukrepe za varnost mladih, ki jih OpenAI podpira s svojimi produkti, načeli globalne politike, zagovorništvom v Kaliforniji in sodelovanjem pri zakonu Parents & Kids Safe AI Act. Guvernerja Newsoma pozivamo, naj predlog podpiše in ga s tem uzakoni.

Najstniki so prva generacija, ki odrašča z UI. Skoraj devet od desetih najstnikov, ki uporabljajo ChatGPT, ga v posameznem tednu uporabi za učenje, pridobivanje informacij, razvijanje spretnosti ali večjo storilnost. Ta priložnost prinaša jasno odgovornost: izkušnje za najstnike morajo upoštevati njihove posebne razvojne potrebe, vključevati močno privzeto zaščito ter jim ponujati primerne možnosti za učenje, ustvarjanje in raziskovanje.

Ta pristop se odraža v naši novi izkušnji ChatGPT za najstnike. Zasnovana je tako, da uporabnikom, mlajšim od 18 let, pomaga pri učenju, kritičnem razmišljanju in ustvarjanju, hkrati pa spodbuja zdravo uporabo, vključuje vgrajene zaščitne ukrepe ter staršem omogoča dodaten nadzor. Če naš sistem oceni, da je uporabnik mlajši od 18 let, ali če navede starost med 13 in 17 let, je samodejno vključen v izkušnjo ChatGPT za najstnike. Ta zaščita je del osnovne izkušnje in ne izbirna nastavitev, ki bi jo uporabniki lahko izklopili.

Na splošno verjamemo, da lahko najstniki uporabljajo prednosti UI brez ogrožanja varnosti, kar je osrednji cilj predloga zakona SB 1119.

Predlog zakona SB 1119 združuje močno zaščito z nadaljnjim dostopom do uporabnih orodij UI. Odločno podpiramo te ključne zahteve:

• ugotavljanje starosti uporabnika;
• prepoznavanje in obravnavanje varnostnih tveganj, preden je izdelek na voljo mladim;
• opravljanje neodvisnih revizij;
• zaščita mladih pred škodljivimi vsebinami, vključno s samopoškodovanjem, vsebinami spolnega izkoriščanja in drugimi zelo tveganimi interakcijami;
• zagotavljanje orodij, s katerimi lahko starši usmerjajo in omejujejo uporabo pri svojih otrocih;
• povezovanje mladih z viri za pomoč v stiski ob resnih varnostnih tveganjih;
• omejevanje ciljnega oglaševanja in varovanje osebnih podatkov mladih.

Za uporabnike, za katere je ugotovljeno, da so stari od 13 do 17 let, bi se morala ta zaščita uporabljati samodejno. Ta zakonodaja bi združila smiselno odgovornost z zaščitnimi ukrepi, ki bi mladim pomagali zagotavljati varnost pri uporabi UI.

Predlog zakona SB 1119 prav tako ustrezno upošteva, da UI ni družbeno omrežje. Predlog zakona uvaja zaščito, prilagojeno uporabi UI za učenje, ustvarjanje in raziskovanje med mladimi. Pri oblikovanju tega okvira so snovalci politik želeli ohraniti dostop do izobraževalnih funkcij in funkcij, ključnih za varnost, vključno z odgovorno uporabo spomina v ChatGPT‑ju, obenem pa spodbujati varnejše in starosti primerne izkušnje za najstnike.

ChatGPT za najstnike vključuje nabor funkcij, posebej prilagojenih učenju najstnikov, kot so kvizi, učne vizualizacije in učni način. Razvili smo jih z učitelji in strokovnjaki za učenje, da učence korak za korakom vodijo skozi reševanje problemov. Ta orodja so namenjena poglabljanju razumevanja in razvijanju boljših učnih navad. Funkcije, ki uporabljajo kontekst prejšnjih pogovorov, vključno s spominom, pomagajo dosledno izvajati zaščitne ukrepe, prepoznavati skrb vzbujajoče vzorce in sčasoma zagotavljati koristnejšo podporo pri učenju.

Kontekst prav tako pomaga, da ta orodja za varnost in učenje skozi čas delujejo dosledneje. S funkcijami, kot je spomin, lahko ChatGPT v nove pogovore prenese pomembne informacije in nastavitve iz prejšnjih pogovorov, zato lahko najstniki nadaljujejo dolgoročnejše učne projekte, ne da bi morali začeti znova. Ta kontinuiteta lahko pomaga tudi preprečevati utrjevanje škodljivih vzorcev in omogoča učinkovitejši odziv, kadar mlad človek potrebuje dodatno pomoč ali vire.

Uravnoteženje varnosti in učenja za nas ni novo. V zadnjem letu smo dodali starševski nadzor, napovedovanje starosti, naš načrt za varnost najstnikov in načela za mlajše od 18 let v naših specifikacijah modela – pravilih, ki določajo predvideno vedenje naših modelov – ter tako postavili nove standarde za njihove interakcije z mladimi. Ta načela prepovedujejo romantične odnose, spodbujanje čustvene odvisnosti in trditve, da je ChatGPT človek ali čuteče bitje. Ponujamo tudi starševski nadzor, ki družinam omogoča upravljanje ključnih nastavitev za najstnike in prejemanje obvestil v zelo tveganih okoliščinah.

Predlog zakona SB 1119 vzpostavlja trden okvir za varnost mladih pri uporabi UI v Kaliforniji. Nadaljnje proučevanje in sodelovanje med izvajanjem lahko pomagata izboljšati ključne določbe ter ohranjati učinkovitost okvira ob razvoju tehnologije. OpenAI se veseli podpore temu delu in nadaljnjega razvoja izkušenj z UI, ki najstnike obravnavajo kot najstnike ter jim zagotavljajo močnejšo samodejno zaščito in smiselne priložnosti za učenje in razvoj.