OpenAI susține legea Californiei pentru siguranța tinerilor în AI

De Ann O’Leary, vicepreședintă pentru politici globale

OpenAI susține proiectul de lege 1119 al Senatului Californiei, care instituie măsuri semnificative de protecție privind modul în care tinerii folosesc AI, menținându-le totodată accesul la instrumente care îi pot ajuta să învețe, să creeze și să se pregătească pentru viitor. Acest sprijin continuă angajamentul asumat anul trecut de Sam Altman, cofondator și CEO al OpenAI, când a prezentat principiile companiei privind adolescenții.

În lipsa unor măsuri la nivel federal, California are ocazia de a stabili un standard riguros pentru siguranța tinerilor în domeniul AI.

În scrisoarea noastră adresată guvernatorului Newsom⁠(se deschide într-o fereastră nouă), îi felicităm pe acesta, precum și pe senatorul Steve Padilla, pe membrii Adunării, Buffy Wicks și Rebecca Bauer-Kahan, și Legislativul Californiei pentru rolul lor de lider în această chestiune importantă. SB 1119 se bazează pe măsurile de siguranță pentru tineri pe care OpenAI le-a susținut prin produsele noastre, principiile noastre globale de politică publică, acțiunile de susținere din California și activitatea privind Parents & Kids Safe AI Act. Îl încurajăm pe guvernatorul Newsom să promulge proiectul de lege.

Adolescenții sunt prima generație care crește alături de AI. Într-o săptămână obișnuită, aproape nouă din zece adolescenți care folosesc ChatGPT apelează la acesta pentru a învăța, a obține informații, a-și dezvolta abilitățile sau a fi mai productivi. Această oportunitate implică o responsabilitate clară: adolescenții trebuie să beneficieze de experiențe concepute în jurul nevoilor lor specifice de dezvoltare, cu protecții implicite solide și posibilități adecvate de a învăța, a crea și a explora.

Noul nostru produs ChatGPT pentru adolescenți reflectă această abordare. Este conceput pentru a ajuta utilizatorii sub 18 ani să învețe, să gândească critic și să creeze, promovând totodată utilizarea sănătoasă, oferind măsuri de protecție integrate și punând la dispoziția părinților controale suplimentare. Dacă sistemul nostru estimează că o persoană are sub 18 ani sau aceasta declară că are între 13 și 17 ani, este inclusă automat în ChatGPT pentru adolescenți. Aceste protecții fac parte din experiența de bază și nu sunt setări opționale pe care utilizatorii le pot dezactiva.

În sens mai larg, credem că adolescenții pot beneficia de AI fără a compromite siguranța, un obiectiv aflat în centrul SB 1119.

SB 1119 combină protecții solide cu accesul neîntrerupt la instrumente AI utile. Susținem ferm următoarele cerințe esențiale:

• Stabilirea vârstei utilizatorului;
• Identificarea și gestionarea riscurilor de siguranță înainte ca un produs să fie pus la dispoziția tinerilor;
• Efectuarea unor audituri independente;
• Protejarea tinerilor împotriva conținutului dăunător, inclusiv automutilarea, conținutul de exploatare sexuală și alte interacțiuni cu risc ridicat;
• Oferirea de instrumente care să le permită părinților să îndrume și să limiteze utilizarea de către copiii lor;
• Îndrumarea tinerilor către resurse de sprijin în situații de criză atunci când apar riscuri grave pentru siguranță și
• Limitarea publicității direcționate și protejarea informațiilor personale ale tinerilor.

Pentru utilizatorii identificați ca având între 13 și 17 ani, aceste protecții trebuie să se aplice automat. Această lege ar îmbina asumarea reală a răspunderii cu măsuri care ar contribui la protejarea tinerilor atunci când folosesc AI.

De asemenea, SB 1119 recunoaște în mod corect că AI nu este o rețea socială. Proiectul de lege instituie măsuri de protecție adaptate pentru a-i ajuta pe tineri să folosească AI pentru a învăța, a crea și a explora. La elaborarea acestui cadru, factorii de decizie au urmărit să mențină accesul la funcții educaționale și esențiale pentru siguranță, inclusiv utilizările responsabile ale funcției de memorie din ChatGPT, promovând în același timp experiențe mai sigure și adecvate vârstei adolescenților.

ChatGPT pentru adolescenți include o suită de funcții adaptate special pentru a-i ajuta să învețe, precum Chestionare, Vizualizări educaționale și Mod studiu, dezvoltate împreună cu profesori și specialiști în educație pentru a-i ghida pas cu pas în rezolvarea problemelor. Aceste instrumente sunt concepute pentru a aprofunda înțelegerea și a sprijini formarea unor deprinderi de învățare mai bune. Funcțiile care folosesc contextul conversațiilor anterioare, inclusiv memoria, ajută la aplicarea consecventă a măsurilor de protecție, la identificarea tiparelor îngrijorătoare și, în timp, la oferirea unui sprijin educațional mai util.

Contextul ajută, de asemenea, aceste instrumente de siguranță și învățare să funcționeze mai consecvent în timp. Prin funcții precum memoria, ChatGPT poate păstra informații și preferințe relevante din conversațiile anterioare, permițându-le adolescenților să continue proiecte de învățare pe termen mai lung fără să o ia de la capăt. Această continuitate poate contribui și la evitarea consolidării tiparelor dăunătoare și la oferirea unor răspunsuri mai eficiente atunci când un tânăr ar putea avea nevoie de ajutor sau resurse suplimentare.

Echilibrul dintre siguranță și învățare nu este o preocupare nouă pentru noi. În ultimul an, am adăugat controale parentale, estimarea vârstei, Planul nostru pentru siguranța adolescenților și Principiile pentru persoanele sub 18 ani în specificațiile modelului — regulile care stabilesc comportamentul prevăzut al modelelor noastre — pentru a defini noi standarde privind modul în care acestea trebuie să interacționeze cu tinerii. Aceste reguli interzic interacțiunile romantice, încurajarea dependenței emoționale și afirmațiile potrivit cărora ChatGPT este uman sau conștient. Oferim și controale parentale care le permit familiilor să gestioneze setările esențiale pentru adolescenți și să primească notificări în situații cu risc ridicat.

SB 1119 stabilește un cadru solid pentru siguranța tinerilor în domeniul AI în California. Studierea în continuare a acestui domeniu și colaborarea pe parcursul implementării pot contribui la îmbunătățirea prevederilor esențiale și la menținerea eficienței cadrului pe măsură ce tehnologia evoluează. OpenAI așteaptă cu interes să sprijine aceste eforturi și să continue să creeze experiențe AI care îi tratează pe adolescenți ca pe adolescenți, cu măsuri de protecție automate mai solide și oportunități reale de a învăța și de a se dezvolta.