De ce adolescenții merită acces la o IA sigură

Adolescenții sunt prima generație care crește cu IA, iar această tehnologie le va influența puternic viitorul. Astăzi, aproape 9 din 10 adolescenți de pe ChatGPT îl folosesc, într-o singură săptămână, pentru învățare, informare, dezvoltarea abilităților sau productivitate. De aceea credem că este esențial ca adolescenții să aibă acces la IA. A le interzice adolescenților să o folosească până la maturitate ar fi ca și cum i-am fi cerut unei generații anterioare să evite internetul sau motoarele de căutare până la 18 ani, lăsând-o mai puțin echipată să folosească una dintre tehnologiile definitorii ale epocii sale. Însă accesul trebuie însoțit de protecții concepute special pentru adolescenți.

În cadrul unui eveniment recent al OpenAI Academy⁠(se deschide într-o fereastră nouă), Oriana McKenzie a povestit cum ChatGPT a ajutat-o să devină cea mai bună elevă din clasa ei de liceu, studiind mai eficient și gestionându-și mai bine volumul de muncă, ceea ce i-a oferit timpul necesar pentru activitățile sportive și programele școlare pe care le îndrăgește. Povestea ei ilustrează ce se poate realiza atunci când adolescenții au acces la o IA care-i ajută să învețe și creeze.

Pentru a maximiza aceste beneficii, adolescenții au nevoie de protecții mai solide, concepute pentru etapa lor de viață, inclusiv măsuri automate de siguranță care le permit să exploreze, să învețe și să construiască cu încredere, oferind în același timp protecții adaptate vârstei lor. Pe măsură ce IA devine mai capabilă, responsabilitatea noastră este să combinăm accesul larg cu protecții adecvate vârstei, care le permit adolescenților să beneficieze de această tehnologie pe măsură ce evoluează.

În ultimul an, acest lucru a însemnat consolidarea protecțiilor implicite pentru adolescenți, lansarea predicției vârstei⁠, extinderea controalelor parentale⁠, crearea de resurse pentru familii⁠(se deschide într-o fereastră nouă) suplimentare pentru a ajuta părinți să sprijine utilizarea sănătoasă și responsabilă și introducerea unor funcții de învățare care susțin o înțelegere mai profundă și nu doar oferirea de răspunsuri.

Munca noastră este ghidată de patru angajamente-cheie⁠:

• Punem siguranța adolescenților pe primul loc, chiar și atunci când poate intra în conflict cu alte obiective.
• Încurajăm sprijinul din lumea reală în momentele de nevoie.
• Tratăm adolescenții ca pe niște adolescenți.
• Suntem transparenți, stabilind așteptări clare.

Învățarea este una dintre cele mai clare modalități prin care adolescenții beneficiază de IA, așa că dezvoltăm instrumente care încurajează implicarea activă, gândirea critică și înțelegerea mai profundă. Modul studiu⁠(se deschide într-o fereastră nouă) a fost conceput în colaborare cu profesori, specialiști în știința învățării și experți în pedagogie pentru a ajuta elevii să rezolve problemele pas cu pas, folosind întrebări orientative, explicații structurate și ocazii de reflecție, fără a le oferi pur și simplu răspunsul. Evaluările timpurii ale unor instrumente precum Modul studiu au arătat îmbunătățiri promițătoare ale performanței elevilor⁠, contribuind la orientarea cercetării noastre mai ample despre modul în care IA poate sprijini rezultatele învățării.

Deși adolescenții pot activa singuri acest mod, acum părinții care au asociate conturi de adolescenți pot activa Modul studiu⁠ direct din controalele parentale⁠. Când este activat, acesta este pornit implicit ori de câte ori un adolescent începe un chat nou, oferindu-le familiilor o modalitate suplimentară de a ghida folosirea ChatGPT pentru teme și studiu.

Am introdus recent și solicitări de început axate pe educație pentru adolescenți, astfel încât să fie mai ușor să înceapă cu sarcini precum împărțirea unui subiect în pași simpli, transformarea notițelor într-un ghid de studiu, crearea de fișe sau întrebări de exersare și verificarea dovezilor și a clarității.

Continuăm, de asemenea, să extindem experiențele interactive de învățare⁠. Cercetările au arătat constant⁠ că oamenii învață mai eficient atunci când se pot implica activ în concepte, în loc să consume pasiv informații. De la lansarea de la începutul acestui an, 18 milioane de utilizatori săptămânali interacționează acum cu experiențe interactive de matematică și științe în ChatGPT, iar noi le-am extins la peste 250 de subiecte noi, de la integrale și mitoză la fazele Lunii, fotosinteză și altele. Am introdus și o experiență de pronunție care folosește funcția audio pentru a ajuta utilizatorii să învețe cum să pronunțe cuvinte în peste 61 de limbi.

Dacă sistemul nostru estimează că o persoană care folosește ChatGPT are sub 18 ani,⁠ oferim automat o experiență mai adecvată vârstei⁠(se deschide într-o fereastră nouă). Adolescenții pot folosi în continuare ChatGPT pentru a învăța, crea și explora, dar cu protecții suplimentare concepute pentru a reduce expunerea la conținuturi care ar putea să nu fie potrivite pentru ei. Acestea includ măsuri de protecție mai stricte în ceea ce privește violența explicită, autovătămarea, provocările virale riscante, conținutul care promovează o imagine corporală nesănătoasă, precum și jocurile de rol periculoase, romantice sau cu conotații sexuale. Obiectivul principal este acela de a contribui la asigurarea faptului că ChatGPT rămâne un instrument de învățare și creativitate, și nu un substitut pentru relațiile din lumea reală.

De asemenea, proiectăm ChatGPT astfel încât să încurajeze obiceiurile sănătoase. Adolescenții care petrec mult timp pe ChatGPT vor primi acum mementouri de pauză⁠ mai frecvente, care îi încurajează să ia o pauză de la chat. Aceste mementouri au scopul de a-i ajuta să-și dezvolte obiceiuri echilibrate în utilizarea tehnologiei, oferindu-le în același timp libertatea de a folosi IA pentru învățare, creativitate și rezolvarea problemelor.

Credem că cele mai bune instrumente de siguranță pot ajuta familiile să parcurgă împreună experiențele online ale adolescenților. Am creat controale parentale și notificări⁠ care le permit să stabilească ore de liniște, să dezactiveze modul vocal, să gestioneze accesul la generarea de imagini și să primească notificări în anumite situații cu risc ridicat, cum ar fi indicii de posibilă autovătămare.

Extindem aceste notificări pentru a include cazurile în care un cont de adolescent conectat a fost dezactivat pentru încălcarea politicilor noastre de utilizare⁠ privind amenințările violente sau actele de violență online. Această abordare ajută părinții să afle când s-a întâmplat ceva grav, respectând în același timp confidențialitatea adolescenților și încurajând conversațiile și sprijinul offline.

Pe parcursul dezvoltării acestor funcționalități, ne-am consultat cu mai mulți experți, printre care Moonshot⁠(se deschide într-o fereastră nouă), o organizație de referință în domeniul prevenirii violenței online, pentru a ne asigura că aceste intervenții sunt bine gândite, eficiente și axate pe sprijinirea familiilor în momentele de nevoie.

De asemenea, dorim să ne asigurăm că părinții, adolescenții și cadrele didactice dispun de îndrumări clare cu privire la modul optim de utilizare responsabilă a IA. Publicăm resurse educaționale în peste 50 de limbi, printre care Ghidul familiei pentru a ajuta adolescenții să utilizeze IA în mod responsabil⁠(se deschide într-o fereastră nouă), Sfaturi pentru a discuta cu adolescentul tău despre IA⁠(se deschide într-o fereastră nouă) și Sfaturi pentru părinții care utilizează ChatGPT⁠(se deschide într-o fereastră nouă).

Siguranța tinerilor online nu este o problemă pe care o companie o poate rezolva de una singură. Lucrăm îndeaproape cu adolescenți, părinți, educatori, experți în siguranța copiilor, profesioniști în sănătatea mintală, cercetători, guverne și organizații ale societății civile. Aceste parteneriate ne ajută să înțelegem mai bine nevoile tinerilor, să identificăm riscurile emergente, să evaluăm eficacitatea măsurilor noastre de protecție și să ne asigurăm că politicile noastre sunt bazate pe de cunoștințe independente de specialitate.

Această activitate acoperă abordarea noastră atât privind învățarea, cât și bunăstarea tinerilor. Colaborăm cu cadre didactice, inclusiv cu American Federation of Teachers⁠, elevi și studenți și organizații de învățare pentru a înțelege mai bine cum poate IA să susțină predarea și învățarea, consolidând în același timp implicarea activă și gândirea critică. Lucrăm îndeaproape și cu experți din comunitățile de sănătate mintală, dezvoltare a copilului și siguranță a tinerilor, inclusiv cu American Psychological Association⁠(se deschide într-o fereastră nouă), cu Global Physicians Network⁠ și cu Expert Council on Well-Being and AI⁠.

Eforturile noastre de a construi un ecosistem digital mai sănătos nu se limitează la propriile produse. Am solicitat dezvoltarea unor standarde globale scalabile pentru siguranța tinerilor în IA⁠ printr-un AI Safety Institute dedicat, am publicat în regim open source politici și instrumente⁠ pe care dezvoltatorii le pot integra în propriile sisteme IA și lucrăm cu organizații precum Common Sense Media⁠(se deschide într-o fereastră nouă) și everyone.ai⁠(se deschide într-o fereastră nouă) pentru a împărtăși experiențele dobândite și bune practici.

Anul acesta, ne-am alăturat și Family Online Safety Institute⁠(se deschide într-o fereastră nouă) (FOSI), un susținător cu tradiție al experiențelor online sigure pentru familii și tineri. Vom colabora pentru a ne asigura că tinerii pot beneficia de avantajele IA, punând în centrul atenției implicarea activă a părinților și practicile responsabile din domeniu. Sperăm că acest parteneriat va contribui la o mai bună înțelegere comună a măsurilor eficiente, va consolida protecțiile adecvate vârstei și instrumentele destinate părinților și va sprijini eforturile la scară largă pentru ca tinerii să poată beneficia de IA în condiții de siguranță și responsabilitate.

Protejarea tinerilor în mediul online necesită eforturi continue. În lunile următoare, vom continua să consolidăm măsurile de protecție adaptate vârstei, să le oferim părinților mai multe instrumente și un control sporit, să îmbunătățim măsurile de protecție împotriva riscurilor grave, să promovăm cercetarea privind utilizarea sănătoasă a IA și să dezvoltăm mai multe experiențe care vor ajuta adolescenții să învețe în mod activ și să utilizeze IA cu încredere.

Știm că mai sunt multe de făcut și ne angajăm să ne continuăm eforturile în colaborare cu adolescenții, părinții, cadrele didactice, experții și comunitățile din întreaga lume, pentru a le oferi adolescenților un acces sigur și cât mai larg.