Îți prezentăm o actualizare a Specificațiilor modelelor noastre, adică setul de reguli, valori și așteptări comportamentale care ghidează comportamentul pe care îl dorim de la modelele noastre de inteligență artificială, mai ales în situații dificile sau foarte importante, cu noile Principii pentru persoanele sub 18 ani (U18)(se deschide într-o fereastră nouă). Comportamentele modelelor sunt esențiale pentru modul în care utilizatorii interacționează cu inteligența artificială, iar adolescenții au nevoi de dezvoltare diferite față de adulți.
Principiile U18 definesc modul în care ChatGPT ar trebui să ofere o experiență sigură și adecvată vârstei pentru adolescenții cu vârste cuprinse între 13 și 17 ani. Această abordare, întemeiată pe știința dezvoltării, acordă prioritate prevenirii, transparenței și intervenției timpurii. Pentru a elabora aceste principii, le-am prezentat în prealabil unor experți externi, printre care și Asociației Americane de Psihologie, în contextul activității noastre continue de a solicita opinii pentru a ne consolida abordarea.
Deși principiile Specificațiilor modelelor continuă să se aplice atât utilizatorilor adulți, cât și celor adolescenți, această actualizare clarifică modul în care sunt aplicate în cazul adolescenților, în special în situațiile în care siguranța minorilor este o preocupare mai importantă.
Principiile U18 sunt ancorate în patru angajamente directoare:
- Siguranța adolescenților primează chiar și atunci când poate intra în conflict cu alte obiective
- Promovarea sprijinului pe plan real prin încurajarea relațiilor offline și a resurselor de încredere
- Tratarea adolescenților ca atare, fără superioritate și fără a-i trata ca pe niște adulți
- Asigurarea transparenței prin definirea unor așteptări clare
În conformitate cu Planul de siguranță pentru adolescenți, aceste principii au stat la baza eforturilor noastre privind siguranța adolescenților până în prezent, inclusiv protecția conținutului pe care o aplicăm utilizatorilor care ne declară că au sub 18 ani la înregistrare și prin intermediul controalelor parentale. În aceste contexte, am implementat măsuri de protecție pentru a îndruma modelul să acorde o atenție sporită atunci când discută despre domenii cu risc ridicat, inclusiv autovătămare și sinucidere, interacțiuni cu caracter romantic sau sexual, conținut explicit, activități și substanțe periculoase, tulburări alimentare și ale imaginii corporale, precum și solicitarea păstrării secretului referitor la comportamentele periculoase.
Asociația Americană de Psihologie, care a revizuit o versiune preliminară a specificațiilor modelelor pentru U18 și a oferit informații importante pe termen lung, a subliniat clar importanța protejării adolescenților:
„APA încurajează dezvoltatorii de inteligență artificială să ofere măsuri de precauție adecvate din punct de vedere al dezvoltării pentru tinerii utilizatori ai produselor lor și să adopte o abordare de protecție mai strictă pentru utilizatorii mai tineri. Copiii și adolescenții pot fi avantajați de instrumentele de inteligență artificială dacă sunt însoțite de interacțiuni umane, care, conform studiilor științifice, sunt esențiale pentru dezvoltarea socială, psihologică, comportamentală și chiar biologică. Experiențele tinerilor cu inteligența artificială ar trebui să fie atent supravegheate și discutate cu adulți în care aceștia au încredere, pentru a încuraja analiza critică a informațiilor oferite de roboții de inteligență artificială și pentru a stimula dezvoltarea gândirii independente și a abilităților tinerilor.”
De asemenea, această actualizare clarifică modul în care asistentul ar trebui să răspundă atunci când apar probleme de siguranță pentru adolescenți. Aceasta înseamnă că adolescenții ar trebui să beneficieze de măsuri de protecție mai puternice, alternative mai sigure și să fie încurajați să ceară sprijin offline de încredere atunci când conversațiile devin mai riscante. În cazul unui risc iminent, adolescenții sunt îndemnați să contacteze serviciile de urgență sau resursele pentru situații de criză.
La fel ca restul Specificațiilor modelelor, Principiile U18 reflectă comportamentul pe care dorim să-l promovăm în rândul modelelor. Vom continua să le perfecționăm pe măsură ce vom integra noi cercetări, contribuții ale experților și utilizarea reală.
Pe lângă actualizarea Specificațiilor modelelor, am adoptat o abordare pe mai multe niveluri pentru consolidarea siguranței adolescenților în ChatGPT, cuprinzând măsuri de protecție a produselor, sprijin familial și îndrumare specializată.
De la lansarea controalelor parentale(se deschide într-o fereastră nouă), am extins protecțiile pentru produse noi, inclusiv pentru chaturile în grup, browserul ChatGPT Atlas și aplicația Sora. Aceste actualizări ajută părinții să personalizeze experiența ChatGPT a copiilor adolescenți odată cu lansarea de noi produse și funcții.
În conformitate cu recomandările experților, încurajăm dialogul continuu între părinți și adolescenți cu privire la utilizarea sănătoasă și responsabilă a inteligenței artificiale în familie. Pentru a sprijini aceste conversații, am adăugat noi resurse verificate de experți în centrul de resurse pentru părinți(se deschide într-o fereastră nouă), inclusiv un Ghid familial pentru a ajuta adolescenții să utilizeze inteligența artificială în mod responsabil(se deschide într-o fereastră nouă) și sfaturi pentru părinți(se deschide într-o fereastră nouă) despre cum să discute cu copiii despre inteligența artificială, care au fost revizuite de ConnectSafely și de membrii Consiliului de experți pentru bunăstare și inteligența artificială. Vom continua să adăugăm mai multe resurse cu timpul. De asemenea, încurajăm utilizarea sănătoasă chiar în cadrul produsului, cu mementouri integrate pentru pauze în timpul sesiunilor lungi, pentru a ajuta utilizatorii să folosească ChatGPT în mod intenționat și echilibrat.
Eforturile noastre privind siguranța adolescenților sunt coordonate printr-o colaborare strânsă cu experți din diferite discipline și domenii de specialitate. În octombrie, am înființat un Consiliu de experți privind bunăstarea și inteligența artificială pentru a oferi consultanță și a defini cum ar trebui să arate interacțiunile sănătoase cu inteligența artificială pentru toate vârstele. Această activitate a constituit baza unor orientări privind controalele parentale și notificările către părinți. De asemenea, incorporăm cunoștințe clinice prin intermediul Rețelei globale de medici pentru a fundamenta cercetarea în domeniul siguranței și a evalua comportamentele modelelor, inclusiv pentru îmbunătățirea modului în care ChatGPT recunoaște stările de suferință și îndrumă persoanele către asistența de specialitate, atunci când este cazul. Am dezvoltat aceste premise cu ajutorul GPT‑5.2 și am extins accesul la asistență concretă prin introducerea unor linii de ajutor localizate în ChatGPT și Sora, prin parteneriatul nostru cu ThroughLine(se deschide într-o fereastră nouă).
Suntem în primele etape ale implementării unui model de predicție a vârstei(se deschide într-o fereastră nouă) în planurile pentru consumatori ChatGPT. Acest lucru ne va ajuta să aplicăm automat măsuri de protecție pentru adolescenți atunci când avem motive să credem că un cont îi aparține unui minor. Dacă nu avem certitudinea vârstei unei persoane sau dacă informațiile pe care le deținem sunt incomplete, vom aplica în mod implicit experiența U18 și le vom oferi adulților modalități de verificare a vârstei.
Consolidarea siguranței adolescenților este o activitate continuă și vom continua să îmbunătățim controalele parentale și capacitățile modelelor, să dezvoltăm resursele pentru părinți, să colaborăm cu organizații, cercetători și parteneri experți, inclusiv Consiliul pentru bunăstare și Rețeaua globală de medici.
Ne angajăm să creăm măsuri puternice de protecție a adolescenților și să le îmbunătățim în timp, pentru a sprijini mai eficient adolescenții și familiile.
