Promovarea siguranței și oportunităților pentru tineri prin leadership global

AI poate fi un instrument puternic pentru tineri. Îi poate ajuta pe elevi să înțeleagă un concept dificil, să exerseze o limbă nouă, să se pregătească pentru un interviu de angajare, să exploreze idei creative sau să învețe o abilitate nouă. Așa cum mișcarea de alfabetizare care s-a răspândit în întreaga lume la mijlocul secolului al XX-lea a necesitat distribuirea pe scară largă a textelor tipărite și acces la profesori instruiți, astăzi oferirea accesului la AI sigură va deschide noi oportunități pentru învățare personalizată, va ajuta la reducerea barierelor pentru comunitățile deservite insuficient și va crește pregătirea forței de muncă.

Deoarece beneficiile potențiale sunt atât de importante, este esențial ca tinerii să poată accesa AI în moduri sigure, adecvate vârstei și care susțin o dezvoltare sănătoasă. Această responsabilitate nu ar trebui să revină în principal părinților sau tinerilor înșiși. Companiile, inclusiv OpenAI, au responsabilitatea de a construi produse cu măsuri de protecție adecvate activate implicit, oferind totodată familiilor instrumente și informații pentru a ghida modul în care este folosită AI.

Când șefii de stat se vor reuni la Summitul liderilor G7 de la Évian, Franța, mai târziu luna aceasta, siguranța tinerilor în domeniul AI va fi un subiect central. OpenAI va participa pentru a discuta despre o colaborare mai amplă privind siguranța tinerilor, despre cum putem lucra împreună pentru a ridica standardele industriei și despre noul apel al OpenAI pentru înființarea unui institut internațional pentru siguranța tinerilor.

Summitul liderilor G7 reprezintă o oportunitate rară de coordonare globală privind siguranța tinerilor. Dar un institut dedicat ar oferi continuitatea și urmărirea necesare dincolo de un singur summit, ajutând guvernele, cercetătorii, societatea civilă și industria să continue să lucreze împreună pentru a împărtăși dovezi, a dezvolta îndrumări și a ridica standardele în timp.

Există mai multe modalități credibile prin care acest lucru ar putea fi realizat: printr-un nou institut internațional sau prin acordarea unui mandat global unui institut național de AI existent ori nou-înființat, pentru a împărtăși cercetare, dovezi și îndrumări cu parteneri din întreaga lume. Cel mai mult contează funcția pe care o îndeplinește. Siguranța tinerilor în domeniul AI are nevoie de atenție susținută, dovezi de încredere și îndrumări practice care să țină pasul cu tehnologia.

Un astfel de institut se poate baza pe inițiative emergente, precum Youth AI Safety Institute al Common Sense Media, susținut de Fundația OpenAI, precum și pe colaborări practice cu educatorii, inclusiv activitatea OpenAI cu American Federation of Teachers⁠. De asemenea, ar trebui să valorifice implementările din lumea reală, cum ar fi lansarea națională a ChatGPT în școlile din Estonia, unde OpenAI lucrează cu Stanford și cu cercetători estonieni pentru a studia impactul și a informa o utilizare mai sigură și mai eficientă în procesul de învățare.

OpenAI salută oportunitatea de a lucra cu guvernul francez, cu alte guverne G7 și cu parteneri din societatea civilă, mediul academic și industrie la această activitate vitală și de a ridica standardele globale privind siguranța tinerilor.

Considerăm că un cadru solid pentru siguranța tinerilor în domeniul AI, inclusiv orice potențial acord încheiat la reuniunile G7, ar trebui să fie ghidat de principiile pe care le prezentăm aici.

1. Companiile ar trebui să știe când un utilizator este minor și să aplice protecții adecvate vârstei. Aceasta înseamnă să li se ceară furnizorilor să folosească mijloace precum estimarea eficientă a vârstei, cu protejarea confidențialității, pentru a distinge minorii de adulți și să aplice implicit măsuri de protecție atunci când vârsta unui utilizator nu poate fi determinată. Fără această bază, chiar și protecțiile pentru tineri concepute cu cele mai bune intenții ar putea să nu ajungă la tinerii pe care sunt menite să îi protejeze.
2. Companiile ar trebui să evalueze periodic atât riscurile, cât și beneficiile pentru tineri și să ia măsuri pentru a le aborda — înainte ca prejudiciul să se producă. Aceasta înseamnă să li se ceară furnizorilor să finalizeze evaluări anuale ale riscurilor privind siguranța tinerilor și să implementeze măsuri de protecție proporționale pe baza riscurilor identificate. Astfel de evaluări ar trebui să ia în considerare riscurile pentru tineri în funcție de stadiul lor de dezvoltare, dovezile empirice din utilizarea reală și cercetările relevante sau îndrumările de reglementare. Evaluările ar trebui să analizeze nu doar potențialele daune, ci și dacă AI susține rezultate pozitive, precum învățarea, creativitatea, dezvoltarea abilităților și accesul la oportunități.
3. Părinții și tutorii ar trebui să aibă controale accesibile și ușor de folosit, care să îi ajute să ghideze experiențele copiilor lor, susținând în același timp o independență adecvată vârstei. Acestea ar trebui să includă instrumente pentru gestionarea setărilor esențiale, inclusiv memoria, utilizarea datelor și limitele de timp. Instrumentele parentale ar trebui promovate activ, astfel încât părinții să știe că există și să înțeleagă cum să le folosească. 
4. Familiile merită informații clare și ușor de înțeles despre modul în care companiile protejează utilizatorii tineri, precum și informații relevante despre beneficiile și riscurile utilizării AI de către tineri. Companiile ar trebui să publice politici de siguranță care explică ce măsuri de protecție există pentru a-i proteja pe tineri, ce instrumente parentale sunt disponibile și cum sunt actualizate protecțiile pe măsură ce riscurile evoluează. Această transparență consolidează încrederea și îi ajută pe părinți să ia decizii informate.
5. Companiile ar trebui să aibă protocoale clare pentru a aborda situații grave de siguranță, inclusiv autovătămarea, exploatarea, ademenirea minorilor, conținutul exploatator sexual și alte interacțiuni cu risc ridicat. Acestea ar trebui să includă asistență în cadrul serviciului, direcționări către resurse adecvate și notificări parentale la timp, atunci când este potrivit. Companiile ar trebui, de asemenea, să își proiecteze sistemele astfel încât să le împiedice să genereze conținut nesigur sau inadecvat pentru dezvoltarea copiilor, inclusiv materiale sexuale sau violente explicite.  
6. Sistemele AI folosite de tineri ar trebui proiectate pentru a sprijini învățarea, dezvoltarea și relațiile din lumea reală, nu pentru a le înlocui. AI ar trebui să servească drept instrument care îi ajută pe tineri să învețe, să creeze, să își dezvolte abilități și să se pregătească pentru viitor. În același timp, companiile ar trebui să stabilească limite clare în domeniile în care dezvoltarea sănătoasă depinde de judecata umană, relațiile din lumea reală și sprijinul profesional.
7. Informațiile personale ale minorilor ar trebui protejate. Aceasta înseamnă interzicerea publicității direcționate către tineri care le invadează confidențialitatea și interzicerea vânzării informațiilor personale de către companii.
8. Cadrele de siguranță pentru tineri ar trebui să promoveze oportunitatea, alfabetizarea și protecția. Tinerii ar trebui să aibă acces la instrumente AI care sprijină învățarea, creativitatea, dezvoltarea abilităților și oportunitățile viitoare, fiind totodată dotați cu cunoștințele și abilitățile de gândire critică necesare pentru a folosi AI în siguranță și responsabil. Aceasta include promovarea alfabetizării în domeniul AI și ajutarea tinerilor să înțeleagă oportunitățile și limitările sistemelor AI, astfel încât să poată participa cu încredere și responsabilitate în spațiile digitale.
9. Mecanismele solide de responsabilizare, inclusiv auditurile independente, sunt esențiale pentru a asigura că aceste protecții sunt semnificative în practică. Auditurile ar trebui să fie susținute de un set de standarde comune care permit audituri interoperabile între jurisdicții. Cadrele legislative ar trebui să includă măsuri de supraveghere și aplicare care să permită guvernelor să evalueze dacă firmele implementează eficient măsuri de protecție pentru siguranța tinerilor, atenuează riscurile identificate și respectă obligațiile privind siguranța tinerilor și confidențialitatea.

Principiile se reflectă în modul în care construim și operăm ChatGPT, de la comportamentul modelului și designul produsului până la contribuția experților și sprijinul din lumea reală. Am consolidat măsurile de protecție pentru utilizatorii sub 18 ani, am lansat controale parentale⁠ cu notificări proactive și sisteme avansate de estimare a vârstei⁠, astfel încât ChatGPT să poată aplica protecții mai puternice atunci când cineva ar putea avea sub 18 ani. Specificațiile modelului, care descriu cum ar trebui să se comporte modelele noastre, includ și principii dedicate utilizatorilor sub 18 ani⁠(se deschide într-o fereastră nouă), prioritizând siguranța adolescenților, experiențele adecvate vârstei, sprijinul din lumea reală și așteptările clare. În practică, aceasta înseamnă bariere de protecție mai puternice în privința autovătămării, activităților periculoase, conținutului explicit, imaginii corporale și secretizării, împreună cu încurajarea de a căuta sprijin offline de încredere sau resurse de criză atunci când este necesar. Când vârsta este incertă, aplicăm implicit măsuri de protecție mai puternice.

AI proiectată cu măsuri de protecție solide și oferită cu îndrumări clare, precum și cu sprijin din partea familiilor și educatorilor, îi poate ajuta pe tineri să beneficieze în siguranță de instrumente care extind învățarea, creativitatea și oportunitățile. AI îi poate ajuta pe elevi să înțeleagă concepte dificile, să exerseze limbi străine, să își îmbunătățească scrisul, să învețe să programeze, să organizeze cercetarea, să exploreze idei creative și să se pregătească pentru locuri de muncă aflate deja în schimbare. Prin Education for Countries⁠, OpenAI lucrează cu guverne și educatori la implementări bazate pe cercetare, instrumente de învățare localizate și formarea profesorilor, astfel încât adoptarea AI să se bazeze pe dovezi și pe nevoi reale din sala de clasă. Această activitate sprijină deja eforturile naționale în domeniul educației alături de țările noastre partenere, inclusiv Estonia⁠, Grecia⁠ și Singapore⁠.

Pe lângă participarea la Summitul liderilor, vom aduce OpenAI Forum⁠(se deschide într-o fereastră nouă) la Paris pentru a convoca o conversație practică despre cum guvernele, cercetătorii, societatea civilă, educatorii și industria pot transforma obiectivele comune privind siguranța tinerilor în măsuri de protecție, standarde și practici de implementare concrete. Ambasadoarea Franței pentru AI și afaceri digitale, Clara Chappaz, se va alătura Directorului Executiv pentru Afaceri Globale al OpenAI, Chris Lehane, liderilor în domeniul siguranței tinerilor de la iRaise/Everyone.AI și altor experți pentru o discuție despre modul în care tinerii pot beneficia de AI reducând în același timp riscurile.