Îți prezentăm Planul de siguranță pentru copii
Un cadru pentru combaterea și prevenirea exploatării sexuale a copiilor facilitate de IA
Exploatarea sexuală a copiilor este una dintre cele mai urgente provocări ale erei digitale. IA schimbă rapid atât modul în care aceste prejudicii apar în întregul domeniu, cât și modul în care pot fi abordate la scară largă.
La OpenAI, am creat și continuăm să consolidăm măsuri de protecție pentru a preveni utilizarea abuzivă a sistemelor noastre și colaborăm îndeaproape cu parteneri precum National Center for Missing and Exploited Children (NCMEC) și cu autoritățile de aplicare a legii pentru a îmbunătăți detectarea și raportarea. Acest demers a permis identificarea domeniilor care necesită standarde mai stricte și comune la nivelul întregului domeniu.
Astăzi, prezentăm un plan de politici care conturează o cale practică de urmat pentru consolidarea cadrelor de protecție a copilului din SUA în era IA. Acest plan reflectă și integrează feedbackul mai multor organizații și experți de referință din ecosistemul siguranței copiilor, inclusiv NCMEC, Attorney General Alliance și copreședinții grupului său operativ pentru IA—procurorul general al Carolinei de Nord, Jeff Jackson și procurorul general al Utah, Derek Brown—și Thorn, pentru a ne asigura că reflectă prioritățile lor și poate facilita o colaborare mai eficientă pentru a preveni prejudiciile aduse copiilor.
Planul se concentrează pe trei priorități-cheie: modernizarea legislației pentru a aborda CSAM generat și modificat cu ajutorul IA, îmbunătățirea raportării de către furnizori și a coordonării pentru a sprijini investigații mai eficiente și integrarea directă în sistemele IA a unor măsuri de siguranță prin design pentru a preveni și detecta utilizarea abuzivă.
Nicio măsură luată separat nu poate rezolva această provocare. Acest cadru reunește abordări juridice, operaționale și tehnice pentru a identifica mai bine riscurile, a accelera răspunsurile și a sprijini asumarea responsabilității, garantând în același timp că autoritățile de aplicare a legii își mențin capacitatea de acțiune pe măsură ce tehnologia evoluează.
Împreună, aceste măsuri permit ca domeniul să abordeze siguranța copiilor mai devreme și mai eficient. Prin întreruperea mai rapidă a tentativelor de exploatare, îmbunătățirea calității semnalelor trimise către organele de aplicare a legii și consolidarea responsabilității în întregul ecosistem, acest cadru își propune să prevină prejudiciile înainte ca acestea să se producă și să contribuie la asigurarea unei protecții mai rapide a copiilor atunci când apar riscuri.
„În calitate de co-președinți ai Grupului de lucru pentru IA al Alianței Procurorilor Generali (AGA), salutăm acest plan ca fiind un pas semnificativ către alinierea practicilor sectorului tehnologic privind siguranța copiilor cu realitățile de aplicare a legii cu care se confruntă birourile noastre în fiecare zi. Ne bucură în mod special faptul că acest cadru recunoaște că măsurile eficiente de protecție împotriva GenAI necesită un sistem de apărare stratificat, nu un singur control tehnic, ci o combinație de mecanisme de detectare și respingere, supraveghere umană și adaptare continuă la noile tipare de utilizare abuzivă. Acest lucru reflectă ceea ce observăm în practică: amenințarea evoluează constant, iar soluțiile statice sunt insuficiente. Stabilirea unei arhitecturi de prevenire încă din faza incipientă reprezintă cea mai eficientă investiție pe care acest domeniu o poate face pentru siguranța copiilor.
În cele din urmă, eficacitatea oricărui cadru voluntar depinde de specificitatea angajamentelor sale și de disponibilitatea domeniului de a-și asuma responsabilitatea pentru respectarea acestora. „Așteptăm cu interes continuarea colaborării cu OpenAI, NCMEC și procurorii generali din țară pentru a ne asigura că aceste recomandări se vor concretiza în măsuri de protecție durabile pentru copii.”
—Procurorii generali Jeff Jackson (Carolina de Nord) și Derek Brown (Utah), copreședinți ai Grupului de lucru pentru IA din cadrul Alianței Procurorilor Generali.
„Alianța Procurorilor Generali este un pionier în protejarea tinerilor în mediul online, reunind procurori generali, lideri din domeniu, organizații non-profit și parteneri internaționali pentru a promova soluții practice și orientate spre viitor în domeniul IA și al siguranței digitale. Prin colaborare și inovare, AGA stabilește un standard riguros pentru protejarea tinerilor, adoptând în același timp în mod responsabil tehnologiile emergente. Apreciem angajamentul constant al OpenAI față de siguranță și colaborarea cu AGA și procurorii generali în elaborarea unui plan extrem de valoros pentru siguranța copiilor.”
—Karen White, director executiv al Alianței Procurorilor Generali
„IA generativă accelerează infracțiunile de exploatare sexuală a copiilor online în moduri profund tulburătoare, reducând barierele, crescând amploarea și permițând noi forme de prejudiciu. Dar, în același timp, la National Center for Missing & Exploited Children (NCMEC) ne bucurăm să vedem companii precum OpenAI reflectând asupra modului în care aceste instrumente pot fi concepute mai responsabil, cu măsuri de protecție integrate de la început. Nicio organizație, afacere sau sector nu poate aborda acest lucru pe cont propriu. Ne menținem angajamentul de a colabora cu partenerii din domeniu, autoritățile guvernamentale și comunitatea de protecție a copilului pentru a promova soluții care reduc prejudiciile și sprijină mai eficient siguranța copiilor .”
—Michelle DeLaune, președinte și director executiv, National Center for Missing & Exploited Children
Autor
Continuă să citești
