Predstavljamo Plan za sigurnost djece
Okvir za suzbijanje i sprječavanje seksualnog iskorištavanja djece omogućenog umjetnom inteligencijom
Seksualno iskorištavanje djece jedan je od najvažnijih izazova digitalnog doba koji zahtjeva hitno rješavanje. AI ubrzano mijenja način na koji se ti rizici pojavljuju u industriji i način na koji se na njih može odgovoriti u velikom opsegu.
U OpenAI-ju izgradili smo i nastavljamo jačati zaštitne mjere za sprječavanje zlouporabe naših sustava, a blisko surađujemo s partnerima poput organizacije National Center for Missing and Exploited Children (NCMEC) i tijelima kaznenog progona kako bismo unaprijedili otkrivanje i prijavljivanje. Ovaj je rad pomogao ukazati na to gdje su u cijeloj industriji potrebni stroži, zajednički standardi.
Danas predstavljamo nacrt politika koji ocrtava praktičan put naprijed za jačanje okvira za zaštitu djece u SAD-u u doba umjetne inteligencije. Ovaj nacrt odražava i uključuje povratne informacije nekoliko vodećih organizacija i stručnjaka iz cijelog ekosustava zaštite djece, uključujući NCMEC, Attorney General Alliance i supredsjedatelje njezine radne skupine za umjetnu inteligenciju — državnog odvjetnika Sjeverne Karoline Jeffa Jacksona i državnog odvjetnika Utaha Dereka Browna — te Thorn, kako bi odražavao njihove prioritete i mogao olakšati učinkovitiju suradnju u sprječavanju štete za djecu.
Plan se fokusira na tri ključna prioriteta: modernizaciju zakona za rješavanje problema CSAM-a generiranog umjetnom inteligencijom i izmijenjenog CSAM-a, poboljšanje izvješćivanja i koordinacije pružatelja usluga radi učinkovitijih istraga te ugradnju sigurnosnih mjera u dizajn AI sustava kako bi se spriječila i otkrila zlouporaba.
Nijedna pojedinačna intervencija ne može sama riješiti ovaj izazov. Ovaj okvir objedinjuje pravne, operativne i tehničke pristupe radi boljeg prepoznavanja rizika, ubrzavanja odgovora i podupiranja odgovornosti, uz istodobno osiguranje da tijela za provedbu ostanu snažna kako se tehnologija razvija.
Zajedno, ovi koraci omogućuju industriji da se s pitanjem sigurnosti djece uhvatimo u koštac ranije i učinkovitije. Ranijim prekidanjem pokušaja iskorištavanja, poboljšanjem kvalitete dojava koje se šalju tijelima kaznenog progona i jačanjem odgovornosti u cijelom ekosustavu, ovaj okvir nastoji spriječiti štetu prije nego što se dogodi te pomoći osigurati bržu zaštitu djece kada se pojave rizici.
„Kao supredsjedatelji radne skupine za umjetnu inteligenciju organizacije Attorney General Alliance, pozdravljamo ovaj plan kao važan korak prema usklađivanju praksi zaštite djece u tehnološkom sektoru sa stvarnošću provedbe s kojom se naši uredi svakodnevno suočavaju. Posebno nas ohrabruje to što okvir prepoznaje da učinkovite zaštitne mjere za GenAI zahtijevaju višeslojnu obranu — ne jednu tehničku kontrolu, nego kombinaciju otkrivanja, mehanizama odbijanja, ljudskog nadzora i kontinuirane prilagodbe novim obrascima zlouporabe koji se pojavljuju. To odražava ono što vidimo u praksi: prijetnja se stalno razvija, a statična rješenja nisu dovoljna. Ispravno postavljanje arhitekture prevencije u ranoj fazi ulaganje je s najvećim učinkom koje industrija može ostvariti na polju sigurnosti djece.
U konačnici, snaga svakog dobrovoljnog okvira ovisi o konkretnosti njegovih obveza i spremnosti industrije da za njih snosi odgovornost. Radujemo se nastavku partnerstva s OpenAI-jem, NCMEC-om i našim kolegama državnim odvjetnicima kako bismo osigurali da se ove preporuke pretoče u trajnu zaštitu djece.
— Državni odvjetnici Jeff Jackson (Sjeverna Karolina) i Derek Brown (Utah), supredsjedatelji Radne skupine za umjetnu inteligenciju Saveza državnih odvjetnika.
„Attorney General Alliance predvodi napore za zaštitu mladih na internetu okupljajući državne odvjetnike, industrijske čelnike, neprofitne organizacije i globalne partnere kako bi unaprijedili praktična i dugoročno usmjerena rješenja u području umjetne inteligencije i digitalne sigurnosti. Suradnjom i inovacijama AGA postavlja visoke standarde za to kako štitimo mlade, a istodobno odgovorno prihvaćamo nove tehnologije u razvoju. Pozdravljamo kontinuiranu predanost OpenAI-ja sigurnosti i suradnji s AGA-om i državnim odvjetnicima u razvoju iznimno vrijednog plana za sigurnost djece.”
— Karen White, izvršna direktorica Attorney General Alliancea
„Generativna umjetna inteligencija ubrzava zločin seksualnog iskorištavanja djece na internetu na duboko zabrinjavajuće načine — smanjuje prepreke, povećava razmjere i omogućuje nove oblike štete. No istodobno, Nacionalni centar za nestalu i iskorištavanu djecu (NCMEC) ohrabren je vidjeti da tvrtke poput OpenAI-ja promišljaju o tome kako se ti alati mogu odgovornije osmisliti, uz zaštitne mjere ugrađene od samog početka. Nijedna organizacija, tvrtka ni sektor ne mogu se sami nositi s time. I dalje smo predani suradnji s partnerima iz industrije, državnih tijela i zajednice za zaštitu djece kako bismo unaprijedili rješenja koja smanjuju štetu i bolje podupiru dječju sigurnost.”
— Michelle DeLaune, predsjednica i glavna izvršna direktorica, Nacionalni centar za nestalu i zlostavljanu djecu
