Predstavljamo plan sigurnosti djece
Okvir za suzbijanje i sprečavanje seksualne eksploatacije djece uz pomoć umjetne inteligencije
Seksualna eksploatacija djece jedan je od najhitnijih izazova digitalnog doba. AI ubrzano mijenja i način na koji ove štete nastaju širom industrije i način na koji se mogu rješavati u velikom obimu.
U OpenAI-ju smo izgradili i nastavljamo jačati mjere zaštite kako bismo spriječili zloupotrebu naših sistema, a blisko sarađujemo s partnerima kao što su National Center for Missing and Exploited Children (NCMEC) i agencije za provođenje zakona kako bismo unaprijedili otkrivanje i prijavljivanje. Ovaj rad je pomogao da se ukaže na to gdje su u cijeloj industriji potrebni snažniji, zajednički standardi.
Danas predstavljamo nacrt politika koji ocrtava praktičan put naprijed za jačanje američkih okvira za zaštitu djece u eri UI-a. Ovaj nacrt odražava i uključuje povratne informacije nekoliko vodećih organizacija i stručnjaka iz cijelog ekosistema zaštite djece, uključujući NCMEC, Savez državnih tužilaca i kopredsjedavajuće njegove Radne grupe za AI — državnog tužioca Sjeverne Karoline Jeffa Jacksona i državnog tužioca Utaha Dereka Browna —i Thorn, kako bi se osiguralo da odražava njihove prioritete i omogući efikasniju saradnju u sprečavanju nanošenja štete djeci.
Plan se fokusira na tri ključna prioriteta: modernizaciju zakona za rješavanje problema CSAM-a generisanog i izmijenjenog pomoću UI, unapređenje prijavljivanja i koordinacije pružalaca usluga radi podrške efikasnijim istragama, te ugradnju sigurnosnih mjera u sam dizajn UI sistema kako bi se spriječila i otkrila zloupotreba.
Nijedna pojedinačna intervencija ne može sama riješiti ovaj izazov. Ovaj okvir objedinjuje pravne, operativne i tehničke pristupe kako bi se bolje identificirali rizici, ubrzali odgovori i podržala odgovornost, uz istovremeno osiguravanje da nadležni organi za provođenje ostanu snažni kako se tehnologija razvija.
Zajedno, ovi koraci omogućavaju industriji da se ranije i učinkovitije bavi sigurnošću djece. Ranijim prekidanjem pokušaja iskorištavanja, poboljšanjem kvaliteta signala koji se šalju organima za provođenje zakona i jačanjem odgovornosti u cijelom ekosistemu, ovaj okvir ima za cilj spriječiti štetu prije nego što nastane i pomoći osigurati djeci bržu zaštitu kada se pojave rizici.
„Kao kopredsjedavajući Radne grupe za umjetnu inteligenciju organizacije Attorney General Alliance, pozdravljamo ovaj plan kao značajan korak ka usklađivanju praksi zaštite djece u tehnološkom sektoru sa realnostima provođenja sa kojima se naši uredi svakodnevno suočavaju. Posebno nas ohrabruje to što okvir prepoznaje da učinkovite zaštitne mjere za GenAI zahtijevaju višeslojnu odbranu — ne jednu tehničku kontrolu, već kombinaciju otkrivanja, mehanizama odbijanja, ljudskog nadzora i kontinuiranog prilagođavanja novim obrascima zloupotrebe u nastajanju. To odražava ono što vidimo u praksi: prijetnja se stalno razvija, a statička rješenja nisu dovoljna. Ispravno postaviti arhitekturu prevencije na samom početku predstavlja jedinu investiciju s najvećim učinkom koju industrija može napraviti u sigurnost djece.
U konačnici, snaga svakog dobrovoljnog okvira zavisi od konkretnosti njegovih obaveza i spremnosti industrije da odgovara za njihovo ispunjavanje. Radujemo se nastavku partnerstva s OpenAI-jem, NCMEC-om i našim kolegama državnim tužiocima kako bismo osigurali da se ove preporuke pretvore u trajne mjere zaštite za djecu.”
—Državni tužioci Jeff Jackson (Sjeverna Karolina) i Derek Brown (Utah), kopredsjedavajući Radne grupe za umjetnu inteligenciju Saveza državnih tužilaca.
„Alijansa državnih tužilaca predvodi napore u zaštiti mladih na internetu okupljajući državne tužioce, lidere iz industrije, neprofitne organizacije i globalne partnere kako bi unaprijedili praktična, dugoročno usmjerena rješenja u oblasti umjetne inteligencije i digitalne sigurnosti.“ Kroz saradnju i inovacije, Alijansa državnih tužilaca (AGA) postavlja snažan standard za to kako štitimo mlade uz odgovorno prihvatanje novih tehnologija. „Pozdravljamo kontinuiranu posvećenost kompanije OpenAI sigurnosti i saradnju s Alijansom državnih tužilaca (AGA) i državnim tužiocima u izradi izuzetno vrijednog plana za sigurnost djece.“
—Karen White, izvršna direktorica Attorney General Alliance
„Generativna UI ubrzava zločin seksualne eksploatacije djece na internetu na duboko zabrinjavajuće načine - smanjuje prepreke, povećava razmjere i omogućava nove oblike štete. Istovremeno, Nacionalni centar za nestalu i eksploatisanu djecu (NCMEC) ohrabren je što vidi da kompanije poput OpenAI-ja razmatraju kako se ovi alati mogu odgovornije dizajnirati, sa zaštitnim mjerama ugrađenim od samog početka. Nijedna organizacija, kompanija ili sektor ne mogu sami riješiti ovaj problem. Ostajemo posvećeni saradnji sa partnerima iz industrije, vlasti i zajednice za zaštitu djece kako bismo unaprijedili rješenja koja smanjuju štetu i bolje podržavaju sigurnostdjece.“
—Michelle DeLaune, predsjednica i izvršna direktorica, Nacionalni centar za nestalu i iskorištenu djecu
Autor
Nastavite čitati
