Predstavljamo načrt za varnost otrok
Okvir za preprečevanje in boj proti spolnemu izkoriščanju otrok zaradi zlorabe umetne inteligence
Spolno izkoriščanje otrok je eden najbolj resnih izzivov digitalne dobe. Umetna inteligenca spreminja, kje in kako v panogi nastajajo ti škodljivi pojavi, hkrati pa omogoča, da jih obravnavamo širše.
Pri podjetju OpenAI smo vzpostavili zaščitne ukrepe za preprečevanje zlorabe naših sistemov in jih še naprej krepimo. Ob tem tesno sodelujemo s partnerji, kot je ameriški nacionalni center za pogrešane in zlorabljene otroke (NCMEC) in organi pregona, da bi izboljšali odkrivanje in prijavljanje teh primerov. To delo je pokazalo, da panoga potrebuje močnejše in skupne standarde.
Danes predstavljamo smernice politik, ki začrtuje praktično pot za krepitev okvirov za zaščito otrok v ZDA v dobi umetne inteligence. Ta načrt odraža in vključuje povratne informacije več vodilnih organizacij in strokovnjakov iz celotnega ekosistema varnosti otrok, vključno z NCMEC, Attorney General Alliance in sopredsedujočima delovne skupine za umetno inteligenco, generalnim državnim tožilcem Severne Karoline Jeffom Jacksonom in generalnim državnim tožilcem Utaha Derekom Brownom,ter Thorn, da bi zagotovili izvedbo prednostnih nalog učinkovitejše sodelovanje pri preprečevanju zlorab otrok.
Okvir se osredotoča na tri ključne prednostne naloge: posodobitev zakonodaje za obravnavo gradiva s prikazom spolne zlorabe otrok (CSAM) zaradi zlorabe umetne inteligence, izboljšanje prijavljanja in usklajevanja med ponudniki za učinkovitejše preiskovanje ter vključevanje zaščitnih ukrepov v samo zasnovo sistemov umetne inteligence, da bi zlorabe preprečili in jih odkrivali.
Noben posamezen ukrep tega izziva ne more rešiti sam. Ta okvir združuje pravne, operativne in tehnične pristope, da bi bolje prepoznavali tveganja, pospešili odzivanje in okrepili odgovornost, hkrati pa ohranili učinkovita pooblastila organov pregona tudi ob nadaljnjem razvoju tehnologije.
Ti koraki panogi omogočajo, da vprašanja varnosti otrok obravnava prej in učinkoviteje. Okvir omogoča, da poskuse izkoriščanja zaustavimo prej, organom pregona posredujemo bolj uporabne informacije in okrepimo odgovornost v celotnem sistemu. Tako pomaga preprečevati škodo še pred njenim nastankom ter zagotavlja hitrejšo zaščito otrok ob pojavu tveganj.
»Kot sopredsedujoča delovni skupini za umetno inteligenco pri združenju državnih tožilcev Attorney General Alliance pozdravljava ta načrt kot pomemben korak pri usklajevanju praks tehnološkega sektorja na področju varnosti otrok z dejanskimi razmerami pri pregonu kaznivih dejanj, s katerimi se naši uradi srečujejo vsak dan. Posebej je vzpodbudno, da s tem okvirom vnašamo večplastne zaščitne ukrepe pri uporabi generativne umetne inteligence. Ni dovolj en sam tehnični nadzorni mehanizem, temveč je potrebna kombinacija zaznavanja, mehanizmov zavrnitve, človeškega nadzora in stalnega prilagajanja novim vzorcem zlorab. To odraža to, kar vidimo v praksi: grožnje se nenehno razvijajo, statične rešitve pa ne zadostujejo. Vzpostavitev ustrezne preventivne arhitekture v zgodnji fazi je največja naložba z vidika učinka, ki jo lahko industrija nameni varnosti otrok.
Navsezadnje je uspešnost vsakega prostovoljnega okvira odvisna od jasnosti njegovih zavez in pripravljenosti industrije, da prevzame odgovornost za njihovo izpolnjevanje. Veselimo se nadaljnjega sodelovanja s podjetjem OpenAI, organizacijo NCMEC in drugimi državnimi tožilci, da bi zagotovili, da ta priporočila prinesejo trajno zaščito otrok.
Generalna državna tožilca Jeff Jackson (Severna Karolina) in Derek Brown (Utah), sopredsedujoča delovni skupini za umetno inteligenco pri združenju državnih tožilcev Attorney General Alliance.
»Združenje državnih tožilcev Attorney General Alliance ima vodilno vlogo pri zaščiti mladih na spletu, saj povezuje generalne državne tožilce, predstavnike industrije, neprofitne organizacije in mednarodne partnerje pri razvijanju praktičnih in v prihodnost usmerjenih rešitev na področju umetne inteligence in digitalne varnosti. AGA s sodelovanjem in inovacijami postavlja visok standard za to, kako varovati mlade in hkrati odgovorno uvajati nove tehnologije. Pozdravljamo stalno zavezanost podjetja OpenAI varnosti ter njegovo sodelovanje z AGA in generalnimi državnimi tožilci pri pripravi zelo dragocenega načrta za varnost otrok.«
Karen White, izvršna direktorica združenja državnih tožilcev Attorney General Alliance (AGA)
»Generativna umetna inteligenca na zelo zaskrbljujoče načine pospešuje kaznivo dejanje spolnega izkoriščanja otrok na spletu – znižuje ovire, povečuje obseg in omogoča nove oblike škode. Hkrati pa Nacionalni center za pogrešane in zlorabljene otroke (NCMEC) spodbuja dejstvo, da podjetja, kot je OpenAI, razmišljajo o tem, kako je mogoče ta orodja zasnovati bolj odgovorno z vgrajenimi zaščitnimi ukrepi. Nobena posamezna organizacija, podjetje ali sektor tega ne more obravnavati sama. Še naprej smo zavezani sodelovanju s partnerji v industriji, vladi in skupnosti za zaščito otrok pri spodbujanju rešitev, ki zmanjšujejo škodo in bolje podpirajo varnost otrok.«
Michelle DeLaune, predsednica in generalna direktorica, Nacionalni center za pogrešane in izkoriščane otroke
