Jauniešu drošības un iespēju veicināšana ar globālu līderību

MI var būt spēcīgs rīks jauniešiem. Tas var palīdzēt skolēniem izprast sarežģītu jēdzienu, praktizēt jaunu valodu, sagatavoties darba intervijai, pētīt radošas idejas vai apgūt jaunu prasmi. Tāpat kā lasītprasmes kustībai, kas 20. gadsimta vidū izplatījās visā pasaulē, bija nepieciešama drukāta teksta masveida izplatīšana un piekļuve apmācītiem skolotājiem, šodien piekļuves nodrošināšana drošam MI pavērs jaunas iespējas personalizētai mācīšanās pieredzei, palīdzēs mazināt šķēršļus nepietiekami apkalpotām grupām un palielinās gatavību darba tirgum.

Tā kā iespējamie ieguvumi ir tik nozīmīgi, ir būtiski, lai jaunieši varētu piekļūt MI drošā, vecumam atbilstošā veidā, kas atbalsta veselīgu attīstību. Šai atbildībai nevajadzētu galvenokārt gulties uz vecāku vai pašu jauniešu pleciem. Uzņēmumiem, tostarp OpenAI, ir pienākums veidot produktus ar atbilstošiem aizsardzības pasākumiem pēc noklusējuma, vienlaikus dodot ģimenēm rīkus un informāciju, lai palīdzētu noteikt, kā MI tiek izmantots.

Kad valstu vadītāji šomēnes pulcēsies G7 līderu samitā Evianā, Francijā, jauniešu MI drošība būs viens no galvenajiem tematiem. OpenAI pievienosies diskusijai par plašāku sadarbību jauniešu drošības jomā, par to, kā kopīgi paaugstināt nozares standartus, un par OpenAI jauno aicinājumu izveidot starptautisku jauniešu drošības institūtu.

G7 līderu samits ir reta iespēja globālai koordinācijai jauniešu drošības jomā. Taču īpašs institūts nodrošinātu nepārtrauktību un turpmāku rīcību, kas nepieciešama pēc viena samita, palīdzot valdībām, pētniekiem, pilsoniskajai sabiedrībai un nozarei turpināt sadarboties, lai dalītos pierādījumos, izstrādātu vadlīnijas un laika gaitā paaugstinātu standartus.

Ir vairāki uzticami veidi, kā to var īstenot: izveidojot jaunu starptautisku institūtu vai piešķirot esošam vai jaunizveidotam nacionālajam MI institūtam globālu mandātu dalīties pētījumos, pierādījumos un vadlīnijās ar partneriem visā pasaulē. Vissvarīgākā ir funkcija, ko tas pilda. Jauniešu MI drošībai nepieciešama pastāvīga uzmanība, uzticami pierādījumi un praktiskas vadlīnijas, kas spēj iet kopsolī ar tehnoloģiju.

Šāds institūts var izmantot uz jaunas iniciatīvas, piemēram, Common Sense Media Jauniešu MI drošības institūtu, ko atbalsta OpenAI Foundation, kā arī uz praktisku sadarbību ar pedagogiem, tostarp OpenAI darbu ar Amerikas Skolotāju federāciju⁠. Tam būtu jāizmanto arī reālas ieviešanas pieredze, piemēram, Igaunijas nacionālā ChatGPT ieviešana skolās, kur OpenAI sadarbojas ar Stenfordas un Igaunijas pētniekiem, lai pētītu ietekmi un veicinātu drošāku, efektīvāku izmantošanu mācībās.

OpenAI atzinīgi vērtē iespēju sadarboties ar Francijas valdību, citām G7 valdībām un partneriem pilsoniskajā sabiedrībā, akadēmiskajā vidē un nozarē šajā vitāli svarīgajā darbā, kā arī paaugstināt globālos standartus jauniešu drošības jomā.

Mēs uzskatām, ka spēcīgām jauniešu MI drošības sistēmām, tostarp jebkurai iespējamai vienošanās, kas panākta G7 sanāksmēs, būtu jābalstās uz principiem, kurus šeit izklāstām.

1. Uzņēmumiem būtu jāzina, kad lietotājs ir nepilngadīgs, un jāpiemēro vecumam atbilstoša aizsardzība. Tas nozīmē, ka pakalpojumu sniedzējiem jāizmanto efektīva, privātumu aizsargājoša vecuma noteikšana, lai atšķirtu nepilngadīgos no pieaugušajiem, un pēc noklusējuma jāpiemēro aizsardzības pasākumi, ja lietotāja vecumu nav iespējams noteikt. Bez šī pamata pat ar vislabākajiem nodomiem vadītie jauniešu aizsardzības pasākumi var nesasniegt tos jauniešus, kurus tiem paredzēts aizsargāt.
2. Uzņēmumiem regulāri jāizvērtē gan riski, gan ieguvumi jauniešiem un jāveic pasākumi to risināšanai — pirms rodas kaitējums. Tas nozīmē prasību pakalpojumu sniedzējiem veikt ikgadējus jauniešu drošības riska novērtējumus un ieviest samērīgus aizsardzības pasākumus, pamatojoties uz identificētajiem riskiem. Šādos novērtējumos jāņem vērā riski jauniešiem atbilstoši viņu attīstības posmam, empīriski pierādījumi no faktiskas lietošanas un attiecīgi pētījumi vai regulatīvās vadlīnijas. Novērtējumos jāapsver ne tikai iespējamais kaitējums, bet arī tas, vai MI veicina pozitīvus rezultātus, piemēram, mācīšanos, radošumu, prasmju attīstību un piekļuvi iespējām.
3. Vecākiem un aizbildņiem jābūt pieejamām, viegli lietojamām kontroles funkcijām, kas palīdz virzīt bērnu pieredzi, vienlaikus atbalstot vecumam atbilstošu patstāvību. Tām jāietver rīki galveno iestatījumu pārvaldībai, tostarp atmiņai, datu izmantošanai un laika ierobežojumiem. Vecāku rīki aktīvi jāpopularizē, lai vecāki zinātu, ka tie pastāv, un saprastu, kā tos izmantot. 
4. Ģimenes ir pelnījušas skaidru, saprotamu informāciju par to, kā uzņēmumi aizsargā jaunos lietotājus, kā arī jēgpilnu informāciju par jauniešu MI izmantošanas ieguvumiem un riskiem. Uzņēmumiem jāpublicē drošības politikas, kurās skaidrots, kādi aizsardzības pasākumi ir ieviesti jauniešu aizsardzībai, kādi vecāku rīki ir pieejami un kā aizsardzība tiek atjaunināta, riskiem mainoties. Šāda pārredzamība veido uzticēšanos un palīdz vecākiem pieņemt informētus lēmumus.
5. Uzņēmumiem jābūt skaidriem protokoliem nopietnu drošības situāciju risināšanai, tostarp pašsavainošanās, ekspluatācijas, uzticības iegūšanas seksuālas izmantošanas nolūkā, seksuāli ekspluatējoša satura un citu augsta riska mijiedarbību gadījumos. Tiem jāietver atbalsts pakalpojuma ietvaros, nosūtīšana uz atbilstošiem resursiem un savlaicīgi paziņojumi vecākiem, kad tas ir piemēroti. Uzņēmumiem arī jāveido savas sistēmas tā, lai tās neveidotu saturu, kas bērniem ir nedrošs vai attīstībai neeatbilstošs, tostarp devetalizēti attēlotus seksuālus vai vardarbīgus materiālus.  
6. MI sistēmām, ko izmanto jaunieši, jābūt izstrādātām tā, lai atbalstītu mācīšanos, attīstību un attiecības reālajā pasaulē, nevis to aizstātu. MI būtu jākalpo kā rīkam, kas palīdz jauniešiem mācīties, radīt, attīstīt prasmes un sagatavoties nākotnei. Vienlaikus uzņēmumiem jānosaka skaidras robežas jomās, kur veselīga attīstība ir atkarīga no cilvēka sprieduma, attiecībām reālajā pasaulē un profesionāla atbalsta.
7. Nepilngadīgo personīgā informācija ir jāaizsargā. Tas nozīmē aizliegt privātumu pārkāpjošu, mērķētu reklāmu jauniešiem un liegt uzņēmumiem pārdot personas informāciju.
8. Jauniešu drošības sistēmām jāveicina iespējas, pratība un aizsardzība. Jauniešiem jābūt piekļuvei MI rīkiem, kas atbalsta mācīšanos, radošumu, prasmju attīstību un nākotnes iespējas, vienlaikus viņiem jābūt aprīkotiem ar zināšanām un kritiskās domāšanas prasmēm, kas nepieciešamas, lai MI izmantotu droši un atbildīgi. Tas ietver MI pratības veicināšanu un palīdzību jauniešiem izprast MI sistēmu iespējas un ierobežojumus, lai viņi digitālajā vidē varētu iesaistīties pārliecinoši un atbildīgi.
9. Spēcīgi atbildības mehānismi, tostarp neatkarīgas revīzijas, ir būtiski, lai nodrošinātu, ka šie aizsardzības pasākumi praksē ir jēgpilni. Revīzijām jābalstās uz kopīgu standartu kopumu, kas ļauj veikt savstarpēji savietojamas revīzijas dažādās jurisdikcijās. Likumdošanas ietvariem jāietver uzraudzības un izpildes pasākumi, kas ļauj valdībām novērtēt, vai uzņēmumi efektīvi īsteno jauniešu drošības aizsardzības pasākumus, mazina identificētos riskus un ievēro jauniešu drošības un privātuma pienākumus.

Šie principi atspoguļojas tajā, kā mēs veidojam un darbinām ChatGPT — sākot no modeļa uzvedības un produkta dizaina līdz ekspertu ieguldījumam un atbalstam reālajā pasaulē. Mēs esam pastiprinājuši aizsardzības pasākumus lietotājiem, kas jaunāki par 18 gadiem, ieviesuši vecāku kontroli⁠ ar proaktīviem paziņojumiem un uzlabotas vecuma prognozēšanas sistēmas⁠, lai ChatGPT varētu piemērot stingrāku aizsardzību, ja kāds varētu būt jaunāks par 18 gadiem. Mūsu modeļa specifikācijā, kurā izklāstīts, kā mūsu modeļiem būtu jāuzvedas, iekļauti arī īpaši principi lietotājiem, kas jaunāki par 18 gadiem⁠(atveras jaunā logā), priekšroku dodot pusaudžu drošībai, vecumam atbilstošai pieredzei, atbalstam reālajā pasaulē un skaidrām gaidām. Praksē tas nozīmē stingrākus aizsargpasākumus attiecībā uz pašsavainošanos, bīstamām darbībām, grafisku saturu, ķermeņa tēlu un slepenību, kā arī pamudinājumu vajadzības gadījumā meklēt uzticamu atbalstu ārpus tiešsaistes vai krīzes resursus. Ja vecums nav skaidrs, mēs pēc noklusējuma piemērojam stingrākus aizsardzības pasākumus.

MI, kas izstrādāts ar spēcīgiem aizsardzības pasākumiem un piedāvāts ar skaidrām vadlīnijām, kā arī ar ģimeņu un pedagogu atbalstu, var palīdzēt jauniešiem droši iegūt no rīku izmantošanas, kas paplašina mācīšanās, radošuma un iespēju robežas. MI var palīdzēt skolēniem izprast sarežģītus jēdzienus, praktizēt valodas, uzlabot rakstīšanu, mācīties programmēt, organizēt pētījumus, pētīt radošas idejas un sagatavoties darba vietām, kas jau mainās. Ar Education for Countries⁠ starpniecību OpenAI sadarbojas ar valdībām un pedagogiem pētniecībā balstītās ieviešanās, lokalizētu mācību rīku izstrādē un skolotāju apmācībā, lai MI ieviešana balstītos pierādījumos un reālās klases vajadzībās. Šis darbs jau atbalsta nacionālos izglītības centienus kopā ar mūsu partnervalstīm, tostarp Igauniju⁠, Grieķiju⁠ un Singapūru⁠.

Papildus dalībai līderu samitā mēs Parīzē rīkosim OpenAI Forum⁠(atveras jaunā logā), lai uzsāktu praktisku diskusiju par to, kā valdības, pētnieki, pilsoniskā sabiedrība, pedagogi un nozare var pārvērst kopīgus jauniešu drošības mērķus konkrētos aizsardzības pasākumos, standartos un ieviešanas praksē. Francijas vēstniece MI un digitālo jautājumu jomā Clara Chappaz pievienosies OpenAI galvenajam Globālo jautājumu vadītājam Chris Lehane, jauniešu drošības līderiem no iRaise/Everyone.AI un citiem ekspertiem diskusijā par to, kā jaunieši var iegūt no no MI izmantošanas, vienlaikus mazinot riskus.