V potrošniških paketih ChatGPT uvajamo napovedovanje starosti, da bi lažje ugotovili, ali račun najverjetneje pripada osebi, mlajši od 18 let, tako da se lahko najstnikom zagotovijo ustrezna izkušnja in varovalni mehanizmi. Kot smo opisali v našem Načrtu za varnost najstnikov in Načelih vedenja modela za osebe, mlajše od 18 let, si mladi zaslužijo tehnologijo, ki hkrati širi nabor priložnosti in varuje njihovo dobrobit.
Napovedovanje starosti nadgrajuje zaščite, ki so že vzpostavljene. Najstniki, ki nam ob registraciji povedo, da so mlajši od 18 let, samodejno dobijo dodatne varovalne mehanizme, s katerimi zmanjšamo izpostavljenost občutljivi ali potencialno škodljivi vsebini. Hkrati nam to omogoča, da odrasle obravnavamo kot odrasle in jim znotraj okvirov varnosti omogočimo uporabo naših orodij na način, ki jim ustreza.
Naše prve načrte za napovedovanje starosti smo delili že prej, danes pa, ko uvedba že poteka, delimo še več podrobnosti.
ChatGPT uporablja model za napovedovanje starosti, s katerim ocenjuje, ali račun najverjetneje pripada osebi, mlajši od 18 let. Model upošteva kombinacijo vedenjskih signalov in signalov na ravni računa, med drugim to, kako dolgo račun obstaja, kdaj je uporabnik običajno aktiven, kakšni so vzorci uporabe skozi čas in kakšno starost uporabnik navede. Z uvedbo napovedovanja starosti ugotavljamo, kateri signali izboljšujejo natančnost, te ugotovitve pa nato sproti uporabljamo za nadaljnje izpopolnjevanje modela.
Uporabniki, ki so pomotoma uvrščeni v izkušnjo za osebe, mlajše od 18 let, bodo vedno imeli na voljo hiter in preprost način, da potrdijo svojo starost in si znova omogočijo poln dostop, in sicer s selfijem prek storitve Persona, varne storitve za preverjanje identitete. Uporabniki lahko kadar koli preverijo, ali so bili za njihov račun dodani varovalni mehanizmi, in ta postopek sprožijo v razdelku Nastavitve > Račun.
Ko model za napovedovanje starosti oceni, da račun morda pripada osebi, mlajši od 18 let, ChatGPT samodejno uporabi dodatne varovalne mehanizme, s katerimi se zmanjšuje izpostavljenost občutljivi vsebini, kot so:
- grafično nasilje ali posebej nazorna nasilna vsebina;
- viralni izzivi, ki bi lahko mladoletnike spodbujali k tveganemu ali škodljivemu vedenju;
- spolno, romantično ali nasilno igranje vlog;
- prikazi samopoškodovanja
- vsebine, ki spodbujajo skrajne lepotne ideale, nezdravo hujšanje ali sramotenje telesa
Takšen pristop temelji na strokovnih dognanjih in je utemeljen v akademični literaturi s področja razvoja otrok. Hkrati upošteva znane razlike pri najstnikih glede zaznavanja tveganja, nadzora impulzov, vpliva vrstnikov in čustvene regulacije. Čeprav ti varovalni mehanizmi pomagajo omejevati izpostavljenost najstnikov občutljivemu gradivu, ostajamo osredotočeni na njihovo stalno izboljševanje, zlasti pri preprečevanju poskusov obhoda vzpostavljenih varovalnih mehanizmov. Kadar o starosti osebe nimamo zadostne gotovosti ali razpolagamo z nepopolnimi informacijami, se privzeto odločimo za varnejšo izkušnjo.
Poleg teh varovalnih mehanizmov lahko starši prek starševskega nadzora(odpre se v novem oknu) dodatno prilagodijo izkušnjo svojega najstnika, na primer z določitvijo tihih ur, ko uporaba ChatGPT ni dovoljena, z upravljanjem funkcionalnosti, kot sta spomin ali učenje modela, ter s prejemanjem obvestil, če so zaznani znaki akutne stiske.
Iz začetne uvedbe pridobivamo dragocene izkušnje in postopoma še naprej izboljšujemo natančnost napovedovanja starosti. Uvedbo bomo skrbno spremljali in te ugotovitve uporabljali kot podlago za nadaljnje izboljšave.
V EU bo napovedovanje starosti uvedeno v prihodnjih tednih zaradi zagotavljanja skladnosti z regionalnimi zahtevami. Za več podrobnosti obiščite našo stran za pomoč(odpre se v novem oknu).
Čeprav to predstavlja pomemben mejnik, se naše delo na področju varnosti najstnikov s tem ne konča. Še naprej bomo obveščali o napredku in pridobljenih spoznanjih ter jih delili v dialogu s strokovnjaki, med drugim z American Psychological Association, ConnectSafely in Global Physicians Network.
