Zakaj si najstniki zaslužijo dostop do varne umetne inteligence

Najstniki so prva generacija, ki odrašča z umetno inteligenco, ta tehnologija pa bo močno oblikovala njihovo prihodnost. Danes skoraj 9 od 10 najstnikov v ChatGPT‑ju v enem samem tednu uporablja to orodje za učenje, pridobivanje informacij, razvijanje spretnosti ali produktivnost. Zato menimo, da je ključno, da imajo najstniki dostop do umetne inteligence. Če bi jim uporabo preprečevali do odraslosti, bi bilo to podobno, kot če bi prejšnji generaciji rekli, naj se do 18. leta izogiba internetu ali iskalnikom, zaradi česar bi bila slabše pripravljena na uporabo ene od ključnih tehnologij svojega časa. Toda dostop mora spremljati zaščita, zasnovana posebej za najstnike.

Na nedavni OpenAI Academy⁠(odpre se v novem oknu) je Oriana McKenzie povedala, kako ji je ChatGPT pomagal, da je z učinkovitejšim učenjem in boljšim upravljanjem obveznosti postala najboljša v svojem razredu v srednji šoli, obenem pa ji je ostal čas za šport in šolske programe, ki jih ima rada. Njena zgodba kaže, kaj je mogoče, ko imajo najstniki dostop do umetne inteligence, ki jim pomaga pri učenju in ustvarjanju.

Da bi te koristi čim bolj izkoristili, najstniki potrebujejo močnejšo zaščito, prilagojeno njihovemu življenjskemu obdobju, vključno z avtomatiziranimi varovali, ki jim omogočajo samozavestno raziskovanje, učenje in ustvarjanje, hkrati pa zagotavljajo zaščitne ukrepe, prilagojene njihovi starosti. Ko umetna inteligenca postaja zmogljivejša, je naša odgovornost, da širok dostop združimo s starosti primerno zaščito, ki najstnikom omogoča, da imajo od te tehnologije koristi, ko se razvija.

V zadnjem letu je to pomenilo krepitev privzete zaščite za najstnike, uvedbo napovedovanja starosti⁠, širitev starševskega nadzora⁠, pripravo dodatnih družinskih virov⁠(odpre se v novem oknu), ki staršem pomagajo podpirati zdravo in odgovorno uporabo, ter uvedbo učnih funkcij, ki spodbujajo globlje razumevanje, namesto da bi zgolj ponujale odgovore.

Naše delo usmerjajo štiri ključne zaveze⁠:

• Varnost najstnikov postavljamo na prvo mesto, tudi kadar je lahko v nasprotju z drugimi cilji.
• V času stiske spodbujamo podporo v resničnem svetu.
• Najstnike obravnavamo kot najstnike.
• Smo transparentni in postavljamo jasna pričakovanja.

Učenje je eden najjasnejših načinov, kako najstniki izkoristijo umetno inteligenco, zato gradimo orodja, ki spodbujajo dejavno sodelovanje, kritično razmišljanje in globlje razumevanje. Učni način⁠(odpre se v novem oknu) je bil zasnovan v sodelovanju z učitelji, strokovnjaki za učenje in pedagoškimi strokovnjaki, da bi učencem pomagal reševati naloge korak za korakom z usmerjevalnimi vprašanji, strukturiranimi razlagami in priložnostmi za premislek, ne da bi jim preprosto ponudil odgovor. Zgodnje vrednotenje orodij, kot je učni način, je pokazalo obetavne izboljšave pri uspešnosti učencev⁠, kar usmerja naše širše raziskave o tem, kako lahko umetna inteligenca podpira učne rezultate.

Čeprav lahko najstniki ta način vklopijo sami, ga lahko zdaj starši s povezanimi računi najstnikov vklopijo neposredno iz starševskega nadzora⁠: učni način⁠. Ko je omogočen, je privzeto vklopljen vsakič, ko najstnik začne nov klepet, kar družinam ponuja še en način usmerjanja uporabe ChatGPT‑ja za šolsko delo in učenje.

Pred kratkim smo uvedli tudi izobraževalne začetne pozive za najstnike, da lažje začnejo z nalogami, kot so razčlenitev teme na preproste korake, pretvorba zapiskov v učni vodnik, ustvarjanje učnih kartic ali vaj ter preverjanje dokazov in jasnosti.

Še naprej širimo tudi interaktivne učne izkušnje⁠. Raziskave dosledno kažejo⁠, da se ljudje učijo učinkoviteje, ko lahko dejavno sodelujejo s koncepti, namesto da informacije le pasivno sprejemajo. Od uvedbe v začetku tega leta interaktivne izkušnje iz matematike in naravoslovja v ChatGPT‑ju vsak teden uporablja že 18 milijonov uporabnikov, razširili pa smo jih na več kot 250 novih tem, od integralov in mitoze do Luninih men, fotosinteze in še več. Uvedli smo tudi izkušnjo za izgovorjavo, ki z zvokom pomaga ljudem pri učenju izgovorjave besed v več kot 61 jezikih.

Če naš sistem oceni, da je oseba, ki uporablja ChatGPT, mlajša od 18 let,⁠ ji samodejno zagotovimo bolj starosti primerno izkušnjo⁠(odpre se v novem oknu). Najstniki lahko ChatGPT še vedno uporabljajo za učenje, ustvarjanje in raziskovanje, vendar z dodatno zaščito, zasnovano za zmanjšanje izpostavljenosti vsebinam, ki zanje morda niso primerne. To vključuje močnejša varovala glede nazornega nasilja, samopoškodovanja, tveganih viralnih izzivov, nezdravih vsebin o telesni samopodobi ter nevarnega, romantičnega ali spolnega igranja vlog. Naše vodilo je pomagati zagotoviti, da ChatGPT ostane orodje za učenje in ustvarjalnost, ne pa nadomestek za odnose v resničnem svetu.

ChatGPT je zasnovan tudi tako, da spodbuja zdrave navade. Najstniki, ki v ChatGPT‑ju preživijo dalj časa, bodo zdaj pogosteje prejemali opomnike za odmor⁠, ki jih spodbujajo, naj se ustavijo in odmaknejo. Ti opomniki naj bi mladim pomagali razvijati uravnotežene tehnološke navade, hkrati pa jim še vedno puščali svobodo, da umetno inteligenco uporabljajo za učenje, ustvarjalnost in reševanje problemov.

Verjamemo, da lahko najboljša varnostna orodja družinam pomagajo skupaj usmerjati spletne izkušnje najstnikov. Zgradili smo starševski nadzor in obvestila⁠, ki staršem omogočajo nastavitev mirnih ur, izklop glasovnega načina, upravljanje dostopa do generiranja slik ter prejemanje obvestil v določenih zelo tveganih situacijah, na primer ob znakih morebitnega samopoškodovanja.

Ta obvestila širimo tudi na primere, ko je bil povezan račun najstnika deaktiviran zaradi kršitve naših pravilnikov uporabe⁠ v zvezi z nasilnimi grožnjami ali nasilnimi dejanji na spletu. Ta pristop staršem pomaga vedeti, kdaj se je zgodilo nekaj resnega, hkrati pa spoštuje zasebnost najstnikov ter spodbuja pogovore in podporo zunaj spleta.

Pri razvoju teh funkcij smo se posvetovali z več strokovnjaki, med drugim z organizacijo Moonshot⁠(odpre se v novem oknu), vodilno na področju preprečevanja spletnega nasilja, da bi zagotovili, da so ti posegi premišljeni, učinkoviti in usmerjeni v pomoč družinam pri odzivanju v času stiske.

Želimo tudi zagotoviti, da imajo starši, najstniki in učitelji jasne smernice o tem, kako umetno inteligenco najbolje uporabljati odgovorno. Izobraževalne vire objavljamo v več kot 50 jezikih, med drugim Družinski vodnik za pomoč najstnikom pri odgovorni uporabi umetne inteligence⁠(odpre se v novem oknu), Nasveti za pogovor z najstnikom o umetni inteligenci⁠(odpre se v novem oknu) in Nasveti za starše, ki uporabljajo ChatGPT⁠(odpre se v novem oknu).

Varnosti mladih na spletu ne more samo rešiti nobeno podjetje. Tesno sodelujemo z najstniki, starši, učitelji, strokovnjaki za varnost otrok, strokovnjaki za duševno zdravje, raziskovalci, vladami in organizacijami civilne družbe. Ta partnerstva nam pomagajo bolje razumeti potrebe mladih, prepoznavati nastajajoča tveganja, ocenjevati učinkovitost naših zaščitnih ukrepov in zagotavljati, da naše pravilnike oblikuje neodvisno strokovno znanje.

To delo zajema naš pristop k učenju in dobrobiti mladih. Sodelujemo z učitelji, vključno z zvezo American Federation of Teachers⁠, učenci in učnimi organizacijami, da bi bolje razumeli, kako lahko umetna inteligenca podpira poučevanje in učenje ter hkrati krepi dejavno sodelovanje in kritično mišljenje. Tesno sodelujemo tudi s strokovnjaki iz skupnosti za duševno zdravje, razvoj otrok in varnost mladih, vključno z American Psychological Association⁠(odpre se v novem oknu), našo Global Physicians Network⁠ in našim Expert Council on Well-Being and AI⁠.

Naše delo pri gradnji bolj zdravega digitalnega ekosistema sega onkraj naših izdelkov. Pozvali smo k razvoju razširljivih globalnih standardov za varnost mladih pri umetni inteligenci⁠ prek namenskega inštituta za varnost umetne inteligence, k odprtokodnim pravilnikom in orodjem⁠, ki jih lahko razvijalci vgradijo v svoje sisteme umetne inteligence, ter k sodelovanju z organizacijami, kot sta Common Sense Media⁠(odpre se v novem oknu) in everyone.ai⁠(odpre se v novem oknu), za izmenjavo spoznanj in najboljših praks.

Letos smo se pridružili tudi Family Online Safety Institute⁠(odpre se v novem oknu) (FOSI), dolgoletnemu zagovorniku varnih spletnih izkušenj za družine in mlade. Skupaj si bomo prizadevali, da bodo mladi lahko izkoristili umetno inteligenco, pri čemer bodo v ospredju opolnomočeni starši in odgovorne prakse v industriji. Upamo, da bo to partnerstvo pomagalo izboljšati skupno razumevanje tega, kaj deluje, okrepiti starosti primerno zaščito in orodja za starše ter podpreti prizadevanja celotne industrije, ki mladim omogočajo varno in odgovorno uporabo umetne inteligence.

Zaščita mladih na spletu zahteva nenehen napredek. V prihodnjih mesecih bomo še naprej krepili starosti primerno zaščito, staršem zagotavljali več orodij in nadzora, izboljševali zaščitne ukrepe pred resnimi škodami, pospeševali raziskave o zdravi uporabi umetne inteligence ter gradili več izkušenj, ki najstnikom pomagajo aktivno se učiti in samozavestno uporabljati umetno inteligenco.

Vemo, da nas čaka še veliko dela, in zavezani smo, da bomo v sodelovanju z najstniki, starši, učitelji, strokovnjaki in skupnostmi po vsem svetu še naprej omogočali varen širok dostop za najstnike.