Prečo si tínedžeri zaslúžia prístup k bezpečnej AI

Tínedžeri sú prvou generáciou, ktorá vyrastá s AI, a táto technológia výrazne ovplyvní ich budúcnosť. Dnes takmer 9 z 10 tínedžerov na ChatGPT používa túto službu počas jediného týždňa na učenie, získavanie informácií, rozvíjanie zručností alebo produktivitu. Preto sme presvedčení, že je kľúčové, aby tínedžeri mali prístup k AI. Brániť tínedžerom používať ju až do dospelosti by bolo, akoby sme predchádzajúcej generácii zakázali internet alebo vyhľadávače do 18 rokov. Boli by tak horšie pripravení používať jednu z určujúcich technológií svojej doby. Prístup však musí ísť ruka v ruke s ochranami navrhnutými špeciálne pre tínedžerov.

Počas nedávneho podujatia OpenAI Academy⁠(otvorí sa v novom okne) Oriana McKenzie opísala, ako jej ChatGPT pomohol stať sa jednotkou v triede na strednej škole vďaka efektívnejšiemu učeniu a lepšiemu zvládaniu povinností, takže jej zostal čas na športy a školské programy, ktoré má rada. Jej príbeh ukazuje, čo je možné, keď majú tínedžeri prístup k AI, ktorá im pomáha učiť sa a tvoriť.

Aby mohli tieto prínosy naplno využiť, tínedžeri potrebujú silnejšie ochrany prispôsobené ich životnej fáze vrátane automatizovaných mantinelov, ktoré im umožnia skúmať, učiť sa a tvoriť s dôverou, pričom im poskytnú záruky primerané ich veku. Ako sa AI stáva schopnejšou, našou zodpovednosťou je spojiť široký prístup s ochranami primeranými veku, aby tínedžeri mohli z tejto technológie profitovať aj počas jej vývoja.

Za posledný rok to znamenalo posilnenie predvolených ochrán pre tínedžerov, zavedenie predikcie veku⁠, rozšírenie funkcie rodičovská kontrola⁠, vytvorenie ďalších zdrojov pre rodiny⁠(otvorí sa v novom okne), ktoré rodičom pomáhajú podporovať zdravé a zodpovedné používanie, a zavedenie vzdelávacích funkcií, ktoré podporujú hlbšie porozumenie namiesto jednoduchého poskytovania odpovedí.

Našu prácu usmerňujú štyri kľúčové záväzky⁠:

• Bezpečnosť tínedžerov dávame na prvé miesto, aj keď môže byť v rozpore s inými cieľmi.
• V čase potreby podporujeme pomoc v reálnom svete.
• K tínedžerom pristupujeme ako k tínedžerom.
• Sme transparentní a nastavujeme jasné očakávania.

Učenie je jedným z najzreteľnejších spôsobov, ako tínedžeri profitujú z AI, preto vytvárame nástroje, ktoré podporujú aktívne zapojenie, kritické myslenie a hlbšie porozumenie. Režim štúdia⁠(otvorí sa v novom okne) vznikol v spolupráci s učiteľmi, odborníkmi na učenie a pedagogiku. Študentom pomáha postupovať pri riešení úloh krok za krokom pomocou navádzajúcich otázok, štruktúrovaných vysvetlení a príležitostí na reflexiu bez toho, aby im jednoducho poskytol odpoveď. Prvé hodnotenie nástrojov, ako je režim štúdia, ukázalo sľubné zlepšenia vo výkone študentov⁠ a pomáha usmerňovať náš širší výskum toho, ako môže AI podporovať výsledky učenia.

Tínedžeri si tento režim môžu zapnúť sami, no rodičia s prepojenými účtami tínedžerov si teraz môžu režim štúdia⁠ zapnúť priamo cez funkciu rodičovská kontrola⁠. Keď je zapnutý, je predvolene aktívny vždy, keď tínedžer začne nový čet, čo rodinám dáva ďalší spôsob, ako usmerniť používanie ChatGPT pri školských úlohách a štúdiu.

Nedávno sme tiež predstavili vzdelávacie úvodné príkazy pre tínedžerov, aby bolo jednoduchšie začať s úlohami, ako je rozdelenie témy na jednoduché kroky, premena poznámok na študijnú príručku, tvorba kartičiek alebo cvičných otázok a kontrola dôkazov a zrozumiteľnosti.

Naďalej rozširujeme aj interaktívne vzdelávacie zážitky⁠. Výskum opakovane ukázal⁠, že ľudia sa učia účinnejšie, keď sa môžu aktívne zapájať do konceptov, namiesto toho, aby informácie len pasívne prijímali. Od spustenia začiatkom tohto roka využíva interaktívne zážitky z matematiky a prírodných vied v ChatGPT už 18 miliónov používateľov týždenne a rozšírili sme ich o viac než 250 nových tém, od integrálov a mitózy až po fázy Mesiaca, fotosyntézu a ďalšie. Predstavili sme aj zážitok zameraný na výslovnosť, ktorý pomocou zvuku pomáha ľuďom učiť sa vyslovovať slová vo viac ako 61 jazykoch.

Ak náš systém odhadne, že niekto, kto používa ChatGPT, má menej ako 18 rokov,⁠ automaticky mu poskytneme skúsenosť primeranejšiu veku⁠(otvorí sa v novom okne). Tínedžeri môžu ChatGPT naďalej používať na učenie, tvorbu a objavovanie, no s ďalšími ochranami navrhnutými tak, aby znižovali vystavenie obsahu, ktorý pre nich nemusí byť vhodný. Patria sem silnejšie ochranné opatrenia týkajúce sa explicitného násilia, sebapoškodzovania, rizikových virálnych výziev, nezdravého obsahu o vnímaní vlastného tela a nebezpečného, romantického alebo sexuálneho hrania rolí. Naším hlavným cieľom je pomôcť zabezpečiť, aby ChatGPT zostal nástrojom na učenie a tvorivosť, nie náhradou vzťahov v reálnom svete.

ChatGPT navrhujeme aj tak, aby podporoval zdravé návyky. Tínedžeri, ktorí v ChatGPT trávia dlhší čas, budú teraz dostávať častejšie pripomienky prestávky⁠, ktoré ich povzbudia, aby sa zastavili a na chvíľu odišli. Tieto pripomienky majú mladým ľuďom pomôcť budovať vyvážené technologické návyky a zároveň im ponechať slobodu používať AI na učenie, tvorivosť a riešenie problémov.

Veríme, že najlepšie bezpečnostné nástroje môžu rodinám pomôcť spoločne sa orientovať v online skúsenostiach tínedžerov. Vytvorili sme rodičovskú kontrolu a oznámenia⁠, ktoré im umožňujú nastaviť čas pokoja, vypnúť hlasový režim, spravovať prístup ku generovaniu obrázkov a dostávať oznámenia v určitých vysoko rizikových situáciách, napríklad pri náznakoch možného sebapoškodzovania.

Tieto oznámenia rozširujeme aj na prípady, keď bol prepojený účet tínedžera deaktivovaný za porušenie našich zásad používania⁠ v súvislosti s násilnými hrozbami alebo násilnými činmi online. Tento prístup pomáha rodičom vedieť, keď sa stalo niečo vážne, pričom rešpektuje súkromie tínedžerov a podporuje rozhovory a pomoc mimo internetu.

Pri vývoji týchto funkcií sme sa radili s viacerými odborníkmi vrátane organizácie Moonshot⁠(otvorí sa v novom okne), lídra v prevencii online násilia, aby sme pomohli zabezpečiť, že tieto zásahy budú premyslené, účinné a zamerané na pomoc rodinám reagovať v čase potreby.

Chceme tiež zabezpečiť, aby rodičia, tínedžeri a pedagógovia mali jasné odporúčania, ako AI čo najlepšie používať zodpovedne. Vzdelávacie zdroje publikujeme vo viac ako 50 jazykoch vrátane príručiek A Family Guide to Help Teens Use AI Responsibly⁠(otvorí sa v novom okne), Tips for talking to your teen about AI⁠(otvorí sa v novom okne) a Tips for parents using ChatGPT⁠(otvorí sa v novom okne).

Bezpečnosť mladých ľudí online nedokáže vyriešiť žiadna firma sama. Úzko spolupracujeme s tínedžermi, rodičmi, pedagógmi, odborníkmi na bezpečnosť detí, odborníkmi na duševné zdravie, výskumníkmi, vládami a organizáciami občianskej spoločnosti. Tieto partnerstvá nám pomáhajú lepšie chápať potreby mladých ľudí, identifikovať vznikajúce riziká, hodnotiť účinnosť našich ochranných opatrení a zabezpečiť, aby naše zásady vychádzali z nezávislých odborných poznatkov.

Táto práca zahŕňa náš prístup k učeniu aj k pohode mladých ľudí. Spolupracujeme s pedagógmi vrátane American Federation of Teachers⁠, so študentmi a vzdelávacími organizáciami, aby sme lepšie porozumeli tomu, ako môže AI podporiť vyučovanie a učenie a zároveň posilňovať aktívne zapojenie a kritické myslenie. Úzko spolupracujeme aj s odborníkmi z oblastí duševného zdravia, vývoja detí a bezpečnosti mladých ľudí vrátane American Psychological Association⁠(otvorí sa v novom okne), našej Global Physicians Network⁠ a našej Expert Council on Well-Being and AI⁠.

Naša práca na budovaní zdravšieho digitálneho ekosystému presahuje naše vlastné produkty. Vyzvali sme na vytvorenie škálovateľných globálnych štandardov bezpečnosti AI pre mladých ľudí⁠ prostredníctvom špecializovaného inštitútu pre bezpečnosť AI, zverejnili sme zásady a nástroje s otvoreným zdrojovým kódom⁠, ktoré môžu vývojári začleniť do vlastných systémov AI, a spolupracujeme s organizáciami vrátane Common Sense Media⁠(otvorí sa v novom okne) a everyone.ai⁠(otvorí sa v novom okne), aby sme zdieľali poznatky a osvedčené postupy.

Tento rok sme sa tiež pridali k Family Online Safety Institute⁠(otvorí sa v novom okne) (FOSI), dlhoročnému zástancovi bezpečných online skúseností pre rodiny a mladých ľudí. Budeme spolupracovať, aby mladí ľudia mohli využívať prínosy AI, pričom v centre budú posilnení rodičia a zodpovedné postupy v odvetví. Dúfame, že toto partnerstvo pomôže posunúť spoločné chápanie toho, čo funguje, posilní ochrany primerané veku a rodičovské nástroje a podporí celoodvetvové úsilie, ktoré mladým ľuďom umožní využívať AI bezpečne a zodpovedne.

Ochrana mladých ľudí online si vyžaduje neustály pokrok. V nadchádzajúcich mesiacoch budeme naďalej posilňovať ochrany primerané veku, dávať rodičom viac nástrojov a kontroly, zlepšovať ochranné opatrenia proti vážnym ujmám, rozvíjať výskum zdravého používania AI a vytvárať ďalšie zážitky, ktoré tínedžerom pomáhajú aktívne sa učiť a používať AI s istotou.

Vieme, že je pred nami ešte veľa práce, a sme odhodlaní pokračovať v nej v spolupráci s tínedžermi, rodičmi, pedagógmi, odborníkmi a komunitami na celom svete, aby sme tínedžerom priniesli bezpečný široký prístup.