Proč si dospívající zaslouží přístup k bezpečné AI

Dospívající jsou první generací, která vyrůstá s AI, a tato technologie výrazně ovlivní jejich budoucnost. Téměř 9 z 10 dospívajících na ChatGPT tento nástroj v rámci jednoho týdne využívá k učení, získávání informací, rozvoji dovedností nebo produktivitě. Proto věříme, že je zásadní, aby dospívající měli k AI přístup. Bránit dospívajícím v jejím používání, dokud nedosáhnou dospělosti, by bylo podobné, jako kdybychom předchozí generaci žádali, aby se do 18 let vyhýbala internetu nebo vyhledávačům. Byli by pak hůře připraveni na používání jedné z určujících technologií své doby. Přístup ale musí jít ruku v ruce s ochrannými prvky navrženými přímo pro dospívající.

Na nedávné akci OpenAI Academy⁠(otevře se v novém okně) popsala Oriana McKenzie, jak jí ChatGPT pomohl stát se nejlepší studentkou ve třídě na střední škole díky chytřejšímu učení a lepší organizaci studijní zátěže — a získat tak čas potřebný na sport a školní programy, které má ráda. Její příběh ukazuje, co je možné, když mají dospívající přístup k AI, která jim pomáhá učit se a tvořit.

Aby dospívající mohli tyto přínosy využít naplno, potřebují silnější ochranné prvky navržené pro jejich životní etapu, včetně automatických bezpečnostních mantinelů, které jim umožní s jistotou zkoumat, učit se a tvořit a zároveň jim poskytnou ochranná opatření přizpůsobená jejich věku. S tím, jak se AI stává schopnější, je naší odpovědností kombinovat široký přístup s věkově přiměřenými ochrannými prvky, které dospívajícím umožní těžit z této technologie během jejího vývoje.

V uplynulém roce to znamenalo posilování výchozích ochranných prvků pro dospívající, zavádění predikce věku⁠, rozšiřování rodičovské kontroly⁠, vytváření dalších zdrojů pro rodiny⁠(otevře se v novém okně), které rodičům pomáhají podporovat zdravé a odpovědné používání, a zavádění výukových funkcí, které pomáhají podporovat hlubší porozumění místo pouhého poskytování odpovědí.

Naše práce se řídí čtyřmi klíčovými závazky⁠:

• Bezpečnost dospívajících stavíme na první místo, i když může být v rozporu s jinými cíli.
• Vyzýváme k vyhledání pomoci v reálném světě, když je to potřeba.
• K dospívajícím přistupujeme jako k dospívajícím.
• Jsme transparentní a nastavujeme jasná očekávání.

Učení je jedním z nejzřetelnějších způsobů, jak dospívající z AI těží, proto vytváříme nástroje, které podporují aktivní zapojení, kritické myšlení a hlubší porozumění. Studijní mód⁠(otevře se v novém okně) byl navržen ve spolupráci s učiteli, odborníky na učení a experty na pedagogiku, aby studentům pomáhal procházet problémy krok za krokem pomocí nasměrovávajících otázek, strukturovaných vysvětlení a příležitostí k reflexi, aniž by jim jednoduše poskytl odpověď. První vyhodnocení nástrojů, jako je Studijní mód, ukázalo slibné zlepšení výkonu studentů⁠ a je vstupem do našeho širšího výzkumu způsobů, jakými může AI zlepšovat studijní výsledky.

Dospívající si tento režim mohou zapnout sami, ale nyní mohou rodiče s propojenými účty dospívajících zapnout Studijní mód⁠ přímo v rodičovské kontrole⁠. Když je zapnutý, aktivuje se automaticky pokaždé, když dospívající zahájí nový chat, a rodinám tak nabízí další způsob, jak usměrňovat používání ChatGPT při školní práci a studiu.

Nedávno jsme také představili úvodní prompty zaměřené na vzdělávání dospívajících, aby bylo snazší začít s úkoly, jako je rozdělení tématu do jednoduchých kroků, převedení poznámek na studijní přehled, tvorba kartiček nebo cvičných otázek a kontrola důkazů i srozumitelnosti.

Dále rozšiřujeme také interaktivní výukové zážitky⁠. Výzkum dlouhodobě ukazuje⁠, že lidé se učí efektivněji, když se mohou aktivně zapojit do práce s pojmy, místo aby informace jen pasivně přijímali. Od spuštění na začátku tohoto roku se nyní každý týden 18 milionů uživatelů zapojuje do interaktivních aktivit z matematiky a přírodních věd v ChatGPT a tyto aktivity jsme rozšířili na více než 250 nových témat, od integrálů a mitózy po fáze Měsíce, fotosyntézu a další. Zavedli jsme také výuku výslovnosti, která pomocí zvuku pomáhá lidem naučit se vyslovovat slova ve více než 61 jazycích.

Pokud náš systém odhadne, že osoba používající ChatGPT je mladší 18 let,⁠ automaticky mu poskytneme věkově přiměřenější prostředí⁠(otevře se v novém okně). Dospívající mohou ChatGPT dál používat k učení, tvorbě a objevování, ale s některými ochrannými prvky navíc – navrženými, aby omezily vystavení nevhodnému obsahu. Patří sem silnější ochranná opatření týkající se explicitního násilí, sebepoškozování, rizikových virálních výzev, nezdravého obsahu souvisejícího s vnímáním vlastního těla a nebezpečného hraní romantických nebo sexuálních rolí. Naším hlavním cílem je pomoci zajistit, aby ChatGPT byl nástrojem pro učení a kreativitu, a ne náhradou reálných vztahů.

ChatGPT také navrhujeme tak, aby podporoval zdravé návyky. Dospívající, kteří v ChatGPT tráví delší dobu, budou nyní dostávat častější připomenutí přestávky⁠, která je vyzvou, aby si dali pauzu a šli někam jinam. Tato připomenutí mají mladým lidem pomáhat budovat vyvážené technologické návyky a zároveň jim ponechat svobodu používat AI k učení, kreativitě a řešení problémů.

Věříme, že nejlepší bezpečnostní nástroje mohou rodinám pomoci společně se orientovat v online zkušenostech dospívajících. Vytvořili jsme rodičovskou kontrolu a oznámení⁠, která jim umožňují nastavit klidové hodiny, vypnout hlasový režim, spravovat přístup ke generování obrázků a dostávat oznámení v určitých vysoce rizikových situacích, například při náznacích možného sebepoškozování.

Tato oznámení rozšiřujeme o případy, kdy byl propojený účet dospívajícího deaktivován kvůli porušení našich zásad používání⁠ v souvislosti s násilnými hrozbami nebo násilnými činy online. Tento přístup pomáhá rodičům dozvědět se, když se stane něco vážného, a zároveň respektuje soukromí dospívajících a vybízí k hovorům a vyhledání pomoci offline.

Při vývoji těchto funkcí jsme konzultovali několik odborníků, včetně organizace Moonshot⁠(otevře se v novém okně), lídra v prevenci online násilí, abychom pomohli zajistit, že tyto intervence budou promyšlené, účinné a zaměřené na to, aby pomáhaly rodinám v okamžicích, kdy je to potřeba.

Chceme také zajistit, aby rodiče, dospívající i pedagogové měli jasné pokyny, jak AI co nejlépe používat odpovědně. Publikujeme vzdělávací zdroje ve více než 50 jazycích, včetně Průvodce pro rodiny, jak pomáhat dospívajícím používat AI odpovědně⁠(otevře se v novém okně), Tipů, jak mluvit se svým dospívajícím o AI⁠(otevře se v novém okně) a Tipů pro rodiče používající ChatGPT⁠(otevře se v novém okně).

Udržet mladé lidi v bezpečí online není něco, co by dokázala vyřešit jedna firma sama. Úzce spolupracujeme s dospívajícími, rodiči, pedagogy, odborníky na bezpečnost dětí, odborníky na duševní zdraví, výzkumníky, vládami a organizacemi občanské společnosti. Tato partnerství nám pomáhají lépe porozumět potřebám mladých lidí, rozpoznávat nově vznikající rizika, hodnotit účinnost našich ochranných opatření a zajistit, aby naše zásady vycházely z nezávislých odborných znalostí.

Tato práce zahrnuje náš přístup k učení i k duševnímu zdraví mladých lidí. Spolupracujeme s pedagogy, včetně American Federation of Teachers⁠, studenty a vzdělávacími organizacemi, abychom lépe porozuměli tomu, jak může AI podporovat výuku a učení a zároveň posilovat aktivní zapojení a kritické myšlení. Úzce spolupracujeme také s experty z oblastí duševního zdraví, vývoje dětí a bezpečnosti mladých lidí, včetně American Psychological Association⁠(otevře se v novém okně), naší Global Physicians Network⁠ a naší Expert Council on Well-Being and AI⁠.

Naše práce na budování zdravějšího digitálního ekosystému přesahuje naše vlastní produkty. Vyzvali jsme k vytváření škálovatelných globálních standardů bezpečnosti mládeže v oblasti AI⁠ prostřednictvím specializovaného institutu pro bezpečnost AI, jako open source jsme zveřejnili zásady a nástroje⁠, které mohou vývojáři začlenit do vlastních systémů AI, a spolupracujeme s organizacemi včetně Common Sense Media⁠(otevře se v novém okně) a everyone.ai⁠(otevře se v novém okně), abychom sdíleli poznatky a osvědčené postupy.

Letos jsme také navázali spolupráci s Family Online Safety Institute⁠(otevře se v novém okně) (FOSI), dlouhodobým zastáncem bezpečných online zážitků pro rodiny a mladé lidi. Budeme spolupracovat na tom, aby mladí lidé mohli z AI těžit, přičemž v centru budou posílení rodiče a odpovědná praxe v odvětví. Doufáme, že toto partnerství pomůže rozvíjet společné porozumění tomu, co funguje, posílit věkově přiměřené ochrany a rodičovské nástroje a podpořit celoodvětvové úsilí, které mladým lidem umožní využívat AI bezpečně a odpovědně.

Ochrana mladých lidí online vyžaduje nepřetržitý pokrok. V nadcházejících měsících budeme dál posilovat ochranné prvky přiměřené věku, dávat rodičům více nástrojů a kontroly, zlepšovat ochranná opatření proti možnosti vážní újmy, posouvat výzkum zdravého používání AI a vytvářet více zážitků, které dospívajícím pomohou aktivně se učit a používat AI s jistotou.

Víme, že je před námi ještě mnoho práce, a jsme odhodláni pokračovat ve spolupráci s dospívajícími, rodiči, pedagogy, experty a komunitami po celém světě, abychom dospívajícím zajistili bezpečný široký přístup.