Podpora bezpečnosti a příležitostí pro mladé prostřednictvím globálního leadershipu

AI může být pro mladé lidi mocným nástrojem. Může studentům pomoci pochopit obtížný koncept, procvičit si nový jazyk, připravit se na pracovní pohovor, zkoumat kreativní nápady nebo se naučit novou dovednost. Stejně jako hnutí za gramotnost, které se v polovině 20. století rozšířilo po celém světě, vyžadovalo masovou distribuci tištěných textů a přístup k vyškoleným učitelům, dnes zpřístupnění bezpečné AI otevře nové příležitosti pro personalizované učení, pomůže snižovat bariéry pro nedostatečně obsluhované skupiny a zvýší připravenost pracovní síly.

Protože potenciální přínosy jsou tak významné, je nezbytné, aby mladí lidé měli k AI přístup způsoby, které jsou bezpečné, přiměřené věku a podporují zdravý vývoj. Tato odpovědnost by neměla ležet především na rodičích ani na samotných mladých lidech. Firmy, včetně OpenAI, mají odpovědnost vytvářet produkty, které mají ve výchozím nastavení odpovídající ochranná opatření, a zároveň poskytovat rodinám nástroje a informace, aby mohly řídit, jak se AI používá.

Až se koncem tohoto měsíce sejdou hlavy států na summitu lídrů G7 ve francouzském Évianu, bude klíčovým tématem bezpečnost mladých lidí při používání AI. OpenAI se připojí k diskusi o užší spolupráci v oblasti bezpečnosti mladých lidí, o tom, jak můžeme společně zvyšovat oborové standardy, a o nové výzvě OpenAI k vytvoření mezinárodního institutu pro bezpečnost mladých lidí.

Summit lídrů G7 představuje vzácnou příležitost ke globální koordinaci v oblasti bezpečnosti mladých lidí. Specializovaný institut by však zajistil kontinuitu a následné kroky potřebné i po jednom summitu a pomohl by vládám, výzkumníkům, občanské společnosti a odvětví dál spolupracovat na sdílení důkazů, tvorbě doporučení a postupném zvyšování standardů.

Existuje několik důvěryhodných způsobů, jak toho dosáhnout: prostřednictvím nového mezinárodního institutu nebo tím, že stávající či nově zřízený národní institut pro AI získá globální mandát sdílet výzkum, důkazy a doporučení s partnery po celém světě. Nejdůležitější je funkce, kterou plní. Bezpečnost mladých lidí při používání AI vyžaduje trvalou pozornost, důvěryhodné důkazy a praktická doporučení, která dokážou držet krok s technologií.

Takový institut může navázat na vznikající iniciativy, jako je institut Youth AI Safety Institute organizace Common Sense Media, podporovaný OpenAI Foundation, i na praktickou spolupráci s pedagogy, včetně práce OpenAI s Americkou federací učitelů⁠. Měl by také čerpat z nasazení v praxi, jako je estonské celonárodní zavádění ChatGPT ve školách, kde OpenAI spolupracuje se Stanfordovou univerzitou a estonskými výzkumníky na zkoumání dopadů a podpoře bezpečnějšího a účinnějšího využívání ve výuce.

OpenAI vítá příležitost spolupracovat s francouzskou vládou, dalšími vládami zemí G7 a partnery z občanské společnosti, akademické sféry i průmyslu na této zásadní práci a zvyšovat globální standardy bezpečnosti mladých lidí.

Věříme, že silné rámce pro bezpečnost mladých lidí při používání AI, včetně jakékoli potenciální dohody dosažené na setkáních G7, by se měly řídit principy, které zde představujeme.

1. Firmy by měly vědět, kdy je uživatel nezletilý, a uplatňovat ochranu přiměřenou věku. To znamená vyžadovat, aby poskytovatelé používali prostředky, jako je účinný odhad věku chránící soukromí, k odlišení nezletilých od dospělých a aby v případech, kdy věk uživatele nelze určit, ve výchozím nastavení uplatňovali ochranná opatření. Bez tohoto základu se ani nejlépe míněná ochrana mladých lidí nemusí dostat k těm, které má chránit.
2. Firmy by měly pravidelně posuzovat rizika i přínosy pro mladé lidi a podnikat kroky k jejich řešení — dříve, než dojde k újmě. To znamená vyžadovat, aby poskytovatelé každoročně prováděli hodnocení rizik pro bezpečnost mladých lidí a zaváděli přiměřená ochranná opatření podle zjištěných rizik. Tato hodnocení by měla zohledňovat rizika pro mladé lidi podle jejich vývojové fáze, empirických důkazů ze skutečného používání a relevantního výzkumu nebo regulačních pokynů. Hodnocení by měla posuzovat nejen možné újmy, ale také to, zda AI podporuje pozitivní výsledky, jako je učení, kreativita, rozvoj dovedností a přístup k příležitostem.
3. Rodiče a zákonní zástupci by měli mít k dispozici přístupný a snadno použitelný rodičovský dohled, který jim pomůže kormidlovat zkušenosti svých dětí a zároveň podporovat věku přiměřenou samostatnost. Ta by měla zahrnovat nástroje pro správu klíčových nastavení, včetně paměti, použití údajů a časových limitů. Rodičovské nástroje by měly být aktivně propagovány, aby rodiče věděli, že existují, a rozuměli tomu, jak je používat.
4. Rodiny si zaslouží jasné a srozumitelné informace o tom, jak společnosti chrání mladé uživatele, a smysluplné informace o přínosech i rizicích používání AI mladými lidmi. Firmy by měly zveřejňovat bezpečnostní zásady, které vysvětlují, jaká ochranná opatření jsou zavedena k ochraně mladých lidí, jaké rodičovské nástroje jsou k dispozici a jak se ochrana mění s vývojem rizik. Tato transparentnost buduje důvěru a pomáhá rodičům činit informovaná rozhodnutí.
5. Firmy by měly mít zavedené jasné protokoly pro řešení závažných bezpečnostních situací, včetně sebepoškozování, vykořisťování, groomingu, sexuálně vykořisťujícího obsahu a dalších vysoce rizikových interakcí. Ty by měly zahrnovat podporu přímo ve službě, odkazy na vhodné zdroje a včasná upozornění rodičům, je-li to vhodné. Firmy by také měly navrhovat své systémy tak, aby jim neumožnily generovat obsah, který je pro děti nebezpečný nebo vývojově nevhodný, včetně explicitního sexuálního či násilného materiálu.  
6. Systémy AI používané mladými lidmi by měly být navrženy tak, aby podporovaly učení, vývoj a vztahy v reálném světě — ne aby je nahrazovaly. AI by měla sloužit jako nástroj, který mladým lidem pomáhá učit se, tvořit, budovat dovednosti a připravovat se na budoucnost. Zároveň by společnosti měly stanovit jasné hranice v oblastech, kde zdravý vývoj závisí na lidském úsudku, vztazích v reálném světě a odborné podpoře.
7. Osobní údaje nezletilých by měly být chráněny. To znamená zakázat vůči mladým lidem cílenou reklamu narušující soukromí a bránit společnostem v prodeji osobních údajů.
8. Rámce pro bezpečnost mladých lidí by měly podporovat příležitosti, gramotnost a ochranu. Mladí lidé by měli mít přístup k nástrojům AI, které podporují učení, kreativitu, rozvoj dovedností a budoucí příležitosti, a zároveň být vybaveni znalostmi a dovednostmi kritického myšlení potřebnými k bezpečnému a odpovědnému používání AI. To zahrnuje podporu gramotnosti v oblasti AI a pomoc mladým lidem porozumět příležitostem a omezením systémů AI, aby se v digitálních prostorech mohli pohybovat sebejistě a odpovědně.
9. Silné mechanismy odpovědnosti, včetně nezávislých auditů, jsou nezbytné k zajištění toho, aby tato ochrana měla v praxi skutečný význam. Audity by měly být podloženy souborem společných standardů, které umožní interoperabilní audity napříč jurisdikcemi. Legislativní rámce by měly zahrnovat opatření pro dohled a vymáhání, která vládám umožní posoudit, zda firmy účinně zavádějí ochranná opatření pro bezpečnost mladých lidí, zmírňují zjištěná rizika a dodržují povinnosti týkající se bezpečnosti mladých lidí a ochrany soukromí.

Tyto principy se odrážejí v tom, jak vytváříme a provozujeme ChatGPT — od chování modelu a návrhu produktu po vstupy odborníků a podporu v reálném světě. Posílili jsme ochranná opatření pro uživatele mladší 18 let, spustili rodičovský dohled⁠ s proaktivními upozorněními a pokročilé systémy predikce věku⁠, aby ChatGPT mohl uplatňovat silnější ochranu, když někdo může být mladší 18 let. Naše specifikace modelu, která popisuje, jak by se naše modely měly chovat, zahrnuje také cílené principy pro uživatele mladší 18 let⁠(otevře se v novém okně), jež upřednostňují bezpečnost teenagerů, zkušenosti přiměřené věku, podporu v reálném světě a jasná očekávání. V praxi to znamená silnější ochranné mantinely v oblastech sebepoškozování, nebezpečných aktivit, explicitního obsahu, vnímání vlastního těla a utajování, spolu s povzbuzováním k vyhledání důvěryhodné podpory mimo internet nebo krizových zdrojů, je-li to potřeba. Pokud je věk nejistý, ve výchozím nastavení uplatňujeme silnější ochranná opatření.

AI navržená se silnými ochrannými mantinely, nabízená s jasnými pokyny a s podporou rodin a pedagogů, může mladým lidem pomoci bezpečně těžit z nástrojů, které rozšiřují učení, kreativitu a příležitosti. AI může studentům pomoci porozumět obtížným konceptům, procvičovat jazyky, zlepšovat psaní, učit se programovat, organizovat výzkum, zkoumat kreativní nápady a připravovat se na pracovní místa, která se už mění. Prostřednictvím programu Education for Countries⁠ OpenAI spolupracuje s vládami a pedagogy na nasazeních založených na výzkumu, lokalizovaných výukových nástrojích a školení učitelů, aby bylo zavádění AI podloženo důkazy a skutečnými potřebami školních tříd. Tato práce již podporuje národní vzdělávací snahy s našimi partnerskými zeměmi, včetně Estonska⁠, Řecka⁠ a Singapuru⁠.

Kromě účasti na summitu lídrů přivezeme do Paříže OpenAI Forum⁠(otevře se v novém okně), abychom uspořádali praktickou diskusi o tom, jak mohou vlády, výzkumníci, občanská společnost, pedagogové a naše odvětví proměnit sdílené cíle bezpečnosti mladých lidí v konkrétní ochranná opatření, standardy a postupy implementace. Francouzská velvyslankyně pro AI a digitální záležitosti Clara Chappaz se připojí k řediteli globálních záležitostí OpenAI Chrisi Lehanovi, lídrům v oblasti bezpečnosti mladých lidí z iRaise/Everyone.AI a dalším odborníkům k diskusi o tom, jak mohou mladí lidé těžit z AI souběžně se snižováním rizik.