Podpora bezpečnosti a príležitostí pre mladých ľudí prostredníctvom globálneho líderstva

AI môže byť pre mladých ľudí mocným nástrojom. Môže študentom pomôcť pochopiť náročný koncept, precvičiť si nový jazyk, pripraviť sa na pracovný pohovor, skúmať tvorivé nápady alebo osvojiť si novú zručnosť. Tak ako si hnutie za gramotnosť, ktoré sa v polovici 20. storočia rozšírilo po celom svete, vyžadovalo masovú distribúciu tlačeného textu a prístup k vyškoleným učiteľom, dnes prístup k bezpečnej AI otvorí nové príležitosti na personalizované učenie, pomôže znižovať prekážky pre nedostatočne obsluhované skupiny a zvýši pripravenosť pracovnej sily.

Keďže potenciálne prínosy sú také významné, je nevyhnutné, aby mladí ľudia mali prístup k AI spôsobmi, ktoré sú bezpečné, primerané veku a podporujú zdravý vývoj. Táto zodpovednosť by nemala spočívať predovšetkým na rodičoch ani na samotných mladých ľuďoch. Spoločnosti vrátane OpenAI majú zodpovednosť vytvárať produkty s primeranými ochrannými opatreniami už v predvolenom nastavení a zároveň poskytovať rodinám nástroje a informácie, ktoré im pomôžu usmerňovať používanie AI.

Keď sa hlavy štátov neskôr tento mesiac stretnú na samite lídrov G7 vo francúzskom Éviane, bezpečnosť mladých ľudí pri používaní AI bude jednou z hlavných tém. OpenAI sa zúčastní na diskusii o väčšej spolupráci v oblasti bezpečnosti mladých ľudí, o tom, ako môžeme spoločne zvyšovať odvetvové štandardy, a o novej výzve OpenAI na zriadenie medzinárodného inštitútu pre bezpečnosť mladých ľudí.

Samit lídrov G7 predstavuje vzácnu príležitosť na globálnu koordináciu v oblasti bezpečnosti mladých ľudí. Špecializovaný inštitút by však poskytol kontinuitu a následnú realizáciu potrebnú aj po jednom samite a pomohol by vládam, výskumníkom, občianskej spoločnosti a odvetviu naďalej spolupracovať pri zdieľaní dôkazov, tvorbe usmernení a postupnom zvyšovaní štandardov.

Existuje niekoľko dôveryhodných spôsobov, ako to dosiahnuť: prostredníctvom nového medzinárodného inštitútu alebo udelením globálneho mandátu existujúcemu či novo zriadenému národnému inštitútu pre AI na zdieľanie výskumu, dôkazov a usmernení s partnermi po celom svete. Najdôležitejšia je funkcia, ktorú plní. Bezpečnosť mladých ľudí pri používaní AI si vyžaduje trvalú pozornosť, dôveryhodné dôkazy a praktické usmernenia, ktoré dokážu držať krok s technológiou.

Takýto inštitút môže nadviazať na vznikajúce iniciatívy, ako je Youth AI Safety Institute organizácie Common Sense Media podporovaný nadáciou OpenAI Foundation, ako aj na praktickú spoluprácu s pedagógmi vrátane práce OpenAI s Americkou federáciou učiteľov⁠. Mal by čerpať aj z nasadení v reálnom svete, ako je národné zavádzanie ChatGPT do škôl v Estónsku, kde OpenAI spolupracuje so Stanfordom a estónskymi výskumníkmi na skúmaní vplyvu a informovaní o bezpečnejšom a účinnejšom využívaní pri učení.

OpenAI víta príležitosť spolupracovať s francúzskou vládou, ďalšími vládami krajín G7 a partnermi z občianskej spoločnosti, akademickej sféry a odvetvia na tejto zásadnej práci a na zvyšovaní globálnych štandardov bezpečnosti mladých ľudí.

Veríme, že silné rámce bezpečnosti mladých ľudí pri používaní AI vrátane akejkoľvek potenciálnej dohody dosiahnutej na stretnutiach G7 by sa mali riadiť zásadami, ktoré tu uvádzame.

1. Spoločnosti by mali vedieť, kedy je používateľ maloletý, a uplatňovať ochranu primeranú veku. To znamená vyžadovať od poskytovateľov, aby používali prostriedky, ako je účinné odhadovanie veku chrániace súkromie, na rozlíšenie maloletých od dospelých a aby predvolene uplatňovali ochranné opatrenia, keď vek používateľa nemožno určiť. Bez tohto základu sa ani tie najlepšie mienené opatrenia na ochranu mladých ľudí nemusia dostať k tým, ktorých majú chrániť.
2. Spoločnosti by mali pravidelne posudzovať riziká aj prínosy pre mladých ľudí a podnikať kroky na ich riešenie —skôr, než dôjde k ujme. To znamená vyžadovať od poskytovateľov, aby každoročne vykonávali posúdenia rizík v oblasti bezpečnosti mladých ľudí a zavádzali primerané ochranné opatrenia podľa rizík, ktoré identifikujú. Takéto posúdenia by mali zohľadňovať riziká pre mladých ľudí na základe ich vývojovej fázy, empirických dôkazov zo skutočného používania a relevantného výskumu alebo regulačných usmernení. Posúdenia by mali zohľadňovať nielen potenciálne ujmy, ale aj to, či AI podporuje pozitívne výsledky, ako sú učenie, tvorivosť, rozvoj zručností a prístup k príležitostiam.
3. Rodičia a zákonní zástupcovia by mali mať k dispozícii prístupné a ľahko použiteľné ovládacie prvky, ktoré im pomôžu usmerňovať skúsenosti ich detí a zároveň podporovať nezávislosť primeranú veku. Tie by mali zahŕňať nástroje na správu kľúčových nastavení vrátane pamäte, používania údajov a časových limitov. Rodičovské nástroje by sa mali aktívne propagovať, aby rodičia vedeli, že existujú, a rozumeli, ako ich používať. 
4. Rodiny si zaslúžia jasné a zrozumiteľné informácie o tom, ako spoločnosti chránia mladých používateľov, a zmysluplné informácie o prínosoch aj rizikách používania AI mladými ľuďmi. Spoločnosti by mali zverejňovať bezpečnostné pravidlá, ktoré vysvetľujú, aké ochranné opatrenia sú zavedené na ochranu mladých ľudí, aké rodičovské nástroje sú k dispozícii a ako sa ochrany aktualizujú s vývojom rizík. Táto transparentnosť buduje dôveru a pomáha rodičom robiť informované rozhodnutia.
5. Spoločnosti by mali mať zavedené jasné protokoly na riešenie závažných bezpečnostných situácií vrátane sebapoškodzovania, vykorisťovania, groomingu, sexuálne vykorisťujúceho obsahu a iných vysokorizikových interakcií. Tie by mali zahŕňať podporu v rámci služby, odporúčania na primerané zdroje a včasné upozornenia rodičov, keď je to vhodné. Spoločnosti by mali svoje systémy navrhovať aj tak, aby im bránili vytvárať obsah, ktorý je pre deti nebezpečný alebo vývojovo nevhodný, vrátane explicitného sexuálneho alebo násilného materiálu.  
6. Systémy AI používané mladými ľuďmi by mali byť navrhnuté tak, aby podporovali učenie, vývoj a vzťahy v reálnom svete — nie aby ich nahrádzali. AI by mala slúžiť ako nástroj, ktorý pomáha mladým ľuďom učiť sa, tvoriť, budovať zručnosti a pripravovať sa na budúcnosť. Spoločnosti by zároveň mali stanoviť jasné hranice v oblastiach, kde zdravý vývoj závisí od ľudského úsudku, vzťahov v reálnom svete a odbornej podpory.
7. Osobné údaje maloletých by mali byť chránené. To znamená zakázať cielenú reklamu zasahujúcu do súkromia mladých ľudí a zakázať spoločnostiam predávať osobné údaje.
8. Rámce bezpečnosti mladých ľudí by mali podporovať príležitosti, gramotnosť a ochranu. Mladí ľudia by mali mať prístup k nástrojom AI, ktoré podporujú učenie, tvorivosť, rozvoj zručností a budúce príležitosti, a zároveň byť vybavení znalosťami a zručnosťami kritického myslenia potrebnými na bezpečné a zodpovedné používanie AI. To zahŕňa podporu gramotnosti v oblasti AI a pomoc mladým ľuďom pochopiť príležitosti a obmedzenia systémov AI, aby sa mohli v digitálnych priestoroch zapájať sebavedome a zodpovedne.
9. Silné mechanizmy zodpovednosti vrátane nezávislých auditov sú nevyhnutné na zabezpečenie toho, aby tieto ochrany mali v praxi skutočný význam. Audity by mali vychádzať zo súboru spoločných štandardov, ktoré umožňujú interoperabilné audity naprieč jurisdikciami. Legislatívne rámce by mali zahŕňať opatrenia dohľadu a presadzovania, ktoré vládam umožnia posúdiť, či spoločnosti účinne zavádzajú ochranné opatrenia pre bezpečnosť mladých ľudí, zmierňujú identifikované riziká a dodržiavajú povinnosti v oblasti bezpečnosti mladých ľudí a ochrany súkromia.

Tieto zásady sa odrážajú v tom, ako vytvárame a prevádzkujeme ChatGPT, od správania modelu a návrhu produktu až po vstupy odborníkov a podporu v reálnom svete. Posilnili sme ochranné opatrenia pre používateľov mladších ako 18 rokov, spustili rodičovskú kontrolu⁠ s proaktívnymi upozorneniami a pokročilé systémy predikcie veku⁠, aby ChatGPT mohol uplatniť silnejšie ochrany, keď môže mať niekto menej ako 18 rokov. Naša špecifikácia modelu, ktorá opisuje, ako by sa naše modely mali správať, obsahuje aj špecializované zásady pre používateľov mladších ako 18 rokov⁠(otvorí sa v novom okne), pričom uprednostňuje bezpečnosť tínedžerov, skúsenosti primerané veku, podporu v reálnom svete a jasné očakávania. V praxi to znamená silnejšie mantinely týkajúce sa sebapoškodzovania, nebezpečných aktivít, explicitného obsahu, telesného obrazu a utajovania, spolu s povzbudením vyhľadať v prípade potreby dôveryhodnú offline podporu alebo krízové zdroje. Keď je vek neistý, predvolene uplatňujeme silnejšie ochranné opatrenia.

AI navrhnutá so silnými ochrannými opatreniami, ponúkaná s jasným usmernením a podporovaná rodinami a pedagógmi môže mladým ľuďom pomôcť bezpečne využívať nástroje, ktoré rozširujú učenie, tvorivosť a príležitosti. AI môže študentom pomôcť pochopiť náročné koncepty, precvičovať jazyky, zlepšiť písanie, naučiť sa programovať, organizovať výskum, skúmať tvorivé nápady a pripraviť sa na pracovné miesta, ktoré sa už menia. Prostredníctvom programu Education for Countries⁠ OpenAI spolupracuje s vládami a pedagógmi na nasadeniach založených na výskume, lokalizovaných vzdelávacích nástrojoch a školení učiteľov, aby bolo prijímanie AI podložené dôkazmi a skutočnými potrebami tried. Táto práca už podporuje národné vzdelávacie úsilie s našimi partnerskými krajinami vrátane Estónska⁠, Grécka⁠ a Singapuru⁠.

Okrem účasti na samite lídrov prinesieme do Paríža OpenAI Forum⁠(otvorí sa v novom okne), aby sme zvolali praktickú diskusiu o tom, ako môžu vlády, výskumníci, občianska spoločnosť, pedagógovia a odvetvie pretaviť spoločné ciele v oblasti bezpečnosti mladých ľudí do konkrétnych ochranných opatrení, štandardov a implementačných postupov. Francúzska veľvyslankyňa pre AI a digitálne záležitosti Clara Chappaz sa pripojí k Chrisovi Lehanovi, Chief Global Affairs Officer v OpenAI, lídrom v oblasti bezpečnosti mladých ľudí z iRaise/Everyone.AI a ďalším expertom v diskusii o tom, ako môžu mladí ľudia využívať výhody AI pri znižovaní rizík.