Náš přístup k předpovídání věku

U spotřebitelských plánů ChatGPT zavádíme predikci věku, která pomůže určit, zda účet pravděpodobně patří osobě mladší 18 let, aby bylo možné použít u dospívajících správné prostředí a ochranná opatření. Jak jsme uvedli v Plánu bezpečnosti pro dospívající⁠ a Zásadách pro chování modelu pro mladší 18 let⁠, mladí lidé si zaslouží technologie, které jim nejen rozšiřují příležitosti, ale i chrání duševní zdraví.

Předvídání věku vychází z již zavedených ochranných opatření. Dospívající, kteří nám při registraci sdělí, že jsou mladší 18 let, získají automaticky dodatečnou ochranu, která snižuje jejich vystavení citlivému nebo potenciálně škodlivému obsahu. To nám také umožňuje jednat s dospělými jako s dospělými a používat naše nástroje v mezích bezpečnosti způsobem, který si oni přejí.

Již dříve jsme sdíleli naše první plány⁠ pro predikci věku a dnes se podělíme o více podrobností, protože zavádění je již v plném proudu.

ChatGPT používá model předpovídání věku, aby pomohl odhadnout, zda účet pravděpodobně patří někomu mladšímu 18 let. Model zkoumá kombinaci signálů z chování a signálů na úrovni účtu, včetně délky existence účtu, typické denní doby, kdy probíhá aktivita, vzorců používání v průběhu času a věku uvedeného uživatelem. Nasazení predikce věku nám pomáhá zjistit, které signály zlepšují přesnost, a tyto poznatky používáme k průběžnému zdokonalování modelu.

Uživatelé, kteří jsou nesprávně zařazeni do skupiny uživatelů mladších 18 let, budou mít vždy k dispozici rychlý a jednoduchý způsob, jak prokázat svůj věk a obnovit plný přístup pomocí selfie a služby Persona, která slouží k bezpečnému ověřování totožnosti. V Nastavení > Účet si uživatelé mohou kdykoli zkontrolovat, zda byla na jejich účtu aktivována bezpečnostní opatření, případně zahájit ověření totožnosti.

Když model předpovídání věku odhadne, že účet může patřit někomu mladšímu 18 let, ChatGPT automaticky použije dodatečná ochranná opatření⁠ navržená ke snížení vystavení citlivému obsahu, například:

• viditelné násilí nebo krvavý obsah
• virální výzvy, které by mohly u nezletilých podporovat rizikové nebo škodlivé chování
• hraní sexuálních, romantických nebo násilných rolí
• zobrazení sebepoškozování
• obsah, který propaguje extrémní standardy krásy, nezdravé diety nebo body shaming

Tento přístup vychází z podnětů odborníků a je založen na vědecké literatuře o vývoji dítěte a zohledňuje známé rozdíly mezi dospívajícími v oblasti vnímání rizik, kontroly impulzů, vlivu vrstevníků a regulace emocí. Přestože tato omezení obsahu pomáhají omezit vystavení dospívajících citlivému materiálu, zaměřujeme se na neustálé zlepšování těchto ochranných opatření, zejména na pokusy o jejich obcházení. Když si nejsme jistí věkem někoho nebo máme neúplné informace, zvolíme bezpečnější prostředí.

Kromě těchto bezpečnostních opatření mohou rodiče dále přizpůsobit prostředí svých dospívajících prostřednictvím rodičovské kontroly⁠(otevře se v novém okně), Patří sem nastavení doby klidu, kdy nelze ChatGPT používat, ovládání funkcí, jako je paměť nebo trénování modelu, a přijímání oznámení, pokud se zjistí známky akutní tísně.

Od prvního zavedení se učíme a v průběhu času dále zlepšujeme přesnost předpovídání věku. Budeme pečlivě sledovat zavádění a využívat tyto signály k průběžnému zlepšování.

V EU bude predikce věku zavedena v nadcházejících týdnech, aby byly dodrženy regionální právní povinnosti. Více informací je na naší stránce nápovědy⁠(otevře se v novém okně).

I když je to důležitý milník, naše práce na podpoře bezpečnosti dospívajících běží neustále. Budeme i nadále sdílet novinky o našem pokroku a o tom, co se učíme, v dialogu s odborníky včetně American Psychological Association, ConnectSafely a Global Physicians Network⁠.