Aktualizujeme naši specifikaci modelu s ochranou dospívajících.

S novými zásadami pro modely do 18 let (U18)⁠(otevře se v novém okně) sdílíme aktualizaci naší specifikace modelu, což je písemný soubor pravidel, hodnot a očekávaného chování, který určuje, jak se mají naše modely umělé inteligence chovat, zejména v obtížných situacích nebo v situacích, kdy jde o hodně. Modelové chování má zásadní význam pro interakci lidí s AI a dospívající mají jiné vývojové potřeby než dospělí.

Zásady U18 určují, jak má ChatGPT poskytovat bezpečné a věku přiměřené prostředí pro dospívající ve věku 13 až 17 let. Tento přístup, který vychází z vývojových věd, upřednostňuje prevenci, transparentnost a včasnou intervenci. Tyto zásady jsme v rámci naší pokračující snahy získávat podněty, které posílí náš přístup, při přípravě předběžně konzultovali s externími odborníky, včetně Americké psychologické asociace.

Zatímco se zásady specifikace modelu nadále vztahují na dospělé i dospívající uživatele, tato aktualizace objasňuje, jak se tyto zásady uplatňují v kontextu mladistvých, zejména tam, kde mohou být výraznější bezpečnostní hlediska pro nezletilé. 

Zásady U18 jsou zakotveny ve čtyřech hlavních závazcích:

• Bezpečnost dospívajících je na prvním místě, i když může být v rozporu s jinými cíli.
• Důraz na podporu v reálném světě posilováním offline vztahů a důvěryhodných zdrojů.
• Jednat s dospívajícími jako s dospívajícími, nechovat se k nim povýšeně, ani jako k dospělým.
• Být transparentní nastavením jasných očekávání

V souladu s našim Plánem bezpečnosti pro dospívající⁠, se tyto zásady řídí naší dosavadní činností v oblasti bezpečnosti dospívajících. Patří k nim ochrana obsahu, kterou uplatňujeme na uživatele, kteří nám při registraci sdělí, že jsou mladší 18 let, a rodičovská kontrola. V této souvislosti jsme zavedli ochranná opatření, která vedou model k tomu, aby byl obzvláště opatrný při diskusi o vysoce rizikových oblastech, jako je sebepoškozování a sebevraždy, romantické nebo sexualizované role, grafický nebo explicitní obsah, nebezpečné aktivity a látky, zobrazování těla a poruchy příjmu potravy a žádosti o zachování tajemství o nebezpečném chování.

Americká psychologická asociace, která přezkoumala raný návrh specifikace modelu U18 a nabídla důležité postřehy z dlouhodobé perspektivy, má v důležitosti ochrany dospívajících jasno:

Tato aktualizace také objasňuje, jak by měl asistent reagovat, když se objeví obavy o bezpečnost dospívajících. To znamená, že by se dospívající, pokud konverzace přejde do rizikovějších oblastí, měli setkat s pevnějšími zábranami, bezpečnějšími alternativami a měli by být povzbuzováni k vyhledání důvěryhodné offline podpory. Pokud hrozí bezprostřední riziko, měli by dospívající kontaktovat záchrannou službu nebo krizové linky.

Stejně jako ostatní části specifikace modelu odrážejí zásady U18 to, jak chceme, aby se náš model choval. Budeme je nadále zdokonalovat podle toho, jak budeme zapracovávat nový výzkum, podněty odborníků a reálné využití.

Spolu s aktualizací specifikace modelu jsme přijali vícevrstvý přístup k posílení bezpečnosti dospívajících⁠ v prostředí ChatGPT, který zahrnuje bezpečnostní opatření produktu, podporu rodiny a odborné poradenství.

Od zavedení rodičovské kontroly⁠(otevře se v novém okně) jsme ochranu rozšířili na nové produkty včetně skupinových chatů, prohlížeče ChatGPT Atlas a aplikace Sora. Tyto aktualizace pomáhají rodičům přizpůsobit dospívajícímu při zavádění nových produktů a funkcí prostředí služby ChatGPT.

V souladu s odbornými pokyny podporujeme neustálé rozhovory mezi rodiči a dospívajícími o zdravém a zodpovědném používání AI v jejich rodině. Na podporu těchto rozhovorů jsme do centra zdrojů pro rodiče⁠(otevře se v novém okně) přidali nové, odborníky ověřené zdroje, včetně Příručky pro rodiny, jak pomoci dospívajícím zodpovědně používat umělou inteligenci,⁠(otevře se v novém okně) a tipů pro rodiče⁠(otevře se v novém okně) o tom, jak mluvit s dětmi o AI. Tyto informace byly posouzeny skupinou ConnectSafely a členy naší Expertní rady pro dobrou duševní pohodu a AI⁠. Postupně budeme přidávat další zdroje. Zdravé užívání podporujeme také přímo v produktu integrovanými upozorněními⁠ během dlouhých sezení, které pomáhají k tomu, aby byl čas strávený s aplikací ChatGPT účelný a vyvážený.

Naše práce v oblasti bezpečnosti dospívajících je založena na úzké spoluprací s odborníky z různých oborů a odborností. V říjnu jsme založili Expertní radu pro duševní pohodu a AI⁠, aby pomohla radit a definovat, jak by měla vypadat zdravá interakce s AI pro všechny věkové skupiny. Tato práce byla podkladem pro pokyny týkající se rodičovské kontroly a oznámení rodičům. Klinické zkušenosti využíváme také prostřednictvím naší Globální sítě lékařů⁠ k výzkumu bezpečnosti a vyhodnocování chování modelů. Součástí je zlepšování způsobu, jakým ChatGPT rozpoznává potíže a v případě potřeby vede lidi k odborné péči. Na těchto základech jsme postavili GPT‑5.2⁠a také jsme rozšířili přístup k reálné podpoře tím, že jsme v aplikacích ChatGPT a Sora díky našemu partnerství s ThroughLine⁠(otevře se v novém okně) zpřístupnili místní linky pomoci.

Jsme v raných fázích zavádění modelu předpovídání věku⁠(otevře se v novém okně) u spotřebitelských plánech ChatGPT. To nám pomůže automaticky použít ochranná opatření pro dospívající v případě, že budeme mít pocit, že účet patří nezletilé osobě. Pokud si nejsme jisti věkem nebo máme neúplné informace, přejdeme na prostředí U18 a dospělým osobám poskytneme způsoby, jak ověřit jejich věk.

Posilování bezpečnosti dospívajících je trvalá práce a my budeme pokračovat ve zlepšování rodičovské kontroly a možností modelu, rozšiřování zdrojů pro rodiče, spolupráci s organizacemi, výzkumníky a odbornými partnery včetně Rady pro duševní zdraví a Globální sítě lékařů. 

Jsme odhodláni vytvořit silnou ochranu dospívajících a postupně ji vylepšovat, abychom lépe podpořili dospívající a rodiny.