Náš prístup k predikcii veku

Zavádzame predikciu veku na spotrebiteľských tarifách ChatGPT, aby sme pomohli určiť, či účet pravdepodobne patrí osobe mladšej ako 18 rokov, aby sa mohli uplatniť správne skúsenosti a bezpečnostné opatrenia pre tínedžerov. Ako sme uviedli v našom Pláne bezpečnosti tínedžerov⁠ a Princípoch modelového správania osôb mladších ako 18 rokov⁠, mladí ľudia si zaslúžia technológiu, ktorá rozširuje príležitosti a chráni ich pohodu.

Predikcia veku stavia na ochranných opatreniach, ktoré sú už zavedené. Tínedžeri, ktorí nám pri registrácii oznámia, že majú menej ako 18 rokov, automaticky získavajú dodatočné ochranné opatrenia na zníženie vystavenia citlivému alebo potenciálne škodlivému obsahu. To nám tiež umožňuje zaobchádzať s dospelými ako s dospelými a používať naše nástroje spôsobom, aký si želajú, v rámci bezpečnostných hraníc.

Predtým sme zdieľali naše počiatočné plány⁠ na predikciu veku a dnes zdieľame viac podrobností, keďže zavádzanie už prebieha.

ChatGPT používa model predikcie veku na odhad, či účet pravdepodobne patrí osobe mladšej ako 18 rokov. Model skúma kombináciu behaviorálnych a účtových signálov, vrátane toho, ako dlho účet existuje, typických časov dňa, keď je osoba aktívna, vzorcov používania v priebehu času a veku uvedeného používateľom. Nasadenie predikcie veku nám pomáha zistiť, ktoré signály zlepšujú presnosť, a tieto poznatky používame na priebežné zdokonaľovanie modelu.

Používatelia, ktorí sú nesprávne zaradení do prostredia pre osoby mladšie ako 18 rokov, budú mať vždy rýchly a jednoduchý spôsob, ako overiť svoj vek a obnoviť si plný prístup pomocou selfie cez Personu – zabezpečenú službu na overenie identity. Používatelia si môžu skontrolovať, či boli na ich účet pridané ochranné opatrenia, a tento proces môžu kedykoľvek spustiť prejdením na Nastavenia > Účet.

Keď model predikcie veku odhadne, že účet môže patriť osobe mladšej ako 18 rokov, ChatGPT automaticky aplikuje dodatočné ochrany⁠ navrhnuté na zníženie vystavenia citlivému obsahu, ako napríklad:

• Zreteľné násilie alebo drastický obsah
• Virálne výzvy, ktoré by mohli posmeľovať k riskantnému alebo škodlivému správaniu u maloletých
• Sexuálna, romantická alebo násilná hra na role
• Zobrazenia sebapoškodzovania
• Obsah, ktorý propaguje extrémne štandardy krásy, nezdravé diéty alebo bodyshaming

Tento prístup je vedený odbornými poznatkami a je zakorenený v akademickej literatúre o vede vývinu detí, a uznáva známe rozdiely u tínedžerov vo vnímaní rizika, kontrole impulzov, vplyve rovesníkov a emocionálnej regulácii. Hoci tieto obmedzenia obsahu pomáhajú znížiť vystavenie tínedžerov citlivému materiálu, sústreďujeme sa na neustále zlepšovanie týchto ochranných opatrení, najmä s cieľom riešiť pokusy o obchádzanie našich ochranných mechanizmov. Ak si nie sme istí vekom niekoho alebo máme neúplné informácie, predvolene použijeme bezpečnejšie prostredie.

Okrem týchto ochranných opatrení môžu rodičia ďalej prispôsobiť zážitok svojho tínedžera prostredníctvom rodičovskej kontroly⁠(otvorí sa v novom okne) vrátane nastavenia tichých hodín, počas ktorých sa ChatGPT nebude dať používať, ovládania funkcií, ako je pamäť alebo učenie modelu, a prijímania upozornení, ak sa zistia príznaky akútnej tiesne.

Učíme sa z počiatočného zavádzania a postupom času naďalej zlepšujeme presnosť predikcie veku. Budeme pozorne sledovať zavádzanie a tieto signály využijeme na usmerňovanie priebežných vylepšení.

V EÚ sa predikcia veku začne zavádzať v najbližších týždňoch, aby sa zohľadnili regionálne požiadavky. Pre viac informácií navštív našu stránku pomoci⁠(otvorí sa v novom okne).

Hoci je to dôležitý míľnik, naša práca na podpore bezpečnosti tínedžerov pokračuje. Budeme naďalej zdieľať aktualizácie o našom pokroku a o tom, čo sa učíme, v dialógu s odborníkmi vrátane Americkej psychologickej asociácie, ConnectSafely a Global siete lekárov (Global Physicians Network)⁠.