Aktualizujeme našu špecifikáciu modelu s ochranou pre tínedžerov.
Na základe odborného vedenia nové princípy U18 načrtávajú, ako by mal ChatGPT poskytovať podporu tínedžerom s bezpečným a veku primeraným správaním.
Zdieľame aktualizáciu našej Model Spec, písaného súboru pravidiel, hodnôt a očakávaní správania, ktoré usmerňujú, ako chceme, aby sa naše modely umelej inteligencie správali, najmä v náročných alebo kritických situáciách, s novými Princípmi pre osoby mladšie ako 18 rokov (U18)(otvorí sa v novom okne). Správanie modelu je kľúčové pre to, ako ľudia interagujú s umelou inteligenciou, a dospievajúci majú odlišné vývinové potreby ako dospelí.
Princípy U18 usmerňujú, ako by mal ChatGPT poskytovať bezpečný a veku primeraný zážitok pre tínedžerov vo veku od 13 do 17 rokov. Tento prístup, založený na vývinovej vede, kladie dôraz na prevenciu, transparentnosť a skorú intervenciu. Pri vývoji týchto princípov sme ich ukázali externým odborníkom vrátane Americkej psychologickej asociácie, ako súčasť našej prebiehajúcej práce na získavaní spätnej väzby na posilnenie nášho prístupu.
Zatiaľ čo princípy model Spec naďalej platia pre dospelých aj používateľov, táto aktualizácia objasňuje, ako sa tieto princípy uplatňujú v kontexte používateľov, najmä tam, kde môžu byť bezpečnostné úvahy pre maloletých výraznejšie.
Princípy U18 sú zakotvené v štyroch základných záväzkoch:
- Uprednostnite bezpečnosť tínedžerov, aj keď to môže byť v rozpore s inými cieľmi
- Podporujte reálnu podporu tým, že budete podporovať offline vzťahy a dôveryhodné zdroje
- Zaobchádzajte s tínedžermi ako s tínedžermi - ani ich nepodceňujte, ani s nimi nezaobchádzajte ako s dospelými
- Buďte transparentní tým, že nastavíte jasné očakávania
V súlade s naším Plánom bezpečnosti tínedžerov nás tieto princípy viedli v našej práci v oblasti bezpečnosti tínedžerov až doteraz, vrátane ochrany obsahu, ktorú aplikujeme na používateľov, ktorí nám pri zaregistrovaní oznámia, že majú menej ako 18 rokov, a prostredníctvom rodičovskej kontroly. V týchto kontextoch sme zaviedli bezpečnostné opatrenia, aby sme model usmernili k zvýšenej opatrnosti pri diskusii o oblastiach s vyšším rizikom, vrátane sebapoškodzovania a samovraždy, romantického alebo sexualizovaného hrania rolí, grafického alebo explicitného obsahu, nebezpečných aktivít a látok, vnímania tela a porúch príjmu potravy a žiadostí o utajenie nebezpečného správania.
Americká psychologická asociácia, ktorá preskúmala skorý návrh špecifikácie modelu U18 a poskytla dôležité poznatky pre dlhodobý horizont, jasne zdôrazňuje dôležitosť ochrany tínedžerov:
APA povzbudzuje vývojárov umelej inteligencie, aby ponúkali vývojovo vhodné opatrenia pre mladých používateľov svojich produktov a aby zaujali ochranný prístup k mladším používateľom. Deti a dospievajúci môžu mať úžitok z nástrojov umelej inteligencie, ak sú vyvážené ľudskými interakciami, ktoré podľa vedy sú kľúčové pre sociálny, psychologický, behaviorálny a dokonca aj biologický rozvoj. Skúsenosti mládeže s umelou inteligenciou by mali byť dôkladne sledované a diskutované s dôveryhodnými dospelými, aby sa podporila kritická revízia toho, čo ponúkajú AI boti, a aby sa podporil rozvoj nezávislého myslenia a zručností mladých ľudí.
Táto aktualizácia tiež objasňuje, ako by mal asistent reagovať, keď vzniknú obavy o bezpečnosť mladistvých. To znamená, že tínedžeri by mali naraziť na silnejšie ochranné opatrenia, bezpečnejšie alternatívy a povzbudenie, aby hľadali dôveryhodnú offline podporu, keď sa konverzácie presunú do rizikovejšieho územia. Ak existuje bezprostredné riziko, mladiství sú vyzývaní, aby kontaktovali tiesňové služby alebo krízové zdroje.
Rovnako ako zvyšok špecifikácie modelu, aj princípy U18 odrážajú naše zamýšľané správanie modelu. Budeme pokračovať v ich zdokonaľovaní, keď začleníme nový výskum, Vstup odborníkov a používanie v reálnom svete.
Spolu s aktualizáciou špecifikácie modelu sme prijali viacvrstvový prístup k posilneniu bezpečnosti tínedžerov v rámci ChatGPT, ktorý zahŕňa produktové opatrenia, podporu rodiny a odborné poradenstvo.
Od zavedenia rodičovské kontroly(otvorí sa v novom okne) sme rozšírili ochranu na nové produkty vrátane skupinových chatov, prehliadača ChatGPT Atlas a aplikácie Sora. Tieto aktualizácie pomáhajú rodičom prispôsobiť zážitok ich tínedžerov s ChatGPT, keď zavádzame nové produkty a funkcie.
V súlade s odborným usmernením povzbudzujeme rodičov a tínedžerov k neustálym konverzáciám o zdravom a zodpovednom používaní umelej inteligencie vo svojich rodinách. Na podporu týchto konverzácií sme pridali nové odborníkmi overené zdroje do centra zdrojov pre rodičov(otvorí sa v novom okne) vrátane Rodinného sprievodcu na pomoc tínedžerom používať AI zodpovedne(otvorí sa v novom okne) a tipov pre rodičov(otvorí sa v novom okne) o tom, ako hovoriť so svojimi deťmi o umelej inteligencii, ktoré boli preverené organizáciou ConnectSafely a členmi našej Rady odborníkov pre zdravie a AI. Budeme naďalej pokračovať v priebežnom pridávaní ďalších zdrojov. Podporujeme aj zdravé používanie priamo v produkte, s zabudovanými pripomienkami na prestávky počas dlhých relácií, aby sme pomohli udržiavať čas strávený s ChatGPT zámerný a vyvážený.
Naša práca v oblasti bezpečnosti tínedžerov je riadená úzkou spoluprácou s odborníkmi naprieč rôznymi disciplínami a oblasťami odbornosti. V októbri sme založili Expertnú radu pre zdravie a umelú inteligenciu, aby nám pomohla radiť a definovať, ako by mali vyzerať zdravé interakcie s umelou inteligenciou pre všetky vekové kategórie. Táto práca poskytla usmernenia o rodičovskej kontrole a upozorneniach pre rodičov. Taktiež začleňujeme klinickú odbornosť prostredníctvom našej Globálnej siete lekárov na informovanie o bezpečnostnom výskume a hodnotenie správania modelu, vrátane zlepšenia spôsobu, akým ChatGPT rozpoznáva tiesňové situácie a usmerňuje ľudí k profesionálnej starostlivosti, keď je to vhodné. Na týchto základoch sme postavili GPT‑5.2 a tiež sme rozšírili prístup k reálnej podpore tým, že sme v ChatGPT a Sora sprístupnili lokalizované linky pomoci prostredníctvom nášho partnerstva s ThroughLine(otvorí sa v novom okne).
Nachádzame sa v počiatočných fázach zavádzania modelu predikcie veku(otvorí sa v novom okne) na spotrebiteľských tarifách ChatGPT. Toto nám pomôže automaticky aplikovať bezpečnostné opatrenia pre tínedžerov, keď veríme, že účet patrí maloletému. Ak si nie sme istí vekom niekoho alebo máme neúplné informácie, predvolené použijeme prostredie pre osoby mladšie ako 18 rokov a dospelým poskytneme spôsoby, ako overiť svoj vek.
Posilňovanie bezpečnosti tínedžerov je neustála práca a budeme pokračovať v zlepšovaní rodičovských kontrol a schopností modelov, rozširovať zdroje pre rodičov, spolupracovať s organizáciami, výskumníkmi a odbornými partnermi vrátane Rady pre pohodu a Globálnej siete lekárov.
Zaviazali sme sa k silnej ochrane tínedžerov a k jej postupnému zlepšovaniu, aby sme lepšie poskytli podporu tínedžerom a rodinám.
