OpenAI podporuje kalifornský zákon o bezpečnosti AI pro mládež

Ann O’Leary, viceprezidentka pro globální politiku

OpenAI podporuje návrh kalifornského senátního zákona SB 1119, který zavádí smysluplná ochranná opatření pro používání AI mladými lidmi a zároveň jim zachovává přístup k nástrojům, které jim mohou pomoci učit se, tvořit a připravovat se na budoucnost. Tato podpora navazuje na závazek, který loni přijal spoluzakladatel a generální ředitel OpenAI Sam Altman, když představil firemní principy týkající se dospívajících.

Vzhledem k nečinnosti federálních orgánů má Kalifornie příležitost nastavit vysoký standard bezpečnosti mladých lidí při používání AI.

V našem dopise guvernéru Newsomovi⁠(otevře se v novém okně) oceňujeme jeho vedoucí úlohu v této důležité otázce, stejně jako úsilí senátora Steva Padilly, členek státního shromáždění Buffy Wicks a Rebeccy Bauer-Kahan a kalifornského zákonodárného sboru. SB 1119 navazuje na opatření na ochranu mladých lidí, která OpenAI podpořila prostřednictvím svých produktů, principů globálních zásad, prosazování změn v Kalifornii a práce na zákoně o bezpečné AI pro rodiče a děti. Vyzýváme guvernéra Newsoma, aby návrh podepsal a uvedl jej v platnost.

Dospívající jsou první generací, která vyrůstá s AI. Téměř devět z deseti dospívajících, kteří používají ChatGPT, jej během týdne využívá k učení, získávání informací, rozvoji dovedností nebo zvyšování produktivity. S touto příležitostí přichází jasná odpovědnost: dospívající by měli mít prostředí navržené s ohledem na své specifické vývojové potřeby, se silnou výchozí ochranou a vhodnými příležitostmi učit se, tvořit a objevovat.

Tento přístup odráží naše nově spuštěné prostředí ChatGPT pro dospívající. Je navrženo tak, aby uživatelům mladším 18 let pomáhalo učit se, kriticky myslet a tvořit, zároveň podporovalo zdravé používání, nabízelo integrovaná ochranná opatření a poskytovalo rodičům další možnosti kontroly. Pokud náš systém odhadne, že je někomu méně než 18 let, nebo uživatel uvede věk od 13 do 17 let, automaticky jej zařadíme do prostředí ChatGPT pro dospívající. Tato ochranná opatření jsou součástí základního prostředí – nikoli volitelným nastavením, které mohou uživatelé vypnout.

Obecněji věříme, že dospívající mohou využívat výhody AI bez ohrožení bezpečnosti, což je cíl, který stojí v centru návrhu SB 1119.

SB 1119 spojuje důkladnou ochranu se zachováním přístupu k užitečným nástrojům AI. Důrazně podporujeme tyto klíčové požadavky:

• Zjišťovat věk uživatele;
• Rozpoznat a řešit bezpečnostní rizika před zpřístupněním produktu mladým lidem;
• Podstupovat nezávislé audity;
• Chránit mladé lidi před škodlivým obsahem, včetně sebepoškozování, sexuálně zneužívajícího obsahu a dalších vysoce rizikových interakcí;
• Poskytnout rodičům nástroje, kterými mohou používání služby svými dětmi usměrňovat a omezovat;
• Propojit mladé lidi se zdroji krizové pomoci, pokud vzniknou závažná bezpečnostní rizika; a
• Omezit cílenou reklamu a chránit osobní údaje mladých lidí.

U uživatelů ve věku od 13 do 17 let by se tato ochranná opatření měla uplatňovat automaticky. Tento zákon by spojil smysluplnou odpovědnost s ochrannými opatřeními, která by pomáhala chránit mladé lidi při používání AI.

SB 1119 také správně uznává, že AI není sociální síť. Návrh zákona zavádí ochranná opatření uzpůsobená tak, aby mladým lidem pomáhala používat AI k učení, tvorbě a objevování. Při tvorbě tohoto rámce se zákonodárci snažili zachovat přístup ke vzdělávacím a bezpečnostně důležitým funkcím, včetně odpovědného používání paměti ChatGPT, a zároveň podporovat bezpečnější prostředí přiměřené věku dospívajících.

ChatGPT pro dospívající nabízí sadu funkcí speciálně uzpůsobených k podpoře učení, jako jsou Kvízy, Výukové vizualizace a Studijní mód. Tyto funkce vznikly ve spolupráci s pedagogy a odborníky na vzdělávání, aby studenty provázely řešením problémů krok za krokem. Tyto nástroje mají prohlubovat porozumění a podporovat lepší studijní návyky. Funkce využívající kontext předchozích konverzací, včetně paměti, pomáhají důsledně uplatňovat ochranná opatření, rozpoznávat znepokojivé vzorce a postupem času poskytovat užitečnější podporu při učení.

Kontext také pomáhá, aby tyto bezpečnostní a vzdělávací nástroje dlouhodobě fungovaly spolehlivěji. Díky funkcím, jako je paměť, si ChatGPT může uchovávat relevantní informace a preference z předchozích konverzací, takže dospívající mohou pokračovat v dlouhodobějších vzdělávacích projektech, aniž by museli začínat znovu. Tato kontinuita může také pomoci předcházet posilování škodlivých vzorců a podpořit účinnější reakce v situacích, kdy mladý člověk potřebuje další pomoc nebo zdroje.

Vyvažování bezpečnosti a učení pro nás není novinkou. Během uplynulého roku jsme přidali rodičovskou kontrolu, odhad věku, náš plán bezpečnosti dospívajících a zásady pro osoby mladší 18 let ve specifikaci modelu – tedy pravidla určující zamýšlené chování našich modelů. Tím nastavujeme nové standardy jejich interakce s mladými lidmi. Zakazují romantické vztahy, podporování citové závislosti a tvrzení, že ChatGPT je člověk nebo vnímající bytost. Nabízíme také rodičovskou kontrolu, která rodinám umožňuje spravovat klíčová nastavení pro dospívající a dostávat upozornění ve vysoce rizikových situacích.

SB 1119 zavádí v Kalifornii silný rámec pro bezpečnost mladých lidí při používání AI. Průběžné zkoumání a spolupráce během zavádění mohou pomoci zlepšovat klíčová ustanovení a zachovat účinnost rámce i s vývojem technologie. OpenAI se těší, že tuto práci podpoří a bude nadále vytvářet prostředí AI, které přistupuje k dospívajícím jako k dospívajícím, poskytuje jim silnější automatickou ochranu a smysluplné příležitosti učit se a rozvíjet se.