OpenAI podporuje kalifornský návrh zákona o bezpečnosti AI pre mladých

Ann O’Leary, viceprezidentka pre globálnu politiku

OpenAI podporuje návrh zákona kalifornského Senátu SB 1119, ktorý zavádza významné ochranné opatrenia pri používaní AI mladými ľuďmi a zároveň im zachováva prístup k nástrojom, ktoré im môžu pomôcť učiť sa, tvoriť a pripravovať sa na budúcnosť. Táto podpora nadväzuje na záväzok, ktorý minulý rok prijal spoluzakladateľ a generálny riaditeľ OpenAI Sam Altman pri predstavení zásad spoločnosti týkajúcich sa tínedžerov.

Keďže federálna vláda nekoná, Kalifornia má príležitosť stanoviť prísny štandard bezpečného používania AI mladými ľuďmi.

V našom liste guvernérovi Newsomovi⁠(otvorí sa v novom okne) oceňujeme jeho vedúcu úlohu v tejto dôležitej otázke, ako aj úsilie senátora Steva Padillu, členiek zhromaždenia Buffy Wicksovej a Rebeccy Bauer-Kahanovej a kalifornského zákonodarného zboru. SB 1119 nadväzuje na opatrenia na ochranu mladých ľudí, ktoré OpenAI podporuje prostredníctvom svojich produktov, globálnych politických zásad, presadzovania zmien v Kalifornii a práce na zákone Parents & Kids Safe AI Act. Vyzývame guvernéra Newsoma, aby návrh zákona podpísal.

Tínedžeri sú prvou generáciou, ktorá vyrastá s AI. Takmer deväť z desiatich tínedžerov, ktorí používajú ChatGPT, ho počas bežného týždňa využíva na učenie, získavanie informácií, rozvoj zručností alebo zvýšenie produktivity. S touto príležitosťou prichádza jasná zodpovednosť: tínedžeri by mali používať prostredie navrhnuté s ohľadom na ich osobitné vývinové potreby, so silnou predvolenou ochranou a vhodnými možnosťami učiť sa, tvoriť a objavovať.

Tento prístup odráža naša nová služba ChatGPT pre tínedžerov. Je navrhnutá tak, aby používateľom mladším ako 18 rokov pomáhala učiť sa, kriticky myslieť a tvoriť, pričom podporuje zdravé používanie, poskytuje zabudované ochranné opatrenia a dáva rodičom ďalšie možnosti kontroly. Ak náš systém odhadne, že osoba má menej ako 18 rokov, alebo uvedie vek od 13 do 17 rokov, automaticky ju zaradíme do služby ChatGPT pre tínedžerov. Tieto ochranné opatrenia sú súčasťou základného prostredia, nie voliteľnými nastaveniami, ktoré môžu používatelia vypnúť.

Vo všeobecnosti sme presvedčení, že tínedžeri môžu využívať výhody AI bez toho, aby sa znížila ich bezpečnosť. Tento cieľ je podstatou návrhu SB 1119.

SB 1119 spája silné ochranné opatrenia so zachovaním prístupu k užitočným nástrojom AI. Dôrazne podporujeme tieto kľúčové požiadavky:

• Určovať vek používateľa;
• Identifikovať a riešiť bezpečnostné riziká ešte pred sprístupnením produktu mladým ľuďom;
• Podstupovať nezávislé audity;
• Chrániť mladých ľudí pred škodlivým obsahom vrátane sebapoškodzovania, sexuálne vykorisťujúceho obsahu a ďalších vysokorizikových interakcií;
• Poskytovať rodičom nástroje na usmerňovanie a obmedzovanie používania deťmi;
• V prípade vážnych bezpečnostných rizík sprostredkovať mladým ľuďom zdroje krízovej pomoci a
• Obmedziť cielenú reklamu a chrániť osobné údaje mladých ľudí.

Na používateľov vo veku od 13 do 17 rokov by sa tieto ochranné opatrenia mali vzťahovať automaticky. Tento právny predpis by spojil zmysluplnú zodpovednosť s ochrannými opatreniami, ktoré by pomohli chrániť mladých ľudí pri používaní AI.

SB 1119 zároveň správne uznáva, že AI nie je sociálna sieť. Návrh zákona zavádza ochranné opatrenia prispôsobené tak, aby mladým ľuďom pomáhali používať AI na učenie, tvorbu a objavovanie. Pri tvorbe tohto rámca sa zákonodarcovia snažili zachovať prístup k vzdelávacím funkciám a funkciám dôležitým pre bezpečnosť vrátane zodpovedného používania pamäte ChatGPT a zároveň podporiť bezpečnejšie prostredie primerané veku tínedžerov.

ChatGPT pre tínedžerov obsahuje súbor funkcií prispôsobených ich vzdelávaniu, ako sú Kvízy, Vizualizácie učenia a režim štúdia. Vznikli v spolupráci s pedagógmi a odborníkmi na vzdelávanie, aby študentov krok za krokom sprevádzali riešením úloh. Tieto nástroje majú prehlbovať porozumenie a podporovať lepšie návyky pri učení. Funkcie využívajúce kontext predchádzajúcich konverzácií vrátane pamäte pomáhajú dôsledne uplatňovať ochranné opatrenia, rozpoznávať znepokojujúce vzorce a postupne poskytovať užitočnejšiu podporu pri učení.

Kontext zároveň pomáha týmto bezpečnostným a vzdelávacím nástrojom dlhodobo fungovať konzistentnejšie. Vďaka funkciám, ako je pamäť, si ChatGPT môže preniesť relevantné informácie a preferencie z predchádzajúcich konverzácií, takže tínedžeri môžu pokračovať v dlhodobejších vzdelávacích projektoch bez toho, aby začínali odznova. Táto kontinuita môže tiež pomôcť predchádzať posilňovaniu škodlivých vzorcov a umožniť účinnejšie reagovať, keď mladý človek potrebuje ďalšiu pomoc alebo zdroje.

Vyvažovanie bezpečnosti a učenia pre nás nie je novinkou. Za posledný rok sme pridali rodičovskú kontrolu, odhad veku, náš Plán bezpečnosti tínedžerov a Zásady pre osoby mladšie ako 18 rokov v našej špecifikácii modelu – pravidlá usmerňujúce zamýšľané správanie našich modelov. Tým sme stanovili nové štandardy ich interakcie s mladými ľuďmi. Zakazujú romantické interakcie, podporovanie emocionálnej závislosti a tvrdenia, že ChatGPT je človek alebo vedomá bytosť. Ponúkame aj rodičovskú kontrolu, ktorá rodinám umožňuje spravovať kľúčové nastavenia tínedžerov a dostávať upozornenia v situáciách s vysokým rizikom.

SB 1119 zavádza v Kalifornii pevný rámec na ochranu mladých ľudí pri používaní AI. Ďalšie skúmanie a spolupráca počas zavádzania môžu pomôcť zlepšiť kľúčové ustanovenia a zachovať účinnosť rámca aj s vývojom technológie. OpenAI sa teší na podporu tejto práce a na ďalšie vytváranie prostredí AI, ktoré pristupujú k tínedžerom ako k tínedžerom, poskytujú im silnejšiu automatickú ochranu a zmysluplné možnosti učiť sa a rozvíjať sa.