OpenAI remia Kalifornijos įstatymo projektą dėl jaunimo DI saugos

Ann O’Leary, pasaulinės politikos viceprezidentė

OpenAI remia Kalifornijos Senato įstatymo projektą SB 1119, kuriuo nustatomos reikšmingos jaunimo naudojimosi DI apsaugos priemonės, kartu išsaugant prieigą prie įrankių, padedančių mokytis, kurti ir ruoštis ateičiai. Ši parama grindžiama įsipareigojimu, kurį pernai prisiėmė OpenAI vienas iš įkūrėjų ir generalinis direktorius Samas Altmanas, pristatydamas paaugliams taikomus bendrovės principus.

Federalinei valdžiai nesiimant veiksmų, Kalifornija turi galimybę nustatyti aukštą jaunimo DI saugos standartą.

Savo laiške gubernatoriui Newsomui⁠(atsidaro naujame lange) dėkojame jam, senatoriui Steve’ui Padillai, Asamblėjos nariams Buffy Wicks ir Rebeccai Bauer-Kahan bei Kalifornijos įstatymų leidėjams už lyderystę sprendžiant šį svarbų klausimą. SB 1119 papildo jaunimo saugos priemones, kurias OpenAI remia savo produktais, pasaulinės politikos principais, advokacija Kalifornijoje ir darbu rengiant Tėvų ir vaikų saugaus DI įstatymą. Raginame gubernatorių Newsomą pasirašyti šį įstatymo projektą.

Paaugliai yra pirmoji karta, auganti su DI. Beveik devyni iš dešimties ChatGPT besinaudojančių paauglių per savaitę jį pasitelkia mokymuisi, informacijai gauti, įgūdžiams lavinti ar produktyvumui didinti. Šią galimybę lydi aiški atsakomybė: paaugliams skirtos funkcijos turi būti kuriamos atsižvelgiant į jų raidos poreikius, numatant griežtas numatytąsias apsaugos priemones ir tinkamas galimybes mokytis, kurti bei tyrinėti.

Tokį požiūrį atspindi mūsų neseniai pristatytas ChatGPT paaugliams. Jis sukurtas tam, kad jaunesni nei 18 metų naudotojai galėtų mokytis, kritiškai mąstyti ir kurti, kartu skatinant sveikus naudojimosi įpročius, užtikrinant integruotas apsaugos priemones ir suteikiant tėvams papildomų kontrolės galimybių. Jei mūsų sistema nustato, kad asmeniui nėra 18 metų, arba jis nurodo, kad jam yra 13–17 metų, automatiškai įjungiamas ChatGPT paaugliams. Šios apsaugos priemonės yra standartinės naudojimosi sąlygos, o ne pasirinktinės nuostatos, kurias naudotojai gali išjungti.

Apskritai manome, kad paaugliai gali naudotis DI teikiama nauda neaukodami saugumo – būtent šis tikslas yra SB 1119 pagrindas.

SB 1119 suderina griežtas apsaugos priemones ir tolesnę prieigą prie naudingų DI įrankių. Tvirtai remiame šiuos pagrindinius reikalavimus:

• Nustatyti naudotojo amžių;
• Nustatyti ir pašalinti saugos riziką prieš suteikiant jaunimui galimybę naudotis produktu;
• Atlikti nepriklausomus auditus;
• Apsaugoti jaunimą nuo žalingo turinio, įskaitant savęs žalojimą, seksualinį išnaudojimą skatinantį turinį ir kitą didelės rizikos sąveiką;
• Suteikti tėvams įrankių, padedančių prižiūrėti ir riboti vaikų naudojimąsi;
• Kilus rimtai grėsmei saugumui, nukreipti jaunimą į pagalbos krizių atvejais išteklius; ir
• Riboti tikslinę reklamą ir saugoti jaunimo asmens duomenis.

Nustačius, kad naudotojui yra 13–17 metų, šios apsaugos priemonės turėtų būti taikomos automatiškai. Šis teisės aktas suderintų prasmingą atskaitomybę su apsaugos priemonėmis, padedančiomis apsaugoti DI besinaudojantį jaunimą.

SB 1119 taip pat pagrįstai pripažįstama, kad DI nėra socialiniai tinklai. Įstatymo projektu nustatomos apsaugos priemonės, pritaikytos padėti jaunimui naudoti DI mokantis, kuriant ir tyrinėjant. Rengdami šią sistemą, politikos formuotojai siekė išsaugoti prieigą prie švietimui ir saugai svarbių funkcijų, įskaitant atsakingą ChatGPT atminties funkcijos naudojimą, ir kartu užtikrinti saugesnes, paauglių amžių atitinkančias naudojimosi sąlygas.

ChatGPT paaugliams apima specialiai mokymuisi pritaikytų funkcijų rinkinį: viktorinas, mokomąsias vizualizacijas ir Mokymosi režimą, sukurtą kartu su pedagogais bei mokymosi ekspertais, kad mokiniai galėtų uždavinius spręsti nuosekliai, žingsnis po žingsnio. Šie įrankiai skirti padėti geriau suprasti medžiagą ir ugdyti veiksmingesnius mokymosi įpročius. Funkcijos, kurios naudoja ankstesnių pokalbių kontekstą, įskaitant atmintį, padeda nuosekliai taikyti apsaugos priemones, atpažinti nerimą keliančius dėsningumus ir ilgainiui teikti naudingesnę pagalbą mokantis.

Kontekstas taip pat padeda šioms saugos ir mokymosi priemonėms ilgainiui veikti nuosekliau. Naudodamas tokias funkcijas kaip atmintis, ChatGPT gali iš ankstesnių pokalbių išsaugoti aktualią informaciją ir nuostatas, todėl paaugliai gali tęsti ilgalaikius mokymosi projektus nepradėdami iš naujo. Toks tęstinumas taip pat gali padėti nestiprinti žalingų elgesio modelių ir veiksmingiau reaguoti, kai jaunam žmogui gali prireikti papildomos pagalbos ar išteklių.

Saugos ir mokymosi derinimas mums nėra naujiena. Per pastaruosius metus pristatėme tėvų kontrolę, amžiaus nustatymą, savo Paauglių saugos planą ir į modelio specifikaciją įtrauktus principus jaunesniems nei 18 metų asmenims – taisykles, apibrėžiančias numatomą mūsų modelių elgesį, – taip nustatydami naujus jų sąveikos su jaunimu standartus. Pagal šias taisykles draudžiami romantiški santykiai, emocinės priklausomybės skatinimas ir teiginiai, kad ChatGPT yra žmogus arba sąmoninga būtybė. Taip pat siūlome tėvų kontrolę, leidžiančią šeimoms valdyti pagrindines paauglių nuostatas ir gauti pranešimus didelės rizikos atvejais.

SB 1119 nustatoma tvirta jaunimo DI saugos sistema Kalifornijoje. Tolesni tyrimai ir bendradarbiavimas įgyvendinimo metu gali padėti patobulinti pagrindines nuostatas ir užtikrinti sistemos veiksmingumą tobulėjant technologijoms. OpenAI tikisi prisidėti prie šio darbo ir toliau kurti paaugliams pritaikytas DI funkcijas, užtikrinančias griežtesnes automatines apsaugos priemones ir prasmingas galimybes mokytis bei tobulėti.