OpenAI toetab California noorte AI-turvalisuse eelnõu

Ann O’Leary, globaalse poliitika asepresident

OpenAI toetab California senati eelnõu 1119, millega kehtestatakse sisulised kaitsemeetmed noorte AI-kasutusele, säilitades samal ajal nende juurdepääsu tööriistadele, mis aitavad õppida, luua ja tulevikuks valmistuda. See toetus lähtub kohustusest, mille OpenAI kaasasutaja ja tegevjuht Sam Altman võttis eelmisel aastal, kui tutvustas ettevõtte põhimõtteid teismeliste kohta.

Kuna föderaalsel tasandil pole tegutsetud, on Californial võimalus kehtestada noorte AI-turvalisusele kõrge standard.

Oma kirjas kuberner Newsomile⁠(avaneb uues aknas) tunnustame teda ning senaator Steve Padillat, California osariigi assamblee liikmeid Buffy Wicksi ja Rebecca Bauer-Kahani ning California seadusandlikku kogu selle tähtsa küsimuse eestvedamise eest. SB 1119 tugineb noorte turvameetmetele, mida OpenAI on toetanud oma toodete, üleilmsete poliitikapõhimõtete, Californias tehtud huvikaitsetöö ning vanemate ja laste turvalise AI seaduse kaudu. Kutsume kuberner Newsomit üles eelnõu seadusena allkirjastama.

Teismelised on esimene põlvkond, kes kasvab üles koos AI-ga. Peaaegu üheksa kümnest ChatGPT‑d kasutavast teismelisest kasutab seda nädala jooksul õppimiseks, teabe hankimiseks, oskuste arendamiseks või tööviljakuse suurendamiseks. Selle võimalusega kaasneb selge vastutus: teismeliste kasutuskogemus peab arvestama nende eriliste arenguvajadustega ning pakkuma tugevaid vaikekaitseid ja sobivaid võimalusi õppimiseks, loomiseks ja avastamiseks.

Seda lähenemist järgib ka meie hiljuti turule toodud ChatGPT teismelistele. See aitab alla 18-aastastel kasutajatel õppida, kriitiliselt mõelda ja luua, soodustades tervislikku kasutust, pakkudes sisseehitatud kaitsemeetmeid ning andes vanematele lisavõimalusi järelevalveks. Kui meie süsteemi hinnangul on kasutaja alla 18-aastane või ta märgib oma vanuseks 13–17 aastat, suunatakse ta automaatselt teismelistele mõeldud ChatGPT‑sse. Need kaitsemeetmed on põhikogemuse osa, mitte valikulised seaded, mille kasutaja saab välja lülitada.

Laiemalt usume, et teismelised saavad AI-st kasu lõigata ilma turvalisuses järeleandmisi tegemata – see eesmärk on SB 1119 keskmes.

SB 1119 ühendab tugevad kaitsemeetmed kasulike AI-tööriistade jätkuva kättesaadavusega. Toetame kindlalt järgmisi põhinõudeid:

• Kasutaja vanuse kindlaksmääramine;
• turvariskide tuvastamine ja kõrvaldamine enne toote noortele kättesaadavaks tegemist;
• sõltumatute auditite läbimine;
• noorte kaitsmine kahjuliku sisu, sealhulgas enesevigastamise, seksuaalselt ärakasutava sisu ja muude suure riskiga suhtluste eest;
• vanematele tööriistade pakkumine, et nad saaksid oma laste kasutust suunata ja piirata;
• tõsiste turvariskide korral noorte suunamine kriisiabiteenuste juurde ning
• suunatud reklaami piiramine ja noorte isikuandmete kaitsmine.

13–17-aastaseks tuvastatud kasutajatele peaksid need kaitsemeetmed rakenduma automaatselt. See õigusakt ühendaks sisulise vastutuse kaitsemeetmetega, mis aitaksid noori AI kasutamisel kaitsta.

SB 1119 tunnistab õigesti ka seda, et AI ei ole sotsiaalmeedia. Eelnõuga kehtestatakse kaitsemeetmed, mis aitavad noortel kasutada AI-d õppimiseks, loomiseks ja avastamiseks. Seda raamistikku välja töötades püüdsid poliitikakujundajad säilitada juurdepääsu hariduslikele ja turvalisuse seisukohalt olulistele funktsioonidele, sealhulgas ChatGPT mälufunktsiooni vastutustundlikele kasutusviisidele, edendades samal ajal teismelistele turvalisemat ja eakohasemat kasutuskogemust.

Teismelistele mõeldud ChatGPT sisaldab spetsiaalselt õppimist toetavaid funktsioone, nagu viktoriinid, õppevisualiseeringud ja õpperežiim, mis on loodud koostöös õpetajate ja õppeekspertidega, et juhendada õpilasi ülesannete lahendamisel samm-sammult. Need tööriistad aitavad teadmisi süvendada ja kujundada paremaid õpiharjumusi. Varasemate vestluste konteksti kasutavad funktsioonid, sealhulgas mälu, aitavad kaitsemeetmeid järjepidevalt rakendada, murettekitavaid mustreid märgata ja pakkuda aja jooksul kasulikumat õpiabi.

Kontekst aitab ka turva- ja õppevahenditel aja jooksul järjepidevamalt toimida. Selliste funktsioonide nagu mälu abil saab ChatGPT varasematest vestlustest asjakohase teabe ja eelistused üle võtta, võimaldades teismelistel pikemaajalisi õppeprojekte jätkata ilma otsast alustamata. Selline järjepidevus aitab vältida ka kahjulike mustrite kinnistamist ning tõhusamalt reageerida, kui noor võib vajada lisaabi või -ressursse.

Turvalisuse ja õppimise tasakaalustamine pole meie jaoks midagi uut. Viimase aasta jooksul oleme lisanud vanemliku järelevalve, vanuse prognoosimise, oma teismeliste turvalisuse tegevuskava ning alla 18-aastaseid käsitlevad põhimõtted meie mudeli spetsifikatsiooni – reeglitesse, mis suunavad meie mudelite kavandatud käitumist –, et kehtestada uued standardid mudelite suhtlusele noortega. Need keelavad romantilise lähenemise, emotsionaalse sõltuvuse õhutamise ning väited, et ChatGPT on inimene või teadvusega olend. Pakume ka vanemlikku järelevalvet, mis võimaldab peredel hallata teismeliste põhiseadeid ja saada suure riskiga olukordades teavitusi.

SB 1119 kehtestab Californias tugeva raamistiku noorte AI-turvalisusele. Rakendamise ajal jätkuv uurimistöö ja koostöö võivad aidata põhisätteid täiustada ning hoida raamistikku tehnoloogia arenedes tõhusana. OpenAI soovib seda tööd toetada ja jätkata selliste AI-kogemuste loomist, mis kohtlevad teismelisi teismelistena, pakkudes neile tugevamat automaatset kaitset ning sisulisi võimalusi õppida ja areneda.