OpenAI atbalsta Kalifornijas jauniešu MI drošības likumprojektu

Autore Anna O'Līrija, globālās politikas viceprezidente

OpenAI atbalsta Kalifornijas Senāta likumprojektu SB 1119, kas paredz būtiskus drošības pasākumus jauniešu MI lietošanai, vienlaikus saglabājot viņiem piekļuvi rīkiem, kuri palīdz mācīties, radīt un gatavoties nākotnei. Šis atbalsts turpina apņemšanos, ko OpenAI līdzdibinātājs un izpilddirektors Sems Altmans pauda pagājušajā gadā, izklāstot uzņēmuma principus attiecībā uz pusaudžiem.

Kamēr federālā līmenī netiek netiek veikti pasākumi, Kalifornijai ir iespēja noteikt stingru jauniešu MI drošības standartu.

Savā vēstulē gubernatoram Ņūsomam⁠(atveras jaunā logā) mēs atzinīgi vērtējam viņa, senatora Stīva Padiljas, Asamblejas locekļu Bafijas Viksas un Rebekas Baueres-Kānas, kā arī Kalifornijas likumdevēja vadošo lomu šajā svarīgajā jautājumā. SB 1119 papildina jauniešu drošības pasākumus, ko OpenAI ir atbalstījis savos produktos, globālās politikas principos, interešu aizstāvības darbā Kalifornijā un darbā pie Parents & Kids Safe AI Act. Mēs aicinām gubernatoru Ņūsomu parakstīt šo likumprojektu.

Pusaudži ir pirmā paaudze, kas uzaug kopā ar MI. Gandrīz deviņi no desmit pusaudžiem, kuri lieto ChatGPT, ik nedēļu to izmanto mācībām, informācijas iegūšanai, prasmju attīstīšanai vai produktivitātei. Šī iespēja ietver skaidru atbildību: pusaudžiem paredzētajai pieredzei jāatbilst viņu īpašajām attīstības vajadzībām, nodrošinot stingru aizsardzību pēc noklusējuma un piemērotas iespējas mācīties, radīt un izzināt.

Šī pieeja ir īstenota mūsu nesen ieviestajā modelī ChatGPT pusaudžiem. Tas ir izstrādāts, lai palīdzētu lietotājiem, kuri nav sasnieguši 18 gadu vecumu, mācīties, kritiski domāt un radīt, vienlaikus veicinot veselīgus lietošanas paradumus, nodrošinot iebūvētus aizsardzības pasākumus un sniedzot vecākiem papildu kontroles iespējas. Ja mūsu sistēma lēš, ka lietotājs nav sasniedzis 18 gadu vecumu, vai lietotājs norāda, ka viņam ir no 13 līdz 17 gadiem, viņš automātiski nonāk modeļa ChatGPT pusaudžiem vidē. Šie aizsardzības pasākumi ir pamatpieredzes daļa, nevis izvēles iestatījumi, kurus lietotāji var izslēgt.

Plašāk raugoties, mēs uzskatām, ka pusaudži var gūt labumu no MI, neupurējot drošību, un šis mērķis ir SB 1119 pamatā.

SB 1119 apvieno stingru aizsardzību ar pastāvīgu piekļuvi noderīgiem MI rīkiem. Mēs stingri atbalstām šīs galvenās prasības:

• Noteikt lietotāja vecumu;
• Pirms produkta nodošanas jauniešu rīcībā apzināt un novērst drošības riskus;
• Veikt neatkarīgas revīzijas;
• Aizsargāt jauniešus no kaitīga satura, tostarp paškaitējuma, seksuālas izmantošanas satura un citas augsta riska mijiedarbības;
• Nodrošināt vecākiem rīkus, ar kuriem pārraudzīt un ierobežot savu bērnu MI lietošanu;
• Nopietnu drošības risku gadījumā savienot jauniešus ar krīzes atbalsta resursiem; un
• Ierobežot mērķētu reklāmu un aizsargāt jauniešu personas informāciju.

Lietotājiem, kuri identificēti kā 13–17 gadus veci, šie aizsardzības pasākumi jāpiemēro automātiski. Šis tiesību akts apvienotu jēgpilnu pārskatatbildību ar aizsardzības pasākumiem, kas palīdzētu pasargāt jauniešus MI lietošanas laikā.

SB 1119 arī pamatoti atzīst, ka MI nav sociālie mediji. Likumprojekts paredz aizsardzības pasākumus, kas pielāgoti, lai palīdzētu jauniešiem izmantot MI mācībām, radīšanai un izziņai. Izstrādājot šo regulējumu, politikas veidotāji centās saglabāt piekļuvi izglītībai un drošībai būtiskām funkcijām, tostarp atbildīgai ChatGPT atmiņas funkcijas lietošanai, vienlaikus veicinot drošāku un pusaudžu vecumam atbilstošu pieredzi.

ChatGPT pusaudžiem ietver īpaši mācību atbalstam pielāgotu funkciju kopumu, piemēram, viktorīnas, mācību vizualizācijas un Mācību režīmu, kas izstrādāts kopā ar pedagogiem un mācību ekspertiem, lai soli pa solim palīdzētu skolēniem risināt uzdevumus. Šie rīki ir paredzēti, lai padziļinātu izpratni un palīdzētu veidot labākus mācīšanās paradumus. Funkcijas, kas izmanto iepriekšējo sarunu kontekstu, tostarp atmiņu, palīdz konsekventi piemērot aizsardzības pasākumus, atpazīt satraucošas tendences un laika gaitā sniegt noderīgāku atbalstu mācībās.

Konteksts arī palīdz šiem drošības un mācību rīkiem laika gaitā darboties konsekventāk. Izmantojot tādas funkcijas kā atmiņa, ChatGPT var saglabāt būtisku informāciju un preferences no iepriekšējām sarunām, ļaujot pusaudžiem turpināt ilgtermiņa mācību projektus, nesākot visu no jauna. Šī nepārtrauktība var arī palīdzēt izvairīties no kaitīgu tendenču nostiprināšanas un nodrošināt efektīvākas atbildes, ja jaunietim var būt vajadzīga papildu palīdzība vai resursi.

Drošības un mācību līdzsvarošana mums nav nekas jauns. Pagājušā gada laikā esam ieviesuši vecāku kontroli, vecuma prognozēšanu, mūsu Pusaudžu drošības plānu un principus personām līdz 18 gadu vecumam mūsu modeļa specifikācijā — noteikumos, kas nosaka mūsu modeļu paredzēto rīcību, — lai ieviestu jaunus standartus to mijiedarbībai ar jauniešiem. Tie aizliedz romantisku iesaistīšanos, emocionālas atkarības veicināšanu un apgalvojumus, ka ChatGPT ir cilvēks vai apzinīga būtne. Piedāvājam arī vecāku kontroli, kas ļauj ģimenēm pārvaldīt svarīgākos pusaudžu iestatījumus un saņemt paziņojumus augsta riska situācijās.

SB 1119 nosaka stingru regulējumu jauniešu MI drošībai Kalifornijā. Turpmāka izpēte un sadarbība ieviešanas laikā var palīdzēt pilnveidot galvenos noteikumus un saglabāt regulējuma efektivitāti, tehnoloģijai attīstoties. OpenAI vēlas atbalstīt šo darbu un turpināt veidot tādu MI pieredzi, kas izturas pret pusaudžiem atbilstoši viņu vecumam, nodrošinot stingrāku automātisku aizsardzību un jēgpilnas iespējas mācīties un augt.