OpenAI styður frumvarp Kaliforníu um AI-öryggi ungmenna

Ann O’Leary, varaforseti alþjóðlegrar stefnumótunar

OpenAI styður frumvarp 1119 í öldungadeild Kaliforníu, sem innleiðir öflugar öryggisráðstafanir um notkun ungs fólks á gervigreind en tryggir því áfram aðgang að verkfærum sem geta hjálpað því að læra, skapa og búa sig undir framtíðina. Stuðningurinn byggir á skuldbindingu sem Sam Altman, meðstofnandi og forstjóri OpenAI, gaf í fyrra þegar hann kynnti meginreglur fyrirtækisins varðandi unglinga.

Þar sem alríkisstjórnin hefur ekki gripið til aðgerða hefur Kalifornía tækifæri til að setja metnaðarfull viðmið um öryggi ungmenna við notkun gervigreindar.

Í bréfi okkar til Newsom ríkisstjóra⁠(opnast í nýjum glugga) hrósum við honum, Steve Padilla öldungadeildarþingmanni, þingkonunum Buffy Wicks og Rebecca Bauer-Kahan og löggjafarþingi Kaliforníu fyrir forystu þeirra í þessu mikilvæga máli. SB 1119 byggir á öryggisráðstöfunum fyrir ungmenni sem OpenAI hefur stutt með vörum okkar, alþjóðlegum stefnumiðum, hagsmunagæslu í Kaliforníu og vinnu að Parents & Kids Safe AI Act. Við hvetjum Newsom ríkisstjóra til að undirrita frumvarpið svo það öðlist lagagildi.

Unglingar eru fyrsta kynslóðin sem elst upp með gervigreind. Nærri níu af hverjum tíu unglingum sem nota ChatGPT nýta það í hverri viku til náms, upplýsingaöflunar, færniþjálfunar eða til að auka afköst. Þessu tækifæri fylgir skýr ábyrgð: Upplifun unglinga ætti að miðast við sérstakar þroskaþarfir þeirra, með öflugri sjálfgefinni vernd og viðeigandi tækifærum til að læra, skapa og kanna.

Nýlega kynnt ChatGPT fyrir unglinga endurspeglar þessa nálgun. Það er hannað til að hjálpa notendum yngri en 18 ára að læra, hugsa á gagnrýninn hátt og skapa, um leið og hvatt er til heilbrigðrar notkunar, innbyggð vernd veitt og foreldrum gefin aukin stjórn. Ef kerfið okkar metur notanda yngri en 18 ára, eða viðkomandi segist vera 13–17 ára, er hann sjálfkrafa færður yfir í ChatGPT fyrir unglinga. Þessi vernd er hluti af grunnupplifuninni en ekki valkvæðar stillingar sem notendur geta slökkt á.

Í víðara samhengi teljum við að unglingar geti notið góðs af gervigreind án þess að öryggi þeirra sé fórnað, en það markmið er kjarninn í SB 1119.

SB 1119 sameinar öfluga vernd og áframhaldandi aðgang að gagnlegum gervigreindarverkfærum. Við styðjum eindregið eftirfarandi lykilkröfur:

• Að ákvarða aldur notanda;
• Að greina og bregðast við öryggisáhættu áður en vara er gerð aðgengileg ungu fólki;
• Að gangast undir óháðar úttektir;
• Að vernda ungt fólk gegn skaðlegu efni, þar á meðal sjálfsskaða, efni sem felur í sér kynferðislega misnotkun og öðrum samskiptum sem fela í sér mikla áhættu;
• Að veita foreldrum verkfæri til að leiðbeina börnum sínum og takmarka notkun þeirra;
• Að vísa ungu fólki á úrræði vegna krísu þegar alvarleg öryggisáhætta kemur upp; og
• Að takmarka markvissar auglýsingar og vernda persónuupplýsingar ungs fólks.

Þessi vernd ætti að taka sjálfkrafa gildi fyrir notendur sem eru metnir 13–17 ára. Löggjöfin myndi sameina raunverulegt aðhald og öryggisráðstafanir sem vernda ungt fólk við notkun gervigreindar.

SB 1119 viðurkennir jafnframt með réttu að gervigreind er ekki samfélagsmiðill. Frumvarpið innleiðir vernd sem er sérstaklega sniðin að því að hjálpa ungu fólki að nota gervigreind til að læra, skapa og kanna. Við mótun rammans lögðu stefnumótendur áherslu á að varðveita aðgang að náms- og öryggiseiginleikum, þar á meðal ábyrga notkun minniseiginleika ChatGPT, um leið og stuðlað væri að öruggari og aldursmiðaðri upplifun unglinga.

ChatGPT fyrir unglinga býður upp á eiginleika sem eru sérstaklega sniðnir að námi unglinga, svo sem spurningakeppnir, myndrænar námsskýringar og Námsstillingu, sem voru þróaðir með kennurum og námssérfræðingum til að leiða nemendur skref fyrir skref í gegnum verkefni. Þessum verkfærum er ætlað að dýpka skilning og stuðla að betri námsvenjum. Eiginleikar sem nýta samhengi úr fyrri samtölum, þar á meðal minni, stuðla að samræmdri beitingu öryggisráðstafana, greina áhyggjuefni og veita gagnlegri námsaðstoð með tímanum.

Samhengið hjálpar þessum öryggis- og námsverkfærum einnig að virka með samræmdari hætti til lengri tíma. Með eiginleikum á borð við minni getur ChatGPT varðveitt viðeigandi upplýsingar og óskir úr fyrri samtölum, svo unglingar geti haldið áfram með langtímanámsverkefni án þess að byrja upp á nýtt. Þessi samfella getur einnig komið í veg fyrir að skaðleg mynstur séu styrkt og stuðlað að skilvirkari viðbrögðum þegar ungmenni kann að þurfa frekari hjálp eða úrræði.

Það er ekki nýtt fyrir okkur að gæta jafnvægis milli öryggis og náms. Á síðasta ári höfum við bætt við foreldraeftirliti, aldursmati, öryggisáætlun okkar fyrir unglinga og meginreglum fyrir yngri en 18 ára í líkanslýsingu okkar—reglunum sem leiðbeina um ætlaða hegðun líkana okkar—til að setja ný viðmið um samskipti þeirra við ungt fólk. Þær banna rómantísk samskipti, hvatningu til tilfinningalegrar háðar og fullyrðingar um að ChatGPT sé manneskja eða skyni og upplifi eins og lifandi vera. Við bjóðum einnig upp á foreldraeftirlit sem gerir fjölskyldum kleift að stjórna lykilstillingum fyrir unglinga sína og fá tilkynningar við áhættusamar aðstæður.

SB 1119 innleiðir öflugan ramma um öryggi ungmenna við notkun gervigreindar í Kaliforníu. Áframhaldandi rannsóknir og samstarf við innleiðinguna geta bætt lykilákvæði og tryggt að ramminn haldi virkni sinni eftir því sem tækninni fleygir fram. OpenAI hlakkar til að styðja þessa vinnu og halda áfram að þróa gervigreindarupplifun þar sem komið er fram við unglinga sem unglinga, með öflugri sjálfvirkri vernd og raunverulegum tækifærum til að læra og þroskast.