OpenAI tukee Kalifornian lakiesitystä nuorten tekoälyturvasta

Ann O’Leary, globaalista yhteiskuntapolitiikasta vastaava johtaja

OpenAI tukee Kalifornian senaatin lakiesitystä 1119, jolla luodaan merkittäviä suojatoimia nuorten tekoälyn käyttöön ja turvataan samalla heidän mahdollisuutensa käyttää oppimista, luomista ja tulevaisuuteen valmistautumista tukevia työkaluja. Tuki perustuu sitoumukseen, jonka OpenAI perustajajäsen ja toimitusjohtaja Sam Altman antoi viime vuonna esitellessään yrityksen nuoria koskevat periaatteet.

Koska liittovaltion tasolla ei ole ryhdytty toimiin, Kalifornialla on tilaisuus asettaa nuorten tekoälyturvalle tiukka vaatimustaso.

Kirjeessämme kuvernööri Newsomille⁠(avautuu uudessa ikkunassa) kiitämme häntä, senaattori Steve Padillaa, edustajainhuoneen jäseniä Buffy Wicksiä ja Rebecca Bauer-Kahania sekä Kalifornian lainsäätäjiä heidän johtajuudestaan tässä tärkeässä asiassa. SB 1119 pohjautuu nuorten turvallisuutta edistäviin toimiin, joita OpenAI on tukenut tuotteillaan, globaaleilla yhteiskuntapoliittisilla periaatteillaan, vaikuttamistyöllään Kaliforniassa ja Parents & Kids Safe AI Act -lakia koskevalla työllään. Kannustamme kuvernööri Newsomia allekirjoittamaan lakiesityksen laiksi.

Nykynuoret ovat ensimmäinen tekoälyn parissa varttuva sukupolvi. Lähes yhdeksän kymmenestä ChatGPT:tä käyttävästä nuoresta hyödyntää sitä viikon aikana oppimiseen, tiedonhakuun, taitojen kehittämiseen tai tuottavuuteen. Tähän mahdollisuuteen liittyy selkeä vastuu: nuorille on tarjottava heidän erityisiin kehitystarpeisiinsa suunniteltuja käyttökokemuksia, vahvoja oletussuojauksia sekä sopivia mahdollisuuksia oppia, luoda ja tutkia.

Hiljattain julkaisemamme nuorten ChatGPT noudattaa tätä lähestymistapaa. Se on suunniteltu auttamaan alle 18-vuotiaita oppimaan, ajattelemaan kriittisesti ja rakentamaan uutta. Samalla se edistää tervettä käyttöä, tarjoaa sisäänrakennettuja suojatoimia ja antaa vanhemmille lisää hallintamahdollisuuksia. Jos järjestelmämme arvioi käyttäjän olevan alle 18-vuotias tai käyttäjä ilmoittaa iäkseen 13–17 vuotta, hänet siirretään automaattisesti nuorten ChatGPT:hen. Nämä suojaukset kuuluvat peruskokemukseen, eivätkä ne ole valinnaisia asetuksia, jotka käyttäjä voisi poistaa käytöstä.

Uskomme yleisemmin, että nuoret voivat hyötyä tekoälystä turvallisuudesta tinkimättä. Tämä tavoite on SB 1119:n ytimessä.

SB 1119 yhdistää vahvat suojatoimet ja hyödyllisten tekoälytyökalujen jatkuvan saatavuuden. Tuemme vahvasti seuraavia keskeisiä vaatimuksia:

• Käyttäjän iän määrittäminen;
• Turvallisuusriskien tunnistaminen ja ratkaiseminen ennen tuotteen tarjoamista nuorille;
• Riippumattomien tarkastusten läpäiseminen;
• Nuorten suojeleminen haitalliselta sisällöltä, kuten itsensä vahingoittamiseen liittyvältä tai seksuaalisesti hyväksikäyttävältä sisällöltä ja muulta riskialttiilta vuorovaikutukselta;
• Vanhemmille tarjottavat työkalut, joilla he voivat ohjata ja rajoittaa lastensa käyttöä;
• Nuorten ohjaaminen kriisitukipalveluihin vakavien turvallisuusriskien ilmetessä; sekä
• Kohdennetun mainonnan rajoittaminen ja nuorten henkilötietojen suojaaminen.

Näitä suojatoimia on sovellettava automaattisesti käyttäjiin, joiden iäksi on tunnistettu 13–17 vuotta. Lainsäädäntö yhdistäisi merkityksellisen vastuuvelvollisuuden suojatoimiin, jotka auttaisivat turvaamaan nuoria heidän käyttäessään tekoälyä.

SB 1119 tunnustaa myös asianmukaisesti, ettei tekoäly ole sosiaalista mediaa. Lakiesityksessä säädetään suojatoimista, jotka on räätälöity tukemaan nuorten tekoälyn käyttöä oppimiseen, luomiseen ja tutkimiseen. Kehystä laatiessaan päättäjät pyrkivät säilyttämään pääsyn opetusta ja turvallisuutta tukeviin keskeisiin ominaisuuksiin, kuten ChatGPT:n muistitoiminnon vastuullisiin käyttötapoihin, ja edistämään samalla nuorille turvallisempia, ikätasoon sopivia käyttökokemuksia.

Nuorten ChatGPT sisältää nuorten oppimiseen suunniteltuja ominaisuuksia, kuten tietovisat, oppimisen visualisoinnit ja Opiskelutilan. Ne on kehitetty opettajien ja oppimisen asiantuntijoiden kanssa ohjaamaan oppilaita tehtävien ratkaisemisessa vaihe vaiheelta. Näiden työkalujen tarkoituksena on syventää ymmärrystä ja tukea parempia oppimistottumuksia. Aiemmista keskusteluista saatua kontekstia hyödyntävät ominaisuudet, kuten muisti, auttavat soveltamaan suojatoimia johdonmukaisesti, tunnistamaan huolestuttavia kaavoja ja tarjoamaan ajan myötä hyödyllisempää tukea oppimiseen.

Konteksti auttaa myös näitä turvallisuus- ja oppimistyökaluja toimimaan johdonmukaisemmin ajan mittaan. Muistin kaltaisten ominaisuuksien avulla ChatGPT voi hyödyntää aiempien keskustelujen olennaisia tietoja ja mieltymyksiä, joten nuoret voivat jatkaa pitkäkestoisia oppimisprojekteja aloittamatta alusta. Jatkuvuus voi myös auttaa välttämään haitallisten kaavojen vahvistamista ja tukemaan tehokkaampia vastauksia tilanteissa, joissa nuori saattaa tarvita lisäapua tai muita tukipalveluja.

Turvallisuuden ja oppimisen yhteensovittaminen ei ole meille uutta. Olemme viime vuoden aikana ottaneet käyttöön käytönvalvonnan ja iän ennustamisen sekä lisänneet nuorten turvallisuussuunnitelman ja alle 18-vuotiaita koskevat periaatteet mallimääritykseemme eli malliemme toimintaa ohjaaviin sääntöihin. Näin asetamme uusia vaatimuksia sille, miten mallien tulee olla vuorovaikutuksessa nuorten kanssa. Ne kieltävät romanttisen kanssakäymisen, tunneperäiseen riippuvuuteen kannustamisen sekä väitteet siitä, että ChatGPT olisi ihminen tai tietoinen olento. Tarjoamme myös käytönvalvonnan, jonka avulla perheet voivat hallita nuortensa keskeisiä asetuksia ja saada ilmoituksia suuren riskin tilanteissa.

SB 1119 luo Kaliforniaan vahvan kehyksen nuorten tekoälyturvalle. Jatkuva tutkimus ja yhteistyö toimeenpanon aikana voivat auttaa parantamaan keskeisiä säännöksiä ja pitämään kehyksen toimivana teknologian kehittyessä. OpenAI tukee mielellään tätä työtä ja jatkaa nuoret nuorina huomioivien tekoälykokemusten kehittämistä. Niissä on vahvemmat automaattiset suojaukset sekä aitoja mahdollisuuksia oppia ja kehittyä.