Päivitämme mallimääritystämme teini-ikäisten suojauksilla
Asiantuntijoiden ohjeiden perusteella laaditut uudet U18-periaatteet määrittelevät, miten ChatGPT:n tulisi tukea teini-ikäisiä turvallisessa, ikään sopivassa käyttäytymisessä.
Jaamme päivityksen mallimääritykseemme, joka on kirjallinen sääntöjen, arvojen ja käyttäytymisodotusten kokoelma, joka ohjaa, miten haluamme tekoälymalliemme toimivan, erityisesti vaikeissa tai riskialttiissa tilanteissa, uusilla alle 18-vuotiaiden (U18) periaatteilla(avautuu uudessa ikkunassa). Esimerkillinen käyttäytyminen on ratkaisevan tärkeää ihmisten ja tekoälyn välisessä vuorovaikutuksessa, ja teini-ikäisillä on erilaiset kehitystarpeet kuin aikuisilla.
U18-periaatteet ohjaavat sitä, miten ChatGPT:n tulisi tarjota turvallinen, ikään sopiva kokemus 13–17-vuotiaille nuorille. Kehitystieteeseen perustuva lähestymistapa painottaa ennaltaehkäisyä, läpinäkyvyyttä ja varhaista puuttumista. Näitä periaatteita kehittäessämme esittelimme ne ulkoisille asiantuntijoille, kuten American Psychological Associationille, osana jatkuvaa työtämme, jonka tavoitteena on kerätä palautetta lähestymistapamme vahvistamiseksi.
Vaikka mallimäärityksen periaatteet koskevat edelleen sekä aikuisia että teini-ikäisiä käyttäjiä, tässä päivityksessä selvennetään, miten näitä periaatteita sovelletaan teini-ikäisten kontekstissa, erityisesti silloin, kun alaikäisten turvallisuusnäkökohdat voivat olla merkittävämpiä.
U18-periaatteet perustuvat neljään ohjaavaan sitoumukseen:
- Aseta nuorten turvallisuus etusijalle, vaikka se saattaisi olla ristiriidassa muiden tavoitteiden kanssa
- Edistä todellista tukea kannustamalla offline-suhteita ja luotettavia resursseja
- Kohtele teini-ikäisiä teini-ikäisinä, älä suhtaudu heihin alentuvasti äläkä kohtele heitä aikuisina
- Ole avoin asettamalla selkeät odotukset
Yhdenmukaisesti Teen Safety Blueprint -suunnitelmamme kanssa, nämä periaatteet ovat ohjanneet teini-ikäisten turvallisuustyötämme tähän mennessä, mukaan lukien sisällönsuojaukset, joita sovellamme käyttäjiin, jotka ilmoittavat olevansa alle 18-vuotiaita rekisteröityessään, sekä käytönvalvonnan kautta. Näissä tilanteissa olemme ottaneet käyttöön suojatoimia, jotka ohjaavat mallia olemaan erityisen varovainen keskusteltaessa riskialttiimmista aiheista, kuten itsetuhoisuudesta ja itsemurhasta, romanttisesta tai seksuaalisesta roolileikistä, graafisesta tai eksplisiittisestä sisällöstä, vaarallisista aktiviteeteista ja aineista, kehonkuvasta ja syömishäiriöistä sekä pyynnöistä pitää salassa vaarallista käyttäytymistä.
American Psychological Associationilla, joka tarkasteli U18-mallin spesifikaation varhaista luonnosta ja tarjosi tärkeitä näkemyksiä pitkällä aikavälillä, on selkeä näkemys teini-ikäisten suojelun tärkeydestä:
APA kannustaa tekoälykehittäjiä tarjoamaan kehitystasolle sopivia varotoimia nuorille käyttäjille ja käyttämään suojaavampaa lähestymistapaa nuorempia käyttäjiä varten. Lapset ja nuoret voivat hyötyä tekoälytyökaluista, jos ne tasapainotetaan ihmiskontaktien kanssa, jotka tieteen mukaan ovat ratkaisevan tärkeitä sosiaaliselle, psykologiselle, käyttäytymiseen liittyvälle ja jopa biologiselle kehitykselle. Nuorten kokemuksia tekoälystä tulisi valvoa tarkasti ja keskustella niistä luotettavien aikuisten kanssa, jotta nuoret oppisivat arvioimaan kriittisesti tekoälybottien tarjoamia mahdollisuuksia ja kehittäisivät itsenäistä ajattelua ja taitoja.
Tämä päivitys selventää myös, miten avustajan tulisi reagoida, kun teini-ikäisten turvallisuuteen liittyy huolenaiheita. Tämä tarkoittaa, että teini-ikäisille tulisi tarjota vahvempia suojakeinoja, turvallisempia vaihtoehtoja ja rohkaisua etsiä luotettavaa tukea offline-tilassa, kun keskustelut siirtyvät riskialttiimmalle alueelle. Jos vaara on välitön, teini-ikäisiä kehotetaan ottamaan yhteyttä hätäpalveluihin tai kriisipalveluihin.
Kuten muussa mallimäärityksessä, U18-periaatteet heijastavat aiottua mallin käyttäytymistä. Jatkamme niiden tarkentamista, kun sisällytämme uutta tutkimusta, asiantuntijasyötteitä ja käytännön sovelluksia.
Mallimäärityksen päivittämisen lisäksi olemme ottaneet käyttöön monitasoisen lähestymistavan teini-ikäisten turvallisuuden vahvistamiseksi ChatGPT:ssä. Se kattaa tuoteturvallisuuden, perheen tuen ja asiantuntijoiden ohjeistuksen.
Käytönvalvonnan(avautuu uudessa ikkunassa) käyttöönoton jälkeen olemme laajentaneet suojauksia uusiin tuotteisiin, kuten ryhmäkeskusteluihin, ChatGPT Atlas -selaimeen ja Sora-sovellukseen. Nämä päivitykset auttavat vanhempia mukauttamaan teini-ikäisten ChatGPT‑kokemusta, kun tuomme markkinoille uusia tuotteita ja ominaisuuksia.
Asiantuntijoiden ohjeiden mukaisesti kannustamme vanhempia ja teini-ikäisiä keskustelemaan säännöllisesti terveellisestä ja vastuullisesta tekoälyn käytöstä perheessä. Näiden keskustelujen tueksi olemme lisänneet uusia asiantuntijoiden tarkastamia resursseja vanhempien resurssikeskukseen(avautuu uudessa ikkunassa), mukaan lukien Perheopas teini-ikäisten vastuulliseen tekoälyn käyttöön(avautuu uudessa ikkunassa) ja vinkkejä vanhemmille(avautuu uudessa ikkunassa) siitä, miten keskustella lastensa kanssa tekoälystä. Nämä resurssit on tarkistanut ConnectSafely ja Hyvinvoinnin ja tekoälyn asiantuntijaneuvoston jäsenet. Jatkamme resurssien lisäämistä ajan myötä. Tuemme myös terveellistä käyttöä suoraan tuotteessa tarjoamalla sisäänrakennettuja taukomuistutuksia pitkien istuntojen aikana, jotta ChatGPT:n käyttö olisi tarkoituksellista ja tasapainoista.
Työmme nuorten turvallisuuden parissa perustuu tiiviiseen yhteistyöhön eri alojen ja osaamisalueiden asiantuntijoiden kanssa. Lokakuussa perustimme hyvinvoinnin ja tekoälyn asiantuntijaneuvoston auttamaan ja määrittelemään, millaista terveellistä vuorovaikutusta tekoälyn kanssa tulisi olla kaikenikäisille. Tämä työ on vaikuttanut käytönvalvonnan ja vanhemmille lähetettävien ilmoitusten ohjeistukseen. Hyödynnämme myös kliinistä asiantuntemusta Global Physician Network -verkostomme kautta turvallisuustutkimuksen tukena ja mallikäyttäytymisen arvioinnissa, mukaan lukien ChatGPT:n kyvyn tunnistaa hätätilanteet ja ohjata ihmiset tarvittaessa ammattiavun pariin. Rakensimme näille perustuksille GPT‑5.2:n avulla ja olemme myös laajentaneet pääsyä todelliseen tukeen tuomalla esiin paikallisia tukilinjoja ChatGPT:ssä ja Sorassa yhteistyössä ThroughLine(avautuu uudessa ikkunassa) kanssa.
Olemme aloittamassa ikäennustemallin(avautuu uudessa ikkunassa) käyttöönoton ChatGPT‑kuluttajasuunnitelmissa. Tämä auttaa meitä ottamaan automaattisesti käyttöön teini-ikäisten suojatoimet, kun uskomme, että tili kuuluu alaikäiselle. Jos emme ole varmoja henkilön iästä tai tiedot ovat puutteellisia, tarjoamme oletuksena alle 18-vuotiaiden kokemuksen ja annamme aikuisille mahdollisuuden vahvistaa ikänsä.
Teinien turvallisuuden vahvistaminen on jatkuvaa työtä, ja jatkamme käytönvalvontojen ja mallien parantamista, laajennamme vanhemmille suunnattuja resursseja, teemme yhteistyötä organisaatioiden, tutkijoiden ja asiantuntijakumppaneiden, kuten Well-Being Councilin ja Global Physician Networkin, kanssa.
Olemme sitoutuneet luomaan vahvat suojatoimet teini-ikäisille ja parantamaan niitä ajan myötä, jotta voimme tukea teini-ikäisiä ja heidän perheitään entistä paremmin.
