Lähestymistapamme iän ennustamiseen
Jatkamme työtämme nuorten turvallisuuden vahvistamiseksi.
Otamme käyttöön iän ennustamisen ChatGPT‑kuluttajatilauksissa, jotta voimme arvioida, kuuluuko tili todennäköisesti alle 18-vuotiaalle henkilölle, jotta nuorille voidaan tarjota oikea käyttökokemus ja suojatoimet. Kuten olemme esittäneet nuorten turvallisuussuunnitelmassamme ja alle 18-vuotiaiden mallikäyttäytymisen periaatteissamme, nuoret ansaitsevat teknologian, joka sekä laajentaa mahdollisuuksia että suojaa heidän hyvinvointiaan.
Iän ennustaminen perustuu jo käytössä oleviin suojatoimiin. Nuoret, jotka ilmoittavat olevansa alle 18-vuotiaita rekisteröityessään, saavat automaattisesti lisäsuojatoimia, joilla vähennetään altistumista arkaluonteiselle tai mahdollisesti haitalliselle sisällölle. Tämä mahdollistaa myös sen, että voimme kohdella aikuisia aikuisina ja käyttää työkalujamme heidän haluamallaan tavalla – turvallisuuden rajoissa.
Olemme aiemmin jakaneet varhaiset suunnitelmamme iän ennustamiseksi, ja tänään kerromme lisää yksityiskohtia, kun käyttöönotto on käynnissä.
ChatGPT käyttää ikäennustemallia arvioidakseen, kuuluuko tili todennäköisesti alle 18-vuotiaalle. Malli tarkastelee käyttäytymis- ja tilitasoisia signaaleja, kuten sitä, kuinka kauan tili on ollut olemassa; tyypillisiä kellonaikoja, jolloin käyttäjä on aktiivinen; käyttötapoja ajan myötä sekä käyttäjän ilmoittamaa ikää. Ikäennusteen käyttöönotto auttaa meitä oppimaan, mitkä signaalit parantavat tarkkuutta, ja käytämme näitä oppeja mallin jatkuvaan parantamiseen ajan myötä.
Käyttäjät, jotka on virheellisesti sijoitettu alle 18-vuotiaiden kokemukseen, voivat aina helposti ja nopeasti vahvistaa ikänsä ja palauttaa täyden käyttöoikeutensa ottamalla selfien turvallisen henkilöllisyyden vahvistuspalvelun Personan kautta. Käyttäjät voivat tarkistaa, onko heidän tililleen lisätty suojatoimia, ja aloittaa mainitun prosessin milloin tahansa siirtymällä kohtaan Asetukset > Tili.
Kun ikäennustemalli arvioi, että tili saattaa kuulua alle 18-vuotiaalle, ChatGPT ottaa automaattisesti käyttöön lisäsuojauksia, joiden tarkoituksena on vähentää altistumista arkaluonteiselle sisällölle, johon lukeutuvat seuraavat:
- Raaka väkivalta tai verinen/kammottava sisältö
- Viraalihaasteet, jotka voivat kannustaa alaikäisiä riskialttiiseen tai vahingolliseen käyttäytymiseen
- Seksuaalinen, romanttinen tai väkivaltainen roolileikki
- Kuvaukset itsensä vahingoittamisesta
- Sisältö, joka edistää äärimmäisiä kauneusihanteita, epäterveellisiä ruokavalioita tai kehon häpäisyä
Tätä lähestymistapaa ohjaa asiantuntijoiden näkemykset, ja se perustuu akateemiseen kirjallisuuteen lapsen kehitystä koskevasta tieteestä. Siinä otetaan huomioon tunnetut nuorten erot riskien havaitsemisessa, impulssikontrollissa, vertaisryhmän vaikutuksessa ja tunteiden säätelyssä. Vaikka nämä sisältörajoitukset auttavat vähentämään nuorten altistumista arkaluonteiselle materiaalille, keskitymme jatkuvasti parantamaan näitä suojauksia – erityisesti puuttuaksemme yrityksiin kiertää suojatoimiamme. Kun emme ole varmoja jonkun iästä tai tiedot ovat puutteellisia, tarjoamme oletusarvoisesti turvallisemman käyttökokemuksen.
Näiden suojatoimien lisäksi vanhemmat voivat halutessaan mukauttaa nuortensa käyttökokemusta lisää käytönvalvonnan(avautuu uudessa ikkunassa) avulla, kuten asettamalla hiljaiset tunnit, jolloin ChatGPT:tä ei voi käyttää; hallitsemalla ominaisuuksia, kuten muistia tai mallin koulutusta; ja vastaanottamalla ilmoituksia, jos havaitaan merkkejä akuutista hädästä.
Opimme alkuvaiheen käyttöönotosta ja jatkamme iän ennustamisen tarkkuuden parantamista ajan myötä. Seuraamme tiiviisti käyttöönottoa ja käytämme näitä signaaleja jatkuvien parannusten tukena.
EU:ssa iän ennustaminen otetaan käyttöön tulevien viikkojen aikana, jotta voidaan ottaa huomioon alueelliset vaatimukset. Lisätietoja löytyy ohjesivultamme(avautuu uudessa ikkunassa).
Vaikka tämä on merkittävä virstanpylväs, työmme nuorten turvallisuuden tukemiseksi jatkuu. Jatkamme päivitysten jakamista edistymisestämme sekä siitä, mitä olemme oppineet käymällä vuoropuhelua asiantuntijoiden, kuten American Psychological Associationin, ConnectSafelyn ja Global Physicians Networkin, kanssa.
