Jagame värskendust meie mudeli spetsifikatsioonile, kirjalik reeglite, väärtuste ja käitumisootuste kogum, mis juhib, kuidas soovime, et meie AI mudelid käituksid, eriti keerulistes või kõrge panusega olukordades, koos uute alla 18-aastaste (U18) põhimõtetega(avaneb uues aknas). Mudeli käitumine on kriitilise tähtsusega selles, kuidas inimesed tehisintellektiga suhtlevad, ja teismelistel on erinevad arengulised vajadused kui täiskasvanutel.
U18 põhimõtted juhivad, kuidas ChatGPT peaks pakkuma ohutut ja vanusele sobivat kogemust 13–17-aastastele teismelistele. Arenguteadusele tuginev lähenemine seab esikohale ennetamise, läbipaistvuse ja varajase sekkumise. Nende põhimõtete väljatöötamisel tegime neist eelvaateid välistele ekspertidele, sealhulgas Ameerika Psühholoogide Assotsiatsioonile, osana meie pidevast tööst, et otsida sisendit meie lähenemisviisi tugevdamiseks.
Kuigi mudeli põhimõtted kehtivad jätkuvalt nii täiskasvanud kui ka teismeliste kasutajate puhul, selgitab see värskendus, kuidas need põhimõtted kehtivad teismeliste kontekstis, eriti seal, kus alaealiste turvalisuse kaalutlused võivad olla olulisemad.
U18 põhimõtted on rajatud neljale juhendavale kohustusele.
- Seada teismeliste ohutus esikohale, isegi kui see võib olla vastuolus teiste eesmärkidega.
- Edendada reaalmaailma tuge, julgustades võrguväliseid suhteid ja usaldusväärseid ressursse.
- Kohelda teismelisi nagu teismelisi, mitte olla nende suhtes üleolev ega kohelda neid täiskasvanutena.
- Olla läbipaistev, seades selged ootused.
Kooskõlas meie Teismeliste turvalisuse plaaniga on need põhimõtted suunanud meie teismeliste turvalisuse tööd tänaseni, sealhulgas sisukaitsed, mida rakendame kasutajatele, kes teatavad meile, et nad on registreerimisel alla 18-aastased, samuti vanemliku järelevalve kaudu. Nendes kontekstides oleme rakendanud kaitsemeetmeid, et suunata mudelit olema eriti ettevaatlik, kui arutatakse kõrgema riskiga valdkondi, sealhulgas enesevigastamist ja enesetappu, romantilist või seksualiseeritud rollimängu, graafilist või selgesõnalist sisu, ohtlikke tegevusi ja aineid, kehapilti ja söömishäireid ning palveid hoida saladusi ohtliku käitumise kohta.
Ameerika psühholoogide assotsiatsioon, kes vaatas üle U18 mudeli spetsifikatsiooni varajase mustandi ja pakkus olulisi pikaajalisi teadmisi, rõhutab selgelt teismeliste kaitsmise tähtsust.
APA julgustab tehisintellekti arendajaid pakkuma noortele kasutajatele oma toodete kasutamisel arengutasemele vastavaid ettevaatusabinõusid ja kasutama nooremate kasutajate puhul kaitsvamat lähenemist. Lapsed ja noorukid võivad tehisintellekti tööriistadest kasu saada, kui need on tasakaalus inimestevahelise suhtlusega, mida teadus peab kriitiliseks sotsiaalse, psühholoogilise, käitumusliku ja isegi bioloogilise arengu jaoks. Noorte kogemusi tehisintellektiga tuleks põhjalikult jälgida ja arutada usaldusväärsete täiskasvanutega, et julgustada kriitilist ülevaadet sellest, mida AI botid pakuvad, ning edendada noorte iseseisva mõtlemise ja oskuste arengut.
See värskendus selgitab ka, kuidas assistent peaks reageerima, kui tekivad teismeliste turvalisuse probleemid. See tähendab, et teismelised peaksid kohtama tugevamaid turvameetmeid, turvalisemaid alternatiive ja julgustust otsida usaldusväärset võrguühenduseta tuge, kui vestlused liiguvad kõrgema riskiga territooriumile. Kui on vahetu oht, soovitatakse teismelistel pöörduda hädaabiteenistuste või kriisiressursside poole.
Nagu ülejäänud mudeli spetsifikatsioon, kajastavad U18 põhimõtted meie kavandatud mudeli käitumist. Jätkame nende täiustamist, kui lisame uusi uuringuid, ekspertide sisendi ja reaalmaailma kasutust.
Koos mudeli spetsifikatsiooni uuendamisega oleme võtnud mitmekihilise lähenemisviisi teismeliste turvalisuse tugevdamiseks ChatGPT‑s, hõlmates toote turvameetmeid, perede toetust ja ekspertide juhiseid.
Alates vanemliku järelevalve(avaneb uues aknas) kasutuselevõtust oleme laiendanud kaitset uutele toodetele, sealhulgas rühmavestlustele, ChatGPT Atlase lehitsejale ja Sora rakendusele. Need uuendused aitavad vanematel kohandada oma teismelise ChatGPT kogemust, kui tutvustame uusi tooteid ja funktsioone.
Kooskõlas ekspertide juhistega julgustame vanemaid ja teismelisi pidama pidevaid vestlusi tervisliku ja vastutustundliku tehisintellekti kasutamise üle oma peres. Nende vestluste toetamiseks oleme lisanud uusi ekspertide poolt kontrollitud ressursse lapsevanemate ressursikeskusesse(avaneb uues aknas), sealhulgas „Perejuhend, et aidata teismelistel tehisintellekti vastutustundlikult kasutada“(avaneb uues aknas) ja nõuandeid lapsevanematele(avaneb uues aknas) selle kohta, kuidas oma lastega tehisintellektist rääkida, mida on üle vaadanud ConnectSafely ja meie Ekspertide nõukoda heaolu ja tehisintellekti alal liikmed. Me jätkame aja jooksul rohkemate ressursside lisamist. Samuti toetame tervislikku kasutamist otse tootes, pakkudes sisseehitatud pausimeeldetuletusi pikkade seansside ajal, et aidata hoida ChatGPT‑ga veedetud aega eesmärgipärasena ja tasakaalus.
Meie töö teismeliste ohutuse valdkonnas on juhitud tihedast koostööst ekspertidega, kes esindavad erinevaid distsipliine ja erialasid. Oktoobris asutasime Ekspertide nõukogu heaolu ja tehisintellekti teemal, et aidata nõustada ja määratleda, millised peaksid olema tervislikud suhted tehisintellektiga kõigi vanuserühmade jaoks. See töö on andnud juhiseid vanemliku järelevalve ja vanemate teavituste kohta. Samuti kaasame kliinilist ekspertiisi meie ülemaailmse arstide võrgustiku kaudu, et toetada ohutusuuringuid ja hinnata mudeli käitumist, sealhulgas parandada, kuidas ChatGPT tunneb ära distressi ja suunab inimesi vajadusel professionaalse abi poole. Me ehitasime nendele alustele GPT‑5.2 abil ning oleme laiendanud juurdepääsu reaalse maailma tugile, tuues esile lokaliseeritud abitelefonid ChatGPT‑s ja Soras meie partnerluse kaudu ThroughLine(avaneb uues aknas)iga.
Oleme ChatGPT tarbijaplaanide vanuse ennustamise mudeli(avaneb uues aknas) kasutuselevõtu algusjärgus. See aitab meil automaatselt rakendada teismeliste kaitsemeetmeid, kui usume, et konto kuulub alaealisele. Kui me pole kindlad kellegi vanuse osas või kui meil on puudulikud andmed, pakume vaikimisi U18 kogemust ja anname täiskasvanutele võimalusi oma vanuse kinnitamiseks.
Teismeliste turvalisuse tugevdamine on pidev töö ja me jätkame vanemliku järelevalve ja mudelivõimekuse parandamist, laiendame vanematele mõeldud ressursse, teeme koostööd organisatsioonide, teadlaste ja ekspertpartneritega, sealhulgas Heaolu nõukogu ja Ülemaailmse arstide võrgustikuga.
Oleme pühendunud tugevate kaitsemeetmete loomisele teismelistele ja nende aja jooksul täiustamisele, et pakkuda paremat tuge teismelistele ja peredele.
