Mēs dalāmies ar savas modeļu specifikācijas atjauninājumu – rakstisku noteikumu, vērtību un uzvedības prasību kopumu, kas nosaka, kā mēs vēlamies, lai mūsu mākslīgā intelekta modeļi uzvestos, jo īpaši sarežģītās vai riskantās situācijās. Principi līdz 18 gadu vecumam (U18)(atveras jaunā logā). Modeļa uzvedībai ir izšķiroša nozīme cilvēku saskarsmē ar MI, un pusaudžiem ir atšķirīgas attīstības vajadzības nekā pieaugušajiem.
U18 principi nosaka, kā ChatGPT jāveido droša, vecumam atbilstoša pieredze pusaudžiem vecumā no 13 līdz 17 gadiem. Pamatojoties uz attīstības zinātni, šī pieeja par prioritāti izvirza profilaksi, pārredzamību un agrīnu iejaukšanos. Izstrādājot šos principus, mēs tos iepriekš izskatījām kopā ar ārējiem ekspertiem, tostarp Amerikas Psihologu asociāciju; tā ir daļa no mūsu nepārtrauktā darba, meklējot atsauksmes, lai stiprināt mūsu pieeju.
Lai gan modeļu specifikācijā noteiktie principi joprojām attiecas gan uz pieaugušajiem, gan pusaudžiem, šajā atjauninājumā ir precizēts, kā šie principi piemērojami pusaudžu kontekstā, jo īpaši gadījumos, kad nepilngadīgo drošības apsvērumi var būt izteiktāki.
U18 principu pamatā ir četras galvenās apņemšanās:
- Pusaudžu drošība ir pirmajā vietā, pat ja tā var būt pretrunā ar citiem mērķiem
- Jāveicina reālās pasaules atbalsts, veicinot bezsaistes attiecības un uzticamus resursus
- Jāizturas pret pusaudžiem kā pret pusaudžiem – ne augstprātīgi, bet arī neuzskatot viņus par pieaugušajiem
- Jābūt pārredzamiem, nosakot skaidras gaidas
Šie principi, kas ir atbilstoši mūsu Pusaudžu drošības plānam, ir vadījuši mūsu darbu pie pusaudžu drošības, ietverot satura aizsardzību, ko piemērojam lietotājiem, kuri reģistrējoties norāda, ka ir jaunāki par 18 gadiem, un izmantojot vecāku kontroli. Šajos kontekstos mēs esam ieviesuši aizsardzības pasākumus, lai liktu modelim būt īpaši uzmanīgam, apspriežot augsta riska jomas, tostarp paškaitējumu un pašnāvību, romantisku vai seksualizētu lomu spēli, vardarbīgu vai nepiedienīgu saturu, bīstamas darbības un vielas, ķermeņa tēlu un ēšanas traucējumus, kā arī pieprasījumus glabāt noslēpumus par nedrošu uzvedību.
Amerikas Psiholoģijas asociācija, kas pārskatīja agrīno U18 modeļu specifikācijas projektu un sniedza svarīgus ilgtermiņa ieskatus, skaidri norāda uz pusaudžu aizsardzības nozīmi:
“APA mudina mākslīgā intelekta izstrādātājus piedāvāt jauniešiem atbilstošus piesardzības pasākumus savu produktu lietotājiem un piemērot aizsargājošāku pieeju gados jaunākiem lietotājiem. Bērni un pusaudži varētu gūt labumu no mākslīgā intelekta rīkiem, ja tie tiktu līdzsvaroti ar cilvēku mijiedarbību, kas, pēc zinātnes atziņām, ir kritiski svarīga sociālajai, psiholoģiskajai, uzvedības un pat bioloģiskajai attīstībai. Jauniešu pieredze ar mākslīgo intelektu būtu rūpīgi jāuzrauga un jāapspriež ar uzticamiem pieaugušajiem, lai veicinātu kritisku vērtējumu par to, ko piedāvā mākslīgā intelekta roboti, un lai sekmētu jauniešu patstāvīgas domāšanas un prasmju attīstību.”
Šajā atjauninājumā arī precizēts, kā asistentam jāreaģē, ja rodas bažas par pusaudžu drošību. Tas nozīmē, ka pusaudžiem vajadzētu saskarties ar stingrākām aizsargbarjerām, drošākām alternatīvām un pamudinājumu meklēt uzticamu atbalstu bezsaistē, kad sarunas nonāk augstāka riska teritorijā. Ja pastāv tūlītējs risks, pusaudžiem tiek ieteikts sazināties ar ārkārtas dienestiem vai krīzes resursiem.
Tāpat kā pārējā modeļu specifikācija, arī U18 principi atspoguļo mūsu iecerēto modeļa uzvedību. Mēs turpināsim tos pilnveidot, ņemot vērā jaunus pētījumus, ekspertu ieteikumus un reālo lietojumu.
Līdztekus modeļu specifikācijas atjaunināšanai mēs esam īstenojuši daudzslāņainu pieeju pusaudžu drošības stiprināšanai visos ChatGPT pakalpojumos, ietverot produktu aizsardzības pasākumus, ģimenes atbalstu un ekspertu vadlīnijas.
Kopš vecāku kontroles(atveras jaunā logā) ieviešanas mēs esam paplašinājuši aizsardzību, iekļaujot jaunus produktus, tostarp grupas sarakstes, ChatGPT Atlas pārlūku un Sora lietotni. Šie atjauninājumi palīdz vecākiem pielāgot savu pusaudžu ChatGPT pieredzi, mums ieviešot jaunus produktus un funkcijas.
Atbilstoši ekspertu ieteikumiem mēs mudinām vecākus un pusaudžus pastāvīgi runāt par veselīgu un atbildīgu MI lietošanu ģimenē. Lai atbalstītu šīs sarunas, esam pievienojuši jaunus, ekspertu pārbaudītus resursus vecāku resursu centram(atveras jaunā logā), tostarp Ģimenes ceļvedi, lai palīdzētu pusaudžiem atbildīgi lietot mākslīgo intelektu(atveras jaunā logā), un padomus vecākiem(atveras jaunā logā) par to, kā runāt ar bērniem par mākslīgo intelektu, kurus pārskatīja ConnectSafely un mūsu Labklājības un mākslīgā intelekta ekspertu padomeslocekļi.. Mēs turpināsim pievienot vairāk resursu laika gaitā. Mēs arī atbalstām veselīgu lietošanu tieši produktā, izmantojot iebūvētus pārtraukuma atgādinājumus garu sesiju laikā, lai palīdzētu uzturēt ar ChatGPT pavadīto laiku mērķtiecīgu un līdzsvarotu.
Mūsu darbs pusaudžu drošības jomā tiek veikts, cieši sadarbojoties ar dažādu disciplīnu un zināšanu ekspertiem. Oktobrī mēs izveidojām Labklājības un mākslīgā intelekta ekspertu padomi, lai palīdzētu konsultēt un definēt, kādai jābūt veselīgai mijiedarbībai ar MI visu vecumu cilvēkiem. Šis darbs ir veidojis vadlīnijas par vecāku kontroli un paziņojumiem vecākiem. Mēs izmantojam arī klīnisko pieredzi no sava Globālā ārstu tīkla, lai pamatotu drošības pētījumus un novērtētu modeļu uzvedību – tostarp, lai uzlabotu to, kā ChatGPT atpazīst stresu un vajadzības gadījumā novirza cilvēkus uz profesionālu aprūpi. Mēs balstījāmies uz šiem pamatiem ar GPT‑5.2, kā arī paplašinājām piekļuvi reālajam atbalstam, iekļaujot vietējās palīdzības līnijas ChatGPT un Sora, pateicoties mūsu sadarbībai ar ThroughLine(atveras jaunā logā).
Mēs esam agrīnā vecuma noteikšanas modeļa(atveras jaunā logā) ieviešanas posmā ChatGPT patērētāju plānos. Tas mums palīdzēs automātiski piemērot aizsardzības pasākumus pusaudžiem, ja uzskatīsim, ka konts pieder nepilngadīgai personai. Ja neesam pārliecināti par kāda cilvēka vecumu vai mūsu rīcībā ir nepilnīga informācija, mēs izmantosim U18 pieredzi un sniegsim pieaugušajiem iespēju apliecināt savu vecumu.
Pusaudžu drošības stiprināšana ir nepārtraukts darbs, un mēs turpināsim uzlabot vecāku kontroles un modeļu iespējas, paplašināt vecākiem paredzētos resursus, sadarboties ar organizācijām, pētniekiem un ekspertu partneriem, tostarp Labklājības padomi un Globālo ārstu tīklu.
Mēs esam apņēmušies nodrošināt spēcīgu aizsardzību pusaudžiem un laika gaitā to uzlabot, lai labāk atbalstītu pusaudžus un ģimenes.
