Dijelimo ažuriranje našeg Model Spec-a, pisanog skupa pravila, vrijednosti i očekivanja ponašanja koji usmjerava kako želimo da se naši AI modeli ponašaju, posebno u teškim ili visokorizičnim situacijama, s novim Principima za mlađe od 18 godina (U18)(otvara se u novom prozoru). Ponašanje modela je ključno za način na koji ljudi komuniciraju s AI-om, a tinejdžeri imaju različite razvojne potrebe od odraslih.
Principi U18 usmjeravaju kako ChatGPT treba da pruži sigurno, primjereno iskustvo za tinejdžere u dobi od 13 do 17 godina. Ovaj pristup, utemeljen na razvojnoj nauci, daje prioritet prevenciji, transparentnosti i ranoj intervenciji. U razvoju ovih principa, pregledali smo ih s vanjskim stručnjacima, uključujući Američko psihološko udruženje, kao dio našeg kontinuiranog rada na traženju povratnih informacija kako bismo ojačali naš pristup.
Iako principi Model Spec i dalje nastavljaju da se primjenjuju na odrasle i tinejdžerske korisnike, ovo ažuriranje pojašnjava kako se ti principi primjenjuju u kontekstima tinejdžera, posebno tamo gdje su sigurnosni razlozi za maloljetnike izraženiji.
Principi U18 su utemeljeni na četiri vodeće obaveze:
- Stavite sigurnost tinejdžera na prvo mjesto, čak i kada to može biti u sukobu s drugim ciljevima
- Promovišite podršku u stvarnom svijetu poticanjem offline odnosa i pouzdanih resursa
- Tretirajte tinejdžere kao tinejdžere, niti im se obraćajte s visine niti ih tretirajte kao odrasle
- Budite transparentni postavljanjem jasnih očekivanja
U skladu s našim Teen Safety Blueprint, ovi principi su vodili naš rad na sigurnosti tinejdžera do danas, uključujući zaštitu sadržaja koju primjenjujemo na korisnike koji nam kažu da su mlađi od 18 godina prilikom registracije, kao i kroz roditeljski nadzor. U ovim kontekstima, implementirali smo zaštitne mjere kako bismo vodili model da bude posebno oprezan kada se raspravlja o područjima visokog rizika, uključujući samopovređivanje i samoubistvo, romantičnu ili seksualiziranu igru uloga, grafički ili eksplicitan sadržaj, opasne aktivnosti i supstance, sliku tijela i poremećaje u ishrani, te zahtjeve da se čuvaju tajne o nesigurnom ponašanju.
Američka psihološka asocijacija, koja je pregledala ranu verziju specifikacije modela U18 i ponudila važne uvide za dugoročno, jasno ističe važnost zaštite tinejdžera:
„APA potiče programere umjetne inteligencije da ponude razvojno prikladne mjere opreza za mlade korisnike svojih proizvoda i da zauzmu zaštitniji pristup prema mlađim korisnicima.“ Djeca i adolescenti mogu imati koristi od AI alata ako su uravnoteženi s ljudskim interakcijama za koje nauka pokazuje da su ključne za socijalni, psihološki, ponašajni, pa čak i biološki razvoj. Iskustva mladih s umjetnom inteligencijom trebaju biti temeljito nadzirana i diskutovana s pouzdanim odraslima kako bi se potaknula kritička procjena onoga što AI botovi nude i kako bi se potaknuo razvoj samostalnog razmišljanja i vještina kod mladih ljudi.
Ovo ažuriranje također pojašnjava kako bi asistent trebao reagirati kada se pojave sigurnosni problemi za tinejdžere. To znači da bi tinejdžeri trebali naići na snažnije zaštitne mjere, sigurnije alternative i poticaj da potraže pouzdanu offline podršku kada razgovori pređu u područje većeg rizika. Gdje postoji neposredna opasnost, tinejdžerima se preporučuje da kontaktiraju hitne službe ili krizne resurse.
Kao i ostatak Specifikacije modela, U18 Principi odražavaju naše namjeravano ponašanje modela. Nastavit ćemo ih usavršavati kako budemo uključivali nova istraživanja, stručni unos i stvarnu upotrebu.
Uz ažuriranje Model Spec-a, primijenili smo višeslojni pristup jačanju sigurnosti tinejdžera u okviru ChatGPT‑a, uključujući zaštitne mjere proizvoda, porodičnu podršku i stručne smjernice.
Od kada smo uveli roditeljski nadzor(otvara se u novom prozoru), proširili smo zaštite na nove proizvode, uključujući Grupne razgovore, pretraživač ChatGPT Atlas i aplikaciju Sora. Ova ažuriranja pomažu roditeljima da prilagode iskustvo korištenja ChatGPT‑a za svoje tinejdžere dok uvodimo nove proizvode i funkcije.
U skladu sa stručnim smjernicama, potičemo kontinuirane razgovore između roditelja i tinejdžera o zdravoj i odgovornoj upotrebi umjetne inteligencije u njihovoj porodici. Da bismo podržali ove razgovore, dodali smo nove resurse koje su pregledali stručnjaci u centru resursa za roditelje(otvara se u novom prozoru), uključujući Porodični vodič za pomoć tinejdžerima da odgovorno koriste AI(otvara se u novom prozoru) i savjete za roditelje(otvara se u novom prozoru) o tome kako razgovarati s djecom o AI, koje su pregledali ConnectSafely i članovi našeg Stručnog savjeta za dobrobit i AI. Nastavit ćemo dodavati više resursa s vremenom. Također pružamo podršku za zdravo korištenje direktno u proizvodu, s ugrađenim podsjetnicima za pauze tokom dugih sesija kako bismo pomogli da vrijeme provedeno s ChatGPT‑om bude namjerno i uravnoteženo.
Naš rad na sigurnosti tinejdžera vodi se bliskom suradnjom s ekspertima iz različitih disciplina i oblasti stručnosti. U oktobru smo osnovali Stručno vijeće za dobrobit i AI kako bismo pomogli u savjetovanju i definisanju kako bi trebale izgledati zdrave interakcije s AI-om za sve uzraste. Taj rad je pružio smjernice o roditeljskom nadzoru i obavijestima za roditelje. Također uključujemo kliničku stručnost kroz našu Global Physician Network kako bismo informisali istraživanje sigurnosti i evaluirali ponašanje modela, uključujući poboljšanje načina na koji ChatGPT prepoznaje uznemirenost i usmjerava ljude prema profesionalnoj njezi kada je to prikladno. Izgradili smo na ovim temeljima s GPT‑5.2, a također smo proširili pristup stvarnoj podršci prikazivanjem lokaliziranih linija za pomoć u ChatGPT‑u i Sora-i kroz naše partnerstvo s ThroughLine(otvara se u novom prozoru).
Nalazimo se u ranim fazama uvođenja modela za predviđanje starosti(otvara se u novom prozoru) na ChatGPT potrošačkim planovima. Ovo će nam pomoći da automatski primijenimo zaštitne mjere za tinejdžere kada vjerujemo da račun pripada maloljetniku. Ako nismo sigurni u nečiju dob ili imamo nepotpune informacije, predodređeno ćemo koristiti iskustvo za mlađe od 18 godina i pružiti odraslima načine da potvrde svoju dob.
Jačanje sigurnosti tinejdžera je kontinuiran rad i nastavit ćemo poboljšavati roditeljski nadzor i mogućnosti modela, proširivati resurse za roditelje, raditi s organizacijama, istraživačima i stručnim partnerima, uključujući Vijeće za dobrobit i Globalnu mrežu ljekara.
Posvećeni smo osiguravanju snažnih zaštita za tinejdžere i njihovom unapređivanju tokom vremena kako bismo bolje podržali tinejdžere i porodice.
