Dijelimo ažuriranje naše Specifikacije ponašanja modela, pisanog skupa pravila, vrijednosti i očekivanja ponašanja koji usmjerava kako želimo da se naši AI modeli ponašaju, osobito u zahtjevnim ili visokorizičnim situacijama, uz nova Načela za mlađe od 18 godina, odnosno Under-18 (U18) Principles(otvara se u novom prozoru). Ponašanje modela ključno je za način na koji ljudi komuniciraju s umjetnom inteligencijom, a tinejdžeri imaju različite razvojne potrebe od odraslih.
Načela za mlađe od 18 godina usmjeravaju kako bi ChatGPT trebao pružati sigurno i dobi primjereno iskustvo tinejdžerima u dobi od 13 do 17 godina.Utemeljen na razvojnim znanostima, ovaj pristup daje prednost prevenciji, transparentnosti i ranoj intervenciji. Pri razvoju ovih načela predstavili smo ih vanjskim stručnjacima, uključujući Američko psihološko udruženje, u okviru našeg kontinuiranog rada na prikupljanju povratnih informacija radi jačanja našeg pristupa.
Iako se načela Specifikacija ponašanja modela i dalje primjenjuju i na odrasle korisnike i na tinejdžere, ovo ažuriranje pojašnjava kako se ta načela primjenjuju u kontekstima koji uključuju tinejdžere, osobito ondje gdje su zahtjevi sigurnosti za maloljetnike izraženiji.
Načela za mlađe od 18 godina utemeljena su na četiri ključne smjernice:
- Sigurnost tinejdžera je na prvome mjestu, čak i kad bi to moglo biti u suprotnosti s drugim ciljevima
- Promocija podrške u stvarnom svijetu poticanjem odnosa izvan interneta i pouzdanih izvora pomoći
- Tretiranje tinejdžera kao tinejdžera, bez patroniziranja i bez tretiranja kao odraslih
- Transparentnost uz postavljanje jasnih očekivanja
U skladu s našim Planom za sigurnost tinejdžera, ova su načela dosad usmjeravala naš rad na sigurnosti tinejdžera, uključujući zaštitu sadržaja koju primjenjujemo na korisnike koji pri registraciji navedu da su mlađi od 18 godina, kao i kroz roditeljske kontrole. U tim kontekstima, implementirali smo zaštitne mjere kako bismo vodili model da bude posebno oprezan kad raspravlja o područjima s većim rizikom, uključujući samoozljeđivanje i samoubojstvo, romantičnu ili seksualiziranu igru uloga, grafički ili eksplicitni sadržaj, opasne aktivnosti i tvari, tjelesni izgled i poremećaje u prehrani te zahtjeve za čuvanjem tajni o nesigurnom ponašanju.
Američko psihološko udruženje, koje je pregledalo ranu verziju Specifikacije ponašanja modela U18 i dalo važne uvide za dugoročni pristup, jasno ističe važnost zaštite tinejdžera:
„Američko psihološko udruženje (APA) potiče razvojne inženjere umjetne inteligencije da ponude mjere zaštite prilagođene dobi za mlade korisnike svojih proizvoda te da primijene oprezniji pristup za mlađe korisnike. Djeca i adolescenti mogu imati koristi od alata umjetne inteligencije ako su oni usklađeni s ljudskim interakcijama koje su znanstveno dokazano ključne za društveni, psihološki, bihevioralni, pa čak i biološki razvoj. Pouzdane odrasle osobe trebale bi s mladima razgovarati o njihovim iskustvima s umjetnom inteligencijom kako bi ih potaknule na kritičko razmišljanje i razvoj samostalnih vještina.”
Ovo ažuriranje također pojašnjava kako bi se asistent trebao ponašati kada se pojave situacije koje mogu ugroziti sigurnost tinejdžera. To znači da bi se tinejdžeri u takvim situacijama trebali susretati s jačim zaštitnim mehanizmima, sigurnijim alternativama i poticajima da potraže pouzdanu izvanmrežnu podršku kad razgovori prijeđu u područja s većim rizikom. U slučajevima neposredne opasnosti, tinejdžere se upućuje na kontaktiranje hitnih službi ili kriznih službi za pomoć.
Kao i ostatak Specifikacije ponašanja modela, Načela za mlađe od 18 godina odražavaju predviđeno ponašanje modela. Nastavit ćemo ih dodatno usavršavati kako budemo uključivali nova istraživanja, stručne uvide i iskustva iz stvarne uporabe.
Uz ažuriranje Specifikacije ponašanja modela, primijenili smo višeslojni pristup jačanju sigurnosti tinejdžera u cijelom ChatGPT‑u, koji obuhvaća zaštitne mjere na razini proizvoda, podršku obiteljima i stručne smjernice.
Od uvođenja roditeljskog nadzora(otvara se u novom prozoru), proširili smo zaštitu na nove proizvode, uključujući grupne razgovore, preglednik ChatGPT Atlas i aplikaciju Sora. Ta ažuriranja pomažu roditeljima da prilagode iskustvo korištenja ChatGPT‑a za svoje tinejdžere dok uvodimo nove proizvode i značajke.
U skladu sa stručnim smjernicama potičemo kontinuirane razgovore između roditelja i tinejdžera o zdravoj i odgovornoj uporabi umjetne inteligencije u obitelji. Kako bismo podržali te razgovore, dodali smo nove resurse koje su provjerili stručnjaci u centar resursa za roditelje(otvara se u novom prozoru), uključujući Obiteljski vodič za odgovorno korištenje AI-ja za tinejdžere(otvara se u novom prozoru) i savjete za roditelje(otvara se u novom prozoru) o tome kako razgovarati s djecom o umjetnoj inteligenciji, koje su pregledali ConnectSafely i članovi našeg Stručnog vijeća za dobrobit i umjetnu inteligenciju. S vremenom ćemo i dalje dodavati više resursa. Zdravu uporabu podupiremo i izravno unutar proizvoda, uz ugrađene podsjetnike na pauze tijekom duljih sesija kako bismo pomogli da vrijeme provedeno uz ChatGPT ostane svjesno i uravnoteženo.
Naš rad na sigurnosti tinejdžera temelji se na bliskoj suradnji sa stručnjacima iz različitih disciplina i područja. U listopadu smo osnovali Stručno vijeće za dobrobit i umjetnu inteligenciju kako bismo pomogli savjetovati i definirati kako bi zdrave interakcije s umjetnom inteligencijom trebale izgledati za sve uzraste. Taj rad je oblikovao smjernice o roditeljskom nadzoru i obavijestima za roditelje. Također uključujemo kliničku stručnost kroz našu Globalnu mrežu liječnika kako bismo unaprijedili sigurnosna istraživanja i procjenu ponašanja modela, uključujući poboljšanje načina na koji ChatGPT prepoznaje znakove uznemirenosti i, kad je to primjereno, upućuje ljude na profesionalnu pomoć. Na tim smo temeljima gradili s modelom GPT‑5.2, a također smo proširili pristup stvarnoj podršci prikazivanjem lokalnih telefonskih linija za pomoć u ChatGPT‑u i Sori kroz naše partnerstvo s organizacijom ThroughLine(otvara se u novom prozoru).
U ranoj smo fazi uvođenja modela za procjenu dobi(otvara se u novom prozoru) u ChatGPT‑u za krajnje korisnike. To će nam pomoći da automatski primijenimo zaštitne mjere za tinejdžere onda kad budemo smatrali da račun pripada maloljetnoj osobi. Ako nismo sigurni u nečiju dob ili raspolažemo nepotpunim informacijama, primijenit ćemo iskustvo za mlađe od 18 godina te odraslima omogućiti načine za potvrdu njihove dobi.
Jačanje sigurnosti tinejdžera kontinuiran je proces i nastavit ćemo unaprjeđivati roditeljske kontrole i sposobnosti modela, širiti resurse za roditelje te surađivati s organizacijama, istraživačima i stručnim partnerima, uključujući Stručno vijeće za dobrobit i umjetnu inteligenciju te Globalnu mrežu liječnika.
Predani smo uspostavljanju snažnih mjera zaštite za tinejdžere i njihovu kontinuiranom unaprjeđenju kako bismo pružili bolju podršku tinejdžerima i njihovim obiteljima.
