Ажурирање наших спецификација модела за заштиту тинејџера

Делимо ажурирање наших спецификација модела, писаног скупа правила, вредности и очекивања у погледу понашања који усмерава како желимо да се наши AI модели понашају, посебно у тешким ситуацијама или ситуацијама са високим улозима, уз принципе за млађе од 18 година (U18)⁠(отвара се у новом прозору). Понашање модела је кључно за то како људи комуницирају са AI-јем, а тинејџери имају другачије развојне потребе од одраслих.

Принципи U18 усмеравају како ChatGPT треба да пружи безбедно искуство примерено узрасту за тинејџере од 13 до 17 година. Заснован на развојној науци, овај приступ даје приоритет превенцији, транспарентности и раној интервенцији. При изради ових принципа, поделили смо их унапред са спољним стручњацима, укључујући Америчко психолошко удружење, као део нашег сталног рада на прикупљању повратних информација ради јачања нашег приступа.

Док принципи спецификација модела и даље важе и за одрасле и за тинејџере, ово ажурирање појашњава како их треба применити у контексту тинејџера, нарочито тамо где безбедносна питања за малолетнике могу бити израженија. 

Принципи U18 заснивају се на четири водеће обавезе:

• Безбедност тинејџера ставити на прво место, чак и када то може бити у супротности са другим циљевима
• Подстицати подршку у стварном свету охрабривањем односа ван мреже и ослањања на поуздане ресурсе
• Односити се према тинејџерима као према тинејџерима, без покровитељског тона и без третирања као одраслих
• Бити транспарентан постављањем јасних очекивања

У складу са нашим планом за безбедност тинејџера⁠, ови принципи су до сада усмеравали наш рад на безбедности тинејџера, укључујући заштиту садржаја коју примењујемо на кориснике који нам при регистрацији кажу да су млађи од 18 година, као и кроз родитељске контроле. У тим контекстима смо увели заштитне мере које усмеравају модел да буде посебно опрезан када се разговара о областима већег ризика, укључујући самоповређивање и самоубиство, романтични или сексуализовани roleplay, графички или експлицитан садржај, опасне активности и супстанце, слику о телу и поремећаје у исхрани, као и захтеве да се чувају тајне о небезбедном понашању.

Америчко психолошко удружење, које је прегледало рани нацрт U18 спецификација модела и понудило важне увиде за дугорочни рад, јасно истиче важност заштите тинејџера:

„APA подстиче развојне тимове AI система да понуде мере предострожности примерене развојном узрасту младих корисника својих производа и да примене заштитнији приступ за млађе кориснике.  Деца и адолесценти могу имати користи од AI алата ако су они уравнотежени људским интеракцијама за које наука показује да су кључне за социјални, психолошки, бихејвиорални, па чак и биолошки развој. Искуства младих са AI-јем треба темељно надзирати и о њима разговарати са одраслима од поверења како би се подстакла критичка процена онога што AI ботови нуде, као и развој самосталног мишљења и вештина код младих.“—др Артур Ц. Еванс Млађи, извршни директор, Америчко психолошко удружење

Ово ажурирање такође појашњава како асистент треба да одговори када се код тинејџера појаве безбедносне бриге. То значи да тинејџери треба да наилазе на јаче заштитне механизме, безбедније алтернативе и подстицај да потраже поуздану подршку ван мреже када разговори пређу у подручје већег ризика. Тамо где постоји непосредан ризик, тинејџери се подстичу да контактирају хитне службе или кризне ресурсе.

Као и остатак спецификација модела, принципи U18 одражавају наше намеравано понашање модела. Наставићемо да их усавршавамо како будемо укључивали нова истраживања, допринос стручњака и искуства из стварне употребе.

Поред ажурирања спецификација модела, применили смо вишеслојни приступ јачању безбедности тинејџера⁠ у оквиру ChatGPT‑а, који обухвата заштитне механизме у производу, подршку породицама и смернице стручњака.

Од увођења родитељских контрола⁠(отвара се у новом прозору), проширили смо заштиту и на нове производе, укључујући групна ћаскања, прегледач ChatGPT Atlas и апликацију Sora. Ова ажурирања помажу родитељима да прилагоде искуство свог тинејџера у ChatGPT‑у док уводимо нове производе и функције.

У складу са смерницама стручњака, подстичемо сталне разговоре између родитеља и тинејџера о здравој и одговорној употреби AI-ја у оквиру породице. Да бисмо подржали те разговоре, додали смо нове ресурсе које су прегледали стручњаци у центар ресурса за родитеље⁠(отвара се у новом прозору), укључујући Породични водич за одговорну употребу AI-ја код тинејџера⁠(отвара се у новом прозору) и савете за родитеље⁠(отвара се у новом прозору) о томе како да разговарају са својом децом о AI-ју, које су прегледали ConnectSafely и чланови нашег Стручног савета за добробит и AI⁠. Наставићемо да временом додајемо још ресурса. Такође директно подржавамо здраву употребу у самом производу, са уграђеним подсетницима за паузу⁠ током дугих сесија, како бисмо помогли да време проведено уз ChatGPT буде сврсисходно и уравнотежено.

Наш рад на безбедности тинејџера усмерава тесна сарадња са стручњацима из различитих области и профила. У октобру смо основали Стручни савет за добробит и AI⁠ како би помогао саветима и дефинисању тога како здраве интеракције са AI-јем треба да изгледају за све узрасте. Тај рад је утицао на смернице о родитељским контролама и обавештењима за родитеље. Клиничку експертизу укључујемо и кроз нашу Глобалну мрежу лекара⁠, како бисмо информисали безбедносна истраживања и процењивали понашање модела, укључујући побољшање начина на који ChatGPT препознаје узнемиреност и усмерава људе ка професионалној нези када је то примерено. На тим основама смо даље градили са GPT‑5.2⁠, а такође смо проширили приступ подршци у стварном свету приказивањем локализованих линија за помоћ у ChatGPT‑у и Sora-и кроз наше партнерство са ThroughLine⁠(отвара се у новом прозору).

Налазимо се у раној фази увођења модела за предвиђање узраста⁠(отвара се у новом прозору) у ChatGPT потрошачким плановима. То ће нам помоћи да аутоматски применимо заштитне мере за тинејџере када верујемо да налог припада малолетном лицу. Ако нисмо сигурни у нечији узраст или имамо непотпуне информације, подразумевано ћемо применити U18 искуство и одраслима понудити начине да потврде свој узраст.

Јачање безбедности тинејџера је сталан посао и наставићемо да унапређујемо родитељске контроле и могућности модела, проширујемо ресурсе за родитеље и сарађујемо са организацијама, истраживачима и стручним партнерима, укључујући Савет за добробит и Глобалну мрежу лекара. 

Посвећени смо снажној заштити тинејџера и њеном сталном унапређивању како бисмо боље подржали тинејџере и породице.