Ina-update namin ang aming Model Spec na may mga proteksyon para sa mga tinedyer
Batay sa gabay ng mga eksperto, inilalarawan ng mga bagong Prinsipyo ng U18 kung paano dapat magbigay ng suporta ang ChatGPT sa mga kabataan sa ligtas at angkop sa kanilang edad na pag-uugali.
Ibinabahagi namin ang update sa aming Model Spec, ang nakasulat na hanay ng mga patakaran, pagpapahalaga, at inaasahang pag-uugali na gumagabay kung paano namin nais kumilos ang aming mga AI model, lalo na sa mahihirap o high-stakes na sitwasyon, kasama ang mga bagong Mga Prinsipyo ng Under-18 (U18)(magbubukas sa bagong window). Mahalaga ang paggawi ng modelo sa pakikipag-ugnayan ng mga tao sa AI, at ang mga kabataan ay may iba't ibang pangangailangang pangkaunlaran kaysa sa mga matatanda.
Gumagabay ang U18 Principles kung paano dapat magbigay ang ChatGPT ng ligtas at naaangkop sa edad na karanasan para sa mga tinedyer na may edad 13 hanggang 17. Batay sa developmental science, inuuna ng pamamaraang ito ang prevention, transparency, at maagang interbensyon. Sa pagbuo ng mga prinsipyong ito, iprinisinta namin ang mga ito sa mga external na eksperto, kabilang ang American Psychological Association, bilang bahagi ng patuloy naming pagsisikap na humingi ng input para palakasin ang aming pamamaraan.
Habang ang mga prinsipyo ng Model Spec ay patuloy na naaangkop sa parehong adulto at tinedyer na user, nililinaw ng update na ito kung paano naaangkop ang mga prinsipyong ito sa konteksto ng tinedyer, lalo na kung saan mas malinaw ang mga konsiderasyon sa kaligtasan para sa mga menor de edad.
Ang U18 Principles ay nakabatay sa apat na pangunahing pangako:
- Unahin ang kaligtasan ng tinedyer, kahit pa ito ay maaaring salungat sa ibang mga layunin
- Itaguyod ang suporta sa tunay na mundo sa pamamagitan ng paghikayat sa mga offline na relasyon at pinagkakatiwalaang mapagkukunan
- Ituring mo ang mga tinedyer bilang mga tinedyer, huwag mo silang maliitin o ituring na parang mga adulto
- Maging transparent sa pamamagitan ng pagtatakda ng malinaw na mga inaasahan
Alinsunod sa aming Teen Safety Blueprint, ang mga prinsipyong ito ang gumabay sa aming gawain para sa kaligtasan ng mga tinedyer hanggang sa kasalukuyan, kabilang ang mga proteksyon sa nilalaman na inilalapat namin sa mga user na nagsasabi sa amin na wala pa silang 18 sa pag-sign up, at sa pamamagitan ng mga kontrol ng magulang. Sa mga kontekstong ito, nagpatupad kami ng mga pag-iingat upang gabayan ang modelo na maging mas maingat kapag tinatalakay ang mga lugar na may mas mataas na panganib, kabilang ang pananakit sa sarili at pagpapakamatay, romantiko o sekswal na roleplay, graphic o tahasang nilalaman, mapanganib na mga aktibidad at sangkap, larawan ng katawan at hindi maayos na pagkain, at mga kahilingan na panatilihing lihim ang hindi ligtas na pag-uugali.
Malinaw sa American Psychological Association, na nirepaso ang maagang draft ng U18 Model Spec at nagbigay ng mahahalagang pananaw para sa pangmatagalan, ang kahalagahan ng proteksyon sa mga tinedyer:
Hinihikayat ng APA ang mga developer ng AI na mag-alok ng mga pag-iingat na naaangkop sa pag-unlad para sa mga kabataang gumagamit ng kanilang mga produkto at magpatibay ng mas protektibong pamamaraan para sa mas batang mga user. Maaaring makinabang ang mga bata at tinedyer sa mga AI tool kung ito ay may kasamang interaksyon ng mga tao na ipinapakita ng agham na mahalaga para sa social, psychological, behavioral, at pati na rin biological na pag-unlad. Ang mga karanasan ng kabataan sa AI ay dapat na lubusang binabantayan at tinatalakay kasama ng mga pinagkakatiwalaang matatanda upang hikayatin ang kritikal na pagsusuri sa mga iniaalok ng mga AI bot, at upang hikayatin ang pag-unlad ng mga kabataan sa kanilang sariling pag-iisip at skill.
Nililinaw din ng update na ito kung paano dapat tumugon ang assistant kapag may lumitaw na mga isyu sa kaligtasan ng mga tinedyer. Ibig sabihin nito, dapat makaranas ang mga tinedyer ng mas matibay na mga guardrail, mas ligtas na alternatibo, at paghihikayat na humingi ng pinagkakatiwalaang offline na suporta kapag pumapasok sa mas mataas na panganib na sitwasyon ang mga pag-uusap. Kung may agarang panganib, hinihikayat ang mga tinedyer na tumawag sa emergency services o crisis resources.
Gaya ng sa buong Model Spec, ipinapakita ng U18 Principles kung paano namin gustong kumilos ang modelo. Patuloy namin itong pahuhusayin habang isinisingit namin ang bagong pananaliksik, payo ng eksperto, at aktwal na paggamit sa totoong buhay.
Kasabay ng pag-update ng Model Spec, ginamit namin ang maraming paraan para palakasin ang kaligtasan ng mga tinedyer sa buong ChatGPT, mula sa mga safety feature ng produkto, suporta sa pamilya, hanggang sa gabay ng mga eksperto.
Simula nang ilunsad ang parental controls(magbubukas sa bagong window), pinalawak namin ang proteksyon sa mga bagong produkto tulad ng mga group chat, ChatGPT Atlas browser, at Sora app. Tinutulungan ng mga update na ito ang mga magulang na i-adjust ang ChatGPT experience ng kanilang tinedyer habang nagdadagdag kami ng mga bagong produkto at feature.
Ayon sa payo ng mga eksperto, hinihikayat namin na tuloy-tuloy ang usapan ng mga magulang at tinedyer tungkol sa ligtas at responsable na paggamit ng AI sa kanilang pamilya. Para suportahan ang mga usaping ito, nagdagdag kami ng bagong expert-vetted resources sa parents resource hub(magbubukas sa bagong window), kasama ang Family Guide to Help Teens Use AI Responsibly(magbubukas sa bagong window) at mga tip para sa mga magulang(magbubukas sa bagong window) kung paano kausapin ang kanilang mga anak tungkol sa AI, na ni-review ng ConnectSafely at mga miyembro ng aming Expert Council on Well-Being and AI. Magpapatuloy kaming magdaragdag ng mas maraming mapagkukunan sa paglipas ng panahon. Nagbibigay din kami ng suporta para sa malusog na paggamit nang direkta sa produkto, na may mga paalalang built-in para sa pahinga sa mga mahabang session upang makatulong na panatilihing intensyonal at balanse ang oras na ginugugol sa ChatGPT.
Gumagabay sa aming trabaho sa kaligtasan ng tinedyer ang malapit na pakikipag-ugnayan sa mga eksperto mula sa iba’t ibang larangan at espesyalisasyon. Noong Oktubre, itinatag namin ang Expert Council on Well-Being and AI para tumulong magbigay ng payo at tukuyin kung ano ang dapat itsura ng ligtas at maayos na pakikisalamuha sa AI para sa lahat ng edad. Ang trabahong iyon ang nagbigay gabay sa mga parental control at notification para sa mga magulang. Isinasama rin namin ang clinical expertise sa pamamagitan ng aming Global Physician Network para gabayan ang safety research at suriin ang kilos ng modelo, kasama na ang pagpapabuti kung paano nakikilala ng ChatGPT ang distress at nagtuturo sa mga tao sa propesyonal na tulong kapag kinakailangan. Pinagyaman namin ang mga pundasyong ito sa GPT‑5.2, at pinalawak din namin ang access sa real-world support sa pamamagitan ng pagpapakita ng mga na-localize na helpline sa ChatGPT at Sora sa tulong ng aming partnership sa ThroughLine(magbubukas sa bagong window).
Nasa mga unang yugto kami ng pagpapalabas ng modelo ng paghula ng edad(magbubukas sa bagong window) sa mga plano ng consumer ng ChatGPT. Makakatulong ito sa amin na awtomatikong mag-apply ng mga pananggalang para sa mga tinedyer kapag naniniwala kaming ang account ay pagmamay-ari ng menor de edad. Kung hindi kami sigurado sa edad ng isang tao o may kulang na impormasyon, gagamitin namin ang U18 na karanasan bilang default at bibigyan ang mga matatanda ng mga paraan para beripikahin ang kanilang edad.
Ang pagpapalakas ng kaligtasan ng tinedyer ay tuloy-tuloy na trabaho, at patuloy naming pahuhusayin ang mga parental control at kakayahan ng modelo, palalawakin ang mga resource para sa mga magulang, at makikipagtulungan sa mga organisasyon, mananaliksik, at eksperto kabilang ang Well-Being Council at Global Physician Network.
Nagsusumikap kami na magbigay ng matibay na proteksyon para sa mga tinedyer at patuloy itong pagbutihin sa paglipas ng panahon para mas mahusay na magbigay ng suporta sa mga tinedyer at pamilya.
