Модель сипаттамасын жасөспірімдерге арналған қорғаныспен жаңарту

Біз AI модельдеріміздің, әсіресе қиын немесе тәуекелі жоғары жағдайларда, қалай әрекет етуі керегін айқындайтын жазбаша ережелер, құндылықтар және мінез-құлыққа қойылатын күтулер жиынтығы — модель сипаттамасына 18 жасқа толмағандарға арналған (U18) қағидаларды⁠(жаңа терезеде ашылады) қосып, жаңартуды ұсынып отырмыз. Модельдің мінез-құлқы адамдардың AI-мен қалай әрекеттесетіні үшін аса маңызды, ал жасөспірімдердің даму қажеттіліктері ересектерден өзгеше.

U18 қағидалары 13-тен 17 жасқа дейінгі жасөспірімдерге ChatGPT қалай қауіпсіз, жасына сай тәжірибе ұсынуы керегін бағыттайды. Дамытушы ғылымға негізделген бұл тәсіл алдын алуды, ашықтықты және ерте араласуды басымдыққа қояды. Осы қағидаларды әзірлеу барысында біз өз тәсілімізді күшейту үшін пікір жинау жөніндегі тұрақты жұмысымыз аясында оларды Америкалық психологиялық қауымдастықты қоса алғанда, сыртқы сарапшыларға алдын ала көрсеттік.

Модель сипаттамасының қағидалары ересек те, жасөспірім де пайдаланушыларға қолданыла бергенімен, бұл жаңарту оның жасөспірімдер контексінде, әсіресе кәмелетке толмағандардың қауіпсіздігіне қатысты мәселелер айқынырақ болатын жерлерде, қалай қолданылуы керегін нақтылайды.

U18 қағидалары төрт негізгі міндеттемеге сүйенеді:

• Жасөспірім қауіпсіздігін бірінші орынға қою, тіпті бұл басқа мақсаттарға қайшы келсе де
• Шынайы өмірдегі қолдауды ынталандыру, офлайн қарым-қатынастар мен сенімді ресурстарды ұсыну арқылы
• Жасөспірімдерге жасөспірім ретінде қарау, оларды менсінбей сөйлемеу де, ересек ретінде қабылдамау да
• Ашық болу, нақты күтулер белгілеу арқылы

Біздің Жасөспірімдер қауіпсіздігі жоспарына⁠ сай, бұл қағидалар осы уақытқа дейінгі жасөспірімдер қауіпсіздігіне қатысты жұмысымызға бағыт беріп келді, соның ішінде тіркелу кезінде өздерінің 18 жасқа толмағанын айтқан пайдаланушыларға қолданатын мазмұнды қорғау шаралары және ата-ана бақылауы бар. Осындай контексттерде біз модельге өзін-өзі зақымдау мен суицид, романтикалық немесе сексуалдандырылған рөлдік ойындар, графикалық не ашық мазмұн, қауіпті әрекеттер мен заттар, дене бейнесі мен тамақтану бұзылыстары, сондай-ақ қауіпті мінез-құлық туралы құпия сақтауды сұрау сияқты тәуекелі жоғары салаларды талқылағанда ерекше сақ болуға бағыттайтын қорғаныс тетіктерін енгіздік.

U18 модель сипаттамасының ертерек нұсқасын қарап шығып, ұзақ мерзімді перспектива үшін маңызды пайымдар ұсынған Америкалық психологиялық қауымдастық жасөспірімдерді қорғаудың маңызын айқын атап өтеді:

«APA AI әзірлеушілерін өз өнімдерінің жас пайдаланушылары үшін даму кезеңіне сай сақтық шараларын ұсынуға және кіші жастағы пайдаланушыларға қатысты көбірек қорғайтын тәсіл ұстануға шақырады. Балалар мен жасөспірімдер AI құралдарынан пайда көре алады, егер олар ғылым әлеуметтік, психологиялық, мінез-құлықтық, тіпті биологиялық даму үшін аса маңызды деп көрсететін адаммен өзара әрекеттесумен теңестірілсе. Жастардың AI-мен тәжірибесі AI боттары ұсынатын нәрсені сыни тұрғыдан бағалауды ынталандыру және жастардың дербес ойлау қабілеті мен дағдыларын дамыту үшін сенімді ересектердің мұқият қадағалауымен және талқылауымен жүруі керек.»—д-р Артур С. Эванс кіші, бас атқарушы директор, Америкалық психологиялық қауымдастық

Бұл жаңарту сондай-ақ жасөспірімдерге қатысты қауіпсіздік мәселелері туындағанда көмекші қалай жауап беруі керегін нақтылайды. Бұл жасөспірімдер әңгімелер тәуекелі жоғары аумаққа ауысқанда күштірек қорғаныс шектеулеріне, қауіпсіздеу баламаларға және сенімді офлайн қолдау іздеуге ынталандыруға тап болуы керек дегенді білдіреді. Тікелей қауіп бар жерде жасөспірімдерге жедел қызметтерге немесе дағдарыс ресурстарына жүгіну ұсынылады.

Модель сипаттамасының қалған бөлігі сияқты, U18 қағидалары да біздің модельден күтілетін мінез-құлықты көрсетеді. Біз жаңа зерттеулерді, сарапшылар пікірін және нақты өмірдегі қолдануды ескере отырып, оларды жетілдіруді жалғастырамыз.

Модель сипаттамасын жаңартумен қатар, біз ChatGPT аясында жасөспірімдер қауіпсіздігін күшейтуге⁠ арналған көпқабатты тәсіл қолдандық; ол өнімдегі қорғаныс тетіктерін, отбасылық қолдауды және сарапшылық нұсқаулықты қамтиды.

ата-ана бақылауын⁠(жаңа терезеде ашылады) енгізгеннен бері біз қорғанысты топтық чаттар, ChatGPT Atlas браузері және Sora қолданбасы сияқты жаңа өнімдерге де кеңейттік. Бұл жаңартулар біз жаңа өнімдер мен функцияларды енгізген сайын ата-аналарға жасөспірім баласының ChatGPT тәжірибесін бейімдеуге көмектеседі.

Сарапшылар нұсқаулығына сай, біз ата-аналар мен жасөспірімдер арасында отбасындағы AI-ді сау әрі жауапты пайдалану туралы тұрақты әңгімелерді қолдаймыз. Осы әңгімелерге көмектесу үшін біз ата-аналарға арналған ресурстар хабына⁠(жаңа терезеде ашылады) сарапшылар тексерген жаңа материалдар қостық, оның ішінде Жасөспірімдерге AI-ді жауапкершілікпен пайдалануға көмектесетін отбасылық нұсқаулық⁠(жаңа терезеде ашылады) және балаларымен AI туралы қалай сөйлесу керегі жөніндегі ата-аналарға кеңестер⁠(жаңа терезеде ашылады) бар; оларды ConnectSafely және біздің Әл-ауқат және AI жөніндегі сарапшылар кеңесінің⁠ мүшелері қарап шықты. Уақыт өте келе біз тағы да ресурстар қоса береміз. Сондай-ақ біз өнімнің өзінде де сау пайдалануды қолдаймыз: ұзақ сессиялар кезінде ChatGPT‑пен өткізілетін уақыттың саналы әрі теңгерімді болуына көмектесу үшін кіріктірілген үзіліс еске салғыштарын⁠ қостық.

Жасөспірімдер қауіпсіздігі саласындағы жұмысымыз түрлі пәндер мен сараптама салаларындағы мамандармен тығыз ынтымақтастыққа сүйенеді. Қазанда біз барлық жас санаттары үшін AI-мен салауатты өзара әрекеттесу қандай болуы керегін айқындауға және кеңес беруге көмектесу үшін Әл-ауқат және AI жөніндегі сарапшылар кеңесін⁠ құрдық. Сол жұмыс ата-ана бақылауы мен ата-аналарға жіберілетін хабарламаларға қатысты нұсқаулыққа ықпал етті. Біз сондай-ақ қауіпсіздік зерттеулерін ақпараттандыру және модель мінез-құлқын бағалау үшін, соның ішінде ChatGPT күйзелісті қалай жақсырақ танитынын және орынды болғанда адамдарды кәсіби көмекке қалай бағыттайтынын жақсарту үшін, Жаһандық дәрігерлер желісі⁠ арқылы клиникалық сараптаманы да пайдаланамыз. Біз осы негіздерді GPT‑5.2⁠ көмегімен дамыттық, сондай-ақ ThroughLine⁠(жаңа терезеде ашылады) компаниясымен серіктестігіміз арқылы ChatGPT пен Sora ішінде жергілікті сенім желілері нөмірлерін көрсету арқылы нақты өмірдегі қолдауға қолжетімділікті кеңейттік.

Біз ChatGPT тұтынушылық жоспарларында жасты болжау моделін⁠(жаңа терезеде ашылады) енгізудің бастапқы кезеңіндеміз. Бұл аккаунт кәмелетке толмаған адамға тиесілі деп ойласақ, жасөспірімдерге арналған қорғаныс шараларын автоматты түрде қолдануға көмектеседі. Егер біреудің жасына сенімді болмасақ немесе бізде толық емес ақпарат болса, әдепкі бойынша U18 тәжірибесін қолданамыз және ересектерге жасын растау жолдарын ұсынамыз.

Жасөспірімдер қауіпсіздігін күшейту — үздіксіз жұмыс, сондықтан біз ата-ана бақылауын және модель мүмкіндіктерін жетілдіруді, ата-аналарға арналған ресурстарды кеңейтуді, ұйымдармен, зерттеушілермен және сарапшы серіктестермен, соның ішінде Әл-ауқат кеңесі мен Жаһандық дәрігерлер желісімен жұмыс істеуді жалғастырамыз.

Біз жасөспірімдерге арналған мықты қорғаныс шараларын енгізуге және жасөспірімдер мен отбасыларды жақсырақ қолдау үшін оларды уақыт өте келе жетілдіруге ниеттіміз.