Нашият подход към прогнозиране на възрастта

Въвеждаме прогнозиране на възрастта в потребителските планове на ChatGPT, за да определим дали даден акаунт вероятно принадлежи на лице под 18 години, така че да се приложат подходящите преживяване и предпазни мерки за тийнейджъри. Както сме изложили в нашия План за безопасност на тийнейджърите⁠ и Принципи за поведението на модела при лица под 18 години⁠, младите хора заслужават технологии, които едновременно разширяват възможностите и защитават тяхното благосъстояние.

Прогнозирането на възрастта се основава на вече съществуващите защитни мерки. Тийнейджърите, които ни информират, че са под 18 години при регистрация, автоматично получават допълнителна защита, за да не бъдат излагани на чувствително или потенциално вредно съдържание. Това също така ни позволява да се отнасяме към възрастните като към възрастни и да използваме нашите инструменти по начина, по който те желаят, в безопасни рамки.

По-рано споделихме нашите ранни планове⁠ за прогнозиране на възрастта, а днес споделяме повече подробности, тъй като вече ги въвеждаме.

ChatGPT използва модел за прогнозиране на възрастта, за да оцени дали даден акаунт има вероятност да принадлежи на лице под 18 години. Моделът разглежда комбинация от поведенчески и други сигнали, включително това колко дълго съществува акаунтът, типичните часове на активност, моделите на използване с течение на времето и възрастта, заявена от потребителя. Внедряването на прогнозиране на възрастта ни помага да разберем кои сигнали подобряват точността. Използваме тези знания, за да усъвършенстваме модела непрекъснато с течение на времето.

Потребителите, които са неправилно попаднали в категорията за лица под 18 години, винаги ще имат бърз и лесен начин да потвърдят възрастта си и да възстановят пълния си достъп със селфи чрез Persona, сигурна услуга за проверка на самоличността. Потребителите могат да проверят дали към акаунта им са добавени предпазни мерки и да започнат този процес по всяко време, като отидат в Настройки > Акаунт.

Когато моделът за прогнозиране на възрастта прецени, че даден акаунт може да принадлежи на лице под 18 години, ChatGPT автоматично прилага допълнителни защити⁠, предназначени да намалят излагането на чувствително съдържание, като например:

• Графично насилие или жестокости
• Вирусни предизвикателства, които могат да насърчат рисково или вредно поведение при малолетни
• Сексуална, романтична или жестока ролева игра
• Изобразяване на самонараняване
• Съдържание, което насърчава екстремни стандарти за красота, нездравословни диети или обиди, свързани с външния вид

Този подход се ръководи от експерти и е основан на академичната литература за науката за развитието на детето, като отчита, че при тийнейджърите има разлика във възприемането на риска, контрола на импулсите, влиянието на връстниците и емоционалната регулация. Въпреки че тези ограничения на съдържанието помагат да намалят излагането на тийнейджърите на чувствителни материали, ние сме съсредоточени върху непрекъснатото подобряване на тези защити, особено за да се справим с опитите за заобикаляне на нашите мерки за сигурност. Когато не сме сигурни относно нечия възраст или имаме непълна информация, по подразбиране осигуряваме по-безопасно преживяване.

В допълнение към тези предпазни мерки, родителите могат да изберат да персонализират допълнително преживяването на своите тийнейджъри чрез родителски контрол⁠(отваря се в нов прозорец), включително задаване на тихи часове, когато ChatGPT не може да се използва, контролиране на функции като памет или обучение на модела и получаване на известия, ако бъдат открити признаци на остро безпокойство.

Учим се от първоначалното внедряване и продължаваме да подобряваме точността на прогнозиране на възрастта с времето. Ще следим отблизо внедряването и ще използваме тези сигнали, за да ни насочват в текущите подобрения.

В ЕС прогнозирането на възрастта ще бъде внедрено през следващите седмици, поради регионалните изисквания. За повече информация посетете нашата страница за помощ⁠(отваря се в нов прозорец).

Въпреки че това е важно постижение на този етап, нашата работа за осигуряване на безопасността на тийнейджърите продължава. Ще продължим да споделяме актуализации за напредъка си и наученот то нас, в диалог с експерти, включително Американската психологическа асоциация, ConnectSafely и Global Physicians Network⁠.