Обновяване на спецификацията на модела с механизми за защита на тийнейджъри
Въз основа на експертни насоки, новите принципи за U18 очертават как ChatGPT трябва да подкрепя тийнейджърите с безопасно и уместно за възрастта им поведение.
Споделяме актуализация на спецификацията на модела, писмения набор от правила, ценности и поведенчески очаквания, които ръководят това как искаме да се държат нашите ИИ модели, особено в трудни или високорискови ситуации, с нови Принципи за лица под 18 години (U18)(отваря се в нов прозорец). Поведението на модела е от решаващо значение за това как хората взаимодействат с изкуствения интелект, а тийнейджърите имат различни потребности, свързани с развитието, в сравнение с възрастните.
Принципите U18 ръководят как ChatGPT трябва да осигурява безопасно и подходящо за възрастта преживяване за тийнейджъри на възраст от 13 до 17 години. Основавайки се на науката за развитието, този подход приоритизира превенцията, прозрачността и ранната интервенция. В процеса на разработване на тези принципи ги обсъдихме предварително с външни експерти, включително Американската психологическа асоциация, като част от непрекъснатите ни усилия да търсим обратна връзка за подобряване на подхода ни.
Докато принципите на спецификацията на модела продължават да се прилагат както за възрастни, така и за тийнейджъри, тази актуализация изяснява как тези принципи се прилагат в контекста на тийнейджърите, особено когато съображенията за безопасност на непълнолетните могат да бъдат по-изразени.
Принципите на U18 са заложени в четири основни ангажимента:
- Поставяме безопасността на тийнейджърите на първо място, дори когато това може да е в конфликт с други цели
- Насърчаваме реалната подкрепа чрез насърчаване на офлайн взаимоотношения и надеждни ресурси
- Отнасяме се към тийнейджърите като към тийнейджъри, без да се отнасяме снизходително към тях или да ги третираме като възрастни
- Запазваме прозрачност, като задаваме ясни очаквания
В съответствие с нашия План за безопасност на тийнейджърите, тези принципи ръководят нашата работа по безопасността на тийнейджърите до момента, включително защитите на съдържанието, които прилагаме за потребители, които ни съобщават, че са под 18 години при регистриране, както и чрез родителски контрол. В тези ситуации сме внедрили предпазни мерки, за да насочим модела да бъде особено внимателен, когато обсъжда области с по-висок риск, включително самонараняване и самоубийство, романтична или сексуализирана ролева игра, графично съдържание или такова с явен сексуален характер, опасни дейности и вещества, представа за тялото и хранителни разстройства, както и искания за пазене на тайни относно небезопасно поведение.
Американската психологическа асоциация, която прегледа ранна разработка на спецификацията на модела U18 и предложи важни прозрения за дългосрочен план, ясно подчертава колко е важна защитата на тийнейджърите:
„APA насърчава разработчиците на ИИ да предлагат предпазни мерки, подходящи за развитието на младите потребители на техните продукти, и да възприемат по-защитен подход за по-младите потребители.“ Децата и юношите могат да се възползват от инструментите с изкуствен интелект, ако те са балансирани с човешки взаимодействия, които науката показва, че са от съществено значение за социалното, психологическото, поведенческото и дори биологичното развитие. Опитът на младите хора с изкуствения интелект трябва да бъде внимателно наблюдаван и обсъждан с доверени възрастни, за да се насърчи критичният преглед върху това, което предлагат ИИ ботовете, и да се насърчи развитието на независимото мислене и уменията на младите хора.
Тази актуализация също така изяснява как асистентът трябва да реагира, когато възникнат опасения за безопасността на младежите. Това означава, че тийнейджърите трябва да срещат по-силни защитни рамки, по-безопасни алтернативи и насърчение да търсят надеждна офлайн подкрепа, когато разговорите преминават в по-рискова територия. Когато има непосредствен риск, тийнейджърите ще бъдат насърчавани да се свържат със спешни служби или кризисни ресурси.
Както и останалата част от спецификацията на модела, принципите U18 отразяват нашето предвидено поведение на модела. Ще продължим да ги усъвършенстваме, като включваме нови изследвания, експертна обратна връзка и реална употреба.
Наред с актуализирането на спецификацията на модела, предприехме многослоен подход за засилване на безопасността на тийнейджърите в ChatGPT, обхващащ продуктови предпазни мерки, семейна подкрепа и експертни насоки.
Откакто въведохме родителски контрол(отваря се в нов прозорец), разширихме защитите в нови продукти, включително групови чатове, браузъра ChatGPT Atlas и приложението Sora. Тези актуализации помагат на родителите да персонализират преживяването на своите тийнейджъри с ChatGPT, докато ние въвеждаме нови продукти и функции.
В съответствие с експертните насоки, насърчаваме непрекъснати разговори между родители и тийнейджъри относно здравословното и отговорно използване на изкуствения интелект в тяхното семейство. В подкрепа на тези разговори добавихме нови ресурси, проверени от експерти, към центъра за ресурси за родители(отваря се в нов прозорец), включително Семейно ръководство за помощ на тийнейджъри при отговорна употреба на ИИ(отваря се в нов прозорец) и съвети за родители как да говорят с децата си за ИИ(отваря се в нов прозорец), които бяха прегледани от ConnectSafely и членове на нашия Експертен съвет за благополучие и ИИ. Ще продължим да добавяме още ресурси с течение на времето. Също така поддържаме здравословна употреба директно в продукта, с вградени напомняния за почивки по време на дълги сесии, за да помогнем времето, прекарано с ChatGPT, да бъде целенасочено и балансирано.
Нашата работа по безопасността на тийнейджърите се ръководи от тясно сътрудничество с експерти от различни дисциплини и области на познание. През октомври създадохме Експертен съвет по благосъстояние и изкуствен интелект, който да помогне за консултиране и определяне на това какви трябва да бъдат здравословните взаимодействия с ИИ за всички възрасти. Тази работа послужи за основа на насоките относно родителските мерки и уведомленията за родители. Освен това използваме клиничния опит на нашата Глобална мрежа от лекари с цел да информира изследванията за безопасност и да оценим поведението на модела, включително подобряване на начина, по който ChatGPT разпознава страданието и насочва хората към професионална грижа, когато е уместно. Надградихме върху тези основи с GPT‑5.2 и също така разширихме достъпа до реална поддръжка, като предоставихме локализирани телефонни линии за помощ в ChatGPT и Sora чрез нашето партньорство с ThroughLine(отваря се в нов прозорец).
Ние сме в началните етапи на пускане на модел за прогнозиране на възрастта(отваря се в нов прозорец) в потребителските планове на ChatGPT. Това ще ни помогне автоматично да прилагаме предпазни мерки за тийнейджъри, когато смятаме, че акаунтът принадлежи на непълнолетно лице. Ако не сме сигурни относно нечия възраст или имаме непълна информация, по подразбиране ще предоставим преживяване във вариант U18 и ще дадем на възрастните начини да докажат възрастта си.
Засилването на безопасността на тийнейджърите е непрекъсната работа и ще продължим да подобряваме родителския контрол и възможностите на модела, да разширяваме ресурсите за родители, да работим с организации, изследователи и експертни партньори, включително Съвета за благополучие и Глобалната лекарска мрежа.
Ангажирани сме да осигурим силна защита на тийнейджърите и да я подобряваме с течение на времето, за да подкрепяме по-добре тийнейджърите и семействата.
