Ми впроваджуємо прогнозування віку в споживчих тарифах ChatGPT, щоб визначати, чи може обліковий запис належати користувачеві віком до 18 років, і застосовувати для підлітків відповідний підхід та необхідні заходи захисту. Як ми зазначали в нашому Плані гарантії безпеки для підлітків та Принципах поведінки моделей для осіб молодше 18 років, молоді люди заслуговують на технології, які одночасно розширюють можливості та захищають їх.
Прогнозування віку ґрунтується на механізмах захисту, які вже діють. Підлітки, які під час реєстрації повідомляють, що їм ще не виповнилося 18 років, автоматично отримують додаткові запобіжні заходи, покликані зменшити доступ до чутливого або потенційно шкідливого контенту. Це також дає нам змогу ставитися до дорослих як до дорослих і використовувати наші інструменти так, як вони цього очікують, у межах вимог безпеки.
Раніше ми ділилися нашими початковими планами щодо прогнозування віку, а сьогодні розповідаємо більше деталей у процесі розгортання цієї функції.
ChatGPT використовує модель прогнозування віку, щоб оцінювати, чи належить обліковий запис користувачеві віком до 18 років. Модель аналізує поєднання поведінкових сигналів і сигналів на рівні облікового запису, зокрема тривалість існування облікового запису, типовий час активності протягом доби, зміни у використанні з часом, а також вік, зазначений користувачем. Розгортання прогнозування віку дозволяє нам краще розуміти, які сигнали підвищують точність, і на основі цих висновків ми постійно вдосконалюємо модель.
Користувачі, яких помилково віднесено до категорії осіб до 18 років, завжди матимуть швидкий і простий спосіб підтвердити свій вік та відновити повний доступ. Для цього використовується селфі через Persona — захищений сервіс перевірки особи. Користувачі можуть у будь-який момент перевірити, чи застосовано до їхнього облікового запису захисні обмеження, і розпочати процес підтвердження віку в розділі Налаштування > Обліковий запис.
Коли модель прогнозування віку визначає, що обліковий запис може належати користувачеві до 18 років, ChatGPT автоматично застосовує додаткові заходи захисту, розроблені для зменшення доступу до чутливого контенту, зокрема:
- Сцени жорстокого насильства або надмірно натуралістичний контент
- Вірусні челенджі, що можуть заохочувати ризиковану або шкідливу поведінку серед неповнолітніх
- Рольові ігри сексуального, романтичного чи насильницького характеру
- Зображення самопошкоджень
- Контент, що пропагує екстремальні стандарти краси, нездорові дієти або приниження через зовнішність
Цей підхід сформований за участю експертів і спирається на наукові дослідження у сфері розвитку дитини, враховуючи відомі особливості підлітків у сприйнятті ризиків, імпульсивності, впливі однолітків і емоційній регуляції. Хоча ці обмеження щодо контенту допомагають зменшити вплив чутливих матеріалів на підлітків, ми зосереджуємося на постійному вдосконаленні захисних механізмів, зокрема для протидії спробам обійти встановлені запобіжні заходи. Коли ми не впевнені у віці користувача або маємо неповну інформацію, ми за замовчуванням застосовуємо більш безпечний формат взаємодії.
Окрім цих заходів захисту, батьки можуть додатково налаштовувати взаємодію підлітків із ChatGPT за допомогою батьківського контролю(відкривається у новому вікні), зокрема встановлювати години тиші, коли ChatGPT недоступний, керувати такими функціями, як пам'ять або навчання моделей, а також отримувати сповіщення у разі виявлення ознак гострого емоційного дистресу.
Ми враховуємо результати початкового етапу впровадження та з часом підвищуємо точність прогнозування віку. Ми уважно відстежуватимемо процес розгортання й використовуватимемо отримані сигнали для подальшого вдосконалення.
У країнах ЄС прогнозування віку буде впроваджено найближчими тижнями з урахуванням регіональних вимог. Щоб дізнатися більше, відвідайте нашу довідкову сторінку(відкривається у новому вікні).
Хоч це й важливий етап, наша робота із забезпечення безпеки підлітків триває. Ми й надалі ділитимемося оновленнями про наш прогрес і здобуті висновки в постійному діалозі з експертами, зокрема з Американською психологічною асоціацією, ConnectSafely та Global Physicians Network.
