OpenAI підтримує законопроєкт Каліфорнії про посилення безпеки молоді під час використання ШІ

Авторка: Енн О’Лірі, віцепрезидентка з глобальної політики

OpenAI підтримує законопроєкт Сенату Каліфорнії SB 1119, який запроваджує вагомі гарантії безпеки під час використання ШІ молоддю, водночас зберігаючи доступ до інструментів, що допомагають навчатися, творити й готуватися до майбутнього. Ця підтримка продовжує зобов’язання, яке торік узяв на себе співзасновник і генеральний директор OpenAI Сем Альтман, викладаючи принципи компанії щодо підлітків.

За відсутності дій на федеральному рівні Каліфорнія має нагоду встановити високий стандарт безпеки ШІ для молоді.

У нашому листі до губернатора Ньюсома⁠(відкривається у новому вікні) ми відзначаємо його лідерство в цьому важливому питанні, а також лідерство сенатора Стіва Падільї, депутаток Асамблеї Баффі Вікс і Ребекки Бауер-Каган та Легіслатури Каліфорнії. SB 1119 розвиває заходи безпеки молоді, які OpenAI підтримує у своїх продуктах, принципах глобальної політики, адвокаційній роботі в Каліфорнії та роботі над законом «Про безпечний ШІ для батьків і дітей». Ми закликаємо губернатора Ньюсома підписати цей законопроєкт.

Підлітки — перше покоління, яке зростає разом із ШІ. Майже дев’ять із десяти підлітків, які користуються ChatGPT, протягом тижня звертаються до нього для навчання, пошуку інформації, розвитку навичок або підвищення продуктивності. Ця можливість передбачає чітку відповідальність: взаємодія підлітків із ШІ має враховувати особливості їхнього розвитку, передбачати надійний захист за замовчуванням і належні можливості навчатися, творити й досліджувати.

Цей підхід втілено в нещодавно запущеному продукті ChatGPT для підлітків. Він допомагає користувачам до 18 років навчатися, критично мислити й створювати нове, водночас сприяючи здоровому користуванню, забезпечуючи вбудовані засоби захисту та надаючи батькам додаткові інструменти контролю. Якщо наша система визначає, що користувачеві ще немає 18 років, або користувач вказує вік від 13 до 17 років, його автоматично переводять у ChatGPT для підлітків. Ці засоби захисту є частиною базового досвіду, а не додатковими налаштуваннями, які користувачі можуть вимкнути.

Загалом ми переконані, що підлітки можуть користуватися перевагами ШІ без шкоди для безпеки — саме ця мета лежить в основі SB 1119.

SB 1119 поєднує надійний захист із подальшим доступом до корисних інструментів ШІ. Ми рішуче підтримуємо такі ключові вимоги:

• Визначати вік користувача;
• Виявляти й усувати ризики для безпеки до надання молоді доступу до продукту;
• Проходити незалежні аудити;
• Захищати молодь від шкідливого контенту, зокрема пов’язаного із самоушкодженням і сексуальною експлуатацією, та інших взаємодій високого ризику;
• Надавати батькам інструменти для спрямування й обмеження користування їхніх дітей;
• Спрямовувати молодь до ресурсів кризової підтримки в разі виникнення серйозних ризиків для безпеки; і
• Обмежувати таргетовану рекламу й захищати особисту інформацію молоді.

Для користувачів, чий вік визначено як 13–17 років, ці засоби захисту мають застосовуватися автоматично. Цей закон поєднає реальну підзвітність із засобами захисту молоді під час користування ШІ.

SB 1119 також слушно визнає, що ШІ — це не соціальні мережі. Законопроєкт запроваджує засоби захисту, покликані допомогти молоді безпечно використовувати ШІ для навчання, творчості й досліджень. Розробляючи цю нормативну базу, законодавці прагнули зберегти доступ до освітніх і критично важливих для безпеки функцій, зокрема відповідального використання пам’яті ChatGPT, водночас забезпечуючи підліткам безпечнішу взаємодію з урахуванням віку.

ChatGPT для підлітків має набір функцій, спеціально розроблених для навчання, як-от тести, навчальні візуалізації та режим навчання. Їх створено разом із педагогами й експертами з навчання, щоб крок за кроком допомагати учням розв’язувати завдання. Ці інструменти покликані поглиблювати розуміння й сприяти формуванню ефективніших навчальних звичок. Функції, що використовують контекст попередніх розмов, зокрема пам’ять, допомагають послідовно застосовувати засоби захисту, розпізнавати тривожні закономірності й із часом надавати кориснішу підтримку в навчанні.

Контекст також допомагає цим інструментам безпеки й навчання працювати послідовніше з часом. Завдяки таким функціям, як пам’ять, ChatGPT може враховувати доречну інформацію та вподобання з попередніх розмов, даючи підліткам змогу продовжувати довгострокові навчальні проєкти, не починаючи все спочатку. Така послідовність також допомагає уникати закріплення шкідливих моделей поведінки й ефективніше реагувати, коли молодій людині можуть знадобитися додаткова допомога чи ресурси.

Поєднання безпеки й навчання для нас не нове. За останній рік ми додали батьківський контроль, прогнозування віку, наш план безпеки підлітків і принципи для осіб до 18 років у нашій специфікації моделі — правила, що визначають очікувану поведінку наших моделей, — аби встановити нові стандарти їхньої взаємодії з молоддю. Вони забороняють романтичну взаємодію, заохочення емоційної залежності та твердження, ніби ChatGPT є людиною або має свідомість. Ми також пропонуємо батьківський контроль, що дає сім’ям змогу керувати ключовими налаштуваннями для підлітків і отримувати сповіщення в ситуаціях високого ризику.

SB 1119 запроваджує в Каліфорнії надійну нормативну базу для безпечного використання ШІ молоддю. Подальше вивчення й співпраця під час упровадження допоможуть удосконалити ключові положення та зберегти ефективність нормативної бази в міру розвитку технологій. OpenAI готова підтримувати цю роботу й надалі створювати можливості ШІ, що враховують вік підлітків, забезпечують посилений автоматичний захист і надають змістовні можливості навчатися й розвиватися.