Розвиток безпеки й можливостей для молоді через глобальне лідерство

ШІ може бути потужним інструментом для молоді. Він може допомогти учням зрозуміти складну концепцію, практикувати нову мову, підготуватися до співбесіди, досліджувати творчі ідеї або опанувати нову навичку. Так само як рух за грамотність, що поширився світом у середині XX століття, потребував масового розповсюдження друкованих текстів і доступу до підготовлених учителів, сьогодні надання доступу до безпечного ШІ відкриє нові можливості для персоналізованого навчання, допоможе зменшити бар’єри для недостатньо забезпечених груп і підвищить готовність робочої сили.

Оскільки потенційні переваги є такими значними, вкрай важливо, щоб молодь могла отримувати доступ до ШІ у спосіб, який є безпечним, відповідним віку та сприяє здоровому розвитку. Ця відповідальність не повинна лягати передусім на батьків або саму молодь. Компанії, зокрема OpenAI, мають відповідальність створювати продукти з належними запобіжниками за замовчуванням, водночас надаючи сім’ям інструменти й інформацію, щоб спрямовувати використання ШІ.

Коли глави держав зберуться на саміті лідерів G7 в Евіані, Франція, наприкінці цього місяця, тема безпеки молоді у сфері ШІ буде одним із ключових пріоритетів. OpenAI долучиться, щоб обговорити ширшу співпрацю щодо безпеки молоді, те, як ми можемо разом підвищувати галузеві стандарти, а також новий заклик OpenAI до створення міжнародного інституту безпеки молоді.

Саміт лідерів G7 є рідкісною можливістю для глобальної координації щодо безпеки молоді. Але спеціалізований інститут забезпечив би сталість і подальші дії, необхідні після одного саміту, допомагаючи урядам, дослідникам, громадянському суспільству та галузі й надалі працювати разом, щоб обмінюватися доказами, розробляти рекомендації та з часом підвищувати стандарти.

Існує кілька надійних способів зробити це: через новий міжнародний інститут або надавши наявному чи новоствореному національному інституту ШІ глобальний мандат на обмін дослідженнями, доказами й рекомендаціями з партнерами в усьому світі. Найважливіше — яку функцію він виконуватиме. Безпека молоді у сфері ШІ потребує постійної уваги, надійних доказів і практичних рекомендацій, які можуть встигати за розвитком технології.

Такий інститут може спиратися на нові ініціативи, як-от Youth AI Safety Institute від Common Sense Media, підтриманий OpenAI Foundation, а також на практичну співпрацю з освітянами, зокрема роботу OpenAI з Американською федерацією вчителів⁠. Він також має враховувати реальні впровадження, як-от національне розгортання ChatGPT у школах Естонії, де OpenAI співпрацює зі Стенфордом та естонськими дослідниками, щоб вивчати вплив і сприяти безпечнішому та ефективнішому використанню в навчанні.

OpenAI вітає можливість працювати з урядом Франції, іншими урядами країн G7 і партнерами з громадянського суспільства, академічних кіл та галузі над цією важливою роботою й підвищенням глобальних стандартів безпеки молоді.

Ми вважаємо, що надійні рамки безпеки молоді у сфері ШІ, зокрема будь-яка потенційна домовленість, досягнута на зустрічах G7, мають ґрунтуватися на принципах, які ми викладаємо тут.

1. Компанії мають знати, коли користувач є неповнолітнім, і застосовувати захист, відповідний віку. Це означає вимагати від провайдерів використовувати такі засоби, як ефективна оцінка віку із збереженням приватності, щоб відрізняти неповнолітніх від дорослих, і за замовчуванням застосовувати захисні запобіжники, коли вік користувача неможливо визначити. Без цієї основи навіть найкраще продумані заходи захисту молоді можуть не дійти до тих молодих людей, яких вони покликані захищати.
2. Компанії мають регулярно оцінювати як ризики, так і переваги для молоді та вживати заходів для їх усунення —до того, як станеться шкода. Це означає вимагати від провайдерів щорічно проводити оцінювання ризиків для безпеки молоді та впроваджувати пропорційні запобіжники на основі виявлених ризиків. Такі оцінювання мають враховувати ризики для молодих людей залежно від етапу їхнього розвитку, емпіричні дані фактичного використання та відповідні дослідження або регуляторні рекомендації. Оцінювання мають розглядати не лише потенційну шкоду, а й те, чи підтримує ШІ позитивні результати, як-от навчання, творчість, розвиток навичок і доступ до можливостей.
3. Батьки й опікуни повинні мати доступні та прості у використанні засоби керування, щоб допомагати їм спрямовувати досвід своїх дітей, підтримуючи при цьому відповідну віку самостійність. Вони мають включати інструменти для керування ключовими налаштуваннями, зокрема пам’яттю, використанням даних і часовими обмеженнями. Інструменти батьківського контролю слід активно просувати, щоб батьки знали про їхнє існування та розуміли, як ними користуватися. 
4. Сім’ї заслуговують на чітку й зрозумілу інформацію про те, як компанії захищають молодих користувачів, а також на змістовну інформацію як про переваги, так і про ризики використання ШІ молоддю. Компанії мають публікувати політики безпеки, які пояснюють, які запобіжники застосовуються для захисту молоді, які батьківські інструменти доступні та як захист оновлюється в міру розвитку ризиків. Така прозорість зміцнює довіру й допомагає батькам робити поінформований вибір.
5. Компанії повинні мати чіткі протоколи для реагування на серйозні ситуації, пов’язані з безпекою, зокрема самоушкодження, експлуатацію, грумінг, сексуально експлуатативний контент та інші взаємодії високого ризику. Вони мають включати підтримку в межах сервісу, направлення до відповідних ресурсів і своєчасні повідомлення батьків, коли це доречно. Компанії також мають проєктувати свої системи так, щоб запобігати створенню контенту, який є небезпечним або невідповідним розвитку дітей, зокрема відверто сексуальних чи насильницьких матеріалів.  
6. Системи ШІ, якими користується молодь, мають бути розроблені так, щоб підтримувати навчання, розвиток і реальні стосунки, а не замінювати їх. ШІ має бути інструментом, який допомагає молоді навчатися, творити, розвивати навички та готуватися до майбутнього. Водночас компанії мають установлювати чіткі межі в сферах, де здоровий розвиток залежить від людського судження, реальних стосунків і професійної підтримки.
7. Персональна інформація неповнолітніх має бути захищена. Це означає заборону таргетованої реклами для молоді, що втручається в приватність, і заборону компаніям продавати персональну інформацію.
8. Рамки безпеки молоді мають сприяти можливостям, грамотності та захисту. Молодь повинна мати доступ до інструментів ШІ, які підтримують навчання, творчість, розвиток навичок і майбутні можливості, а також бути забезпеченою знаннями та навичками критичного мислення, потрібними для безпечного й відповідального використання ШІ. Це включає розвиток грамотності у сфері ШІ та допомогу молоді в розумінні можливостей і обмежень систем ШІ, щоб вона могла впевнено й відповідально діяти в цифрових просторах.
9. Надійні механізми підзвітності, зокрема незалежні аудити, є необхідними, щоб ці заходи захисту були дієвими на практиці. Аудити мають спиратися на набір спільних стандартів, які дають змогу проводити сумісні аудити в різних юрисдикціях. Законодавчі рамки мають включати заходи нагляду та правозастосування, які дають урядам змогу оцінювати, чи ефективно компанії впроваджують запобіжники для безпеки молоді, пом’якшують виявлені ризики та виконують зобов’язання щодо безпеки молоді й приватності.

Ці принципи відображені в тому, як ми створюємо й експлуатуємо ChatGPT — від поведінки моделей і дизайну продукту до внеску експертів і підтримки в реальному світі. Ми посилили запобіжники для користувачів віком до 18 років, запустили батьківський контроль⁠ із проактивними сповіщеннями та удосконалені системи прогнозування віку⁠, щоб ChatGPT міг застосовувати сильніший захист, коли хтось може бути молодшим за 18 років. Наша специфікація моделі, яка описує, як мають поводитися наші моделі, також містить спеціальні принципи для користувачів віком до 18 років⁠(відкривається у новому вікні), пріоритезуючи безпеку підлітків, досвід, відповідний віку, підтримку в реальному світі та чіткі очікування. На практиці це означає сильніші обмеження щодо самоушкодження, небезпечних дій, графічного контенту, образу тіла та таємності, а також заохочення за потреби звертатися по надійну офлайн-підтримку або до кризових ресурсів. Коли вік невідомий, ми за замовчуванням застосовуємо сильніші запобіжники.

ШІ, розроблений із надійними запобіжниками та запропонований із чіткими рекомендаціями й підтримкою з боку сімей та освітян, може допомогти молоді безпечно користуватися перевагами інструментів, що розширюють навчання, творчість і можливості. ШІ може допомогти учням зрозуміти складні концепції, практикувати мови, поліпшувати письмо, вчитися програмувати, організовувати дослідження, досліджувати творчі ідеї та готуватися до професій, які вже змінюються. Через Education for Countries⁠ OpenAI співпрацює з урядами та освітянами над упровадженнями, що ґрунтуються на дослідженнях, локалізованими навчальними інструментами та підготовкою вчителів, щоб упровадження ШІ спиралося на докази й реальні потреби класів. Ця робота вже підтримує національні освітні зусилля в наших країнах-партнерах, зокрема в Естонії⁠, Греції⁠ та Сінгапурі⁠.

Окрім участі в саміті лідерів, ми привеземо OpenAI Forum⁠(відкривається у новому вікні) до Парижа, щоб організувати практичну розмову про те, як уряди, дослідники, громадянське суспільство, освітяни та галузь можуть перетворити спільні цілі щодо безпеки молоді на конкретні запобіжники, стандарти й практики впровадження. Посол Франції з питань ШІ та цифрових технологій Клара Шаппа приєднається до керівника OpenAI з глобальних питань Кріса Легейна, лідерів у сфері безпеки молоді з iRaise/Everyone.AI та інших експертів для обговорення того, як молодь може отримувати користь від ШІ, водночас зменшуючи ризики.