Чому підлітки заслуговують на доступ до безпечного ШІ

Підлітки — перше покоління, яке зростає разом зі ШІ, і ця технологія суттєво вплине на їхнє майбутнє. Сьогодні близько 9 із 10 підлітків у ChatGPT протягом одного тижня використовують його для навчання, пошуку інформації, розвитку навичок або продуктивності. Саме тому ми вважаємо, що підліткам критично важливо мати доступ до ШІ. Не давати підліткам користуватися ним до повноліття — це ніби просити попереднє покоління уникати інтернету або пошукових систем до 18 років, залишаючи їх менш підготовленими до використання однієї з визначальних технологій свого часу. Але доступ має поєднуватися із захистом, створеним спеціально для підлітків.

Під час нещодавнього заходу Академії OpenAI⁠(відкривається у новому вікні) Оріана Маккензі розповіла, як ChatGPT допоміг їй стати першою у своєму класі старшої школи завдяки розумнішому навчанню й кращому керуванню навантаженням — і дав час на спорт та шкільні програми, які вона любить. Її історія показує, що стає можливим, коли підлітки мають доступ до ШІ, який допомагає їм навчатися й творити.

Щоб максимально використати ці переваги, підліткам потрібен посилений захист, розроблений з урахуванням їхнього етапу життя, зокрема автоматичні обмеження, які дають їм змогу впевнено досліджувати, навчатися й створювати, забезпечуючи водночас захист, адаптований до їхнього віку. У міру того як ШІ стає потужнішим, наша відповідальність — поєднувати широкий доступ із віковим захистом, який дає підліткам змогу користуватися перевагами цієї технології в процесі її розвитку.

Протягом минулого року це означало посилення стандартного захисту для підлітків, запуск системи визначення віку⁠, розширення батьківського контролю⁠, створення додаткових сімейних ресурсів⁠(відкривається у новому вікні), які допомагають батькам підтримувати здорове й відповідальне використання, а також впровадження навчальних функцій, що сприяють глибшому розумінню, а не просто надають відповіді.

У нашій роботі ми керуємося чотирма ключовими зобов’язаннями⁠:

• Ми ставимо безпеку підлітків на перше місце, навіть якщо це може суперечити іншим цілям.
• Ми заохочуємо звертатися по підтримку в реальному світі в моменти потреби.
• Ми ставимося до підлітків як до підлітків.
• Ми діємо прозоро, встановлюючи чіткі очікування.

Навчання — один із найочевидніших способів, у який підлітки отримують користь від ШІ, тому ми створюємо інструменти, що заохочують активну участь, критичне мислення й глибше розуміння. Режим навчання⁠(відкривається у новому вікні) розроблено у співпраці з учителями, дослідниками навчання й експертами з педагогіки, щоб допомагати учням крок за кроком розв’язувати завдання за допомогою навідних запитань, структурованих пояснень і можливостей для осмислення, не просто надаючи готову відповідь. Ранні оцінки таких інструментів, як режим навчання, показали багатообіцяюче зростання успішності учнів⁠ і допомагають формувати наші ширші дослідження того, як ШІ може підтримувати навчальні результати.

Хоча підлітки можуть самі вмикати цей режим, тепер батьки з пов’язаними підлітковими обліковими записами можуть увімкнути режим навчання⁠ безпосередньо через батьківський контроль⁠. Коли його ввімкнено, він працює за замовчуванням щоразу, коли підліток починає новий чат, даючи сім’ям ще один спосіб спрямовувати використання ChatGPT для шкільних завдань і навчання.

Ми також нещодавно додали для підлітків стартові запити, орієнтовані на навчання, щоб було легше починати з таких завдань, як розбиття теми на прості кроки, перетворення нотаток на навчальний посібник, створення карток або тренувальних запитань, а також перевірка доказів і чіткості.

Ми також продовжуємо розширювати інтерактивні навчальні можливості⁠. Дослідження послідовно показують⁠, що люди навчаються ефективніше, коли можуть активно взаємодіяти з поняттями, а не пасивно споживати інформацію. Від запуску на початку цього року 18 мільйонів користувачів щотижня взаємодіють з інтерактивними можливостями з математики й природничих наук у ChatGPT, а ми розширили ці можливості на понад 250 нових тем — від інтегралів і мітозу до фаз Місяця, фотосинтезу тощо. Ми також запровадили можливість тренувати вимову, яка використовує аудіо, щоб допомагати людям навчатися вимовляти слова більш ніж 61 мовою.

Якщо наша система оцінює, що людині, яка користується ChatGPT, менше 18 років,⁠ ми автоматично надаємо їй більш відповідний віку досвід⁠(відкривається у новому вікні). Підлітки й надалі можуть використовувати ChatGPT, щоб навчатися, творити й досліджувати, але з додатковим захистом, покликаним зменшити контакт із контентом, який може бути для них неприйнятним. Це включає посилені захисні механізми щодо графічного насильства, самоушкодження, ризикованих вірусних челенджів, шкідливого контенту про образ тіла, а також небезпечних, романтичних або сексуальних рольових ігор. Наш головний орієнтир — допомогти забезпечити, щоб ChatGPT залишався інструментом для навчання й творчості, а не заміною стосунків у реальному світі.

Ми також проєктуємо ChatGPT так, щоб він заохочував здорові звички. Підлітки, які проводять у ChatGPT тривалий час, тепер частіше отримуватимуть нагадування про перерву⁠, що заохочують зробити паузу й перепочити. Ці нагадування мають допомогти молодим людям формувати збалансовані технологічні звички, водночас залишаючи їм свободу використовувати ШІ для навчання, творчості й розв’язання проблем.

Ми вважаємо, що найкращі інструменти безпеки можуть допомогти сім’ям разом орієнтуватися в онлайн-досвіді підлітків. Ми створили батьківський контроль і сповіщення⁠, які дають змогу встановлювати години тиші, вимикати голосовий режим, керувати доступом до генерації зображень і отримувати сповіщення в певних ситуаціях підвищеного ризику, наприклад за ознак можливого самоушкодження.

Ми розширюємо ці сповіщення, додаючи випадки, коли пов’язаний підлітковий обліковий запис деактивовано за порушення наших правил використання⁠ щодо погроз насильством або актів насильства онлайн. Такий підхід допомагає батькам знати, коли сталося щось серйозне, водночас поважаючи приватність підлітків і заохочуючи розмови та підтримку офлайн.

Під час розробки цих функцій ми консультувалися з кількома експертами, зокрема з Moonshot⁠(відкривається у новому вікні), лідером у запобіганні онлайн-насильству, щоб допомогти зробити ці втручання продуманими, ефективними й зосередженими на допомозі сім’ям у моменти потреби.

Ми також хочемо, щоб батьки, підлітки й освітяни мали чіткі рекомендації щодо найкращого відповідального використання ШІ. Ми публікуємо освітні ресурси більш ніж 50 мовами, зокрема сімейний посібник, який допомагає підліткам відповідально використовувати ШІ⁠(відкривається у новому вікні), поради для розмови з підлітком про ШІ⁠(відкривається у новому вікні) та поради для батьків, які використовують ChatGPT⁠(відкривається у новому вікні).

Жодна компанія не може самотужки забезпечити безпеку молодих людей онлайн. Ми тісно співпрацюємо з підлітками, батьками, освітянами, експертами з безпеки дітей, фахівцями з психічного здоров’я, дослідниками, урядами й організаціями громадянського суспільства. Ці партнерства допомагають нам краще розуміти потреби молодих людей, виявляти нові ризики, оцінювати ефективність наших захисних механізмів і забезпечувати, щоб наші політики спиралися на незалежну експертизу.

Ця робота охоплює наш підхід як до навчання, так і до добробуту молоді. Ми співпрацюємо з освітянами, зокрема з Американською федерацією вчителів⁠, студентами й навчальними організаціями, щоб краще розуміти, як ШІ може підтримувати викладання й навчання, водночас посилюючи активну участь і критичне мислення. Ми також тісно працюємо з експертами зі спільнот, що займаються психічним здоров’ям, розвитком дітей і безпекою молоді, зокрема з Американською психологічною асоціацією⁠(відкривається у новому вікні), нашою Глобальною мережею лікарів⁠ і нашою Експертною радою з питань добробуту та ШІ⁠.

Наша робота зі створення здоровішої цифрової екосистеми виходить за межі власних продуктів. Ми закликали розробляти масштабовані глобальні стандарти безпеки молоді у сфері ШІ⁠ через спеціалізований Інститут безпеки ШІ, відкрили політики й інструменти з відкритим кодом⁠, які розробники можуть вбудовувати у власні системи ШІ, і працюємо з організаціями, зокрема Common Sense Media⁠(відкривається у новому вікні) та everyone.ai⁠(відкривається у новому вікні), щоб ділитися знаннями й найкращими практиками.

Цього року ми також приєдналися до Family Online Safety Institute⁠(відкривається у новому вікні) (FOSI), давнього захисника безпечного онлайн-досвіду для сімей і молоді. Ми працюватимемо разом, щоб молоді люди могли отримувати користь від ШІ, а в центрі були спроможні батьки й відповідальні практики галузі. Ми сподіваємося, що це партнерство допоможе поглибити спільне розуміння того, що працює, посилити віковий захист і батьківські інструменти, а також підтримати зусилля всієї галузі, які дають молоді змогу безпечно й відповідально користуватися перевагами ШІ.

Захист молодих людей онлайн потребує постійного поступу. У найближчі місяці ми й надалі посилюватимемо віковий захист, даватимемо батькам більше інструментів і контролю, вдосконалюватимемо захист від серйозної шкоди, розвиватимемо дослідження здорового використання ШІ та створюватимемо більше можливостей, які допомагають підліткам активно навчатися й упевнено користуватися ШІ.

Ми знаємо, що попереду ще багато роботи, і віддані її продовженню у співпраці з підлітками, батьками, освітянами, експертами й спільнотами в усьому світі, щоб забезпечити підліткам безпечний широкий доступ.