Защо тийнейджърите заслужават достъп до безопасен ИИ

Тийнейджърите са първото поколение, което израства с ИИ, и тази технология ще има голямо влияние върху бъдещето им. Днес почти 9 от 10 тийнейджъри в ChatGPT го използват в рамките на една седмица за учене, информация, развиване на умения или продуктивност. Ето защо смятаме, че е изключително важно тийнейджърите да имат достъп до ИИ. Да не позволяваме на тийнейджърите да го използват до пълнолетие би било все едно да искаме от предишно поколение да избягва интернет или търсачките, докато навърши 18 години, което би го оставило по-слабо подготвено да използва една от определящите технологии на своето време. Но достъпът трябва да върви заедно със защити, създадени специално за тийнейджъри.

По време на скорошно събитие на OpenAI Academy⁠(отваря се в нов прозорец) Ориана Макензи сподели как ChatGPT ѝ е помогнал да стане №1 в своя клас в гимназията, като учи по-умно и управлява натоварването си — така получава нужното време за спорта и училищните програми, които обича. Нейната история показва какво е възможно, когато тийнейджърите имат достъп до ИИ, който им помага да учат и да създават.

За да се извлече максимална полза, тийнейджърите се нуждаят от по-силни защити, съобразени с техния етап от живота, включително автоматизирани предпазни механизми, които им позволяват уверено да изследват, учат и създават, като същевременно осигуряват защити, съобразени с възрастта им. С нарастването на възможностите на ИИ наша отговорност е да съчетаваме широк достъп със защити, подходящи за възрастта, които позволяват на тийнейджърите да се възползват от тази технология, докато тя се развива.

През последната година това означаваше да засилим защитите по подразбиране за тийнейджъри, да въведем прогнозиране на възрастта⁠, да разширим родителския контрол⁠, да създадем допълнителни ресурси за семейства⁠(отваря се в нов прозорец), които да помагат на родителите да насърчават здравословна и отговорна употреба, и да въведем функции за учене, които подпомагат по-задълбоченото разбиране, вместо просто да дават отговори.

Работата ни се ръководи от четири ключови ангажимента⁠:

• Поставяме безопасността на тийнейджърите на първо място, дори когато това може да противоречи на други цели.
• Насърчаваме подкрепа в реалния свят в моменти на нужда.
• Отнасяме се към тийнейджърите като към тийнейджъри.
• Прозрачни сме, като задаваме ясни очаквания.

Ученето е един от най-ясните начини, по които тийнейджърите извличат полза от ИИ, затова създаваме инструменти, които насърчават активно участие, критично мислене и по-задълбочено разбиране. Режим на учене⁠(отваря се в нов прозорец) беше създаден в сътрудничество с учители, изследователи на ученето и експерти по педагогика, за да помага на учениците да решават задачи стъпка по стъпка чрез насочващи въпроси, структурирани обяснения и възможности за размисъл, без просто да предоставя отговора. Ранната оценка на инструменти като Режим на учене показа обещаващи подобрения в представянето на учениците⁠ и помага да насочим по-широките си изследвания за това как ИИ може да подпомага учебните резултати.

Макар че тийнейджърите могат сами да включат този режим, сега родителите със свързани тийнейджърски профили могат да включват Режим на учене⁠ директно от родителския контрол⁠. Когато е активиран, той е включен по подразбиране всеки път, когато тийнейджър започне нов чат, давайки на семействата още един начин да насочват използването на ChatGPT за училищна работа и учене.

Наскоро въведохме и начални подкани за тийнейджъри, насочени към образованието, за да е по-лесно да започнат със задачи като разбиване на тема на прости стъпки, превръщане на бележки в учебно ръководство, създаване на флашкарти или практически въпроси и проверка на доказателствата и яснотата.

Продължаваме също да разширяваме интерактивните учебни преживявания⁠. Изследванията последователно показват⁠, че хората учат по-ефективно, когато могат активно да взаимодействат с понятията, вместо пасивно да приемат информация. От старта им по-рано тази година 18 милиона седмични потребители вече използват интерактивни преживявания по математика и природни науки в ChatGPT, а ние ги разширихме с над 250 нови теми — от интеграли и митоза до фази на Луната, фотосинтеза и други. Въведохме и преживяване за произношение, което използва аудио, за да помага на хората да научат как се произнасят думи на повече от 61 езика.

Ако нашата система прецени, че някой, който използва ChatGPT, е под 18 години,⁠ автоматично предоставяме по-подходящо за възрастта преживяване⁠(отваря се в нов прозорец). Тийнейджърите все още могат да използват ChatGPT, за да учат, създават и изследват, но с допълнителни защити, предназначени да намалят излагането им на съдържание, което може да не е подходящо за тях. Това включва по-силни защити по отношение на графично насилие, самонараняване, рискови вирусни предизвикателства, нездравословно съдържание за образа на тялото и опасна, романтична или сексуална ролева игра. Нашият водещ принцип е ChatGPT да остане инструмент за учене и творчество, а не заместител на отношенията в реалния свят.

Проектираме ChatGPT и така, че да насърчава здравословни навици. Тийнейджърите, които прекарват продължително време в ChatGPT, вече ще получават по-чести напомняния за почивка⁠, които ги насърчават да спрат за момент и да се откъснат от екрана. Тези напомняния имат за цел да помогнат на младите хора да изградят балансирани технологични навици, като същевременно им оставят свободата да използват ИИ за учене, творчество и решаване на проблеми.

Вярваме, че най-добрите инструменти за безопасност могат да помогнат на семействата заедно да се ориентират в онлайн преживяванията на тийнейджърите. Създадохме родителски контрол и известия⁠, които позволяват да се задават тихи часове, да се изключва гласов режим, да се управлява достъпът до генериране на изображение и да се получават известия в определени високорискови ситуации, например при признаци за потенциално самонараняване.

Разширяваме тези известия, така че да включват случаи, в които свързан тийнейджърски профил е деактивиран за нарушаване на нашите правила за употреба⁠ относно заплахи за насилие или актове на насилие онлайн. Този подход помага на родителите да разберат, когато се е случило нещо сериозно, като същевременно зачита поверителността на тийнейджърите и насърчава разговори и подкрепа извън интернет.

При разработването на тези функции се консултирахме с няколко експерти, включително Moonshot⁠(отваря се в нов прозорец), лидер в предотвратяването на онлайн насилие, за да гарантираме, че тези намеси са обмислени, ефективни и насочени към това да помагат на семействата да реагират в моменти на нужда.

Искаме също да гарантираме, че родителите, тийнейджърите и преподавателите имат ясни насоки как най-добре да използват ИИ отговорно. Публикуваме образователни ресурси на повече от 50 езика, включително Семейно ръководство, което помага на тийнейджърите да използват ИИ отговорно⁠(отваря се в нов прозорец), Съвети за разговор с вашия тийнейджър за ИИ⁠(отваря се в нов прозорец) и Съвети за родители, които използват ChatGPT⁠(отваря се в нов прозорец).

Защитата на младите хора онлайн не е нещо, което една компания може да реши сама. Работим в тясно сътрудничество с тийнейджъри, родители, преподаватели, експерти по детска безопасност, специалисти по психично здраве, изследователи, правителства и организации на гражданското общество. Тези партньорства ни помагат да разбираме по-добре нуждите на младите хора, да идентифицираме нововъзникващи рискове, да оценяваме ефективността на защитите си и да гарантираме, че политиките ни се основават на независима експертиза.

Тази работа обхваща подхода ни както към ученето, така и към благополучието на младите хора. Сътрудничим си с преподаватели, включително Американската федерация на учителите⁠, ученици и учебни организации, за да разберем по-добре как ИИ може да подпомага преподаването и ученето, като същевременно засилва активното участие и критичното мислене. Работим също в тясно сътрудничество с експерти от общностите в областта на психичното здраве, детското развитие и безопасността на младите хора, включително Американската психологическа асоциация⁠(отваря се в нов прозорец), нашата Глобална мрежа от лекари⁠ и нашия Експертен съвет за благополучие и ИИ⁠.

Работата ни за изграждане на по-здравословна дигитална екосистема се простира отвъд собствените ни продукти. Призовахме за разработване на мащабируеми глобални стандарти за безопасността на младите хора при ИИ⁠ чрез специализиран Институт за безопасност на ИИ, за политики и инструменти с отворен код⁠, които разработчиците могат да вграждат в собствените си системи с ИИ, както и за работа с организации, сред които Common Sense Media⁠(отваря се в нов прозорец) и everyone.ai⁠(отваря се в нов прозорец), за споделяне на наученото и добри практики.

Тази година се присъединихме и към Family Online Safety Institute⁠(отваря се в нов прозорец) (FOSI), дългогодишен застъпник за безопасни онлайн преживявания за семейства и млади хора. Ще работим заедно, за да гарантираме, че младите хора могат да се възползват от ИИ, като в центъра са овластените родители и отговорните практики в индустрията. Надяваме се това партньорство да помогне за напредък в общото разбиране за това какво работи, да засили защитите, подходящи за възрастта, и родителските инструменти, както и да подкрепи усилията в цялата индустрия, които дават възможност на младите хора да се възползват от ИИ безопасно и отговорно.

Защитата на младите хора онлайн изисква постоянен напредък. През следващите месеци ще продължим да засилваме защитите, подходящи за възрастта, да даваме на родителите повече инструменти и контрол, да подобряваме защитите срещу сериозни вреди, да развиваме изследванията за здравословна употреба на ИИ и да създаваме повече преживявания, които помагат на тийнейджърите да учат активно и да използват ИИ уверено.

Знаем, че има още работа, и сме ангажирани да продължим усилията си в сътрудничество с тийнейджъри, родители, преподаватели, експерти и общности по целия свят, за да осигурим на тийнейджърите безопасен и широк достъп.