Насърчаване на безопасността и възможностите за младите хора чрез глобално лидерство

ИИ може да бъде мощен инструмент за младите хора. Той може да помогне на учениците да разберат трудна концепция, да упражняват нов език, да се подготвят за интервю за работа, да изследват творчески идеи или да усвоят ново умение. Точно както разпространението на грамотността по света в средата на XX век изискваше масово разпространение на печатни текстове и достъп до обучени учители, днес осигуряването на достъп до безопасен ИИ ще отключи нови възможности за персонализирано обучение, ще помогне за намаляване на бариерите пред недостатъчно обслужваните групи и ще повиши готовността за пазара на труда.

Тъй като потенциалните ползи са толкова значителни, от съществено значение е младите хора да имат достъп до ИИ по начини, които са безопасни, подходящи за възрастта и подкрепят здравословното развитие. Тази отговорност не бива да пада основно върху родителите или самите млади хора. Компаниите, включително OpenAI, имат отговорност да създават продукти с подходящи защитни механизми по подразбиране, като същевременно предоставят на семействата инструменти и информация, за да насочват начина, по който се използва ИИ.

Когато държавните ръководители се съберат на срещата на върха на лидерите на Г-7 в Евиан, Франция, по-късно този месец, темата за безопасността на младите хора при ИИ ще бъде ключов фокус. OpenAI ще се включи, за да обсъди по-тясно сътрудничество в областта на безопасността на младите хора, как можем да работим заедно за повишаване на стандартите в индустрията, както и новия призив на OpenAI за създаване на международен институт за безопасност на младите хора.

Срещата на върха на лидерите на Г-7 представлява рядка възможност за глобална координация по безопасността на младите хора. Но специализиран институт би осигурил приемствеността и последващите действия, необходими отвъд една-единствена среща на върха, като помага на правителства, изследователи, гражданско общество и индустрия да продължат да работят заедно за споделяне на доказателства, разработване на насоки и повишаване на стандартите с времето.

Има няколко надеждни начина това да бъде постигнато: чрез нов международен институт или чрез предоставяне на глобален мандат на съществуващ или новосъздаден национален институт за ИИ да споделя изследвания, доказателства и насоки с партньори по целия свят. Най-важна е функцията, която той изпълнява. Безопасността на младите хора при ИИ се нуждае от устойчиво внимание, надеждни доказателства и практически насоки, които могат да вървят в крак с технологията.

Такъв институт може да надгради върху нововъзникващи инициативи като Института за безопасност на младите хора при ИИ на Common Sense Media, подкрепян от OpenAI Foundation, както и върху практически сътрудничества с преподаватели, включително работата на OpenAI с Американската федерация на учителите⁠. Той трябва също да черпи от внедрявания в реалния свят, като националното въвеждане на ChatGPT в училищата в Естония, където OpenAI работи със Станфорд и естонски изследователи, за да проучва въздействието и да подпомага по-безопасна и по-ефективна употреба в обучението.

OpenAI приветства възможността да работи с френското правителство, други правителства от Г-7 и партньори от гражданското общество, академичните среди и индустрията по тази жизненоважна работа и за повишаване на глобалните стандарти за безопасност на младите хора.

Вярваме, че силните рамки за безопасност на младите хора при ИИ, включително всяко потенциално споразумение, постигнато на срещи на Г-7, трябва да се ръководят от принципите, които излагаме тук.

1. Компаниите трябва да знаят кога даден потребител е под 18 години и да прилагат защити, подходящи за възрастта. Това означава да се изисква от доставчиците да използват средства като ефективно оценяване на възрастта, съхраняващо поверителността, за да разграничават непълнолетните от възрастните, и да прилагат защитни механизми по подразбиране, когато възрастта на потребителя не може да бъде определена. Без тази основа дори най-добронамерените защити за младите хора може да не достигнат до младите хора, които са предназначени да защитават.
2. Компаниите трябва редовно да оценяват както рисковете, така и ползите за младите хора и да предприемат мерки за справянето с тях — преди да настъпи вреда. Това означава да се изисква от доставчиците да извършват ежегодни оценки на рисковете за безопасността на младите хора и да прилагат съразмерни защитни мерки въз основа на идентифицираните рискове. Такива оценки трябва да отчитат рисковете за младите хора според етапа им на развитие, емпиричните доказателства от действителната употреба и съответните изследвания или регулаторни насоки. Оценките трябва да разглеждат не само потенциалните вреди, но и дали ИИ подкрепя положителни резултати като учене, творчество, развитие на умения и достъп до възможности.
3. Родителите и настойниците трябва да разполагат с достъпни и лесни за използване контроли, които да им помагат да насочват преживяванията на децата си, като същевременно подкрепят независимост, подходяща за възрастта. Те трябва да включват инструменти за управление на ключови настройки, включително памет, използване на данни и времеви ограничения. Родителските инструменти трябва да се популяризират активно, за да знаят родителите, че съществуват, и да разбират как да ги използват. 
4. Семействата заслужават ясна и разбираема информация за това как компаниите защитават младите потребители, както и съдържателна информация както за ползите, така и за рисковете от използването на ИИ от младите хора. Компаниите трябва да публикуват политики за безопасност, които обясняват какви защитни мерки са въведени за защита на младите хора, какви родителски инструменти са налични и как защитите се актуализират с развитието на рисковете. Тази прозрачност изгражда доверие и помага на родителите да правят информиран избор.
5. Компаниите трябва да имат ясни протоколи за справяне със сериозни ситуации, свързани с безопасността, включително самонараняване, експлоатация, груминг, сексуално експлоататорско съдържание и други високорискови взаимодействия. Те трябва да включват подкрепа в рамките на услугата, насочване към подходящи ресурси и своевременни уведомления до родителите, когато е уместно. Компаниите трябва също да проектират системите си така, че да им попречат да генерират съдържание, което е опасно или неподходящо за развитието на децата, включително графични сексуални или насилствени материали.  
6. Системите с ИИ, използвани от младите хора, трябва да бъдат проектирани така, че да подкрепят ученето, развитието и взаимоотношенията в реалния свят — а не да ги заменят. ИИ трябва да служи като инструмент, който помага на младите хора да учат, да творят, да изграждат умения и да се подготвят за бъдещето. В същото време компаниите трябва да установят ясни граници в области, в които здравословното развитие зависи от човешка преценка, взаимоотношения в реалния свят и професионална подкрепа.
7. Личната информация на непълнолетните трябва да бъде защитена. Това означава да се забрани насочена реклама към младите хора, която нарушава поверителността, както и да се забрани на компаниите да продават лична информация.
8. Рамките за безопасност на младите хора трябва да насърчават възможностите, грамотността и защитата. Младите хора трябва да имат достъп до инструменти с ИИ, които подкрепят ученето, творчеството, развитието на умения и бъдещите възможности, като същевременно бъдат снабдени със знанията и уменията за критично мислене, необходими за безопасно и отговорно използване на ИИ. Това включва насърчаване на грамотността в областта на ИИ и подпомагане на младите хора да разбират възможностите и ограниченията на системите с ИИ, за да могат да участват уверено и отговорно в дигиталните пространства.
9. Силните механизми за отчетност, включително независими одити, са от съществено значение, за да се гарантира, че тези защити са смислени на практика. Одитите трябва да се основават на набор от общи стандарти, които позволяват оперативно съвместими одити в различни юрисдикции. Законодателните рамки трябва да включват мерки за надзор и правоприлагане, които позволяват на правителствата да оценяват дали компаниите ефективно прилагат защитни мерки за безопасността на младите хора, смекчават идентифицираните рискове и спазват задълженията, свързани с безопасността и поверителността на младите хора.

Принципите са отразени в начина, по който изграждаме и управляваме ChatGPT — от поведението на модела и продуктовия дизайн до експертния принос и подкрепата в реалния свят. Засилихме защитните мерки за потребители под 18 години, стартирахме родителски контрол⁠ с проактивни известия и усъвършенствани системи за прогнозиране на възрастта⁠, така че ChatGPT да може да прилага по-силни защити, когато някой може да е под 18 години. Нашата спецификация на модела, която очертава как трябва да се държат нашите модели, включва и специални принципи за потребители под 18 години⁠(отваря се в нов прозорец), като поставя приоритет върху безопасността на тийнейджърите, преживяванията, подходящи за възрастта, подкрепата в реалния свят и ясните очаквания. На практика това означава по-силни предпазни механизми по отношение на самонараняването, опасните дейности, графичното съдържание, образа на тялото и пазенето на тайни, както и насърчаване да се търси доверена подкрепа офлайн или кризисни ресурси при нужда. Когато възрастта е несигурна, по подразбиране прилагаме по-силни защитни мерки.

ИИ, проектиран със силни защитни механизми и предлаган с ясни насоки и подкрепа от семействата и преподавателите, може да помогне на младите хора безопасно да се възползват от инструменти, които разширяват обучението, творчеството и възможностите. ИИ може да помогне на учениците да разбират трудни концепции, да упражняват езици, да подобряват писането си, да се учат да програмират, да организират изследвания, да изследват творчески идеи и да се подготвят за професии, които вече се променят. Чрез Education for Countries⁠ OpenAI работи с правителства и преподаватели по внедрявания, основани на изследвания, локализирани инструменти за обучение и обучение на учители, така че възприемането на ИИ да бъде основано на доказателства и реалните нужди в класната стая. Тази работа вече подкрепя национални образователни усилия с нашите партньорски държави, включително Естония⁠, Гърция⁠ и Сингапур⁠.

Освен участието в срещата на върха на лидерите, ще доведем OpenAI Forum⁠(отваря се в нов прозорец) в Париж, за да свикаме практически разговор за това как правителства, изследователи, гражданско общество, преподаватели и индустрия могат да превърнат споделените цели за безопасност на младите хора в конкретни защитни мерки, стандарти и практики за прилагане. Посланикът на Франция по въпросите на ИИ и цифровите технологии Клара Шапаз ще се присъедини към главния директор „Глобални отношения“ на OpenAI Крис Лехан, лидери в областта на безопасността на младите хора от iRaise/Everyone.AI и други експерти за дискусия за това как младите хора могат да се възползват от ИИ, като същевременно се намаляват рисковете.