Унапредување на безбедноста и можностите за младите преку глобално лидерство

ВИ може да биде моќна алатка за младите. Може да им помогне на учениците да разберат тежок концепт, да вежбаат нов јазик, да се подготват за интервју за работа, да истражуваат креативни идеи или да научат нова вештина. Исто како што движењето за писменост што се прошири низ светот во средината на 20 век бараше масовна дистрибуција на печатен текст и пристап до обучени наставници, денес обезбедувањето пристап до безбедна ВИ ќе отвори нови можности за персонализирано учење, ќе помогне да се намалат бариерите за недоволно опслужените и ќе ја зголеми подготвеноста на работната сила.

Бидејќи потенцијалните придобивки се толку значајни, од суштинско значење е младите да имаат пристап до ВИ на начини што се безбедни, соодветни на возраста и ја поддржуваат здравата развојна патека. Таа одговорност не треба првенствено да паѓа врз родителите или врз самите млади. Компаниите, вклучително и OpenAI, имаат одговорност стандардно да градат производи со соодветни заштитни мерки, истовремено овозможувајќи им на семејствата алатки и информации за да насочуваат како се користи ВИ.

Кога шефовите на држави ќе се соберат на Самитот на лидерите на Г7 во Евијан, Франција, подоцна овој месец, темата за безбедноста на младите во однос на ВИ ќе биде клучен фокус. OpenAI ќе се приклучи за да разговара за поголема соработка околу безбедноста на младите, за тоа како можеме заедно да работиме на подигнување на индустриските стандарди и за новиот повик на OpenAI за основање меѓународен институт за безбедност на младите.

Самитот на лидерите на Г7 претставува ретка можност за глобална координација околу безбедноста на младите. Но посветен институт би ја обезбедил континуитетот и доследното спроведување потребни и по еден самит, помагајќи им на владите, истражувачите, граѓанското општество и индустријата да продолжат да работат заедно за споделување докази, развивање насоки и подигнување стандарди со текот на времето.

Постојат неколку веродостојни начини ова да се направи: преку нов меѓународен институт или со давање глобален мандат на постоен или новооснован национален институт за ВИ за споделување истражувања, докази и насоки со партнери низ светот. Најважно е функцијата што ја извршува. Безбедноста на младите во однос на ВИ бара постојано внимание, доверливи докази и практични насоки што можат да го следат темпото на технологијата.

Таков институт може да се надоврзе на новите иницијативи како што е Институтот за безбедност на младите во ВИ на Common Sense Media, поддржан од Фондацијата OpenAI, како и на практични соработки со едукатори, вклучително и работата на OpenAI со Американската федерација на наставници⁠. Исто така, треба да се потпре на реални примени, како што е националното воведување на ChatGPT во училиштата во Естонија, каде што OpenAI работи со истражувачи од Stanford и од Естонија за да го проучи влијанието и да придонесе за побезбедна и поефективна употреба во учењето.

OpenAI ја поздравува можноста да работи со француската влада, другите влади на Г7 и партнерите од граѓанското општество, академската заедница и индустријата на оваа важна работа и да ги подигне глобалните стандарди за безбедност на младите.

Веруваме дека силните рамки за безбедност на младите во однос на ВИ, вклучително и секој потенцијален договор постигнат на собирите на Г7, треба да бидат водени од принципите што ги изложуваме овде.

1. Компаниите треба да знаат кога корисникот е малолетен и да применуваат заштити соодветни на возраста. Ова значи да се бара од давателите да користат средства како ефективна процена на возраста што ја зачувува приватноста за да разликуваат малолетници од возрасни, и стандардно да применуваат заштитни мерки кога возраста на корисникот не може да се утврди. Без оваа основа, дури и најдобронамерните заштити за младите може да не стигнат до младите што треба да ги заштитат.
2. Компаниите треба редовно да ги проценуваат и ризиците и придобивките за младите и да преземаат чекори за нивно решавање — пред да настане штета. Ова значи да се бара од давателите да спроведуваат годишни процени на ризикот за безбедноста на младите и да применуваат пропорционални заштитни мерки врз основа на ризиците што ќе ги идентификуваат. Таквите процени треба да ги земат предвид ризиците за младите според нивната развојна фаза, емпириските докази од реална употреба и релевантните истражувања или регулаторни насоки. Процените треба да ги разгледуваат не само потенцијалните штети, туку и дали ВИ поддржува позитивни исходи како учење, креативност, развој на вештини и пристап до можности.
3. Родителите и старателите треба да имаат достапни контроли лесни за употреба што ќе им помогнат да ги насочуваат искуствата на своите деца, истовремено поддржувајќи независност соодветна на возраста. Тие треба да вклучуваат алатки за управување со клучни поставки, вклучувајќи меморија, употреба на податоци и временски ограничувања. Родителските алатки треба активно да се промовираат за родителите да знаат дека постојат и да разберат како да ги користат.
4. Семејствата заслужуваат јасни, разбирливи информации за тоа како компаниите ги штитат младите корисници и значајни информации и за придобивките и за ризиците од користењето ВИ од младите. Компаниите треба да објавуваат политики за безбедност што објаснуваат кои заштитни мерки се поставени за заштита на младите, кои родителски алатки се достапни и како се ажурираат заштитите додека ризиците се развиваат. Оваа транспарентност гради доверба и им помага на родителите да носат информирани одлуки.
5. Компаниите треба да имаат јасни протоколи за справување со сериозни безбедносни ситуации, вклучувајќи самоповредување, експлоатација, наведување деца, сексуално експлоататорска содржина и други високоризични интеракции. Тие треба да вклучуваат поддршка во рамките на услугата, упатување кон соодветни ресурси и навремени известувања до родителите кога е соодветно. Компаниите треба исто така да ги дизајнираат своите системи така што ќе спречат да генерираат содржина што е небезбедна или развојно несоодветна за деца, вклучувајќи експлицитен сексуален или насилен материјал.  
6. Системите за ВИ што ги користат младите треба да бидат дизајнирани да ги поддржуваат учењето, развојот и реалните односи — а не да ги заменуваат. ВИ треба да служи како алатка што им помага на младите да учат, да создаваат, да градат вештини и да се подготват за иднината. Истовремено, компаниите треба да воспостават јасни граници во областите каде што здравиот развој зависи од човечка процена, реални односи и професионална поддршка.
7. Личните информации на малолетниците треба да бидат заштитени. Ова значи забрана на насочено рекламирање што навлегува во приватноста на младите и забрана компаниите да продаваат лични информации.
8. Рамките за безбедност на младите треба да промовираат можност, писменост и заштита. Младите треба да имаат пристап до алатки за ВИ што поддржуваат учење, креативност, развој на вештини и идни можности, а истовремено да бидат опремени со знаење и вештини за критичко размислување потребни за безбедно и одговорно користење на ВИ. Ова вклучува промовирање писменост за ВИ и помагање на младите да ги разберат можностите и ограничувањата на системите за ВИ, за да можат самоуверено и одговорно да учествуваат во дигиталните простори.
9. Силните механизми за отчетност, вклучувајќи независни ревизии, се неопходни за да се осигури дека овие заштити имаат вистинско значење во практиката. Ревизиите треба да се потпираат на збир заеднички стандарди што овозможуваат интероперабилни ревизии низ различни јурисдикции. Законодавните рамки треба да вклучуваат мерки за надзор и спроведување што им овозможуваат на владите да проценат дали компаниите ефективно ги применуваат заштитните мерки за безбедност на младите, ги ублажуваат идентификуваните ризици и ги почитуваат обврските за безбедност и приватност на младите.

Принципите се одразени во начинот на кој го градиме и управуваме ChatGPT, од однесувањето на моделот и дизајнот на производот до експертскиот придонес и поддршката во реалниот свет. Ги зајакнавме заштитните мерки за корисниците под 18 години, воведовме родителска контрола⁠ со проактивни известувања и напредни системи за предвидување возраст⁠ за ChatGPT да може да применува посилни заштити кога некој можеби е под 18 години. Нашата Спецификација на моделот, која опишува како треба да се однесуваат нашите модели, исто така вклучува посветени принципи за корисници под 18 години⁠(се отвора во нов прозорец), со приоритет на безбедноста на тинејџерите, искуства соодветни на возраста, поддршка во реалниот свет и јасни очекувања. Во практика, ова значи посилни заштитни рамки околу самоповредувањето, опасните активности, експлицитната содржина, сликата за телото и тајноста, заедно со охрабрување да се побара доверлива офлајн поддршка или ресурси за кризни ситуации кога е потребно. Кога возраста е неизвесна, стандардно применуваме посилни заштитни мерки.

ВИ дизајнирана со силни заштитни мерки и понудена со јасни насоки, како и поддршка од семејствата и едукаторите, може да им помогне на младите безбедно да имаат корист од алатки што ги прошируваат учењето, креативноста и можностите. ВИ може да им помогне на учениците да разберат тешки концепти, да вежбаат јазици, да го подобрат своето пишување, да научат да кодираат, да организираат истражување, да истражуваат креативни идеи и да се подготват за работни места што веќе се менуваат. Преку Образование за земји⁠, OpenAI работи со влади и едукатори на примени водени од истражување, локализирани алатки за учење и обука на наставници, за усвојувањето на ВИ да биде засновано на докази и на реалните потреби во училниците. Оваа работа веќе ги поддржува националните образовни напори со нашите партнерски земји, вклучувајќи ги Естонија⁠, Грција⁠ и Сингапур⁠.

Покрај учеството на Самитот на лидерите, ќе го донесеме Форумот на OpenAI⁠(се отвора во нов прозорец) во Париз за да организираме практичен разговор за тоа како владите, истражувачите, граѓанското општество, едукаторите и индустријата можат да ги претворат заедничките цели за безбедност на младите во конкретни заштитни мерки, стандарди и практики за спроведување. Амбасадорката на Франција за ВИ и дигитални работи, Clara Chappaz, ќе им се придружи на главниот директор за Глобални работи на OpenAI, Chris Lehane, лидерите за безбедност на младите од iRaise/Everyone.AI и други експерти во дискусија за тоа како младите можат да имаат корист од ВИ додека се намалуваат ризиците.