OpenAI подр. закон Калиф. о унапр. безб. младих при кориш. AI

Пише Ен О’Лири, потпредседница за глобалну политику

OpenAI подржава Предлог закона Сената Калифорније 1119, којим се уводе значајне мере заштите младих при коришћењу AI, уз очување њиховог приступа алатима који им могу помоћи да уче, стварају и припремају се за будућност. Ова подршка се надовезује на прошлогодишњу обавезу коју је Сем Алтман, суоснивач и генерални директор компаније OpenAI, преузео када је представио начела компаније о тинејџерима.

Пошто изостаје деловање савезних власти, Калифорнија има прилику да постави висок стандард за безбедност младих при коришћењу AI.

У нашем писму гувернеру Њусому⁠(отвара се у новом прозору) похваљујемо њега, сенатора Стива Падиљу, посланице Бафи Викс и Ребеку Бауер-Кахан, као и Законодавно тело Калифорније, због лидерства у овом важном питању. SB 1119 се надовезује на мере за безбедност младих које OpenAI подржава кроз своје производе, глобална начела јавне политике, залагање у Калифорнији и рад на Закону о безбедној AI за родитеље и децу. Позивамо гувернера Њусома да потпише овај предлог закона.

Тинејџери су прва генерација која одраста уз AI. Скоро девет од десет тинејџера који користе ChatGPT у току једне седмице обраћа му се ради учења, информисања, развоја вештина или продуктивности. Та прилика носи јасну одговорност: тинејџерима треба понудити искуства осмишљена према њиховим посебним развојним потребама, са снажним подразумеваним заштитама и одговарајућим могућностима за учење, стварање и истраживање.

Тај приступ се огледа у недавно покренутом производу ChatGPT за тинејџере. Осмишљен је да корисницима млађим од 18 година помогне да уче, критички размишљају и стварају, уз подстицање здравог начина коришћења, уграђене мере заштите и додатне контроле за родитеље. Ако наш систем процени да је неко млађи од 18 година или особа наведе да има од 13 до 17 година, аутоматски ће бити пребачена на ChatGPT за тинејџере. Те заштите су део основног корисничког искуства, а не опционална подешавања која корисници могу да искључе.

У ширем смислу, верујемо да тинејџери могу да имају користи од AI без угрожавања безбедности, а тај циљ је у самој сржи предлога SB 1119.

SB 1119 спаја снажне мере заштите са сталним приступом корисним алатима заснованим на AI. Снажно подржавамо следеће кључне захтеве:

• Утврдити узраст корисника;
• Препознати и отклонити безбедносне ризике пре него што производ постане доступан младима;
• Подвргнути се независним ревизијама;
• Заштитити младе од штетног садржаја, укључујући самоповређивање, садржај који подразумева сексуално искоришћавање и друге високоризичне интеракције;
• Омогућити родитељима алате за усмеравање и ограничавање начина на који њихова деца користе производ;
• Повезати младе са службама за подршку у кризним ситуацијама када се појаве озбиљни безбедносни ризици; и
• Ограничити циљано оглашавање и заштитити податке о личности младих.

За кориснике за које је утврђено да имају од 13 до 17 година ове заштите треба да се примењују аутоматски. Овај закон би спојио значајну одговорност са мерама заштите које би помогле да млади буду безбедни док користе AI.

SB 1119 такође с правом препознаје да AI није исто што и друштвене мреже. Предлог закона уводи заштите прилагођене младима како би им помогао да користе AI за учење, стварање и истраживање. При изради овог оквира, креатори јавних политика настојали су да очувају приступ образовним функцијама и функцијама важним за безбедност, укључујући одговорно коришћење меморије система ChatGPT, истовремено подстичући безбеднија искуства за тинејџере, примерена њиховом узрасту.

ChatGPT за тинејџере обухвата скуп функција посебно прилагођених учењу тинејџера, као што су квизови, визуелизације учења и режим учења, које су развијене са наставницима и стручњацима за учење како би ученике корак по корак водиле кроз проблеме. Ови алати су намењени продубљивању разумевања и развијању бољих навика у учењу. Функције које користе контекст претходних разговора, укључујући меморију, помажу у доследној примени мера заштите, препознавању забрињавајућих образаца и пружању корисније подршке учењу током времена.

Контекст такође помаже да ови алати за безбедност и учење временом раде доследније. Помоћу функција као што је меморија, ChatGPT може да пренесе релевантне информације и жељена подешавања из претходних разговора, омогућавајући тинејџерима да наставе дугорочније пројекте учења без почињања испочетка. Тај континуитет такође може помоћи да се избегне учвршћивање штетних образаца и омогућити делотворније реаговање када су младој особи потребни додатна помоћ или ресурси.

Усклађивање безбедности и учења за нас није ново. Током протекле године додали смо родитељске контроле, предвиђање узраста, наш Оквир за безбедност тинејџера и принципе за млађе од 18 година у нашим спецификацијама модела– правила која одређују како наши модели треба да се понашају – како бисмо поставили нове стандарде за њихову интеракцију са младима. Ти принципи забрањују романтично повезивање, подстицање емоционалне зависности и тврдње да је ChatGPT човек или свесно биће. Нудимо и родитељске контроле које породицама омогућавају да управљају кључним подешавањима за своје тинејџере и примају обавештења у високоризичним ситуацијама.

SB 1119 успоставља снажан оквир за безбедност младих при коришћењу AI у Калифорнији. Даља истраживања и сарадња током примене могу помоћи да се кључне одредбе побољшају и да оквир остане делотворан како се технологија буде развијала. OpenAI се радује што ће подржати тај рад и наставити да развија искуства заснована на AI која тинејџере третирају у складу с њиховим узрастом, уз снажније аутоматске заштите и значајне могућности за учење и развој.