OpenAI поддржува закон на Калифорнија за млади за безбедна ВИ

Од Ен О’Лири, потпретседателка за глобална политика

OpenAI го поддржува предлог-законот 1119 на Сенатот на Калифорнија, со кој се воспоставуваат значајни заштитни мерки за начинот на кој младите ја користат ВИ, а притоа им се зачувува пристапот до алатки што можат да им помогнат да учат, создаваат и да се подготват за иднината. Оваа поддршка се надоврзува на заложбата што Сем Алтман, коосновач и извршен директор на OpenAI, ја даде минатата година при претставувањето на принципите на компанијата за тинејџерите.

Во отсуство на федерални мерки, Калифорнија има можност да постави висок стандард за безбедноста на младите при користење ВИ.

Во нашето писмо до гувернерот Њусом⁠(се отвора во нов прозорец), му оддаваме признание нему, како и на сенаторот Стив Падиља, пратеничките Бафи Викс и Ребека Бауер-Кахан и Законодавниот дом на Калифорнија, за нивното лидерство по ова важно прашање. SB 1119 ги надградува мерките за безбедност на младите што OpenAI ги поддржува преку нашите производи, глобалните принципи за политики, застапувањето во Калифорнија и работата на Законот за безбедна ВИ за родители & деца. Го повикуваме гувернерот Њусом да го потпише предлог-законот и да го претвори во закон.

Тинејџерите се првата генерација што расте со ВИ. Речиси девет од десет тинејџери што користат ChatGPT во текот на една седмица го користат за учење, информирање, развивање вештини или продуктивност. Со таа можност доаѓа и јасна одговорност: искуствата за тинејџерите треба да бидат осмислени според нивните посебни развојни потреби, со силна стандардна заштита и соодветни можности за учење, создавање и истражување.

Нашиот неодамна воведен ChatGPT за тинејџери го одразува тој пристап. Осмислен е да им помогне на корисниците под 18 години да учат, критички да размислуваат и да создаваат, а истовремено да поттикнува здрава употреба, да обезбедува вградени заштитни мерки и да им дава на родителите дополнителна контрола. Ако нашиот систем процени дека некој е помлад од 18 години или лицето наведе дека има меѓу 13 и 17 години, автоматски се префрла во ChatGPT за тинејџери. Овие заштитни мерки се дел од основното искуство, а не изборни поставки што корисниците можат да ги исклучат.

Пошироко гледано, веруваме дека тинејџерите можат да имаат корист од ВИ без да се жртвува безбедноста — цел што е во сржта на SB 1119.

SB 1119 ги спојува силните заштитни мерки со непречен пристап до корисни алатки за ВИ. Цврсто ги поддржуваме следниве клучни барања:

• Да се утврдува возраста на корисникот;
• Да се утврдат и отстранат безбедносните ризици пред производот да им стане достапен на младите;
• Да се спроведуваат независни ревизии;
• Младите да се заштитат од штетни содржини, вклучувајќи самоповредување, содржини со сексуална експлоатација и други високоризични интеракции;
• На родителите да им се обезбедат алатки за насочување и ограничување на употребата од страна на нивните деца;
• Младите да се поврзат со ресурси за поддршка во кризни ситуации кога ќе се појават сериозни безбедносни ризици; и
• Да се ограничи насоченото рекламирање и да се заштитат личните податоци на младите.

За корисниците за кои е утврдено дека имаат од 13 до 17 години, овие заштитни мерки треба да се применуваат автоматски. Овој закон би споил значајна одговорност со заштитни мерки што би помогнале младите да бидат заштитени додека користат ВИ.

SB 1119 исто така соодветно признава дека ВИ не е социјален медиум. Предлог-законот воспоставува заштитни мерки приспособени да им помогнат на младите да користат ВИ за учење, создавање и истражување. При изработката на оваа рамка, креаторите на политики настојуваа да го зачуваат пристапот до образовните и безбедносно важните функции, вклучувајќи ја одговорната употреба на меморијата на ChatGPT, а истовремено да поттикнат побезбедни искуства за тинејџерите, соодветни на нивната возраст.

ChatGPT за тинејџери нуди низа функции посебно приспособени за учење, како Квизови, Визуелизации за учење и режим за учење, создадени со наставници и стручњаци за учење за да ги водат учениците низ проблемите чекор по чекор. Овие алатки се наменети да го продлабочат разбирањето и да поттикнат подобри навики за учење. Функциите што го користат контекстот од претходните разговори, вклучувајќи ја меморијата, помагаат за доследна примена на заштитните мерки, препознавање загрижувачки обрасци и обезбедување покорисна поддршка за учење со текот на времето.

Контекстот им помага и на овие алатки за безбедност и учење да работат подоследно со текот на времето. Преку функции како меморијата, ChatGPT може да ги задржи релевантните информации и претпочитања од претходните разговори, овозможувајќи им на тинејџерите да продолжат со долгорочни проекти за учење без да почнуваат одново. Тој континуитет може да помогне и да не се зајакнуваат штетните обрасци и да овозможи поефективни одговори кога на младо лице можеби му се потребни дополнителна помош или ресурси.

Усогласувањето на безбедноста и учењето не е нешто ново за нас. Во текот на изминатата година додадовме родителска контрола, процена на возраста, наш План за безбедност на тинејџерите и Принципи за лица под 18 години во нашата спецификација на моделот — правилата што го насочуваат предвиденото однесување на нашите модели — за да поставиме нови стандарди за нивната интеракција со младите. Тие забрануваат романтични односи, поттикнување емоционална зависност и тврдења дека ChatGPT е човек или свесно суштество. Нудиме и родителска контрола што им овозможува на семејствата да управуваат со клучните поставки за своите тинејџери и да добиваат известувања во високоризични ситуации.

SB 1119 воспоставува силна рамка за безбедноста на младите при користење ВИ во Калифорнија. Постојаното проучување и соработката при спроведувањето можат да помогнат во подобрувањето на клучните одредби и да ја одржат рамката ефикасна додека технологијата се развива. OpenAI со задоволство ќе ја поддржува таа работа и ќе продолжи да создава искуства со ВИ што ги третираат тинејџерите како тинејџери, со посилна автоматска заштита и значајни можности за учење и развој.