OpenAI подкрепя закона за безопасен ИИ за младежи в Калифорния

От Ан О’Лиъри, вицепрезидент по глобалната политика

OpenAI подкрепя законопроект 1119 на Сената на Калифорния, който въвежда съществени защитни мерки за начина, по който младите хора използват ИИ, като същевременно запазва достъпа им до инструменти, които могат да им помагат да учат, творят и да се подготвят за бъдещето. Тази подкрепа надгражда ангажимента, който съоснователят и главен изпълнителен директор на OpenAI Сам Алтман пое миналата година, когато представи принципите на компанията относно тийнейджърите.

При липсата на действия на федерално ниво Калифорния има възможност да въведе строг стандарт за безопасността на младежите при използване на ИИ.

В нашето писмо до губернатора Нюсъм⁠(отваря се в нов прозорец) изразяваме признателност към него, сенатор Стив Падия, членовете на щатското събрание Бъфи Уикс и Ребека Бауер-Кахан и законодателния орган на Калифорния за водещата им роля по този важен въпрос. SB 1119 надгражда мерките за безопасност на младежите, които OpenAI подкрепя чрез своите продукти, глобалните си принципи за политиките, застъпническата си дейност в Калифорния и работата по Закона за безопасен ИИ за родители и деца. Призоваваме губернатора Нюсъм да подпише законопроекта и да го превърне в закон.

Тийнейджърите са първото поколение, което израства с ИИ. През всяка отделна седмица почти девет от всеки десет тийнейджъри, използващи ChatGPT, се обръщат към него, за да учат, да търсят информация, да развиват умения или да бъдат по-продуктивни. Тази възможност е съпътствана от ясна отговорност: преживяванията на тийнейджърите трябва да бъдат съобразени със специфичните им потребности в процеса на развитие, със строги защити по подразбиране и подходящи възможности да учат, творят и изследват.

Наскоро пуснатият ни ChatGPT за тийнейджъри следва този подход. Той е създаден, за да помага на потребителите под 18 години да учат, да мислят критично и да създават, като същевременно насърчава здравословни навици при използване, предоставя вградени защитни механизми и дава на родителите допълнителни възможности за контрол. Ако системата ни прецени, че даден потребител е под 18 години, или ако самият потребител посочи, че е на възраст между 13 и 17 години, той автоматично преминава към ChatGPT за тийнейджъри. Тези защитни механизми са част от базовото изживяване, а не незадължителни настройки, които могат да бъдат изключени.

В по-широк план вярваме, че тийнейджърите могат да се възползват от ИИ, без това да е за сметка на безопасността — цел, която е в основата на SB 1119.

SB 1119 съчетава строги защити със запазване на достъпа до полезни инструменти с ИИ. Категорично подкрепяме следните ключови изисквания:

• Определяне на възрастта на потребителя;
• Установяване и отстраняване на рисковете за безопасността, преди даден продукт да бъде предоставен на младежи;
• Провеждане на независими одити;
• Защита на младежите от вредно съдържание, включително съдържание, свързано със самонараняване и сексуална експлоатация, както и от други високорискови взаимодействия;
• Предоставяне на родителите на инструменти, с които да насочват и ограничават използването от децата си;
• Насочване на младежите към ресурси за подкрепа при криза, когато възникнат сериозни рискове за безопасността; и
• Ограничаване на целевата реклама и защита на личните данни на младежите.

За потребителите, за които е установено, че са на възраст между 13 и 17 години, тези защити трябва да се прилагат автоматично. Законодателството ще съчетае реална отчетност със защитни мерки, които ще помагат за опазването на младите хора при използването на ИИ.

SB 1119 правилно отчита и факта, че ИИ не е социална медия. Законопроектът въвежда защити, предназначени да помагат на младите хора да използват ИИ, за да учат, творят и изследват. При разработването на тази рамка създателите на политики се стремяха да запазят достъпа до образователни и критични за безопасността функции, включително отговорното използване на функцията за памет на ChatGPT, като същевременно насърчават по-безопасни и съобразени с възрастта изживявания за тийнейджърите.

ChatGPT за тийнейджъри включва набор от функции, специално съобразени с ученето им, като тестове, визуализации за учене и Режим на учене, разработени съвместно с преподаватели и експерти по образование, за да насочват учениците стъпка по стъпка при решаването на задачи. Тези инструменти са предназначени да задълбочават разбирането и да подпомагат изграждането на по-добри навици за учене. Функциите, които използват контекст от предишни разговори — включително функцията за памет — помагат защитните механизми да се прилагат последователно, да се разпознават обезпокоителни модели и с течение на времето да се предоставя по-полезна подкрепа за ученето.

Контекстът помага и на тези инструменти за безопасност и учене да работят по-последователно с течение на времето. Чрез функции като паметта ChatGPT може да запазва подходяща информация и предпочитания от предишни разговори, което позволява на тийнейджърите да продължават по-дългосрочни учебни проекти, без да започват отначало. Тази приемственост може също да предотвратява затвърждаването на вредни модели и да подпомага по-ефективни реакции, когато млад човек се нуждае от допълнителна помощ или ресурси.

Постигането на баланс между безопасността и ученето не е нещо ново за нас. През изминалата година добавихме родителски контрол, определяне на възрастта, нашия План за безопасност на тийнейджърите и Принципи за лицата под 18 години в нашата спецификация на модела — правилата, които определят предвиденото поведение на моделите ни — за да въведем нови стандарти за взаимодействието им с младите хора. Те забраняват романтичното обвързване, насърчаването на емоционална зависимост и твърденията, че ChatGPT е човек или съзнателно същество. Предлагаме и родителски контрол, чрез който семействата могат да управляват основни настройки за своите тийнейджъри и да получават известия при високорискови ситуации.

SB 1119 въвежда надеждна рамка за безопасността на младежите при използване на ИИ в Калифорния. Продължаващите проучвания и сътрудничеството по време на прилагането могат да помогнат за подобряването на ключови разпоредби и да запазят ефективността на рамката с развитието на технологиите. OpenAI очаква с готовност да подкрепи тази работа и да продължи да създава изживявания с ИИ, съобразени с възрастта и потребностите на тийнейджърите, с по-строги автоматични защити и реални възможности да учат и да се развиват.