САЩ напредват в безопасността на ИИ чрез щатски и федерални действия

От Крис Лехейн, главен директор по Глобални отношения

От щатските столици в цялата страна през Вашингтон до международните форуми започват да се оформят сериозни подходи към управлението на авангардния ИИ. Заедно те придвижват напред демократична визия за ИИ.

Калифорния, Ню Йорк и най-скоро Илинойс придвижиха законодателство за безопасност на авангардния ИИ, което помага страната да се насочи към обща базова линия за управление на най-мощните системи с ИИ.

Тези усилия отразяват набиращата сила подкрепа за това, което OpenAI нарича обратен федерализъм: щатите помагат за определянето на обща посока чрез обща рамка. Докато работата, водена от щатите, се сближава с усилията на федерално ниво, започва да се оформя национален стандарт, който полага основата за водена от САЩ глобална рамка за ИИ. Вярваме, че най-добрият начин да се гарантира, че ИИ носи ползи за мнозинството, а не само за малцина, е критичните решения — като се започне с безопасността на авангардния ИИ — да се вземат от демократични правителства, а не единствено от лаборатории за авангарден ИИ.

В крайна сметка Съединените щати биха били най-добре обслужени от национална рамка, основана на този принцип. Но при липса на такава щатите могат да ни придвижат натам, като приемат закони, които се отразяват един друг. Стъпка по стъпка те могат да създадат фактически национален стандарт.

И ако безопасността е приоритет, такъв национален стандарт е най-добрият политически подход, за да се гарантира, че (а) САЩ продължават да водят в иновациите и не са подкопавани от разнородна смесица от регулации, която би забавила изграждането на глобален демократичен стек за ИИ, така че добрите участници да имат инструментите, от които се нуждаят, за да се защитават от злонамерени лица, стремящи се да злоупотребяват с ИИ в области като киберсигурността; и (б) САЩ са в най-силна позиция да превърнат националния стандарт в глобален подход за безопасно внедряване на ИИ, изграден върху демократични ценности. Ако искаме да създадем рамка за безопасност, която наистина поставя като приоритет въвеждането на национален и международен стандарт — тъкмо това ще подкрепи най-добре безопасното внедряване на ИИ — ще са нужни упорита работа, сериозно отношение към целта и стратегия, която свързва щатите, федералното правителство и международния разговор. Показният подход или демонстративното заявяване на добродетели няма да свършат работа тук — хаосът на щатско ниво не е в интерес на устойчивия подход към безопасността, а само ще доведе до още хаос.

За да успее този подход, щатите трябва да продължат да се съгласуват по основните елементи, както направиха Калифорния, Ню Йорк и Илинойс. Най-общо казано, тези елементи са:

• Документирана рамка за безопасност с оценки на риска за авангардни модели и публично оповестяване на тези оценки и резултатите от тях.
• Докладване на сериозни инциденти, свързани с безопасността.
• Управление и отчетност чрез независими, обективни одити.

Взети заедно, тези три щата са вградили демократичен надзор във внедряването на авангарден ИИ. Калифорния създаде основната рамка за оповестяване. Ню Йорк показа, че подходът може да бъде възприет в различни юрисдикции. Илинойс я допълни, като изиска независима проверка на ключови оповестявания.

Признаваме, че законодателството често включва допълнителни разпоредби, за да се осигурят гласовете, необходими за приемането му. Но вярваме, че именно това са съществените елементи, необходими за създаване на фактически национален стандарт чрез обратен федерализъм. Без тази дисциплина рискуваме разрастване на политиките и разнородна смесица от щатски закони, които регулаторите трудно ще прилагат, потребителите трудно ще разбират, а ресурсите на разработчиците — особено в стартъпи и малки компании — ще се отклоняват от безопасността, където биха били по-добре инвестирани. По-специално, както показаха последните няколко седмици, с нарастването на способностите на моделите с ИИ ни е нужна последователна система, която ще ни позволи да предоставим инструментите в ръцете на правителството, критичната инфраструктура, съюзниците и надеждните партньори.

Политиците трябва също да се пазят от разширяване на мисията. От щатите не бива да се иска да управляват значителни рискове за националната сигурност (или на практика да вземат решения за националната сигурност от името на цялата страна) или да извършват силно технически прегледи, които е по-добре да се поемат от федерални експерти с ресурсите, експертизата, достъпа до класифицирани системи и капацитета да работят тясно с нашите екипи.

На федерално ниво администрацията на Тръмп продължава да работи с технически експерти и експерти по национална сигурност по рамка за тестване от правителството на САЩ на най-способните модели на ИИ в киберсферата. Тази рамка ще установи стандарти, срокове и процеси за тестване. OpenAI участва в конструктивни обсъждания с администрацията, сродни компании, бизнес организации и други заинтересовани страни, които помагат за оформянето на тези усилия.

Текущата работа по кибероценките показва защо последователността е важна. Днес, по разбираеми причини, моделите се тестват, преди федералната рамка да е завършена. Докато лабораториите преминават през този процес, един урок стана ясен: нужен ни е последователен и повторяем подход както на щатско, така и на федерално ниво. Това е от съществено значение, ако искаме най-способните модели да бъдат в ръцете на правителството, защитниците на критичната инфраструктура, съюзниците и други надеждни партньори. Оценяваме целта на администрацията тази рамка да бъде въведена до началото на август.

Федералната рамка за тестване ще помогне усъвършенстваните инструменти за ИИ да достигнат до правителството, защитниците на критичната инфраструктура, съюзниците и други надеждни партньори. Така тя ще укрепи демократичните институции и ще помогне за изграждането на воден от САЩ демократичен стек за ИИ. Сега е моментът да използваме иновационното предимство на Америка в подкрепа на демократичния ИИ.

Нито неопределен федерален процес, нито разнородна смесица от щатски закони ще създадат последователен режим за безопасност на авангардния ИИ. Нужен ни е подход, който гарантира, че най-добрите тестери оценяват най-способните модели, а надеждните защитници получават достъп до тези инструменти достатъчно бързо, за да изпреварват злонамерените участници.

Конгресът също предприема действия. Законодатели и в двете камари, и от двете партии — включително най-скоро представителите Джей Обернолти и Лори Трахан — отбелязаха развитието в щатите и изпълнителната власт и предложиха идеи за федерална рамка. Нито един проект за обсъждане с реалистичен път към приемане няма да бъде съвършен. Но ние разглеждаме тази работа като продуктивна крачка напред и смятаме, че много от разпоредбите ѝ са добре обмислени и заслужават подкрепа.

Насърчени сме и от това, че лидерите в Сената и Камарата влагат сериозни усилия в предложения за национално управление и безопасност на авангардния ИИ, и сме имали конструктивни разговори с много от тях. Като се имат предвид размерът и влиянието на щатите, които вече са приели закони в сходна посока, включването на тези подходи във федералното законодателство би трябвало да улесни създаването на единен национален режим за безопасност на авангардния ИИ.

Планът на OpenAI за безопасност на авангардния ИИ очертава елементите, които според нас са съществени за тази рамка.

Първо, федералното правителство трябва да води тестването и оценяването на най-усъвършенстваните системи. Авангардният ИИ повдига въпроси за националната сигурност и обществената безопасност, които изискват техническа експертиза, ресурси и достъп, каквито никой щат не може напълно да възпроизведе.

Тази работа трябва да укрепи Центъра за стандарти и иновации в ИИ (CAISI), създаден при президента Байдън и укрепен при президента Тръмп. CAISI може да осигури устойчивия федерален капацитет, необходим за оценяване на усъвършенствани модели и за насочване на безопасността на авангардния ИИ към предотвратяване на вреди, преди да настъпят, вместо да се разчита основно на отчетност след това. Всяко федерално законодателство трябва внимателно да обмисли как CAISI да работи с останалата част от правителството и каква роля да играе в центъра на тестването.

Второ, компаниите, които разработват най-способните системи, трябва да отговарят на ясни изисквания, включително независими одити, докладване на инциденти, строги стандарти за сигурност и защита на лицата, подаващи сигнали.

Трето, федералните и щатските усилия трябва взаимно да се подсилват. Щатските закони няма да бъдат напълно еднакви и очакваме с готовност да работим с политици в цялата страна, за да гарантираме, че те укрепват безопасността, като същевременно максимизират икономическите ползи от ИИ.

Щатите трябва също да продължат да служат като лаборатории на демокрацията в области отвъд безопасността на авангардния ИИ, включително защита на младежите, електроенергийна и екологична политика, както и образование и грамотност в областта на ИИ.

Федералната рамка остава от съществено значение. Авангардният ИИ повдига въпроси за националната сигурност, икономическата конкурентоспособност и обществената безопасност, които в крайна сметка изискват национални стандарти, национални способности и национални институции в подкрепа на демократичния ИИ.

Националното законодателство е също критично важно за водена от САЩ международна рамка за стандартите за ИИ. Тази идея беше обсъдена преди няколко седмици на Г-7 заедно с Бразилия, Египет, Индия, Кения и Корея, където изпълнителните директори на водещи лаборатории за авангарден ИИ обсъдиха нуждата от такава рамка. След тази среща главният изпълнителен директор на OpenAI Сам Алтман предложи във Financial Times⁠(отваря се в нов прозорец) „воден от САЩ международен форум, който установява приети стандарти, предоставя експертен и безпристрастен анализ на способностите и рисковете и прави технологията достъпна за държави и компании, които участват и спазват правилата“. Тази седмица главният изпълнителен директор на Google DeepMind Демис Хасабис също представи задълбочени идеи в нов доклад. Федерално законодателство — по необходимост двупартийно — би осигурило здрава основа за това международно усилие.

Инерцията вече се вижда на всяко ниво. Щатите установяват общи подходи. Конгресът и изпълнителната власт изграждат основите на национална рамка. А световните лидери започват да обсъждат международни стандарти. Ако всяко от тези усилия надгражда другите, САЩ могат да водят разработването на глобална рамка, основана на демократична визия за ИИ. И именно този подход на демократично съгласуване по отношение на ИИ е подходът, който наистина поставя безопасността на първо място.