Помагаме за изграждане на общи стандарти за напреднал AI

Все по-способните модели могат да укрепят киберзащитата, да ускорят научните открития и да разширят достъпа до експертни знания. Но те могат също да създадат рискове за безопасността и сигурността, ако възможностите им се разбират погрешно, защитните им механизми са недостатъчни или правителствата нямат информацията, от която се нуждаят, за да реагират. За да реализират ползите безопасно и с увереност, обществата ще се нуждаят от институции с технически и управленски капацитет да оценяват, защитават и управляват все по-способни системи.

Това е една от причините OpenAI да помогне за основаването на фондация Appia⁠(отваря се в нов прозорец), чийто домакин е Linux Foundation. Appia ще разработва отворени, модулни спецификации, предназначени да превръщат международните стандарти и утвърдените рамки в практически критерии за оценка по цялата верига на стойността на AI. Работата ѝ може да помогне за изграждането на критично липсващ слой на доверие, чрез който трети страни проверяват съответствието със стандартите и създават по-ясни и по-многократно използваеми доказателства, когато модели, инфраструктура и приложения се разработват от различни организации. С тази работа Appia ще помогне за създаването на общ технически език, който ще позволи на националните и международните институции да се доверяват на работата си взаимно.

Виждаме това усилие като важна следваща стъпка в по-широката работа за укрепване на институциите, стандартите и практиките за оценка, необходими за усъвършенствани AI системи.

Неотдавнашният ни план за демократично управление на авангардния AI предлага пътна карта за тази работа. Той призовава за устойчива рамка в САЩ, укрепен Център за стандарти и иновации в AI (CAISI) и по-широка стратегия за устойчивост в цялото правителство. Той също така признава, че граничните рискове имат международен обхват. Държавите трябва да работят заедно за разработване на съвместими рамки за безопасност, надеждни канали за споделяне на констатации за риска и координирани реакции при инциденти.

Националният капацитет и международното сътрудничество трябва взаимно да се подсилват. Силни институции като CAISI могат да развиват техническа експертиза, да оценяват авангардни системи и да подкрепят независима екосистема за оценка. Мрежа от способни национални институции може след това да установи общи методи, да признава надеждни доказателства и да даде на правителствата общото техническо разбиране, необходимо за съвместни действия.

Стандартите са в центъра на това усилие и трябва да се основават на надеждна оценъчна практика и техническа строгост. В нашия общ наръчник за надеждни оценки от трети страни посочваме какво все по-често трябва да разкриват оценките на гранични системи: тестваната система, достъпът ѝ до инструменти и средата за оценка, методите, използвани за извличане на възможности, наличните ресурси и проверките, извършени за валидиране на резултатите. Приложихме тези принципи на практика и чрез партньорства за тестване с US CAISI и UK AISI, чиято работа по оценки на гранични възможности и защитни мерки срещу биологична злоупотреба доведе до конкретни подобрения в нашите системи. Тази работа изпълнява важна функция: създава основата за практики, които могат да бъдат стандартизирани, за да се проверява ефективността по съпоставим начин.

Тези практики допълват по-широката инфраструктура за безопасност на OpenAI. Документът Рамка за готовност е основата за това как определяме и прилагаме на практика подхода си към управлението на най-сериозните рискове от усъвършенствани AI системи, включително вътрешните ни практики. Нашата Рамка за управление на авангардни модели прилага релевантни части от този подход в публичен документ за управление, насочен към конкретни регулаторни задължения, включително оценка на риска, докладване за модели, контрол на сигурността, реакция при инциденти и включване на външен експертен принос. Заедно тези документи помагат широките ангажименти да се превърнат в оперативни практики, които могат да бъдат валидирани и подобрявани.

Работата на Appia е насочена към следващото предизвикателство: тези практики да станат оперативно съвместими между организации, юрисдикции и по цялата верига на доставки.

OpenAI вече допринася за по-широка екосистема от стандарти и усилия преди стандартизацията. Участваме в Съвместния технически комитет 1, Подкомитет 42 по изкуствен интелект, на Международната организация по стандартизация и Международната електротехническа комисия⁠(отваря се в нов прозорец) и в Консорциума за изкуствен интелект, ръководен от Националния институт за стандарти и технологии⁠(отваря се в нов прозорец); помогнахме за основаването на Форума за авангардни модели и на Фондацията за агентен изкуствен интелект⁠(отваря се в нов прозорец) към Linux Foundation; участваме в Коалицията за сигурен изкуствен интелект⁠(отваря се в нов прозорец); членуваме в ръководния комитет на Коалицията за произход и автентичност на съдържанието⁠(отваря се в нов прозорец); и се включваме в процесите на Работната група за интернет инженеринг⁠(отваря се в нов прозорец) и Fast Identity Online Alliance⁠(отваря се в нов прозорец) за напредък на оперативно съвместимите технически стандарти.

Във всички тези форуми, вече и чрез Appia, целта ни е да превърнем уроците от разработването на авангардни системи в отворени, технически обосновани практики, които правителства, компании и независими оценители могат да използват в различни юрисдикции.