Нашето споразумение с Министерството на войната

Вчера постигнахме споразумение с Пентагона за внедряване на усъвършенствани системи за изкуствен интелект в класифицирана среда, което поискахме да бъде предоставено и на всички компании за изкуствен интелект.

Смятаме, че нашето споразумение има повече предпазни мерки от всяко предишно споразумение за внедрявания на класифициран ИИ, включително това на Anthropic. Ето защо.

Имаме три основни червени линии, които ръководят работата ни с Министерството на войната и които като цяло се споделят от няколко други авангардни лаборатории:

• Без използване на технологията на OpenAI за масово вътрешно наблюдение.
• Забранява се използването на технологията на OpenAI за насочване на автономни оръжейни системи. 
• Без използване на технологията на OpenAI за високорискови автоматизирани решения (напр. системи като „социален кредит“).

Други лаборатории за изкуствен интелект са намалили или премахнали предпазните си мерки и разчитат предимно на политиките за използване като основни предпазни мерки при внедряването в националната сигурност. Смятаме, че нашият подход защитава по-добре срещу неприемлива употреба.

В нашето споразумение защитаваме нашите червени линии чрез по-широк, многопластов подход. Запазваме си пълна свобода на действие по отношение на нашия набор от мерки за безопасност, внедряване чрез облак, одобреният персонал на OpenAI е в течение и имаме силни договорни защити. Това е в допълнение към силните съществуващи защити в законодателството на САЩ. 

Вярваме силно в демокрацията. Предвид важността на тази технология, ние вярваме, че единственият добър път напред изисква дълбоко сътрудничество между усилията на ИИ и демократичния процес. Също така вярваме, че нашата технология ще въведе нови рискове в света и искаме хората, които защитават Съединените щати, да разполагат с най-добрите инструменти.

Споразумението ни включва:

1. Архитектура на внедряването. Това е внедряване само в облака, с използвания от нас набор от мерки за безопасност, който включва тези и други принципи. Ние не предоставяме на Министерството на войната модели с „изключени предпазни мерки“ или модели, които не са обучени за безопасност, нито внедряваме нашите модели на крайни устройства (където би могла да съществува възможност за употреба за автономни смъртоносни оръжия). 

Нашата архитектура за внедряване ще ни позволи независимо да проверяваме, че тези червени линии не се пресичат, включително чрез изпълнение и актуализиране на класификатори.

2. Нашият договор. Ето подходящия език:

Министерството на войната може да използва системата с ИИ за всички законосъобразни цели, в съответствие с приложимото право, оперативните изисквания и утвърдените протоколи за безопасност и надзор. Системата с ИИ няма да се използва за самостоятелно насочване на автономни оръжия във всеки случай, в който закон, регламент или политика на Министерството изисква човешки контрол, нито ще се използва за поемане на други важни решения, които изискват одобрение от човек, вземащ решения, съгласно същите правомощия. Съгласно Директива 3000.09 на Министерството на войната (от 25 януари 2023 г.) всяко използване на ИИ в автономни и полуавтономни системи трябва да премине през стриктна проверка, валидиране и тестване, за да се гарантира, че те функционират по предназначение в реалистични среди преди внедряването им.

За разузнавателни дейности всяко обработване на лична информация ще бъде в съответствие с Четвъртата поправка, Закона за националната сигурност от 1947 г. и Закона за чуждестранното разузнаване и наблюдение от 1978 г., Изпълнителна заповед 12333 и приложимите директиви на Министерството на отбраната, изискващи определена цел на външното разузнаване. Системата с ИИ не следва да се използва за неограничено наблюдение на личната информация на лица от САЩ в съответствие с тези правомощия. Системата също така не следва да се използва за вътрешни правоприлагащи дейности, освен както е разрешено от Закона за военните действия и друго приложимо законодателство.

3. Участие на експерти в областта на ИИ. Ще разполагаме с допуснати до класифицирана информация инженери на OpenAI, разположени на предни позиции, които да помагат на правителството, като в процеса ще участват и допуснати до класифицирана информация изследователи по безопасност и съгласуваност. 

Защо правите това? 

Първо, смятаме, че американските въоръжени сили абсолютно се нуждаят от силни модели на ИИ, за да подкрепят мисията си, особено предвид нарастващите заплахи от потенциални противници, които все по-често интегрират технологии за ИИ в своите системи. Първоначално не сключихме договор за класифицирано внедряване, тъй като не смятахме, че нашите предпазни мерки и системи са готови, и работихме усилено, за да гарантираме, че класифицирано внедряване може да се осъществи с предпазни мерки, които да гарантират, че червените линии няма да бъдат прекрачени. 

Ние не бяхме и продължаваме да не сме склонни да премахнем ключови технически предпазни мерки, за да подобрим ефективността при работа по въпроси на националната сигурност. Това не е правилният подход за подкрепа на американската армия. 

Второ, искахме също да деескалираме напрежението между Министерството на войната и лабораториите за ИИ в US. Доброто бъдеще ще изисква истинско и задълбочено сътрудничество между правителството и лабораториите за ИИ. Като част от нашата сделка тук поискахме същите условия да бъдат предоставени на всички лаборатории за ИИ и по-специално правителството да се опита да разреши нещата с Anthropic. Настоящото положение е много лош начин да се даде старт на следващата фаза на сътрудничество между правителството и лабораториите за ИИ.

Защо Вие успяхте да постигнете сделка, когато Anthropic не успя? Подписахте ли сделката, която те не искаха да подпишат?

Въз основа на това, което знаем, смятаме, че нашият договор предоставя по-добри гаранции и по-отговорни предпазни мерки в сравнение с предишните споразумения, включително първоначалния договор на Anthropic. Смятаме, че нашите червени линии са по-лесни за прилагане тук, защото внедряването е ограничено само до облака (не на периферни инфраструктури), подкрепя нашия набор от мерки за безопасност да работи по начина, който смятаме за най-добър, и държи одобрения персонал на OpenAI в течение.

Не знаем защо Anthropic не успя да постигне тази сделка и се надяваме, че те и повече лаборатории ще я обмислят.

Смятате ли, че Anthropic трябва да бъде определена като „риск за веригата за доставки“?

Не, и сме заявили ясно позицията си по този въпрос пред правителството.

Ще позволи ли тази сделка на Министерството на войната да използва модели на OpenAI, за да задвижва автономни оръжия? 

Не. Въз основа на нашия набор от мерки за безопасност, внедряването ни само в облак, формулировката на договора и съществуващите закони, разпоредби и политики сме уверени, че това не може да се случи. Ще включим и персонал на OpenAI в процеса за допълнителна сигурност.  

Ще позволи ли тази сделка на Министерството на войната да използва моделите на OpenAI за провеждане на масово наблюдение над лица в САЩ?

Не. Въз основа на нашия набор от мерки за безопасност, формулировката на договора и съществуващите закони, които строго ограничават Министерството на войната от вътрешно наблюдение, сме уверени, че това не може да се случи. Ще включим и персонал на OpenAI в процеса за допълнителна сигурност.  

Трябва ли да внедрявате модели без набор от мерки за безопасност?

Не, ние запазваме пълен контрол върху набора от мерки за безопасност, който внедряваме, и няма да внедряваме без предпазни мерки за безопасност. Освен това нашите изследователи по безопасност и съгласуване ще бъдат информирани и ще помагат за подобряването на системите с течение на времето. Знаем, че други лаборатории за изкуствен интелект са намалили ограниченията за модели и разчитат на политиките за използване като основна защита, но смятаме, че нашият многопластов подход защитава по-добре от неприемлива употреба.

Какво се случва, ако правителството наруши условията на договора?

Както при всеки договор, бихме могли да го прекратим, ако насрещната страна наруши условията. Не очакваме това да се случи.

Ами ако правителството просто промени закона или съществуващите политики на Министерството на войната?

Нашият договор изрично се позовава на законите и политиките относно наблюдението и автономните оръжия във вида, в който съществуват днес, така че дори ако тези закони или политики се променят в бъдеще, използването на нашите системи трябва да остане съобразено с настоящите стандарти, отразени в споразумението. 

Как отговаряте на аргументите, които Anthropic изтъкна в публикацията си в блога⁠(отваря се в нов прозорец) относно дискусията си с Министерството на войната?

В публикацията си Anthropic посочва два от своите принципи, които не подлежат на промяна (ние имаме същите два принципа, които не подлежат на промяна, плюс трети: автоматизирано вземане на решения с висок залог), и причините, поради които не вярват, че тези червени линии ще бъдат спазени в договорите, които са видели от Министерството на войната по това време. По-долу е описано защо смятаме, че същите червени линии ще важат и за нашия договор:

• Масово вътрешно наблюдение. В нашето взаимодействие беше ясно, че Министерството на войната счита масовото вътрешно наблюдение за незаконно и не е планирало да го използва за тази цел. Ние гарантирахме, че фактът, че не е обхванато от законосъобразна употреба, е изрично посочен в нашия договор.
• Напълно автономни оръжия. Обхватът на внедряването в облак, обхванат от нашия договор, не би позволил захранването на напълно автономни оръжия, тъй като това би изисквало внедряване на периферни инфраструктури. 

В допълнение към тези защити, нашият договор предлага допълнителни многопластови предпазни мерки, включително нашия набор от мерки за безопасност и технически експерти на OpenAI, които участват в процеса.