Нашиот договор со Министерството за војна

Вчера постигнавме договор со Пентагон за воведување напредни системи со вештачка интелигенција во класифицирани средини, при што побаравме тие да ги направат достапни и за сите компании за вештачка интелигенција.

Сметаме дека нашиот договор има повеќе заштитни мерки од кој било претходен договор за класифицирани воведувања на вештачка интелигенција, вклучувајќи го и Anthropic. Еве зошто.

Имаме три главни црвени линии што ја водат нашата работа со Министерството за војна кои генерално ги споделуваат и неколку други напредни лаборатории:

• Нема користење на технологијата на OpenAI за масовен домашен надзор.
• Нема употреба на технологијата на OpenAI за насочување на автономни системи за оружје. 
• Без употреба на технологијата на OpenAI за автоматизирани одлуки со висок ризик (на пр. системи како „социјален кредит“).

Други лаборатории за вештачка интелигенција ги намалија или ги отстранија своите заштитни мерки и се потпираа првенствено на политики за користење како нивни примарни заштитни механизми во воведување за национална безбедност. Сметаме дека нашиот пристап подобро штити од неприфатлива употреба.

Во нашиот договор, ги штитиме нашите црвени линии преку поширок и повеќеслоен пристап. Го задржуваме целосното право на одлучување за нашиот безбедносен систем, го воведуваме преку облак, овластениот персонал на OpenAI е вклучен во процесот и имаме силни договорни заштити. Сето ова е дополнително на силните постојни заштити во законодавството на САД. 

Навистина веруваме во демократијата. Со оглед на важноста на оваа технологија, веруваме дека единствениот добар пат понатаму бара длабока соработка меѓу напорите за вештачка интелигенција и демократскиот процес. Исто така, веруваме дека нашата технологија ќе воведе нови ризици во светот и сакаме луѓето што ги бранат Соединетите Американски Држави да ги имаат најдобрите алатки.

Нашиот договор вклучува:

1. Архитектура на воведување. Ова е воведување само во облак, со безбедносен систем што го извршуваме и кој ги вклучува овие принципи и други. Не го обезбедуваме на Министерството за војна со „исклучени заштитни огради“ или модели што не се обучени за безбедност, ниту ги воведуваме нашите модели на уреди на крајниот корисник (каде што би можело да постои можност за употреба за автономни смртоносни оружја). 

Нашата архитектура за воведување ќе ни овозможи независно да потврдиме дека овие црвени линии не се преминуваат, вклучувајќи извршување и ажурирање на класификатори.

2. Нашиот договор. Еве го релевантниот јазик:

Одделот за војна може да го користи Системот за вештачка интелигенција за сите законски цели, во согласност со применливото право, оперативните барања и добро воспоставените протоколи за безбедност и надзор. Системот за вештачка интелигенција нема да се користи за самостојно насочување автономно оружје во ниту еден случај каде што законот, регулативата или политиката на Одделот бара човечка контрола, ниту ќе се користи за преземање други одлуки со висок влог што бараат одобрување од човечки носител на одлука според истите овластувања. Согласно директивата на Министерството за одбрана 3000.09 (со датум од 25 јануари 2023 г.), секоја употреба на вештачка интелигенција во автономни и полуавтономни системи мора да помине низ ригорозна верификација, валидација и тестирање за да се осигури дека тие функционираат како што е предвидено во реалистични средини пред воведувањето.

За разузнавачки активности, секое ракување со приватни информации ќе биде во согласност со Четвртиот амандман, Законот за национална безбедност од 1947 година и Законот за странско разузнавање и надзор од 1978 година, Извршната наредба 12333 и применливите директиви на Министерството за одбрана што бараат дефинирана цел за странско разузнавање. Системот за вештачка интелигенција нема да се користи за неограничено следење на приватните информации на лица од САД, во согласност со овие овластувања. Системот исто така не смее да се користи за домашни активности за спроведување на законот, освен како што е дозволено со Законот Posse Comitatus и други применливи закони.

3. Вклучување на експерти за вештачка интелигенција. Ќе имаме проверени OpenAI инженери распоредени на терен што ќе ѝ помагаат на владата, со проверени истражувачи за безбедност и усогласеност вклучени во процесот. 

Зошто го правиш ова? 

Прво, сметаме дека на американската војска апсолутно ѝ се потребни силни модели на вештачка интелигенција за да ја поддржат нивната мисија, особено со оглед на растечките закани од потенцијални противници кои сè повеќе интегрираат технологии за вештачка интелигенција во своите системи. Првично не влеговме во договор за класифицирано воведување, бидејќи не сметавме дека нашите заштитни мерки и системи се подготвени и напорно работевме за да обезбедиме дека може да се случи класифицирано воведување со заштитни мерки за да се осигураме дека црвените линии не се преминуваат. 

Бевме – и остануваме – неподготвени да ги отстраниме клучните технички заштитни мерки за подобрување на перформансите во работата за национална безбедност. Тоа не е правилниот пристап за поддршка на американската војска. 

Второ, исто така сакавме да ги деескалираме работите меѓу Министерството за војна и американските лаборатории за вештачка интелигенција. Добрата иднина ќе бара вистинска и длабока соработка помеѓу владата и лабораториите за вештачка интелигенција. Како дел од нашиот договор овде, побаравме истите услови да им бидат достапни на сите лаборатории со вештачка интелигенција и конкретно владата да се обиде да ги реши работите со Anthropic; сегашната состојба е многу лош начин да се започне оваа следна фаза на соработка меѓу владата и лабораториите со вештачка интелигенција.

Зошто вие можевте да постигнете договор кога Anthropic не можеше? Дали ја потпиша зделката што тие не ја потпишаа?

Врз основа на она што го знаеме, веруваме дека нашиот договор обезбедува подобри гаранции и поодговорни заштитни мерки од претходните договори, вклучувајќи го и оригиналниот договор на Anthropic. Сметаме дека нашите црвени линии се поизвршливи тука бидејќи воведувањето е ограничено само на облак (не на уреди), ја одржува нашата безбедносна платформа да функционира на начинот што сметаме дека е најдобар и ги задржува овластените лица од OpenAI во тек.

Не знаеме зошто Anthropic не можеше да го постигне овој договор и се надеваме дека тие и повеќе лаборатории ќе го разгледаат тоа.

Дали мислите дека Anthropic треба да биде означен како „ризик во синџирот на снабдување“?

Не, а и ја разјаснивме нашата позиција за ова пред владата.

Дали овој договор ќе му овозможи на Министерството за војна да ги користи моделите на OpenAI за напојување автономно оружје? 

Не. Врз основа на нашиот безбедносен стек, нашето воведување само во облак, јазикот на договорот и постојните закони, регулатива и политики, уверени сме дека ова не може да се случи. Исто така, ќе имаме и персонал на OpenAI во циклусот за дополнителна сигурност.  

Дали овој договор ќе му овозможи на Министерството за војна да ги користи моделите на OpenAI за да спроведува масовен надзор врз лица од САД?

Не. Врз основа на нашиот безбедносен систем, јазикот на договорот и постојните закони што во голема мера го ограничуваат Министерството за војна од домашен надзор, уверени сме дека ова не може да се случи. Исто така, ќе имаме и персонал на OpenAI во циклусот за дополнителна сигурност.  

Дали мора да воведувате модели без безбедносен слој?

Не, ја задржуваме целосната контрола врз безбедносниот систем што го имплементираме и нема да го имплементираме без заштитни мерки. Покрај тоа, нашите истражувачи за безбедност и усогласеност ќе бидат вклучени и ќе помогнат да се подобруваат системите со текот на времето. Знаеме дека други лаборатории за вештачка интелигенција ги намалиле заштитните мерки на моделот и се потпирале на политиките за користење како примарна заштита, но сметаме дека нашиот слоевит пристап подобро штити од неприфатлива употреба.

Што се случува ако владата ги прекрши условите на договорот?

Како и со секој договор, би можеле да го раскинеме ако другата договорна страна ги прекрши условите. Не очекуваме тоа да се случи.

Што ако владата едноставно го промени законот или постојните политики на Министерството за војна?

Нашиот договор експлицитно се повикува на законите и политиките за надзор и автономно оружје како што постојат денес, така што дури и ако тие закони или политики се променат во иднина, користењето на нашите системи мора и понатаму да остане усогласено со тековните стандарди одразени во договорот. 

Како се справувате со аргументите што Anthropic ги изнесе во нивната објава на блогот⁠(се отвора во нов прозорец) за нивната дискусија со Министерството за војна?

Во нивната објава, Anthropic наведува две од нивните црвени линии (ние ги имаме истите две црвени линии, плус трета: автоматизирано донесување одлуки со висок влог) и причините зошто не веруваат дека овие црвени линии би биле почитувани во договорите што ги имале видено од Министерството за војна во тоа време. Подолу е зошто веруваме дека тие исти принципи на црвена линија би важеле во нашиот договор:

• Масовен домашен надзор. Во нашата интеракција беше јасно дека Министерството за војна го смета масовниот домашен надзор за нелегален и не планираше да го користи за оваа цел. Обезбедивме фактот дека тоа не е опфатено со законска употреба да биде експлицитно наведен во нашиот договор.
• Целосно автономно оружје. Опфатот на воведувањето во облакот покриен во нашиот договор не би дозволил напојување на целосно автономно оружје, бидејќи за ова би било потребно воведување на уреди. 

Покрај овие заштити, нашиот договор нуди дополнителни повеќеслојни заштитни мерки, вклучувајќи го нашиот безбедносен систем и техничките експерти на OpenAI вклучени во процесот.