Укрепване на демократичния надзор в националната сигурност

ИИ променя начина, по който демократичните правителства защитават гражданите си. Той може да помага за спиране на кибератаки, защита на критичната инфраструктура, по-ранно откриване на заплахи и предоставяне на по-ясна картина на ситуацията по време на криза. Когато се използват правилно, тези инструменти могат да укрепят националната сигурност.

Демократичният надзор помага да се гарантира, че упражняването на публична власт остава отговорно пред гражданите, на които служи. Тъй като ИИ прави дейностите в областта на националната сигурност по-бързи и ефективни, институциите, които ги контролират, също трябва да бъдат в крак с развитието. ИИ може да действа бързо и в голям мащаб въз основа на липсващ или остарял контекст, неправилно зададени цели или несъгласувани допускания, което затруднява ръчното откриване на грешките, преди да се разпространят. Надзорът е особено важен при използването на ИИ за целите на националната сигурност, защото решенията по необходимост могат да са поверителни и да имат сериозни последици.

Водени от нашите Принципи за национална сигурност, подхождаме към внедряването на ИИ в тази област с предпазни мерки, значима човешка преценка и подходящ надзор, особено в ситуации със сериозни последици. Тези принципи също така поставят като приоритет подпомагането на надзорните институции да изградят капацитет за контрол върху бързото и широкомащабно използване на ИИ.

Държавните институции вече разполагат с установени правомощия и отговорности за надзор върху дейностите в областта на националната сигурност. Когато ИИ допринася за тези дейности, подходът към контрола може да се наложи да се развие. Традиционният надзор изисква много човешки ресурси и става почти невъзможен, когато от малки екипи, използващи методи от епохата на хартиените документи, се очаква да проверяват системи, работещи с машинна скорост.

OpenAI вярва, че по-способните системи изискват по-строг надзор, и прилага този принцип и към собствената си дейност. Съгласно нашата Рамка за готовност усъвършенстваните модели преминават през строг преглед преди внедряване, за да разберем възможностите им и да определим дали предпазните мерки са достатъчни. Този контрол продължава и след внедряването чрез постоянно наблюдение и анализ на инциденти, а наученото ни помага да подобряваме предпазните мерки и да разработваме бъдещи модели.

OpenAI не осъществява и не трябва да осъществява функцията на контрол върху правителството. Тази отговорност е на избраните длъжностни лица и на създадените за целта публични институции. Вместо това можем да подпомагаме институциите за контрол с нашите технологии, докато те изпълняват съществуващите си правомощия.

Три принципа ще ръководят тази работа.

Първо, ИИ трябва да укрепва, а не да заменя човешката и институционалната преценка. Решенията относно това дали действията на правителството са законосъобразни, уместни и съответстват на приложимите правила и политики са от компетентността на упълномощените ведомства и законно учредените надзорни органи.

Второ, използването на ИИ от правителството трябва да бъде проследимо и разбираемо за упълномощените надзорни органи. Проверяващите трябва да могат да разберат как ИИ е допринесъл за дадено решение, като същевременно защитават класифицираната, личната и чувствителната от гледна точка на сигурността информация.

Трето, ИИ трябва да се използва за укрепване на демократичните надзорни институции. Ръчният надзор върху използването на ИИ в държавното управление не може да се прилага в голям мащаб. С навлизането на ИИ в националната сигурност и други държавни дейности със сериозни последици надзорните органи също трябва да го използват по отговорен и разбираем начин, в съответствие с техните правомощия.

През следващата година планираме да развием тази инициатива по следните начини:

• Ще работим с упълномощени длъжностни лица, за да открием практически възможности, при които инструментите с ИИ или техническа поддръжка могат да направят надзора по-ефективен.

• Ще предоставим 5 милиона щатски долара под формата на обучения, техническа поддръжка и кредити за OpenAI на надзорни органи на демократични правителства, за да подпомогнем отговорното внедряване и оценяване на инструменти с ИИ.

• Ще работим с надзорни институции по пилотното прилагане на инструменти, които помагат на упълномощени проверяващи да проучват документацията, свързана с подпомагани от ИИ решения на държавни институции, включително съответните входни данни, резултати и използвани инструменти, за да разбират по-добре как ИИ е повлиял на крайния резултат. Където е възможно, инструментите ще бъдат оперативно съвместими или независими от конкретен модел. Участващите институции, а не OpenAI, ще запазят контрола върху доказателствата, резултатите и констатациите, които ще останат достъпни само за упълномощени държавни служители.

• Ще ангажираме представители на гражданското общество и технически експерти, за да гарантираме, че техните гледни точки ще бъдат взети предвид при разработването от OpenAI на тези инструменти и на подходите към свързаните с тях отговорности.

ИИ може да концентрира властта или да помогне на демократичните институции да я упражняват и контролират нейното упражняване по-ефективно. Технологиите сами по себе си няма да определят какво бъдеще ни очаква, но решенията, които човешките институции и компаниите вземат сега, ще го направят.

Ще оценяваме напредъка на тази инициатива според това дали упълномощените проверяващи могат по-добре да изпълняват задълженията си и дали обществеността има повече основания да вярва, че държавните системи с ИИ се използват по предназначение.

С развитието на използването на ИИ от правителствата OpenAI ще продължи да подкрепя институциите, отговорни за надзора върху него.