Зајакнување на демократскиот надзор во националната безбедност

ВИ го менува начинот на кој демократските влади ги штитат своите граѓани. Таа може да помогне во спречувањето кибернапади, обезбедувањето на критичната инфраструктура и пораното откривање закани, како и да им даде појасна слика на јавните службеници во кризни ситуации. Кога се користат правилно, овие алатки можат да ја зајакнат националната безбедност.

Демократскиот надзор помага да се обезбеди отчетност пред граѓаните при користењето на јавните овластувања. Бидејќи ВИ овозможува побрзо и поефикасно извршување на задачите од областа на националната безбедност, институциите задолжени за надзор врз нив исто така мора да бидат во чекор со развојот. ВИ може брзо и во голем обем да дејствува врз основа на нецелосен или застарен контекст, погрешно поставени цели или неусогласени претпоставки, поради што грешките потешко се откриваат рачно пред да се прошират. Надзорот е особено важен при употребата на ВИ за националната безбедност бидејќи одлуките може нужно да бидат тајни и да имаат сериозни последици.

Водени од нашите Принципи за национална безбедност, при примената во националната безбедност користиме заштитни мерки, суштинско човечко расудување и соодветен надзор, особено во околности со сериозни последици. Овие принципи исто така му даваат приоритет на јакнењето на капацитетите на надзорните институции за да можат брзо и во голем обем да ја надгледуваат употребата на ВИ.

Државните институции веќе имаат утврдени овластувања и одговорности за надзор врз активностите поврзани со националната безбедност. Кога ВИ придонесува за тие активности, можеби ќе треба да се развива и надзорот. Традиционалниот надзор бара многу човечки труд и станува речиси невозможен кога од мали тимови што користат методи од времето на хартиените документи се бара да проверуваат системи што работат со машинска брзина.

OpenAI смета дека поспособните системи бараат построг надзор, а тој принцип го применуваме и врз себе. Согласно со нашата Рамка за подготвеност, напредните модели подлежат на строга проверка пред примената за да се разберат нивните способности и да се утврди дали заштитните мерки се доволни. Таа проверка продолжува и по примената преку постојано следење и разгледување на инцидентите, а сознанијата ги користиме за посилни заштитни мерки и за идниот развој на моделите.

OpenAI не врши надзор над владата, ниту треба да го прави тоа. Таа одговорност им припаѓа на избраните функционери и на јавните институции основани за таа цел. Наместо тоа, можеме да ги поддржиме надзорните институции со нашата технологија при спроведувањето на нивните постојни мандати.

Оваа работа ќе ја водат три принципи.

Прво, ВИ треба да го зајакнува, а не да го заменува човечкото и институционалното расудување. Одлуките за тоа дали постапувањето на владата е законско, соодветно и усогласено со важечките правила и политики им припаѓаат на овластените органи и законски основаните надзорни тела.

Второ, употребата на ВИ од страна на владата треба да биде следлива и разбирлива за овластениот надзор. Лицата што вршат проверка треба да можат да разберат како ВИ придонела за одредена одлука, притоа заштитувајќи ги доверливите, приватните и безбедносно чувствителните информации.

Трето, ВИ треба да се користи за зајакнување на институциите за демократски надзор. Рачниот надзор врз употребата на ВИ во владата не може да се спроведува во голем обем. Со усвојувањето на ВИ во националната безбедност и во други државни дејности со сериозни последици, треба да ја користат и надзорните тела, одговорно, разбирливо и во согласност со своите мандати.

Во текот на следната година планираме да ја унапредиме оваа иницијатива на следниве начини:

• Ќе соработуваме со овластени функционери за да утврдиме практични можности во кои алатките за ВИ или техничката поддршка можат да го направат надзорот поефикасен.

• На демократските државни надзорни тела ќе им обезбедиме обука, техничка поддршка и кредити од OpenAI во вредност од 5 милиони долари за да го поддржиме одговорното усвојување и оценување на алатките за ВИ.

• Ќе соработуваме со надзорните институции на пробна примена на алатки што им помагаат на овластените проверувачи да ја испитаат евиденцијата поврзана со одлуките на владата донесени со помош на ВИ, вклучувајќи ги релевантните влезни и излезни податоци и употребата на алатките, за подобро да разберат како ВИ влијаела врз исходите. Каде што е изводливо, алатките ќе бидат интероперабилни или независни од конкретен модел. Контролата врз доказите, резултатите и наодите ќе ја задржат институциите учеснички, а не OpenAI, и тие ќе им бидат достапни само на овластени владини функционери.

• Ќе ги вклучиме граѓанското општество и техничките експерти за нивните гледишта да влијаат врз начинот на кој OpenAI ги развива овие алатки и им пристапува на одговорностите што произлегуваат од нив.

ВИ може да ја концентрира моќта или да им помогне на демократските институции поефикасно да ја вршат и контролираат власта. Технологијата сама по себе нема да одлучи каква иднина ќе имаме, туку тоа ќе го одредат изборите што сега ги прават човечките институции и компаниите.

Напредокот на оваа иницијатива ќе го мериме според тоа дали овластените проверувачи можат подобро да ги исполнуваат своите обврски и дали јавноста има поцврсти причини да верува дека владините системи за ВИ се користат според нивната намена.

Како што се развива владината употреба на ВИ, OpenAI ќе продолжи да ги поддржува институциите одговорни за нејзиниот надзор.