Јачање демократског надзора у националној безбедности

Вештачка интелигенција мења начин на који демократске владе штите своје грађане. Она може помоћи у спречавању сајбер напада, заштити критичне инфраструктуре, ранијем откривању претњи и пружању јасније слике јавним службеницима током кризе. Када се правилно користе, ови алати могу ојачати националну безбедност.

Демократски надзор помаже да се обезбеди да носиоци јавних овлашћења остану одговорни грађанима којима служе. Док вештачка интелигенција убрзава и унапређује послове националне безбедности, институције задужене за њихов надзор такође морају да држе корак. Вештачка интелигенција може брзо и у великом обиму деловати на основу непотпуног или застарелог контекста, погрешно подешених циљева или неусклађених претпоставки, па је грешке теже ручно открити пре него што се прошире. Надзор је посебно важан када се вештачка интелигенција користи у националној безбедности, јер одлуке понекад нужно подразумевају тајност и могу имати далекосежне последице.

Вођени нашим Начелима националне безбедности, примени у области националне безбедности приступамо уз заштитне мере, смислену људску процену и одговарајући надзор, нарочито у високоризичним околностима. Та начела као приоритет постављају и помоћ институцијама задуженим за надзор да развију капацитете за надгледање брзе и широке примене вештачке интелигенције.

Државне институције већ имају утврђена овлашћења и одговорности за надзор активности у области националне безбедности. Када вештачка интелигенција доприноси тим активностима, можда ће бити потребно да се надзор развија упоредо с њом. Традиционални надзор захтева много рада и постаје готово немогућ када мали тимови, ослоњени на методе из доба папирне документације, треба да проверавају системе који раде машинском брзином.

OpenAI верује да способнији системи захтевају снажнији надзор и то начело примењујемо и на себе. У складу с нашим Оквиром спремности, напредни модели пре примене пролазе темељну проверу како бисмо разумели њихове способности и утврдили да ли су заштитне мере довољне. Та провера се наставља и након примене, кроз стално праћење и анализу инцидената, а стечена сазнања користимо за јачање заштитних мера и развој будућих модела.

OpenAI нема улогу у надзору владе, нити би требало да је има. Та одговорност припада изабраним званичницима и јавним институцијама основаним у ту сврху. Уместо тога, надзорним институцијама можемо пружити технолошку подршку док спроводе своја постојећа овлашћења.

Овај рад ће усмеравати три начела.

Прво, вештачка интелигенција треба да ојача, а не да замени људско и институционално расуђивање. Одлуке о томе да ли је поступање државних органа законито, примерено и усклађено с важећим правилима и политикама припадају овлашћеним органима и законски успостављеним надзорним телима.

Друго, државна употреба вештачке интелигенције треба да буде следљива и разумљива овлашћеним надзорним телима. Контролори треба да могу да разумеју како је вештачка интелигенција допринела одлуци, уз заштиту поверљивих и приватних информација, као и информација осетљивих са становишта безбедности.

Треће, вештачку интелигенцију треба користити за оснаживање институција демократског надзора. Ручни надзор државне употребе вештачке интелигенције не може се спроводити у потребном обиму. Како се вештачка интелигенција уводи у националну безбедност и друге високоризичне послове државе, требало би да је на одговоран и разумљив начин, у складу са својим овлашћењима, користе и надзорна тела.

Током наредне године планирамо да ову иницијативу унапредимо на следеће начине:

• Сарађиваћемо са овлашћеним званичницима како бисмо препознали практичне прилике у којима алати вештачке интелигенције или техничка подршка могу учинити надзор делотворнијим.

• Обезбедићемо пет милиона долара у виду обуке, техничке подршке и OpenAI кредита за тела демократских влада задужена за надзор, како бисмо подржали одговорно увођење и процену алата вештачке интелигенције.

• Сарађиваћемо с надзорним институцијама на пилот-примени алата који овлашћеним контролорима помажу да испитају евиденцију о одлукама државних органа донетим уз помоћ вештачке интелигенције, укључујући релевантне улазне и излазне податке и употребу алата, како би боље разумели њен утицај на исходе. Када је то изводљиво, алати ће бити интероперабилни или независни од конкретног модела. Контролу над доказима, излазним подацима и налазима задржаће институције учеснице, а не OpenAI, и они ће остати доступни искључиво овлашћеним државним службеницима.

• Укључићемо цивилно друштво и техничке стручњаке како би њихова гледишта усмеравала начин на који OpenAI развија ове алате и приступа одговорностима које они носе.

Вештачка интелигенција може да концентрише моћ, али и да помогне демократским институцијама да је делотворније врше и контролишу. Сама технологија неће одредити каква нас будућност чека, али хоће одлуке које људске институције и компаније доносе сада.

Напредак ове иницијативе мерићемо тиме да ли овлашћени контролори могу боље да испуњавају своје обавезе и да ли јавност има више разлога да верује да се државни системи вештачке интелигенције користе у предвиђене сврхе.

Како се државна употреба вештачке интелигенције буде развијала, OpenAI ће наставити да подржава институције одговорне за њен надзор.