Укрепление демократического контроля в сфере национальной безопасности

ИИ меняет подход демократических государств к защите своих граждан. Он помогает предотвращать кибератаки, защищать критически важную инфраструктуру, раньше выявлять угрозы и дает госслужащим более полную картину во время кризиса. При грамотном применении эти инструменты способны укрепить национальную безопасность.

Демократический контроль помогает обеспечить подотчетность государственной власти гражданам, которым она служит. По мере того как ИИ ускоряет и расширяет возможности работы в сфере национальной безопасности, отвечающие за ее контроль институты также должны идти в ногу с этими изменениями. ИИ способен быстро и в широких масштабах действовать на основе неполного или устаревшего контекста, неверно заданных целей или ошибочных предположений, поэтому ошибки сложнее выявить вручную до того, как они распространятся. Контроль особенно важен при использовании ИИ в сфере национальной безопасности, поскольку решения могут неизбежно требовать секретности и иметь серьезные последствия.

Руководствуясь нашими Принципами в области национальной безопасности, мы применяем ИИ в сфере национальной безопасности с необходимыми мерами защиты и надлежащим контролем, сохраняя значимую роль человека в принятии решений, особенно в ситуациях с серьезными последствиями. Эти принципы также предусматривают приоритетную поддержку надзорных институтов, чтобы они могли эффективно контролировать применение ИИ по мере роста его скорости и масштабов.

Государственные институты уже наделены установленными полномочиями и обязанностями по контролю за деятельностью в сфере национальной безопасности. Когда в такой деятельности задействован ИИ, подходы к контролю, возможно, придется развивать. Традиционный контроль требует больших трудозатрат и становится практически невозможным, когда небольшим командам, использующим методы бумажной эпохи, поручают проверять системы, работающие с машинной скоростью.

OpenAI считает, что более мощные системы требуют более строгого контроля, и применяет этот принцип к собственной работе. В рамках нашей Программы готовности передовые модели до внедрения проходят тщательную проверку, которая позволяет оценить их возможности и достаточность мер защиты. После внедрения проверка продолжается в форме постоянного мониторинга и анализа инцидентов, а полученные выводы помогают усиливать меры защиты и совершенствовать будущие модели.

OpenAI не контролирует деятельность государства и не должна этого делать. Эта ответственность лежит на избранных должностных лицах и созданных для этого государственных институтах. Вместо этого мы можем предоставлять надзорным институтам наши технологии, помогая им исполнять уже возложенные на них полномочия.

Эта работа будет опираться на три принципа.

Во-первых, ИИ должен усиливать, а не заменять профессиональную оценку людей и институтов. Решать, законны и обоснованны ли действия государства и соответствуют ли они применимым нормам и правилам, должны уполномоченные ведомства и учрежденные законом надзорные органы.

Во-вторых, применение ИИ государством должно быть отслеживаемым и понятным для уполномоченных надзорных органов. Проверяющие должны иметь возможность понять, как ИИ повлиял на решение, при сохранении конфиденциальности секретной, частной и чувствительной для безопасности информации.

В-третьих, ИИ должен расширять возможности институтов демократического контроля. Ручной контроль за применением ИИ государством невозможно масштабировать. По мере внедрения ИИ в сферу национальной безопасности и другие направления государственной деятельности с серьезными последствиями надзорные органы также должны применять его ответственно и понятным для контроля образом, в рамках своих полномочий.

В течение следующего года мы планируем развивать эту инициативу по следующим направлениям:

• Мы будем вместе с уполномоченными должностными лицами искать практические задачи, в которых инструменты ИИ или техническая поддержка способны повысить эффективность контроля.

• Мы предоставим органам демократического контроля 5 млн долларов в виде обучения, технической поддержки и кредитов OpenAI для ответственного внедрения и оценки инструментов ИИ.

• Совместно с надзорными институтами мы опробуем инструменты, которые помогут уполномоченным проверяющим изучать материалы, связанные с принятыми при помощи ИИ государственными решениями, включая соответствующие входные и выходные данные и сведения об использовании инструментов, чтобы лучше понимать влияние ИИ на результаты. Там, где это возможно, инструменты будут совместимы с другими системами или не будут зависеть от конкретной модели. Контроль над доказательствами, результатами и выводами сохранится за участвующими институтами, а не за OpenAI; доступ к ним будет только у уполномоченных государственных должностных лиц.

• Мы будем привлекать представителей гражданского общества и технических экспертов, чтобы их точки зрения учитывались при разработке этих инструментов и подходе OpenAI к связанной с ними ответственности.

ИИ может сосредоточить власть в одних руках — или помочь демократическим институтам эффективнее осуществлять и сдерживать ее. Сама технология не определит, какое будущее нас ждет, — это определят решения, которые люди, институты и компании принимают сегодня.

Мы будем оценивать успех инициативы по тому, помогают ли ее результаты уполномоченным проверяющим лучше выполнять свои обязанности и дают ли обществу больше оснований доверять тому, что государственные системы ИИ используются по назначению.

По мере развития государственного применения ИИ OpenAI продолжит поддерживать институты, отвечающие за контроль в этой сфере.