국가 안보 분야의 민주적 감독 강화

AI는 민주 정부가 국민을 보호하는 방식을 바꾸고 있습니다. AI는 사이버 공격을 차단하고, 핵심 기반 시설을 보호하고, 위협을 조기에 감지하며, 위기 상황에서 공직자가 더 명확하게 상황을 파악하도록 도울 수 있습니다. 이러한 도구를 잘 활용하면 국가 안보를 강화할 수 있습니다.

민주적 감독은 공권력의 행사가 국민에 대한 책임을 다하도록 보장하는 데 도움이 됩니다. AI로 국가 안보 업무를 더 빠르고 효과적으로 수행할 수 있게 되는 만큼, 이를 감독하는 기관도 그 속도에 발맞춰야 합니다. AI는 누락되거나 오래된 맥락, 잘못 설정된 목표 또는 어긋난 가정을 바탕으로 빠른 속도로 대규모 작업을 수행할 수 있어, 오류가 확산되기 전에 사람이 이를 발견하기가 더욱 어려워집니다. 국가 안보 분야의 AI 활용은 불가피하게 기밀이 수반될 수 있고 중대한 결과를 초래할 수 있으므로 감독이 특히 중요합니다.

OpenAI는 국가 안보 원칙에 따라, 특히 중대한 사안에서 안전장치와 유의미한 인간의 판단, 적절한 감독을 바탕으로 국가 안보 분야에 AI를 배포합니다. 또한 이 원칙은 감독을 담당하는 기관이 AI 활용을 그 속도와 규모에 맞춰 감독할 역량을 갖추도록 지원하는 일을 우선시합니다.

정부 기관에는 이미 국가 안보 활동을 감독하기 위한 권한과 책임이 확립되어 있습니다. AI가 이러한 활동에 관여하게 되면 감독 체계도 발전해야 할 수 있습니다. 기존의 감독 방식에는 많은 인력이 필요하며, 소규모 팀이 종이 문서 시대의 방식으로 기계의 속도로 작동하는 시스템을 검토해야 한다면 감독은 사실상 불가능해집니다.

OpenAI는 시스템의 역량이 강력할수록 더 엄격한 감독이 필요하다고 믿으며, 이 원칙을 스스로에게도 적용합니다. OpenAI의 준비성 평가 프레임워크에 따라 첨단 모델은 배포 전에 역량을 파악하고 안전장치가 충분한지 판단하기 위한 엄격한 검토를 거칩니다. 이러한 검증은 배포 후에도 지속적인 모니터링과 사고 검토를 통해 이어지며, 여기서 얻은 교훈은 안전장치 강화와 향후 모델 개발에 반영됩니다.

OpenAI는 정부를 감독하는 역할을 하지 않으며, 그렇게 해서도 안 됩니다. 그 책임은 선출직 공직자와 이를 위해 설립된 공공기관에 있습니다. 대신 OpenAI는 감독 기관이 기존의 책무를 수행할 수 있도록 기술로 지원할 수 있습니다.

다음 세 가지 원칙에 따라 이 과제를 추진하겠습니다.

첫째, AI는 인간과 기관의 판단을 대체하는 것이 아니라 강화해야 합니다. 정부의 행위가 합법적이고 적절하며 관련 규정과 정책에 부합하는지는 권한을 부여받은 기관과 법률에 따라 구성된 감독 기구가 판단해야 합니다.

둘째, 정부의 AI 활용은 권한 있는 감독 기관이 추적하고 이해할 수 있어야 합니다. 검토자는 기밀·개인정보·보안에 민감한 정보를 보호하면서도 AI가 의사 결정에 어떻게 기여했는지 파악할 수 있어야 합니다.

셋째, AI는 민주적 감독 기관의 역량을 강화하는 데 활용되어야 합니다. 정부의 AI 활용을 사람이 직접 감독하는 방식만으로는 AI 활용 규모의 확대에 대응할 수 없습니다. 국가 안보를 비롯한 중대한 정부 업무에 AI가 도입되는 만큼, 감독 기구 역시 맡은 책무에 따라 책임 있고 이해 가능한 방식으로 AI를 활용해야 합니다.

OpenAI는 향후 1년간 다음과 같은 방식으로 이 이니셔티브를 추진할 계획입니다.

• 권한 있는 공직자들과 협력해 AI 도구나 기술 지원으로 감독의 실효성을 높일 수 있는 구체적인 기회를 발굴하겠습니다.

• 민주 정부의 감독 기구가 AI 도구를 책임 있게 도입하고 평가할 수 있도록 총 500만 달러 상당의 교육, 기술 지원 및 OpenAI 크레딧을 제공하겠습니다.

• 감독 기관과 협력해, 권한 있는 검토자가 관련 입력과 출력, 도구 사용 내역을 비롯해 AI의 지원을 받은 정부 의사 결정에 관한 기록을 조사하고 AI가 결과에 미친 영향을 더 잘 파악할 수 있도록 돕는 도구를 시범 운영하겠습니다. 가능한 경우 도구에 상호운용성을 적용하거나 특정 모델에 종속되지 않도록 하겠습니다. 증거와 결과물, 조사 결과는 OpenAI가 아닌 참여 기관이 계속 관리하며, 권한 있는 정부 관계자만 이에 접근할 수 있습니다.

• 시민사회 및 기술 전문가와 협력해 이들의 관점이 OpenAI의 도구 개발과 그에 따르는 책임을 다하는 방식에 반영되도록 하겠습니다.

AI는 권력을 집중시킬 수도 있고, 민주적 기관이 권력을 더 효과적으로 행사하고 견제하도록 도울 수도 있습니다. 어떤 미래를 맞게 될지는 기술만으로 결정되지 않습니다. 인간이 운영하는 기관과 기업이 지금 내리는 선택이 결정할 것입니다.

OpenAI는 권한 있는 검토자가 의무를 더 충실히 이행할 수 있는지, 그리고 정부의 AI 시스템이 의도대로 사용된다고 국민이 신뢰할 만한 근거가 더욱 확고해졌는지를 기준으로 이 이니셔티브의 성과를 평가하겠습니다.

정부의 AI 활용이 발전함에 따라 OpenAI는 이를 감독하는 기관을 계속 지원하겠습니다.