정부는 국가 안보를 포함해 점점 더 중요한 업무에 프런티어 AI 시스템을 사용하기 시작했습니다. 이에 따라 AI 연구소, 정부, 시민사회가 민감한 환경에서 이러한 도구를 어떻게 사용해야 하는지 함께 논의해야 할 새로운 필요성이 생겼습니다.
저희는 민주사회가 사람들을 보호하고, 핵심 인프라를 방어하며, 공공 서비스를 제공하고, 새롭게 부상하는 위협에 대응하기 위해 AI를 활용할 수 있어야 한다고 믿습니다. 여기에는 AI가 방어자에게 실질적 우위를 줄 수 있는 사이버 방어와 생물학적 보안 같은 영역도 포함됩니다. 하지만 점점 더 강력해지는 AI 시스템은 권력을 집중시키기보다 민주적 책임성, 실질적인 인간의 판단, 법치를 강화하고 민주적 제도를 튼튼히 하는 방식으로 배포되어야 합니다.
오늘 저희는 정부 파트너십과 당사 기술의 국가 안보 활용에 접근하는 방식을 투명하게 알리기 위해 OpenAI의 국가 안보 원칙을 공개합니다.
이 원칙은 당사 기술이 계속 발전함에 따라 국가 안보와 법 집행 영역에서 진행하는 업무에 대해 더 포괄적인 접근 방식을 마련하기 위한 전사적 노력의 결과입니다. 저희는 선도적인 국가 안보 전문가인 David Kris에게 절차 진행을 돕고 독립적인 판단을 제공해 달라고 요청했으며, 회사 전반에서 의견 청취 세션을 열고 연구와 안전, 정책, 정부 파트너십에 이르는 다양한 팀의 직원들과 논의했습니다.
저희는 특히 사이버와 바이오 보안 등 핵심 방어 영역에서 미국 정부 및 동맹 파트너와의 협력을 확대하는 지금 이 원칙을 공개합니다. 지난 한 달 동안 저희는 Daybreak 사이버 방어 프로그램의 일환으로 호주, 캐나다, 일본, 대한민국, 프랑스, 독일, 폴란드, 네덜란드 및 ENISA 같은 EU 기관과 Trusted Access for Cyber 파트너십을 이미 구축했습니다. 또한 사이버, 테스트, 평가와 관련해 영국 정부와 신뢰할 수 있는 파트너십을 확대해 나가고 있습니다. 바이오 보안에서도 비슷한 접근 방식을 취하고 있습니다. 지난달에는 공중보건과 생물방어 임무를 지원하는 일부 미국 정부 및 동맹 파트너에게 GPT‑Rosalind 모델에 대한 신뢰 기반 접근을 확대한다고 발표했습니다.
이 원칙은 전쟁부와의 기존 협력을 포함해 현재 및 향후의 국가 안보와 법 집행 파트너십에 적용됩니다. 올해 초 계약을 발표했을 때 저희는 몇 가지 계약상 제한을 명시했습니다. OpenAI 기술을 국내 대규모 감시에 사용하지 않을 것, 자율 무기 시스템을 지휘하는 데 사용하지 않을 것, 중대한 영향을 미치는 자동화된 의사결정에 사용하지 않을 것이라는 제한입니다. 이러한 제한은 오늘 공유하는 원칙과 일치합니다.
저희는 당사 기술을 어떻게 사용할 수 있고 어떻게 사용할 수 없는지 명확히 밝히고, 그 내용을 투명하게 공개하는 것이 옳다고 믿습니다. 하지만 정부의 AI 활용, 특히 국가 안보 분야에서 가장 중대한 여러 질문은 민주적 절차를 통해 답해야 합니다. 저희 같은 기업의 역할은 그러한 결정을 단독으로 내리는 것이 아니라, 결정에 필요한 정보를 제공하는 것입니다. 그렇기 때문에 저희는 국내 감시, 자율 무기 시스템, 미국 국가 안보에 직접 영향을 미치는 기타 고위험 활용 등 AI의 일부 최고위험 군사적 활용에 대한 안전장치를 마련하려는 입법 노력을 지지합니다.
원칙은 여기(새 창에서 열기)에서 확인할 수 있습니다.
