2026년 6월 23일

고도화된 AI를 위한 공통 기준을 함께 만들어 갑니다

로딩 중...

AI 모델의 성능이 높아질수록 사이버 방어를 강화하고, 과학적 발견을 앞당기며, 더 많은 사람이 전문 지식을 활용할 수 있도록 도울 수 있습니다. 하지만 모델의 역량이 제대로 이해되지 않거나 안전장치가 충분하지 않고, 정부가 적절히 대응하는 데 필요한 정보를 확보하지 못하면 새로운 안전 및 보안 위험이 발생할 수도 있습니다. 이러한 혜택을 안전하게 활용하려면, 점점 더 강력해지는 AI 시스템을 평가하고 보호하며 적절하게 관리할 수 있는 기술적 및 거버넌스 역량을 갖춘 기관이 필요합니다.

이러한 이유에서 OpenAI는 리눅스 재단이 운영하는 Appia Foundation⁠(새 창에서 열기)을 공동 설립했습니다. Appia는 국제 표준과 이미 확립된 프레임워크를 AI 가치 사슬 전반에서 활용할 수 있는 실질적인 평가 기준으로 구체화하기 위해 개방형 모듈식 사양을 개발할 예정입니다. 이를 통해 제3자가 표준 준수 여부를 검증할 수 있는 중요한 신뢰 기반을 마련하고, 모델과 인프라, 애플리케이션을 서로 다른 조직이 개발하더라도 더욱 명확하고 재사용 가능한 검증 근거를 제공할 수 있도록 지원합니다. 또한 Appia는 국가 및 국제 기관이 서로의 평가 결과를 신뢰하고 활용할 수 있도록 공통의 기술 언어를 마련하는 데에도 기여할 것입니다.

OpenAI는 이러한 노력이 고도화된 AI 시스템에 필요한 제도와 기준, 평가 체계를 강화하기 위한 더 큰 노력의 중요한 다음 단계라고 보고 있습니다.

최근 OpenAI가 발표한 프런티어 AI의 민주적 거버넌스를 위한 청사진은 이러한 노력을 위한 방향을 제시합니다. 이 청사진에서는 지속 가능한 미국의 AI 거버넌스 체계와 더욱 강화된 AI 표준 및 혁신 센터(CAISI), 그리고 정부 전반에 걸친 폭넓은 회복력 전략이 필요하다고 제안합니다. 또한 프런티어 AI의 위험은 국가를 넘어 영향을 미치는 만큼, 각국이 서로 호환 가능한 안전성 프레임워크를 마련하고, 위험 정보를 신뢰할 수 있는 방식으로 공유하며, 사고 발생 시 공동으로 대응할 수 있는 체계를 함께 구축해야 한다고 강조합니다.

국가 차원의 역량과 국제적 협력은 서로를 뒷받침해야 합니다. CAISI와 같은 전문 기관은 기술 전문성을 축적하고, 프런티어 AI 시스템을 평가하며, 독립적인 평가 생태계의 발전을 지원할 수 있습니다. 이러한 역량을 갖춘 국가 기관들이 서로 협력하면 공통된 평가 방법을 마련하고, 신뢰할 수 있는 평가 결과를 상호 인정하며, 정부가 함께 대응하는 데 필요한 공통된 기술적 이해를 바탕으로 함께 대응할 수 있습니다.

이러한 노력의 핵심에는 기준이 있으며, 그 기준은 신뢰할 수 있는 평가 방식과 엄격한 기술적 검증을 바탕으로 마련되어야 합니다. OpenAI는 신뢰할 수 있는 제3자 평가를 위한 공동 지침을 통해 프런티어 AI 평가에서 점점 더 중요해지고 있는 공개 항목을 제시했습니다. 여기에는 평가 대상 시스템과 도구 액세스 및 평가 환경, 모델의 역량을 평가하기 위해 사용한 방법, 활용 가능한 자원, 그리고 결과를 검증하기 위해 수행한 확인 절차가 포함됩니다. 또한 OpenAI는 이러한 원칙을 미국 CAISI와 영국 AISI와의 공동 테스트를 통해 실제로 적용해 왔습니다. 이들의 프런티어 AI 역량 평가와 생물학적 오용 방지에 관한 연구는 OpenAI 시스템을 구체적으로 개선하는 데에도 도움이 되었습니다. 이러한 협력은 서로 다른 시스템의 성능을 일관된 기준으로 비교하고 평가할 수 있는 표준화된 평가 체계를 마련하는 기반이 됩니다.

이러한 실천 방안은 OpenAI의 전반적인 안전 체계를 보완합니다. 준비성 평가 프레임워크는 OpenAI의 내부 운영 방식을 포함해, 고도화된 AI 시스템에서 발생할 수 있는 가장 중대한 위험을 어떻게 관리할 것인지에 대한 접근 방식을 정의하고 실제 운영에 적용하는 기반입니다. 프런티어 거버넌스 프레임워크는 이러한 접근 방식 가운데 관련 내용을 위험 평가, 모델 보고, 보안 통제, 사고 대응, 외부 전문가 의견 반영 등 구체적인 규제 의무에 맞춰 공개한 거버넌스 문서입니다. 이 두 프레임워크는 폭넓은 원칙을 검증과 개선이 가능한 실질적인 운영 방식으로 구체화하는 역할을 합니다.

Appia는 여기서 한 걸음 더 나아가, 이러한 실천 방안을 조직과 국가, 공급망 전반에서 서로 연계해 활용할 수 있도록 하는 것을 목표로 합니다.

OpenAI는 이 밖에도 표준과 표준화 기반 마련을 위한 다양한 활동에 폭넓게 참여하고 있습니다. OpenAI는 국제표준화기구와 국제전기기술위원회 산하 공동기술위원회(JTC 1) 인공지능 분과위원회(SC 42)⁠(새 창에서 열기), 미국 국립표준기술연구소(NIST)가 주도하는 인공지능 컨소시엄⁠(새 창에서 열기)에 참여하고 있습니다. 또한 Frontier Model Forum과 리눅스 재단의 Agentic Artificial Intelligence Foundation⁠(새 창에서 열기)을 공동 설립했으며, Coalition for Secure Artificial Intelligence⁠(새 창에서 열기)와 Coalition for Content Provenance and Authenticity⁠(새 창에서 열기) 운영위원회에서도 활동하고 있습니다. 아울러 인터넷 엔지니어링 태스크포스⁠(새 창에서 열기)와 Fast Identity Online Alliance⁠(새 창에서 열기)의 표준화 활동에도 참여해 상호운용 가능한 기술 표준을 발전시키는 데 기여하고 있습니다.