미국은 주정부와 연방정부 차원의 정책을 통해 AI 안전성을 강화하고 있습니다.

크리스 리헤인, 최고 글로벌 대외협력 책임자

미국 전역의 주도에서 워싱턴 D.C., 그리고 국제회의에 이르기까지 프런티어 AI 거버넌스를 위한 다양한 정책 방안이 구체화되고 있습니다. 이러한 노력은 함께 민주주의에 기반한 AI의 비전을 실현해 나가고 있습니다.

캘리포니아주와 뉴욕주, 그리고 최근에는 일리노이주까지 프런티어 안전성 관련 법안을 마련하며, 가장 강력한 AI 시스템을 관리하기 위한 공통된 최소 기준을 마련하는 데 기여하고 있습니다.

이러한 움직임은 OpenAI가 역연방주의라고 부르는 접근 방식이 확산되고 있음을 보여줍니다. 이는 각 주가 공통된 프레임워크를 바탕으로 정책의 공통된 방향을 함께 만들어가는 방식입니다. 주정부 차원의 노력이 연방정부 차원의 정책과 맞물리면서 국가 차원의 기준이 점차 마련되고 있으며, 이는 미국이 주도하는 글로벌 AI 프레임워크의 토대를 마련하고 있습니다. OpenAI는 AI의 혜택이 소수가 아닌 모두에게 돌아가도록 하려면, 무엇보다 프런티어 안전성을 비롯한 핵심적인 의사결정은 프런티어 AI 연구소만이 아니라 민주적으로 선출된 정부가 내려야 한다고 믿습니다.

궁극적으로는 이러한 원칙에 기반한 국가 차원의 프레임워크를 마련하는 것이 미국에 가장 바람직한 방향입니다. 그러나 그러한 프레임워크가 아직 마련되지 않은 상황에서는 각 주가 서로 조화를 이루는 법률을 제정함으로써 그 목표에 한 걸음씩 다가갈 수 있습니다. 이러한 노력이 쌓이면 사실상의 국가 표준이 형성될 수 있습니다.

안전을 최우선으로 한다면, 이러한 국가 차원의 기준은 두 가지 목표를 달성하기 위한 가장 바람직한 정책 접근 방식입니다. 첫째, 미국이 혁신을 계속 주도하고, 국가마다 제각각인 규제로 인해 미국이 민주주의에 기반한 글로벌 AI 생태계를 구축하는 데 필요한 역량이 약화되지 않도록 하는 것입니다. 이러한 AI 생태계는 사이버 보안과 같은 분야에서 AI를 악용하려는 악의적인 행위자에 맞서, 이를 방어하는 주체들이 필요한 AI 도구를 활용할 수 있도록 하는 것을 목표로 합니다. 둘째, 이러한 국가 차원의 기준을 민주주의 가치에 기반한 안전한 AI 배포를 위한 글로벌 접근 방식으로 발전시킬 수 있도록 미국의 리더십을 강화하는 것입니다. AI의 안전한 배포를 가장 효과적으로 뒷받침할 국가 및 국제 표준의 마련을 진정으로 최우선 과제로 삼는 안전성 프레임워크를 구축하려면, 꾸준한 노력과 분명한 목적의식, 그리고 주정부와 연방정부, 국제사회의 논의를 하나로 연결하는 전략이 필요합니다. 보여주기식 대응이나 상징적인 제스처에 그치는 접근으로는 이러한 목표를 달성할 수 없습니다. 주정부마다 혼란스러운 대응이 이어지는 것은 지속 가능한 안전성 체계를 구축하는 데 도움이 되지 않을 뿐 아니라, 오히려 더 큰 혼란을 초래할 뿐입니다.

이러한 접근 방식이 성공하려면 캘리포니아주, 뉴욕주, 일리노이주가 보여준 것처럼 각 주가 핵심 요소에 대해 계속해서 공통된 방향을 맞춰 나가야 합니다. 이러한 핵심 요소는 크게 다음과 같습니다.

• 프런티어 AI 모델에 대한 위험 평가와 그 평가 결과를 공개하도록 규정한 문서화된 안전성 프레임워크.
• 중대한 안전 사고 보고.
• 독립적이고 객관적인 감사를 통한 거버넌스 및 책임성 강화.

이 세 주는 함께 프런티어 AI의 배포 과정에 민주적 감독 체계를 마련했습니다. 캘리포니아주는 정보 공개를 위한 기본 프레임워크를 구축했고, 뉴욕주는 이러한 접근 방식이 다른 주에서도 적용될 수 있음을 보여주었습니다. 일리노이주는 핵심 정보 공개 사항에 대해 독립적인 검증을 의무화함으로써 이러한 체계를 더욱 강화했습니다.

입법 과정에서는 법안 통과에 필요한 지지를 확보하기 위해 추가 조항이 포함되는 경우가 많다는 점을 잘 알고 있습니다. 그러나 OpenAI는 역연방주의를 통해 사실상의 국가 표준을 마련하려면 이러한 요소들이 반드시 갖추어져야 하는 핵심 요소라고 생각합니다. 이러한 원칙을 유지하지 못하면 정책의 범위가 점차 확대되고 주마다 서로 다른 법률이 난립할 위험이 있습니다. 그렇게 되면 규제 기관은 법을 집행하기 어려워지고, 소비자는 제도를 이해하고 이용하기 어려워지며, 개발자들, 특히 스타트업과 중소기업의 개발자들이 안전성 강화에 투입해야 할 자원을 규제 대응에 사용할 수밖에 없게 됩니다. 특히 최근 몇 주 동안 확인했듯이 AI 모델의 성능이 계속 향상됨에 따라, 정부와 핵심 인프라 운영 기관, 동맹국 및 신뢰할 수 있는 파트너가 필요한 AI 도구를 적시에 활용할 수 있도록 하는 일관된 체계가 필요합니다.

정책 입안자는 정책의 범위를 점차 확대하는 일도 경계해야 합니다. 각 주가 중대한 국가안보 위험을 관리하거나(사실상 국가 전체를 대신해 국가안보와 관련된 결정을 내리는 것과 마찬가지입니다), 충분한 자원과 전문성, 기밀 시스템에 대한 접근 권한을 갖추고 OpenAI 팀과 긴밀히 협력할 수 있는 연방 차원의 전문가가 더 적합한 고도의 기술적 검토를 수행하도록 요구해서는 안 됩니다.

미국 연방정부 차원에서는 트럼프 행정부가 사이버 보안 분야에서 가장 강력한 AI 모델을 정부가 평가하기 위한 프레임워크를 마련하기 위해 기술 및 국가안보 전문가들과 협력하고 있습니다. 이 프레임워크는 평가 기준, 일정 및 절차를 정립하게 됩니다. OpenAI는 이러한 프레임워크 마련 과정에 참여하는 행정부, 업계 기업, 경제 단체 및 기타 이해관계자들과 건설적인 논의를 이어가고 있습니다.

사이버 보안 평가에 대한 현재의 논의는 일관된 기준이 왜 중요한지를 잘 보여줍니다. 현재는 연방 차원의 프레임워크가 완성되기 전에 AI 모델 평가가 이루어지고 있으며, 이는 현시점에서는 불가피한 상황이기도 합니다. 이러한 과정을 거치면서 AI 연구소들이 얻은 교훈은 분명합니다. 주정부와 연방정부 모두에서 일관되고 반복 가능한 평가 체계가 필요하다는 것입니다. 그래야 정부와 핵심 인프라 방어 기관, 동맹국 및 기타 신뢰할 수 있는 파트너가 가장 강력한 AI 모델을 활용할 수 있습니다. OpenAI는 행정부가 8월 초까지 이 프레임워크를 마련하겠다는 목표를 세운 것을 긍정적으로 평가합니다.

연방 차원의 AI 평가 프레임워크는 정부와 핵심 인프라 방어 기관, 동맹국 및 기타 신뢰할 수 있는 파트너가 첨단 AI 도구를 보다 신속하게 활용할 수 있도록 지원할 것입니다. 이를 통해 민주주의 제도를 강화하고 미국이 주도하는 민주주의 AI 생태계를 구축하는 데에도 기여할 것입니다. 지금이야말로 미국의 혁신 역량을 민주주의에 기반한 AI의 발전을 위해 활용해야 할 때입니다.

아직 정립되지 않은 연방 차원의 절차나 주마다 제각각인 법률로는 일관된 프런티어 안전성 체계를 구축할 수 없습니다. 가장 뛰어난 평가 기관이 가장 강력한 AI 모델을 평가하고, 신뢰할 수 있는 방어 기관이 악의적인 행위자보다 한발 앞서 대응할 수 있도록 필요한 AI 도구를 적시에 활용할 수 있는 체계가 필요합니다.

의회에서도 관련 논의가 활발히 진행되고 있습니다. 최근 제이 오버놀티 하원의원과 로리 트레이핸 하원의원을 비롯해 상원과 하원의 여야 의원들은 주정부와 행정부의 움직임을 반영해 연방 차원의 프레임워크를 마련하기 위한 법안을 제안했습니다. 현실적으로 입법까지 이어질 가능성이 있는 법안 초안이라면 어느 것도 완벽할 수는 없습니다. 그러나 OpenAI는 이러한 논의가 의미 있는 진전이라고 평가하며, 제안된 내용 가운데 상당수가 신중하게 마련되었고 지지할 만한 가치가 있다고 생각합니다.

또한 상원과 하원 지도부가 국가 차원의 AI 거버넌스와 프런티어 안전성 방안을 마련하기 위해 상당한 노력을 기울이고 있다는 점도 고무적으로 보고 있으며, OpenAI는 이들 가운데 많은 관계자들과 건설적인 논의를 이어가고 있습니다. 이미 공통된 방향성을 가진 법률을 제정한 여러 주의 규모와 영향력을 고려할 때, 이러한 접근 방식을 연방 법률에 반영하면 단일한 국가 차원의 프런티어 안전성 체계를 마련하는 데 도움이 될 것입니다.

OpenAI는 프런티어 안전성 청사진을 통해 이러한 프레임워크를 구성하는 데 필수적인 핵심 요소를 제시합니다.

첫째, 가장 발전된 AI 시스템의 테스트와 평가는 연방정부가 주도해야 합니다. 프런티어 AI는 국가안보와 공공 안전에 관한 문제를 수반하며, 이러한 문제를 다루기 위해서는 어느 한 주정부도 온전히 갖추기 어려운 기술 전문성, 자원 및 접근 권한이 필요합니다.

이러한 노력은 바이든 대통령 재임 시기에 설립되고 트럼프 대통령 재임 시기에 기능이 강화된 AI 표준 및 혁신 센터(Center for AI Standards and Innovation, CAISI)를 더욱 강화하는 방향으로 이루어져야 합니다. CAISI는 첨단 AI 모델을 평가하는 데 필요한 지속 가능한 연방 차원의 역량을 제공하고, 프런티어 안전성의 중심을 피해가 발생한 뒤 책임을 묻는 방식에서 벗어나 피해를 사전에 예방하는 방향으로 전환하는 데 기여할 수 있습니다. 연방 차원의 입법에서는 CAISI가 정부의 다른 기관들과 어떻게 협력해야 하는지, 그리고 AI 평가 체계의 중심에서 어떤 역할을 맡아야 하는지를 신중하게 검토해야 합니다.

둘째, 가장 강력한 AI 시스템을 개발하는 기업에는 독립적인 감사, 사고 보고, 엄격한 보안 기준, 내부고발자 보호 등을 포함한 명확한 요건이 적용되어야 합니다.

셋째, 연방정부와 주정부의 정책은 서로를 보완하며 시너지를 낼 수 있어야 합니다. 모든 주의 법률이 동일할 필요는 없습니다. OpenAI는 전국의 정책 입안자들과 협력하여 AI의 경제적 혜택을 극대화하는 동시에 안전성을 강화해 나가기를 기대합니다.

또한 각 주는 프런티어 안전성을 넘어 청소년 보호, 전력 및 환경 정책, AI 교육과 AI 리터러시 등 다양한 분야에서 새로운 정책을 시험하고 발전시키는 역할을 계속해야 합니다.

그러나 연방 차원의 프레임워크는 여전히 필수적입니다. 프런티어 AI는 국가안보와 경제 경쟁력, 공공 안전에 관한 문제를 수반하며, 이러한 문제를 해결하려면 궁극적으로 민주주의 AI를 뒷받침할 국가 차원의 기준과 역량, 제도가 필요합니다.

국가 차원의 입법은 미국이 주도하는 AI 표준의 국제 프레임워크를 구축하는 데에도 매우 중요합니다. 이러한 구상은 몇 주 전 G7과 브라질, 이집트, 인도, 케냐, 한국이 함께한 회의에서 논의되었으며, 주요 프런티어 AI 연구소의 최고경영자들은 이러한 프레임워크의 필요성에 대해 의견을 나누었습니다. 이 회의 이후 OpenAI의 최고경영자 샘 올트먼은 Financial Times⁠(새 창에서 열기) 기고를 통해 '미국이 주도하여 공통으로 인정되는 기준을 마련하고, AI의 역량과 위험에 대해 전문적이고 객관적인 분석을 제공하며, 규칙을 준수하는 국가와 기업이 해당 기술을 활용할 수 있도록 하는 국제 포럼'을 제안했습니다. 또한 이번 주에는 Google DeepMind의 최고경영자 데미스 허사비스도 새로운 논문을 통해 의미 있는 제안을 내놓았습니다. 초당적인 연방 입법은 이러한 국제적 노력을 뒷받침하는 견고한 기반이 될 것입니다.

이제 이러한 흐름은 모든 차원에서 나타나고 있습니다. 각 주는 공통된 접근 방식을 마련하고 있고, 의회와 행정부는 국가 차원의 프레임워크를 구축해 나가고 있으며, 세계 각국의 지도자들도 국제 표준에 대한 논의를 시작하고 있습니다. 이러한 노력이 서로를 뒷받침한다면 미국은 민주주의에 기반한 AI 비전을 토대로 한 글로벌 프레임워크 구축을 주도할 수 있을 것입니다. 그리고 민주주의에 기반한 이러한 공조적 접근 방식이야말로 AI 안전성을 진정으로 최우선에 두는 접근 방식입니다.