OpenAI의 사명은 범용 인공지능(AGI)이 인류 모두에게 이롭게 작용하도록 하는 것입니다. OpenAI는 혁신 기술을 배포해 민주적 AI를 구축함으로써 이 사명을 실현하고 있습니다. 민주적 AI란 민주적 원칙에 따라 형성되고, 상식적인 규칙에 의해 운영되며, 사람들을 실제 피해로부터 보호하는 동시에 어려운 문제를 해결할 수 있도록 설계된 AI를 의미합니다. 이러한 사명을 실현하려면 권위주의 정권과 그 대리 세력이 AI 시스템을 이용해 비판자를 강압하거나, 공동체를 감시하거나, 민주주의 사회에 은밀하게 개입하려는 시도를 식별하고 차단하는 일도 필요합니다.
이번 보고서에서는 미국의 AI와 보다 광범위한 기술 정책에 관한 정당한 논의를 조작하려는 목적으로 특정 서사를 확산하는 것으로 보이는 은밀한 영향력 작전을 지원하기 위해 OpenAI 모델을 사용한 뒤 차단된, 중국에서 유래한 것으로 추정되는 두 개의 ChatGPT 계정 집단을 설명합니다.
첫 번째 집단은 AI 데이터 센터 구축 확대가 일반 가정의 전기요금을 상승시키고 있다고 주장하는 소셜 미디어 댓글과 이미지를 생성했습니다. OpenAI는 이 집단을 'Data Center Bandwagon' 캠페인이라고 명명했습니다.
두 번째 집단은 미국의 관세 정책을 기술 경쟁을 지배하려는 시도라고 비판하는 댓글과 이미지를 생성했으며, 프롬프트에는 결과물에 중국 국가주석 시진핑은 포함하지 않고 도널드 트럼프 대통령만 포함하도록 명시했습니다. 이 집단은 ChatGPT 사용자 데이터가 유출되었다고 주장하며 OpenAI를 표적으로 삼은 것으로 보이는 비진정성 소셜 미디어 계정 네트워크와도 연관되어 있었습니다. 이러한 주장은 전적으로 사실이 아니었습니다. OpenAI는 이 두 번째 집단을 'Tech and Tariffs' 캠페인이라고 명명했습니다.
OpenAI와 미국의 데이터 센터 구축 확대를 표적으로 삼았다는 점이 중요한 이유는 해당 작전이 실제로 여론을 움직인 것으로 보이기 때문이 아니라, 중국 연계 영향력 작전 수행자들이 미국의 기술적 리더십, 경제 성장, 그리고 더 넓은 민주적 AI 생태계의 기반인 AI 인프라를 둘러싼 주장을 시험하고 있음을 보여주기 때문입니다. 이 작전은 에너지 가격과 데이터 센터 개발이 지역사회에 미치는 영향에 대한 기존의 우려를 활용하고 증폭시키려 했지만, 자체 활동 범위를 넘어 의미 있게 확산되었다는 증거는 발견되지 않았습니다. 외국의 영향력 작전은 오랫동안 기존의 지역 현안과 사람들이 진심으로 믿는 신념에 편승해 신뢰를 구축하고, 사회적 분열을 확대하거나, 대중의 불신을 심화시키려 해왔습니다. 이번 사례에서도 이들은 자신들의 정체와 동기를 숨긴 채 미국의 AI 역량 미래에 관한 진행 중인 논의에 은밀하게 개입하려 했습니다.
OpenAI는 이러한 조사 결과를 공개함으로써 업계, 정부, 시민사회 및 일반 대중이 외국의 위협 행위자들이 정당한 공적 논의를 조작하고 민주주의 제도를 약화시키며, AI를 정치, 사회, 사생활에 대한 감시, 검열 및 통제 수단으로 활용하는 전체주의를 확산하려는 시도를 더욱 효과적으로 식별하고 차단할 수 있도록 돕고자 합니다.
