이 사례 연구는 OpenAI의 2025년 6월(새 창에서 열기) 보고서에 처음 게재되었습니다.
행위자
당사는 비밀 영향 공작의 활동 양상과 일치하는 소셜 미디어 게시물을 모델로 대량 생성한 사실이 탐지된 ChatGPT 계정을 차단했습니다. 조사 과정에서 이 계정들이 내부 성과 평가서도 작성한 사실을 확인했습니다.
이 계정들은 주로 중국어로 프롬프트를 입력했으며, 중국과 관련된 정치 및 지정학적 주제에 집중했습니다. 한 사용자는 프롬프트에서 자신이 중국 선전부에서 근무한다고 밝혔지만, 당사에는 이 주장을 확인할 독립적인 증거가 없습니다.
행동 양상
당사가 차단한 계정들은 주로 두 가지 작업을 수행했습니다. 가장 활발했던 작업은 영어와 중국어로 짧은 소셜 미디어 댓글을 생성하는 것이었으며, 우르두어 댓글도 일부 있었습니다. 이러한 댓글 중 다수가 TikTok과 X에 게시된 것을 확인했으며, Reddit, Facebook 및 여러 웹사이트에도 일부 콘텐츠가 올라왔습니다.
전형적인 방식은 대개 해당 게시물만을 위해 만든 것으로 보이는 ‘주’ 계정으로 첫 댓글을 게시한 뒤, 다른 계정들로 연이어 답글을 다는 것이었습니다. 이러한 행동은 자연스러운 참여가 일어난 것처럼 거짓 인상을 주려는 의도로 보였습니다.
이 활동과 관련된 ‘#USAID 폐쇄는 단지 #시작일 뿐!’이라는 제목의 TikTok 게시물. 채널 이름과 동영상 자막, 이 스크린샷에 보이는 모든 댓글은 이 네트워크가 ChatGPT를 사용해 생성했다.
TikTok에서 댓글 계정들은 다양한 언어와 문자로 된 사용자명을 사용했으며, 이는 자신들이 게시한 콘텐츠의 언어와 무관한 경우가 많았습니다. 예를 들어 한국어 이름을 사용한 계정이 우르두어로 댓글을 게시했고, 태국어와 히브리어 이름을 사용한 계정들은 이 네트워크가 생성한 영어 댓글을 게시했습니다. X의 댓글 계정들은 대체로 만화풍 프로필 이미지를 사용했으며, 일부는 암호화폐와 관련된 이름을 사용했습니다.
이 네트워크가 ChatGPT를 사용해 생성한 트윗과 그에 달린 답글.
이 네트워크는 Facebook에서는 상대적으로 활동이 적었습니다. 주요 활동은 뉴스 매체를 사칭한 두 페이지의 이름과 프로필 사진을 생성하는 것이었습니다. 두 페이지 모두 팔로워나 ‘좋아요’가 없었고, 게시물도 몇 개뿐이었습니다.
이 작전과 관련됐을 가능성이 높은 것으로 파악된 동영상을 공유한 Facebook 게시물.
이 네트워크는 때때로 중국어나 영어로 긴 형식의 게시물도 생성했습니다. 이러한 게시물 중 하나는 Reddit에서, 다른 두 개는 여러 웹 포럼에서 확인했습니다. 두 번째 작업은 ChatGPT를 사용해 내부 정책 문서나 성과 평가서로 보이는 자료를 생성하는 것이었습니다.
생성 결과
이 위협 행위자가 생성한 소셜 미디어 콘텐츠는 다양한 주제를 다뤘으며, 모두 중국의 지정학적 이익과 밀접하게 맞닿아 있었습니다.
일부 콘텐츠는 대만에 초점을 맞췄으며, 특히 중국 공산당에 대한 저항을 다룬 대만 중심의 비디오·보드게임 ‘리버스드 프런트’(새 창에서 열기)(‘逆統戰’)를 표적으로 삼았습니다. 이 네트워크는 해당 게임을 비판하는 중국어 댓글 수십 개를 생성한 뒤, 게임이 광범위한 반발을 샀다고 주장하는 장문의 글을 작성했습니다. 이는 이 작전의 가장 두드러진 활동이었으며, 이를 바탕으로 당사는 이 작전을 ‘조롱 리뷰’라고 명명했습니다.
영어와 우르두어로 된 다른 콘텐츠는 중국의 발루치스탄 투자를 공개적으로 비판해 온(새 창에서 열기) 파키스탄 활동가 마랑 발로치를 표적으로 삼았습니다. 이 네트워크와 연계된 TikTok 계정과 Facebook 페이지는 발로치가 음란물에 출연했다는 허위 주장을 담은 동영상을 게시했습니다. 이후 이 작전은 광범위한 참여가 일어난 것처럼 꾸미기 위해 두 언어로 짧은 댓글 수백 개를 생성했습니다.
마랑 발로치 TikTok 동영상에 달린 충격을 표하는 댓글.
마지막 콘텐츠는 미국 국제개발처(USAID) 폐쇄를 주제로 삼아, 이를 칭찬하거나 비판하는 짧은 댓글을 생성했습니다. 이 댓글들은 TikTok과 X에 게시되었습니다.
이 네트워크가 ChatGPT를 사용해 생성한, 원조 문제와 관세 문제를 연계하는 트윗.
마지막으로 위협 행위자들은 당사 모델을 사용해 내부 문서로 보이는 자료를 생성했습니다. 여기에는 공안 기관의 공식 문서 형식으로 작성된 상세한 글과 작전 수립 및 운영 과정을 기술한 성과 평가서가 포함되었습니다.
영향
당사가 모델 사용을 차단했을 당시 이 작전은 초기 단계였던 것으로 보입니다. 두 Facebook 페이지 모두 팔로워가 없었습니다. Reddit에서는 게시물 하나가 추천 44개를 받았고, 다른 두 개는 게시된 서브레딧에서 차단되거나 삭제되었습니다.
이 네트워크의 일부로 파악된 Reddit 계정의 게시물이 플랫폼 필터에 의해 삭제된 모습을 보여주는 스크린샷.
X와 TikTok에서의 참여 수준은 편차가 더 컸습니다. TikTok 동영상 두 편은 합산 2만 5천 개의 ‘좋아요’를 받았고, 이 작전의 주 계정이 올린 트윗은 일반적으로 각각 약 1만 회 조회되었습니다. 하지만 이 게시물에 달린 댓글 중 상당수는 이 네트워크가 ChatGPT를 사용해 생성한 것으로, 적어도 일부 참여는 조작된 것임을 보여줍니다. 따라서 모든 참여 수치는 신중하게 해석해야 합니다.
영향 공작의 파급력을 측정하는 브레이크아웃 척도(새 창에서 열기)를 적용하면, X와 TikTok의 참여 수치가 실제일 경우 이 작전은 카테고리 3의 하위 수준으로 평가됩니다. 그러나 댓글의 대다수와 마찬가지로 ‘좋아요’와 조회수도 대부분 조작됐다는 가설을 뒷받침하는 증거가 더 나온다면 이 평가를 낮출 것입니다.