“Spamouflage” 작전: 중국 연계 영향력 공작

이 사례 연구는 원래 OpenAI의 2024년 5월⁠(새 창에서 열기) 보고서에 게재되었습니다.

당사는 중국발 작전인 “Spamouflage”⁠(새 창에서 열기)와 연관된 소수의 계정을 차단했습니다. Meta⁠(새 창에서 열기)는 이 작전의 배후로 “중국 법 집행 기관과 관련된 개인들”을 지목했습니다. FBI⁠(새 창에서 열기)는 이 작전의 소셜 미디어 활동 일부를 중국 공안부 산하 조직의 소행으로 지목했습니다.

이 네트워크는 전 세계 이용자, 특히 해외 거주 중국인과 중국 정부 비판자들을 표적으로 삼았습니다. 주로 중국어 콘텐츠를 생성했으며 영어, 일본어, 한국어 콘텐츠도 일부 만들었습니다.

이 네트워크는 당사 모델을 이용해 코드를 디버깅하고 소셜 미디어 분석에 관한 조언을 구했으며, 뉴스와 시사 문제를 조사하고 블로그 포럼과 소셜 미디어에 게시할 콘텐츠를 생성했습니다.

예를 들어 2023년에는 당사 모델을 이용해 revealscum.com 웹사이트의 WordPress 테마를 설정하는 코드를 디버깅했습니다. 이 웹사이트는 중국 정부를 비판한 해외 거주 중국인에 대한 중국어 비난 글과 개인정보를 게시했습니다. 또한 이 비판자들을 “매국노”라고 불렀습니다. 콘텐츠 자체는 당사 모델로 생성하지 않았습니다.

이 캠페인은 당사 모델로 콘텐츠를 생성한 뒤 소셜 미디어 플랫폼과 포럼에 게시하기도 했습니다. 예를 들어 2023년 말에는 일본이 후쿠시마 발전소 오염수를 방류해 해양 환경을 훼손했다고 비난하는 기사를 생성했습니다. 당사는 Medium, Blogspot, ameblo.jp 등의 플랫폼에서 이 기사들을 확인했습니다.

2024년 4월에는 중국 반체제 인사 차이샤를 비판하는 영어 댓글을 잇달아 게시했습니다. 당사는 최초 댓글을 게시한 X 계정 하나와 나머지 댓글을 답글로 게시한 계정군을 확인했습니다. 실제 이용자의 계정이 여기에 답글을 단 사례는 없었습니다.

이 캠페인은 당사 모델을 이용해 소셜 미디어 개발자 계정 신청 방법을 조사하거나 중국 정부 비판자들의 소셜 미디어 게시물 요약을 요청하는 등 공개 출처 조사도 수행했습니다.

인공지능을 활용해 만든 콘텐츠는 이 네트워크의 전체 산출물 중 일부에 불과했던 것으로 보입니다. 예를 들어 당사 모델로 생성한 콘텐츠를 게시한 것으로 확인된 X 및 Medium 계정 다수는 영어와 중국어로 직접 작성한 것으로 보이는 콘텐츠를 훨씬 더 많이 게시했습니다. 영어 표현이 부자연스럽다는 점 등이 이를 뒷받침합니다. 이들은 AI 생성 댓글을 게시하기 전과 후 모두 이러한 콘텐츠를 게시했습니다.

이 캠페인이 생성한 콘텐츠의 상당수는 중국어로 작성됐습니다. 주제는 중국 정부의 국제 법 집행 협력을 칭찬하는 내용부터 미국 내 아메리카 원주민에 대한 학대를 비판하는 내용까지 다양했습니다. 일부 콘텐츠는 “Volt Typhoon”으로 알려진 중국 해킹 그룹의 활동을 폭로했다는 이유로 미국 정부와 Microsoft를 비판했습니다.

영어로 작성된 콘텐츠도 있었습니다. 이러한 콘텐츠는 대체로 배우이자 티베트 인권 운동가인 리처드 기어와 반체제 인사 차이샤 등 저명한 중국 정부 비판자들을 공격했습니다. 2023년 말 영어, 일본어, 중국어, 한국어, 러시아어로 생성된 일부 기사는 일본이 후쿠시마 원전⁠(새 창에서 열기) 오염수를 방류해 태평양을 오염시켰다고 비난했습니다. 이는 중국의 영향력 공작에서 오랫동안 반복된 주제입니다.

소규모 활동군 하나는 중국 공안부장의 우즈베키스탄 방문에 관한 중국어 호평 댓글을 생성하는 데 집중했습니다. Spamouflage가 이전에 다룬 것으로 알려지지 않은 주제라는 점에서 주목할 만합니다. 특히 FBI가 이 작전의 과거 소셜 미디어 활동 일부를 중국 공안부의 소행으로 지목⁠(새 창에서 열기)했다는 점을 고려하면 더욱 그렇습니다.

이 네트워크의 일부 활동에는 Operator들의 개인적 관심사가 반영된 것으로 보입니다. 예를 들어 한 Operator는 당사 모델을 이용해 카메라 렌즈를 조사했습니다. 또 다른 Operator는 중국 공산당원을 대상으로 한 과제로 보이는 시험 문제를 당사 모델로 풀었습니다.

Spamouflage는 2019년 처음 공개된⁠(새 창에서 열기) 이래 전 세계에서 가장 집중적으로 연구된 영향력 공작 중 하나입니다. 이 활동이 실제 이용자에게 도달했다는 보고는 거의 없었습니다.

AI 생성 콘텐츠를 사용했지만 이러한 양상은 달라지지 않은 것으로 보입니다. 당사의 조사에서 확인된 블로그, 기사, 소셜 미디어 계정 가운데 실제 이용자로부터 많은 반응이나 팔로우를 얻은 사례는 없었습니다. 일부 사례에서는 이용 가능한 지표상 해당 게시물을 조회한 사람이 당사 조사팀뿐이었습니다.

영향력 공작의 파급력을 최저 1점에서 최고 6점까지 평가하는 브레이크아웃 척도⁠(새 창에서 열기)를 적용하면, 이 작전은 여러 플랫폼에서 활동했지만 네트워크 외부의 이용자가 이를 유의미하게 확산했다는 증거가 없는 범주 2에 해당합니다.

당사는 다음 도메인이 이 캠페인과 연관된 것으로 확인했습니다.

• revealscum.com