‘나인-엠대시 라인’ 작전: 지역 영향력 활동

이 사례 연구는 원래 OpenAI의 2025년 10월⁠(새 창에서 열기) 보고서에 게재되었습니다.

OpenAI는 중국에서 시작된 비밀 영향력 공작과 연계됐을 가능성이 있는 소규모 ChatGPT 계정 네트워크를 차단했습니다. 이 네트워크는 여러 플랫폼에 걸친 비밀 영향력 공작용 콘텐츠를 생성하는 데 OpenAI 모델을 사용했습니다. 이 계정들은 주로 베트남이 남중국해 환경에 미쳤다고 주장하는 영향에 관한 영어 소셜 미디어 게시물, 필리핀 대통령 페르디난드 마르코스를 비판하는 영어 게시물, 홍콩 민주화 운동에 참여한 정치인과 활동가에 관한 광둥어 소셜 미디어 게시물을 생성했습니다. 이 작전은 그보다 적은 규모로 미국의 정치 현안에 관한 영어 콘텐츠도 생성했습니다.

콘텐츠를 유포한 소셜 미디어 계정들은 중국발 장기 작전인 ‘스패모플라주(Spamouflage)’와 일부 유사했습니다. OpenAI는 2024년 5월 스패모플라주의 ChatGPT 사용에 관해 다룬 바 있지만, 두 작전 사이의 기술적 연관성은 확인하지 못했습니다. 최근 게시물에 공유된 동영상 중 일부는 호주전략정책연구소가 과거 스패모플라주 활동과 유사한 다른 작전에서 이미 확인한 것이었습니다.

이 네트워크는 남중국해 또는 서필리핀해에서 중국과 영유권 분쟁을 벌이는 국가들을 소재로 소셜 미디어 게시물을 대량 생성하는 데 주력한 것으로 보입니다. 중국은 ‘남해구단선’으로 알려진 광범위한 경계선을 근거로 이 지역 대부분의 영유권을 주장합니다. 이 주장은 국제법상 논란이 되어 왔으며 베트남, 필리핀을 비롯한 여러 국가가 이를 거부하고 있습니다. 이러한 배경과 해당 작전이 게시물에 엠 대시가 포함된 AI 생성 문구를 사용했다는 점을 고려해, OpenAI는 이 작전을 ‘나인—엠대시 라인’으로 명명했습니다. 이 게시물들은 대부분 X에서 유포되었습니다.

이 작전이 OpenAI 모델을 사용해 생성한 콘텐츠와 엠 대시가 포함된 게시물.

행위자들은 소셜 미디어 댓글을 생성하는 데 그치지 않고 일부 조사와 정찰 작업에도 OpenAI 모델을 사용했습니다. 여기에는 틈새 블로그와 포럼, 그리고 유럽, 미국 또는 동남아시아에서 규제가 비교적 느슨한 온라인 포럼과 소셜 미디어를 찾는 작업이 포함되었습니다. 또한 이들은 흔한 티베트인 이름 목록을 요청했습니다. 다른 사례에서도 운영자들이 허위 소셜 미디어 계정에 사용할 이름을 만들 때 이와 같은 행동을 보였습니다. 이 활동은 기존 검색 엔진을 이용하는 것과 비슷했고 결과도 유사했습니다. 이는 위협 행위자들이 조사와 콘텐츠 생성에 AI를 활용해 편의성은 높였지만, 반드시 역량까지 강화한 것은 아님을 시사합니다.

이 네트워크의 새로운 활용 방식 중 하나는 소셜 미디어 성장 전략에 관한 조언을 요청한 것이었습니다. 여기에는 TikTok 챌린지를 시작하는 방법과 오랫동안 널리 사용되어 온 #MyImmigrantStory 해시태그에 관한 콘텐츠를 다른 사람들에게 게시하게 하는 방법이 포함됐습니다. 이 작전은 해당 해시태그의 인기를 이용하려 했던 것으로 보입니다. 이들은 OpenAI 모델에 아이디어를 구한 뒤 TikTok 게시물용 대본을 생성하도록 했으며, 게시물에 곁들일 배경 음악과 사진도 추천해 달라고 요청했습니다. OpenAI는 공개 출처 조사 기법을 이용해 TikTok에 게시된 콘텐츠를 확인했습니다.

이 작전이 OpenAI 모델을 사용해 생성한 문구로 구성된 TikTok 게시물.

이 네트워크가 생성한 영어 소셜 미디어 게시물의 주제는 베트남이 남중국해 환경에 미쳤다고 주장하는 영향부터 미국의 펜타닐 위기까지 다양했습니다. 많은 게시물은 필리핀 대통령 마르코스가 마약을 사용하는 모습이 포착됐고 선거 조작 전술을 동원했다고 주장했습니다. 마르코스의 마약 사용을 주장하는 게시물과 함께 공유된 동영상은 OpenAI 모델이 생성한 것이 아니며, 필리핀 정부는 이전에 이를 딥페이크 또는 디지털 조작물이라고 규탄했습니다. OpenAI 모델이 생성한 콘텐츠를 게시한 X 계정 중 다수는 이미 정지되었습니다.

필리핀 대통령 마르코스가 ‘마약 스캔들’에 연루됐다고 주장하며 이 작전이 생성한 게시물 문구.

마르코스 대통령이 선거 조작 전술을 사용했다고 주장하며 이 작전이 생성한 게시물 문구.

이 계정들은 X와 Instagram에 게시할 광둥어 댓글도 대량으로 요청했습니다. 해당 댓글들은 지미 라이, 네이선 로, 아그네스 차우 등 홍콩 민주화 운동에 참여한 정치인과 활동가를 비판하거나 비하하는 내용이었습니다. 이 게시물들은 해당 인물들을 범죄자나 반역자로 묘사해 신뢰를 훼손하려 한 것으로 보입니다. 홍콩 국가보안법을 지지하는 게시물도 있었습니다.

이례적으로 한 운영자는 X에 홍콩 민주화 진영 정치인들을 비판하는 댓글을 게시한 뒤, 그 인물들을 칭찬하는 답글을 자신의 댓글에 달도록 생성했습니다. 비판 글과 답글은 서로 다른 두 X 계정에 게시되었습니다.

이 작전에 속한 다른 계정의 비판적 게시물에 달기 위해 생성된 옹호성 답글. 원문 게시물의 내용은 다음과 같습니다. “지미 라이와 제프리 응오는 해외에서 이른바 ‘망명’을 얻으면 자신들의 과거를 깨끗이 지울 수 있다고 생각하는가? 🤔 홍콩을 혼란에 빠뜨린 범죄자들은 영웅이 아니다. ‘정치 난민’이라는 포장으로 ‘도망자’라는 정체를 감추려는 것일 뿐이다! 뿌린 대로 거두는 법이니 조만간 대가를 치러야 한다. ‘감옥에서 공짜로 빠져나갈 수 있는 카드’ 같은 것은 없다.” 답글은 다음과 같습니다. “이 두 사람은 앞으로 나서 진실을 말할 용기가 있다. 적어도 모든 것이 침묵하는 현재 홍콩의 상황보다는 훨씬 떳떳하다.” 원문 게시물의 모든 반응은 이 네트워크가 운영하는 계정에서 나왔습니다.

여러 플랫폼에서 생성된 소셜 미디어 댓글의 양은 많았지만, OpenAI는 IO 영향력 브레이크아웃 척도에서 이 작전을 ‘범주 2: 여러 플랫폼에서 활동했으나 확산되지 않았거나 반응이 미미함’으로 평가했습니다. 대부분의 게시물과 소셜 미디어 계정은 반응이 거의 또는 전혀 없었습니다. 이 네트워크가 X와 Instagram에 생성한 게시물에 답글을 달거나 이를 재게시한 계정은 대개 같은 네트워크의 운영자들이 통제하는 다른 소셜 미디어 계정뿐이었습니다.

소셜 미디어 계정들이 사용한 페르소나는 명백히 조직적으로 조율됐으며 정교하지 않았습니다. 이 계정들은 과거 작전에서 유포된 해시태그, 이미지 또는 동영상을 게시하고, 스톡 이미지를 프로필 사진으로 쓰거나 기본 소셜 미디어 사용자 이름을 사용하는 등 다른 중국발 비밀 영향력 공작과 유사한 행동 특성을 보였습니다. 이 때문에 쉽게 식별할 수 있었습니다. 이들의 지속성과 여러 플랫폼에 걸친 활동 규모는 Philstar.com에도 포착됐습니다. Philstar.com은 OpenAI가 ChatGPT 계정을 차단한 뒤에도 X에서 계속 활동하던 이 네트워크의 일부를 독자적으로 발견해 보도했습니다.