‘스톱 뉴스’ 작전: 반복적 영향 공작 활동

이 사례 연구는 원래 OpenAI의 2025년 10월⁠(새 창에서 열기) 보고서에 게재되었습니다.

당사는 2024년 10월 ‘스톱 뉴스’라는 이름으로 다룬 은밀한 영향 공작의 콘텐츠를 당사 모델로 생성하려던 계정들을 차단했습니다. 이 활동은 러시아에서 시작되었으며 마케팅 회사가 운영한 작전으로 보였습니다. 조사 결과, 이 행위자가 다른 기업의 AI 도구로 영상을 생성한 뒤 YouTube와 TikTok에 게시하려 한 정황도 확인되었습니다. 이들이 최종적으로 어떤 모델을 사용했는지는 독립적으로 확인할 수 없습니다.

2024년 10월에 차단한 활동과 마찬가지로, 이 작전은 주로 당사 모델로 콘텐츠를 생성한 뒤 소셜 미디어와 여러 웹사이트에 게시했습니다. 이 웹사이트들은 지난해 당사가 언급한 아프리카와 영국의 동일 언론사인 것처럼 위장했습니다.

이 활동은 당사와 업계의 다른 기업들이 차단한 뒤에도 기존 작전을 이어가려는 시도로 보였지만, 몇 가지 주목할 만한 차이점이 확인되었습니다. 첫째, 이미지 생성 비중이 크게 줄었습니다. 당시 지적했듯 기존 스톱 뉴스 활동은 이례적으로 많은 이미지를 사용했지만, 최근 활동은 텍스트 생성에 더 집중했고 이미지 생성은 비교적 드물었습니다. 이는 프랑스 디지털 기관 VIGINUM이 내린 “Meta와 OpenAI의 보고서가 발표된 이후 AI 생성 이미지 사용이 급격히 감소했다”는 평가와도 일치합니다.

둘째, 이 작전은 ChatGPT를 이용해 뉴스 형식의 짧은 영상에 쓰일 대본과 설명도 생성했습니다. 일반적으로 작전 수행자들은 긴 러시아어 텍스트를 입력하고 이를 바탕으로 영상 대본을 생성해 달라고 요청했습니다. 그런 다음 모델에 해당 텍스트를 프랑스어로 번역해 달라고 요청했습니다. 셋째, 모델에 SEO에 최적화된 설명과 해시태그를 생성해 달라고 요청했습니다.

이러한 대본 중 일부는 스톱 뉴스 작전의 아프리카 대상 웹사이트인 newstop[.]africa와 연계된 YouTube 채널의 영상에 사용되었습니다. 다른 대본들은 ‘스톱 뉴스’ 브랜드를 내세우지 않은 YouTube 채널과 TikTok 채널의 영상에 사용되었습니다. 이 채널들에는 AI로 생성된 인물이 뉴스를 읽는 영상이 게시되었습니다. 대부분의 경우 뉴스 진행자가 등장하는 짧은 영상 사이에 아프리카에서 벌어졌거나 아프리카와 관련된 사건의 영상이 삽입되었습니다. 뉴스 진행자가 등장하는 영상은 당사 모델로 생성된 것으로 보이지 않으며, 어떤 서비스가 사용되었는지는 독립적으로 확인할 수 없습니다. 아래 TikTok 영상 스크린샷에서 볼 수 있듯이 뉴스 진행자의 외모는 2025년 한 해 동안 달라졌습니다.

가장 정교한 사례에서는 작전 수행자들이 다른 AI 모델에 사용할 목적으로 보이는 영상 프롬프트를 당사 모델로 생성했습니다. 이 경우 먼저 러시아어 영상 대본을 생성한 뒤 이를 두 문장씩 나누고, ChatGPT에 각 부분에 대한 영상 프롬프트를 생성해 달라고 요청했습니다. 영상 프롬프트가 생성되면 작전 수행자들은 모델에 전체 대본을 프랑스어로 번역해 달라고 요청했습니다.

이 작전의 활동은 크게 세 가지 범주로 나뉩니다. 첫째, 아프리카에서 프랑스와 미국이 맡은 역할을 비판하고 러시아의 역할을 찬양하는 프랑스어 콘텐츠를 생성했습니다. 둘째, 우크라이나와 그 국제적 지지 세력을 비판하는 영어 콘텐츠를 생성했습니다. 작전 수행자들은 때때로 텍스트 콘텐츠에 첨부할 이미지도 생성했습니다. 드물게는 ChatGPT에 주력 뉴스 브랜드인 ‘뉴스톱 아프리카’를 홍보하는 기사와 Google 광고 문안을 생성해 달라고 요청했습니다. 이러한 홍보 기사 중 일부는 뉴스톱 아프리카에만 초점을 맞추지 않고 뉴스톱 브랜드를 실제 언론사들과 함께 언급했습니다. 연계를 통해 신뢰도를 높이려는 의도로 보입니다.

세 번째 활동은 러시아의 여러 상업 기업을 위한 것으로 보이는 홍보 자료를 생성하는 것이었습니다. 여기에는 무허가 온라인 도박 광고 생성도 포함되었습니다. 이처럼 서로 다른 유형의 콘텐츠를 함께 생성한 것은 상업 기업이 일반적인 광고 업무와 함께 의뢰받은 은밀한 영향 공작을 수행하는 양상과 일치하며, 당사가 지난해 보고한 활동과도 부합합니다.

이 작전은 짧은 영상 콘텐츠에 더 집중하고 여러 AI 도구를 더 복잡하게 활용했지만, 게시한 콘텐츠의 조회수와 도달한 이용자 수는 제한적이었던 것으로 보입니다. ‘뉴스톱 아프리카’의 주력 X 계정은 2025년 8월 기준 팔로워가 172명에 불과했으며, X의 ‘인기 트윗’ 기능에 따르면 게시물의 최대 리트윗 수도 4회였습니다.

AI 뉴스 진행자가 등장하는 YouTube와 TikTok 채널은 각각 팔로워가 약 1,900명이었습니다. TikTok 채널은 총 5,855개의 ‘좋아요’를 기록했으며, 게시된 영상 56개당 평균 ‘좋아요’ 수는 105개였습니다. 조회수가 가장 높은 영상은 63,300회, 가장 낮은 영상은 87회를 기록했습니다. YouTube 채널의 영상 50개는 총조회수 약 255,000회, 영상당 평균 5,100회를 기록했지만, 이 영상들이 재공유되거나 언론에 인용되는 등 더 폭넓은 반향을 일으켰다는 증거는 확인되지 않았습니다.

당사는 2024년 10월 보고서에서 이 작전이 확산 척도상 범주 3에 도달했다고 처음 평가했습니다. 이는 영국 소재 웹사이트들과 체결한 것으로 보이는 여러 ‘정보 파트너십’에 주로 근거한 것이었습니다. 그러나 이후 VIGINUM과 오픈 소스 연구자들의 조사에 따르면 이러한 ‘파트너십’은 허구일 가능성이 높으며, 운영자 모르게 콘텐츠를 추가하기 위해 “외부 사이트의 기술적 결함을 악용”한 것으로 나타났습니다. 이를 근거로 현재는 이 작전의 활동을 여러 인터넷 플랫폼에서 이루어졌지만 실제 커뮤니티로 크게 확산되지는 않은 범주 2로 평가하는 것이 더 적절하다고 봅니다.