‘도플갱어’ 작전: 우크라이나를 겨냥한 러시아의 영향력 공작
OpenAI는 AI를 사용해 여러 언어로 우크라이나에 반대하는 소셜 미디어 댓글, 번역문, 웹사이트 문구를 생성한 러시아발 ‘도플갱어’ 작전 관련 계정을 차단했습니다.
이 사례 연구는 원래 OpenAI의 2024년 5월(새 창에서 열기) 보고서에 게재되었습니다.
행위자
당사는 ‘도플갱어’(새 창에서 열기)로 알려진 러시아의 영향력 공작을 대행하는 사람들과 연계되어 당사 모델을 사용한 네 개의 계정 클러스터를 차단했습니다. 각 클러스터는 서로 다른 전술, 기법 및 절차(TTP)를 보였으며, 이는 각기 다른 역할을 맡은 팀들로 구성된 작전의 특성과 일치했습니다.
활동 양상
이 활동은 유럽과 북미의 이용자를 겨냥했으며 웹사이트와 소셜 미디어용 콘텐츠 생성에 집중했습니다.
첫 번째 계정 클러스터는 영어, 프랑스어, 독일어, 이탈리아어, 폴란드어로 짧은 댓글을 생성했습니다. 이 댓글들은 당사 모델로 생성되지 않은 것으로 보이는 밈, 영상, 링크와 함께 9GAG와 X에 게시되었습니다. 일부 밈은 인터넷 곳곳에서 복사한 것으로, 제작된 지 수년이 지난 듯했습니다.
9GAG에서 이 캠페인의 콘텐츠를 게시한 계정은 주로 유명인이나 고양이 사진을 프로필 이미지로 사용했습니다. 이들은 ‘Random’ 채널뿐 아니라 반려동물, 스포츠, 유머는 물론 연애와 데이트 전용 채널까지 다양한 채널에 밈과 영상을 게시했습니다.
이 캠페인에서 생성한 콘텐츠를 반복해서 게시한 계정이 9GAG의 ‘Motor Vehicles’ 채널에 올린 우크라이나 관련 댓글과 가자지구 관련 영상. 우크라이나와 미국 국경을 언급한 부분은 당사 모델로 생성되었습니다. 영상은 뉴스 화면을 이어 붙인 것이었습니다. 게시물은 추천 11개와 비추천 93개를 받았습니다.
이 캠페인이 9GAG에 밈이나 영상을 게시할 때마다 계정 3~5개가 주로 “하하하” 또는 “ㅋㅋ” 같은 간단한 메시지로 답글을 달았습니다. 이 계정들은 모두 이 캠페인의 콘텐츠에만 반응했으며, 대부분 같은 날 생성되었습니다. 이런 행동은 다른 이용자들의 비판적인 댓글을 자주 불러왔으며, 많은 이용자가 해당 계정들을 “봇”이라고 지적했습니다.
위 영상에 달린 댓글. 아래쪽 세 계정(가장 먼저 댓글을 단 계정)은 모두 2024년 4월 말에 생성되었으며, 이 캠페인의 게시물에만 반복해서 게시물을 올리거나 추천 또는 댓글을 남겼습니다. 가짜임을 지적한 위쪽 세 계정은 1~10년 전에 생성되었으며, 활동 범위도 매우 다양했습니다.
X에서는 보통 게시물을 한두 개만 올린 계정들이 이 캠페인의 댓글을 게시했습니다. 댓글에는 “solarpanelfor.sale”처럼 무작위로 보이는 링크가 주로 첨부되었습니다. 이 링크들은 도플갱어의 소유로 반복해서 지목된 일련의 웹사이트로 연결되었습니다. 이 웹사이트에는 지역 제한이 적용되어 대상 국가의 IP 주소를 사용하는 사람만 볼 수 있었습니다. 하지만 운영자들이 실수한 것으로 보이며, 그 결과 일부 영어, 독일어, 폴란드어 기사는 프랑스 IP에서만 볼 수 있었습니다.
당사 모델로 생성한 댓글이 포함된 X 게시물. 댓글을 번역하면 “충격적인 행위입니다! 정치는 절대 폭력과 연관되어서는 안 됩니다. 폭력이 아니라 대화가 필요합니다”라는 뜻입니다. 함께 첨부된 링크는 도플갱어 브랜드 웹사이트 rrn.media의 독일어판으로 연결됩니다. 그러나 5월 20일 기준으로 프랑스 IP에서만 볼 수 있었습니다.
탐지를 피하려는 시도로 추정되며, 이 클러스터는 러시아 및 체코 기업과 연계된 서비스를 통해 당사 모델에 액세스했습니다. 이 서비스는 러시아 이용자들이 당사의 지원 국가 액세스 정책(새 창에서 열기)을 우회할 수 있도록 하는 것을 목표로 했습니다. 당사는 이 서비스의 API 액세스를 차단했습니다.
두 번째 클러스터는 러시아어 기사를 영어와 프랑스어로 번역했으며, 러시아어 원문은 직접 작성한 것으로 보입니다. 이후 이 기사 중 다수가 도플갱어의 소유로 반복해서 지목된 웹사이트 rrn.media에 게시되었습니다. 같은 클러스터는 자체 기사에 관한 짧은 댓글도 생성했으며, 이 댓글들은 나중에 소셜 미디어에 게시되었습니다.
당사 모델로 생성한 X 게시물과 rrn.media의 기사 링크.
세 번째 클러스터는 프랑스어 기사를 생성하고 교정·수정하는 데 사용되었습니다. 이 기사들은 역시 도플갱어의 소유로 지목된 웹사이트 franceeteu.today에 게시되었습니다.
마지막 클러스터는 독일어로 활동했습니다. 이 클러스터는 도플갱어 웹사이트 grenzezank.com의 콘텐츠를 입력한 뒤 이를 사용해 해당 웹사이트의 이름을 딴 Facebook 그룹과 페이지에 올릴 짧은 게시물을 생성했습니다.
콘텐츠
이 캠페인이 온라인에 게시한 콘텐츠는 대부분 우크라이나 전쟁에 초점을 맞췄습니다. 우크라이나, 미국, NATO, EU는 부정적으로, 러시아는 긍정적으로 묘사했습니다. 대표적인 댓글들은 러시아가 유럽 국가의 중요한 경제 파트너이고, 러시아를 비판하는 서방 지도자들은 자국 유권자의 생각과 동떨어져 있으며, 우크라이나는 약하고 부패했거나 패배 직전이라고 주장했습니다.
때때로 도플갱어 행위자들은 당사 모델을 이용해 유럽의 저명한 정치인과 러시아 비판론자의 만화 이미지를 생성하려 했습니다. 당사 모델은 이러한 요청을 거부했습니다.
영향 평가
당사가 확인한 도플갱어 캠페인 중 실제 이용자로부터 상당한 긍정적 반응을 얻은 것으로 보이는 캠페인은 없었습니다.
9GAG의 일반적인 게시물은 추천 5~10개(주로 이 캠페인의 콘텐츠도 게시한 계정에서 받음)와 비추천 15~200개를 받았습니다. X의 일반적인 게시물은 공유 약 1,000회, 답글 0개, ‘좋아요’ 0개를 기록했습니다. 이처럼 격차가 매우 크다는 점은 인위적인 확산이 있었음을 시사합니다. 한 게시물에는 답글이 세 개 달렸으며, 모두 해당 게시물이 가짜라고 지적했습니다.
도플갱어 게시물에 달린 X 답글.
영향력 공작의 영향을 최저 1단계부터 최고 6단계까지 평가하는 브레이크아웃 척도(새 창에서 열기)를 적용하면, 당사 모델 사용과 관련된 활동은 여러 플랫폼에 게시물을 올렸지만 어느 플랫폼에서도 폭발적인 확산이나 의미 있는 이용자 반응을 얻지 못한 2단계로 평가됩니다.