AI를 활용한 ‘위장 조직’ 작전 차단

지난 2년 반 동안 OpenAI는 위협 행위자들이 OpenAI 모델을 이용해 사이버 공격, 은밀한 영향력 공작(IO), 사기 및 기타 사용 정책 위반 행위를 수행하려 했던 다양한 방식과 그 사례를 여러 차례에 걸쳐 보고해 왔다. 이 보고서들은 위협 행위자들이 AI를 어떻게 활용하려 하는지 OpenAI가 관찰한 내용을 규제 기관, 업계 동료, 사회 전반에 알리고, 이들이 악용하려는 취약점을 드러내기 위해 발행한다.

최근 OpenAI는 러시아발과 이란발 영향력 공작을 각각 하나씩 차단했다. 이들은 OpenAI 모델을 기존 기법 및 기술과 결합해 정교한 ‘위장 조직’을 뒷받침했다. 이들은 해당 조직을 통해 지정학적·분쟁 관련 메시지의 실제 출처를 감춘 채 대상 대중에게 전달했다. 이란 작전은 ‘기자’를 사칭한 가상 인물 7명을 활용해 전 세계 중소 규모 온라인 매체에 장문 기사 게재를 제안했다. 러시아 작전은 실상을 모르는 라틴아메리카 주민들을 끌어들여 현지에서 ‘싱크탱크’를 운영한 것으로 보인다.

두 작전은 모두 여러 방면으로 전개되었으며, 목표 달성을 위해 다양한 전술을 시도했다. 이란 작전은 장문 기사뿐 아니라 대체로 미국·이란 전쟁과 관련된 주제의 소셜 미디어 댓글도 묶음으로 생성했다. 러시아 작전은 ‘싱크탱크’를 통제하는 한편, ‘유출’된 것처럼 꾸민 가짜 문서와 음성 대본을 만들었다. OpenAI는 그중 일부가 온라인에 유포된 사실을 확인했다. 두 작전은 내부 보고서 작성에도 AI를 적극 활용했다. 러시아 작전에서는 이것이 가장 큰 비중을 차지했다. 두 사례 모두 행위자들은 의심스럽거나 노골적으로 기만적인 방법론으로 운영자들의 성과를 과장했다.

가장 눈에 띄는 점은 두 작전이 AI 이전 시대의 복잡한 영향력 공작과 매우 흡사하면서도, 일부 작업을 수월하게 만드는 데 AI를 활용했다는 것이다. 이란 작전이 운영한 가짜 기자들은 러시아 군 정보기관의 위장 신분이었던 가짜 기자 ‘앨리스⁠(새 창에서 열기) 도너번⁠(새 창에서 열기)’과 유사한 면모를 보였다. 도너번 명의의 기사는 2016~2017년 여러 서방 매체에 게재되었다. 2020년에는 러시아 인터넷연구소(IRA)의 과거 활동과 연관된 인물들이 ‘피스데이터⁠(새 창에서 열기)’라는 가짜 ‘뉴스’ 매체를 운영하며, 실상을 모르는 전 세계 기자들을 끌어들여 기사를 쓰게 했다.

이번 두 작전은 잠재적 도달 범위 면에서도 이례적이었다. 영향력 공작을 1(최저)부터 6(최고)까지 평가하는 확산 척도(Breakout Scale)⁠(새 창에서 열기)를 적용하면, 러시아발 작전은 5단계에 해당한다고 평가할 수 있다. 이는 OpenAI가 보고서를 발행하기 시작한 이후 차단한 첫 5단계 작전이다. 이란발 작전은 4단계에 도달했다. 두 작전 모두 단순히 소셜 미디어에 게시하는 데 그치지 않고 주류 언론에 콘텐츠를 싣는 데 성공했다. 해당 콘텐츠가 모두 OpenAI 모델로 생성된 것은 아니다. 이는 지난 2년 반 동안 실체를 공개한 30건의 은밀한 영향력 공작에서 관찰한 패턴과 일치한다. 가짜 소셜 미디어 계정을 통한 유포에 의존하기보다 실제 언론 매체에 콘텐츠를 게재하려는 작전이 잠재적 도달 범위와 영향력에서 가장 높은 수준을 보이는 경향이 있다.

2024년 초부터 실체를 공개한 영향력 공작 30건을 주요 유포 방식(소셜 미디어, 작전 측 운영 웹사이트, 외부 매체)과 확산 척도 점수에 따라 평가한 매트릭스. 웹사이트를 운영하면서 소셜 미디어로 홍보하는 등 여러 유포 방식을 사용한 작전은 핵심으로 보이는 방식을 기준으로 분류했다.

AI는 이러한 위장 조직 작전의 규모와 효율성을 높이고, 더 유창한 언어 구사와 정교한 편집을 가능하게 한다. 운영자들은 이러한 이점을 활용해 직원이나 편집자처럼 의심하지 않는 피해자들을 이용할 수 있다. 그리고 배후가 누구인지, 그 동기가 무엇인지 전혀 모르는 대중에게 자신들의 콘텐츠를 노출할 수 있다. 이 작전들은 위협 행위자들이 목표를 달성하기 위해 가짜 인물과 조직을 얼마나 복잡하고 정교하게 활용하는지도 보여준다. 조직 전반에서 견고한 방어 체계를 유지하려면 위협 행위자들이 이런 활동에서 악용하는 취약점이 무엇인지, 그리고 그 취약점을 통해 어떻게 대중에게 접근하고 도달 범위를 넓히는지 이해하는 것이 필수적이다.

하지만 이러한 위장 조직 작전은 은밀하게 이루어지는 만큼, 책임 있는 방식으로 실체가 공개되면 특히 취약해진다. ‘앨리스 도너번’과 ‘피스데이터’는 모두 실체가 드러난 뒤 활동을 중단했다. OpenAI가 이러한 위장 조직 작전을 보고하는 목적도 여기에 있다. 후속 연구와 차단은 더 쉽게, 작전의 지속은 더 어렵게 만드는 것이다.

라틴아메리카 전역에서 영향력 캠페인을 수행한 러시아발 행위자들.

OpenAI는 러시아에서 운영된 일련의 ChatGPT 계정을 차단했다. 이들은 라틴아메리카 각국을 겨냥한 은밀한 영향력 공작의 여러 업무에 ChatGPT를 사용했다. 이 활동의 상당 부분은 역내에서 우크라이나의 평판을 훼손하는 데 목적이 있었던 것으로 보인다. 다만 일부는 현지 정치 결과, 특히 아르헨티나와 볼리비아의 정치 상황에 영향을 미치려 했던 것으로 보인다. 운영자 대부분은 러시아어로 프롬프트를 입력했다. 한 명은 스페인어를 사용했지만, 이 역시 러시아에 있는 것으로 보였다. 이 사례에 관한 정보는 관계 당국과 공유했다.

운영자들은 ChatGPT를 주로 세 가지 업무에 사용했다. 자신들의 활동과 자신들의 공으로 그럴듯하게 돌릴 수 있는 타인의 활동에 관한 내부 보고서 작성, 작전에 사용할 콘텐츠 제작, 그리고 라틴아메리카의 자칭 ‘연구 플랫폼’인 사회연구센터(SRC)의 성과 보고서 작성이었다. 이들은 ‘미아 클라크’라는 가상 인물을 통해 SRC를 통제한 것으로 보인다. 이 이름을 따서 OpenAI는 해당 작전을 ‘다크 클라크’라고 명명했다. OpenAI는 러시아에서 모델에 접근하는 것을 허용하지 않으므로, 이들은 VPN으로 서비스에 접속했다.

운영자들은 내부 보고서에서 우크라이나나 현지 지도자들을 깎아내리기 위해 라틴아메리카 전역에 허위 이야기를 유포했다고 주장했다. 공개 자료⁠(새 창에서 열기) 연구자들⁠(새 창에서 열기)은 이 중 일부 허위 정보의 배후로 ‘폴리톨로지’ 또는 ‘라 콤파니아’라는 러시아 조직을 지목했다. 이 조직은 러시아 올리가르히 예브게니 프리고진이 설립한 바그너 그룹과 다른 조직들의 후신으로 알려져 있다. 운영자들은 폴리톨로지와 바그너에 관한 공개 보도를 번역하거나 설명해 달라고 OpenAI 모델에 요청하기도 했다. 다른 러시아발 네트워크에 관한 질문보다 훨씬 많았다.

이 작전은 두 가지 면에서 이례적이었다. 첫째, 라틴아메리카 주민들을 SRC에서 일하도록 끌어들이는 데 성공한 것으로 보인다. 러시아 운영자들의 SRC 보고서에는 급여 체계, 채용, 해고 등의 결정이 언급되어 있었다. 이는 이들이 해당 조직과 협력한 것이 아니라 통제했음을 시사한다. 확보된 증거는 SRC의 라틴아메리카 직원들이 러시아 조직을 위해 일하고 있다는 사실을 몰랐음을 보여준다. OpenAI가 최근 실체를 공개한 또 다른 러시아 연계 ‘싱크탱크’와 달리, SRC는 이렇게 끌어들인 직원들을 통해 콘텐츠 대부분을 자체 제작한 것으로 보인다. 이는 지난 2년 반 동안 OpenAI가 차단한 위장 신분 운영 시도 중 가장 복잡한 사례다.

둘째, 일부 공개 증거는 다크 클라크의 허위 정보가 팩트체크⁠(새 창에서 열기)와 공식 부인⁠(새 창에서 열기)을 유발할 만큼 널리 퍼졌음을 시사한다. 이는 지난 2년간 OpenAI가 차단한 어떤 영향력 공작보다도 깊이 침투했음을 보여준다. 이 작전이 페루에 유포했다고 주장한 한 허위 정보는 우크라이나와 폴란드 사이의 공개적인 갈등까지 부추겼다.

운영자들이 ChatGPT를 사용한 주된 목적은 신원이 확인되지 않은 상급자에게 제출할 내부 보고서를 작성하고 갱신하는 것이었다. 정기적으로 작성된 이 보고서들에는 라틴아메리카 전역에서 은밀한 영향력 캠페인을 수행하려는 활동이 기술되어 있었다. 보고서는 세 가지 주요 활동을 다뤘다. 우크라이나를 비방하고 우크라이나군의 병력 모집을 방해하는 활동, 특정 국가, 특히 볼리비아와 아르헨티나의 국내 정치에 개입하는 활동, 그리고 SRC 관리였다. 대부분의 경우 위협 행위자들이 OpenAI 모델로 캠페인 콘텐츠를 만드는 모습은 관찰되지 않았으며, 관련 보고서를 작성하는 데만 사용하는 것이 확인되었다(몇 가지 예외는 아래⁠에서 설명한다).

보고서에는 전술적 세부 사항이 풍부하게 담겨 있어, 이 작전이 우크라이나와 일부 국가 지도자들, 특히 아르헨티나·볼리비아·에콰도르 대통령을 어떻게 약화시키려 했는지 드러났다. 일부 보고서는 운영자들이 공격 수단으로 악용할 수 있는 활동을 현지인들이 하도록 속이려는 시도를 기술했다. 다른 보고서는 운영자들이 유포했다고 주장한 가짜 ‘유출 자료’를 다뤘다.

두 사례에서는 운영자들과 ‘폴리톨로지’ 관련 공개 보도를 연결하는 증거가 확인된다. 운영자들은 2024년 하비에르 밀레이 아르헨티나 대통령을 겨냥한 캠페인 두 건을 수행했다고 보고했다. 첫째, 밀레이가 자신의 반려견들에게 까르띠에 보석 목줄을 사줬다는 허위 보도를 퍼뜨렸다고 밝혔다. 둘째, 현지인들에게 돈을 주고 부에노스아이레스에 반밀레이 낙서를 하게 했다고 주장했다. 유출 문서를 바탕으로 두 활동의 배후가 ‘폴리톨로지’와 ‘라 콤파니아’라고 공개적으로⁠(새 창에서 열기) 지목된 바 있다⁠(새 창에서 열기).

이 밖에도 이전까지 러시아의 영향력 공작과 연관성이 드러나지 않았던 허위 정보가 훨씬 더 많았다. 예를 들어 운영자들은 2026년 5월 페루 리마의 지역 교육청을 사칭하는 가짜 이메일 주소를 만들었다고 주장했다. 이들은 이 주소를 이용해 관내 학교들에 국가 기념일인 문화·언어 다양성의 날(5월 21일)에 우크라이나를 주제로 한 행사를 열도록 지시했다. 이메일에는 논란이 많은 20세기 우크라이나 민족주의자 스테판 반데라 등을 언급하라는 명시적인 지시가 담겨 있었다. 일부 우크라이나인들은 그를 독립운동의 인물로 보지만, 러시아와 폴란드에서는 파시즘, 전시 부역, 잔학 행위와 연관 짓는다. 운영자들에 따르면 일부 학교는 가짜 이메일 주소로 답장을 보내 해당 행사를 개최했다고 확인해 주었으며, 사진까지 제공했다.

이후 운영자들은 우크라이나가 극단적 민족주의 이념을 ‘수출’하고 있다는 주장과 함께 이 행사에 관한 기사를 페루와 폴란드 양국 언론에 실리도록 해 공분을 일으켰다고 주장했다. 공개 자료 검색을 통해 페루⁠(새 창에서 열기) 언론⁠(새 창에서 열기)과 폴란드⁠(새 창에서 열기) 언론⁠(새 창에서 열기), 그리고 헝가리⁠(새 창에서 열기)의 한 영문 매체에서 이 주장과 일치하는 기사들을 확인했다(일부 기사는 이후 삭제되었다). 일부⁠(새 창에서 열기) 기사⁠(새 창에서 열기)에는 ‘반폴란드 성향’을 드러낸 사람들을 폴란드에서 입국 기피 인물로 지정하자는 폴란드 출신 유럽의회 의원의 반응이 담겨 있었다. 이처럼 러시아발 허위 정보는 우크라이나인과 폴란드인 사이의 역사적 갈등을 이용하는 동시에 그 갈등을 부추겼다.

마찬가지로 운영자들은 6월에 또 다른 가짜 이메일 주소를 이용해 에콰도르 학교들을 속여 다니엘 노보아 대통령과 민간 군사기업 블랙워터의 전 대표 에릭 프린스에게 충성을 맹세하는 의식을 열게 했다고 주장했다. 운영자들은 이 사건이 에콰도르에서 공분을 일으켜 정부가 허위 사실을 부인하도록 압박했으며, 그 결과 해당 허위 정보가 전국적으로 알려졌다고 주장했다. 이 경우에도 공개 자료 조사를 통해 해당 주장과 매우 흡사한 에콰도르⁠(새 창에서 열기) 언론⁠(새 창에서 열기)의 관련⁠(새 창에서 열기) 보도⁠(새 창에서 열기)를 확인했으며, 에콰도르 교육부 장관의 상세한 반박⁠(새 창에서 열기)도 발견했다.

운영자들은 허위 이야기에 신빙성을 더하기 위해 다양한 기법을 사용했다. 내부 보고에 따르면 이들은 3월에 에콰도르를 겨냥한 두 가지 허위 정보를 유포했다. 하나는 에콰도르 주재 우크라이나 영사가 에콰도르인들을 비하하는 발언을 했다는 내용의 가짜 음성을 이용했다. 공개 자료 조사에서 이 주장과 정확히 일치하는 TikTok 게시물을 확인했으나, 이용자 반응은 미미했던 것으로 보인다. 다른 하나는 실제 뉴스 채널의 로고를 붙여 X와 TikTok에 유포한 가짜 영상에 관한 내용이었다. 이 영상은 노보아 정부가 우크라이나에서 싸울 젊은 남성들을 모집하고 있다고 주장했다. 에콰도르의 팩트체커들⁠(새 창에서 열기)은 4월 초 이 설명과 일치하는 캠페인을 다뤘다.

2026년 4월 8일에 게시된 TikTok 영상. 이 작전에서 자신들이 만들었다고 주장한 가짜 음성이 담겨 있으며, 우크라이나 영사의 음성으로 소개되었다.

또 다른 내부 보고서에는 반정부 시위가 절정에 달했던 5월 말 볼리비아에서 유포한 허위 정보가 기술되어 있었다. 운영자들은 이 캠페인의 목표가 시위를 둘러싼 위기를 악화시키는 데 있다고 명시했다. 이 캠페인에는 국영 수도회사 EPSAS 직원의 발언을 사칭한 가짜 녹음이 사용되었다. 정부가 행정수도 라파스의 수도 공급을 끊고 비상사태를 선포할 것이라는 내용이었다. 공개 자료 조사를 통해 같은 주장이 허위임을 밝힌 검증 기사⁠(새 창에서 열기)와 EPSAS의 공식 부인⁠(새 창에서 열기)을 확인했다.

다른 내부 보고서에는 공개 자료로 유포 여부를 확인할 수 없었던 허위 정보도 포함되어 있었다. 이미 삭제되었거나 확산되지 못했기 때문일 수 있다. 예를 들어 운영자들은 1월에 한 브라질 인플루언서 겸 모델이 우크라이나 대사관 관계자들에 의해 우크라이나로 인신매매된 뒤 키이우에서 살해되었다는 이야기를 유포했다고 주장했다. 6월에는 볼리비아에서 또 다른 가짜 음성을 유포했다고 주장했다. 이번에는 볼리비아 중앙은행 직원을 사칭해 은행이 곧 현금 인출을 제한할 것이라고 경고하는 내용이었다. 또한 볼리비아의 탄화수소 담당 기관이 보낸 것처럼 위조한 서한을 유포했다고 주장했다. 자가용에 대한 연료 판매가 제한될 것이라고 경고하는 내용이었다.

다른 보고서에서는 운영자들이 실제로 관여하지 않았더라도 자신들의 공으로 돌릴 수 있는 사건을 대상 국가들에서 찾아 달라고 OpenAI 모델에 요청했다. 예를 들어 아르헨티나에서는 외무장관이 포클랜드/말비나스 제도에 관한 유엔 위원회 회의에서 자신들의 작전을 인용했다고 주장했다. 운영자들은 해당 제도에 자결권 원칙이 적용되지 않으며 영국이 그곳에 과도한 규모의 군대를 주둔시키고 있다는 주장을 자신들이 퍼뜨렸다고 공을 내세웠다. 실제로 두 주장은 오랜⁠(새 창에서 열기) 세월⁠(새 창에서 열기) 동안 아르헨티나의 공식 입장에 포함되어 있었다. 비슷한 사례로, 6월 브라질 언론은 입대를 위해 우크라이나로 갔다가 러시아군에 붙잡힌 한 브라질 시민에 관해 보도했다⁠(새 창에서 열기). 그는 이후 텔레비전으로 방송된 성명에서 자신이 속아서 전투에 참여하게 되었다고 주장했다. ChatGPT를 사용한 운영자들은 이 보도가 자신들의 작전 메시지를 재현한 것이라고 주장하려 했지만, 실제로는 포로 본인의 영상을 인용한 것⁠(새 창에서 열기)이었다. 이는 운영자들이 외부 대중이 아니라 자신들의 고용주를 대상으로 영향력 공작을 시도했음을 시사한다.

운영자들의 일부 보고서에는 사회연구센터(러시아어 명칭: 사회학 연구센터)라는 자칭 ‘연구 플랫폼’이 언급되었다. 사회연구센터(SRC) 웹사이트에 따르면 이 기관은 라틴아메리카의 인도계 이주민 사회와 인도·역내 국가 간 관계에 초점을 맞추고 있다.

내부 보고서들은 운영자들이 이 싱크탱크와 단순히 협력한 것이 아니라 통제하고 있었음을 시사했다. 예를 들어 보고서에는 채용·해고 결정, 급여 체계, 인력 운용 계획, 진행 중인 연구 프로젝트가 언급되어 있었다. 특히 중요한 점은 운영자들이 ‘미아 클라크’라는 가상 인물을 만들어 작전의 소셜 미디어 활동을 운영하고 라틴아메리카 현지 직원들과 소통했다고 명시한 것이다. 확보된 증거에 따르면 현지 직원들은 자신들이 러시아 작전을 위해 일하고 있다는 사실을 전혀 모른 채 선의로 연구 업무를 수행한 것으로 보인다. 이처럼 실상을 모르는 사람들을 중간 매개로 이용한 방식은 과거 프리고진 계열과도 연관된 러시아 작전 ‘피스데이터’와 매우 흡사하다. Meta는 2020년 이 작전의 실체를 공개했다⁠(새 창에서 열기).

러시아 운영자들의 보고서로 판단하면, 라틴아메리카 현지 직원들은 역내 전문가와 논평가들을 인터뷰한 뒤 그 결과를 바탕으로 연구 보고서를 작성했다. 주제는 브릭스(BRICS)에 대한 여론을 폭넓게 분석하는 것부터 자이르 보우소나루와 루이스 이나시우 룰라 다 시우바 대통령 집권기의 브라질 경제를 상세히 비교하는 것까지 다양했다. 때로는 러시아 운영자들이 연구 결과가 발표되기도 전에 프로젝트 현황 보고서를 작성했는데, 이는 제작 과정에 깊이 관여했음을 보여준다. SRC 웹사이트에서 60편을 훨씬 넘는 글을 확인했으며, 대다수는 자체 작성한 것으로 보였다. 이는 다크 클라크가 최근 OpenAI가 실체를 공개한 다른 러시아발 작전과 구별되는 점이다. 그 작전 역시 싱크탱크를 위장 조직으로 운영했지만 콘텐츠 대부분을 표절했다. 다크 클라크의 방식은 라틴아메리카 전역에 인맥을 갖춘, 더 오래 유지할 수 있는 위장 조직을 구축하려는 의도를 시사한다.

러시아 운영자들은 SRC의 활동을 홍보하기 위해 소셜 미디어 계정 등의 네트워크를 구축하려 했다고 주장했다. 이들의 보고서에 따르면 세계 각지의 운영자들이 같은 계정에 접속하려다 계정이 제한되면서 소셜 미디어 활동에 문제가 생겼다. 공개 자료에서도 그 흔적을 확인할 수 있다. 예를 들어 SRC의 주요 X 계정 투명성 정보에는 위치가 독일로 표시되었지만(VPN 사용 때문일 수 있다), 러시아 연방 App Store를 통해 연결된 것으로 나타났다. 한편 SRC의 Instagram 계정 중 하나는 관리자 위치가 베네수엘라로 표시되었다. 확인된 SRC 명의의 Facebook 계정 3개는 모두 관리자 위치 정보가 표시될 만큼 팔로워가 많지 않았다.

왼쪽은 사회연구센터와 연결된 X 계정이다. 투명성 정보에 러시아 연방 앱 스토어를 통해 연결된 것으로 표시된 점에 주목할 필요가 있다. 오른쪽은 SRC의 Instagram 계정으로, 위치가 베네수엘라로 표시되어 있다.

운영자들은 특히 LinkedIn에서 어려움을 겪었다고 보고했다. SRC를 대표하기 위해 만든 계정이 가짜임을 명시하면서도, 이 계정의 인적 네트워크를 구축하는 데 애를 먹었다고 밝혔다. 보고서에 따르면 해결책은 가짜 계정을 더 만들어 첫 번째 계정을 팔로우하게 함으로써 그럴듯하게 보이도록 하는 것이었다. 8월 17일 기준, 같은 사회연구센터 명칭과 브랜드를 사용한 LinkedIn 계정의 팔로워는 961명이었다. 직원 수는 200~500명이라고 주장했지만 실제로 등록된 직원은 2명뿐이었다.

운영자들은 보고서 갱신에 AI를 사용하는 것 외에도, 작전에 활용할 글을 구상하고 작성하는 데 도움을 달라고 OpenAI 모델에 간헐적으로 요청했다. 예를 들어 허위 콘텐츠에 각국에 맞는 억양, 어휘, 기관 특유의 문체가 쓰이도록 도와달라는 요청이었다. 이는 전체 업무에서 비교적 작은 비중을 차지했다. 작전에 라틴아메리카 출신 스페인어 원어민이 적어도 한 명 포함된 것으로 보여, AI의 언어 지원 필요성이 상대적으로 적었기 때문일 수 있다.

예를 들어 한 러시아어 사용자 운영자는 파나마 주재 우크라이나 명예영사가 부패에 연루된 것처럼 보이게 할 서한을 러시아어로 작성하는 데 도움을 달라고 모델에 요청했다. 이후 스페인어 사용자 운영자가 해당 서한을 스페인어로 번역하고 함께 사용할 음성 대본을 생성해 달라고 모델에 요청했다. 서한 내용과 일치하는 사진이 운영자의 대본과 일치하는 내레이션과 함께 TikTok에 게시되었다. 게시 계정은 뉴스 매체를 자처했지만, 파나마의 TVN 노티시아스⁠(새 창에서 열기) 로고를 사용했다. 이 TikTok 채널의 팔로워는 1명뿐이었으며, 해당 허위 콘텐츠를 올린 뒤 게시를 중단했다.

이 작전에서 문안을 생성한 서한과, 역시 작전 측이 생성한 대본에 따른 내레이션이 담긴 TikTok 게시물.

또 다른 사례에서 러시아에 있는 스페인어 사용자 운영자는 노보아가 에콰도르의 빈곤층을 모욕했다는 내용의 러시아어 대본을 모델에 제공하고 에콰도르식 스페인어로 번역해 달라고 요청했다. 세 번째 사례로, 3월에 같은 사용자는 ‘인터내셔널 시큐리티 솔루션스 FZE’라는 회사와 에콰도르의 한 개인 간에 작성된 스페인어 계약서 초안을 교정해 달라고 모델에 요청했다. 이 계약서는 우크라이나에서 인프라 서비스를 제공한다는 명목이었다. 사용자는 어떤 단어를 굵게 표시해야 하는지 묻는 등 표현과 레이아웃을 개선하는 방법에 초점을 맞춰 질문했다.

문구가 확정되자 계약서에 관한 사용자의 프롬프트도 끝났다. 그러나 공개 자료 조사에 따르면 이후 이 ‘계약서’ 사진이 소셜 미디어에 유포되었다⁠(새 창에서 열기). 이 사진은 노보아 정부가 위장 회사와 손잡고 에콰도르인들을 속여 우크라이나군에 입대시켰다는 주장을 뒷받침하는 데 사용되었다. 이 허위 정보는 4월 초 팩트체크⁠(새 창에서 열기)가 이루어질 만큼 널리 퍼졌다. 팩트체커들은 해당 회사가 “에콰도르 기업·증권·보험감독청의 등록부에 등재되어 있지 않다”는 결론을 내렸다.

이 작전의 영향력은 특히 신중하게 평가해야 한다. 앞서 언급했듯이 운영자들의 주요 수법 중 하나는 작전과 무관한 활동까지 자신들의 공으로 돌리는 것이었다. 따라서 내부 보고서에서 자신들의 영향력에 관해 내세운 주장을 액면 그대로 받아들일 수는 없다. 마찬가지로, 이들이 유포했다고 주장한 일부 허위 이야기는 공개 자료 조사에서 발견되지 않았다. 비공개 채널로 유포되었거나, 이미 삭제되었거나, 실제로는 게시되지 않았기 때문일 수 있다.

그러나 공개된 증거를 통해 이들의 주장 중 일부는 뒷받침할 수 있었다. 작전 측이 유포했다고 주장한 허위 정보 중 일부는 이후 팩트체커들이 다루고 각국 정부가 반박했다. 이는 대응이 필요할 만큼 널리 퍼졌음을 시사한다. 다른 사례에서는 이 작전이 생성한 콘텐츠와 매우 흡사한 콘텐츠를 온라인에서 확인할 수 있었다. 특히 페루의 한 학교를 속여 반데라를 소개하는 행사를 열게 했다는 작전 측의 주장과 관련된 사건은 이후 라틴아메리카와 유럽 양쪽에서 보도되었으며, 적어도 한 명의 폴란드 출신 유럽의회 의원이 논평하는 계기가 된 것으로 보인다.

영향력 공작을 1(최저)부터 6(최고)까지 평가하는 확산 척도(Breakout Scale)⁠(새 창에서 열기)를 적용하면, 이 작전은 5단계에 해당한다고 평가할 수 있다. 여러 국가의 정치인들이 공개적으로 발언하는 계기가 되었음을 시사하는 증거가 있기 때문이다. 이는 OpenAI가 보고서를 발행하기 시작한 이후 차단한 첫 5단계 작전이다.

가짜 필자명으로 온라인 뉴스 매체에 장문 기사를 게재한 이란발 작전.

OpenAI는 이란에서 운영된 일련의 ChatGPT 계정을 차단했다. 이들은 페르시아어로 프롬프트를 입력하고 페르시아어와 영어로 콘텐츠를 생성했다. 행위자들은 VPN으로 ChatGPT에 접속해 위치를 숨겼다.

이 작전은 OpenAI 모델을 사용해 장문 기사와 게재 제안문을 다듬고, 소셜 미디어 댓글을 생성하며, 내부 보고서를 개선했다. 운영자들은 서로 다른 필자명 7개로 기사 게재를 제안했기 때문에 OpenAI는 이 캠페인을 ‘허위 필자명’이라고 명명했다. 장문 기사들은 미국·이란 분쟁에 초점을 맞췄다. 댓글 대부분도 이 분쟁을 다뤘다. 일부는 미국 정치를 다뤘지만, 대체로 분쟁이라는 더 큰 맥락 안에서 접근했다.

주요 활동별로 드러난 영향력에는 큰 차이가 있었다. 전 세계 12곳 안팎의 온라인 매체에서 이 작전의 필자명으로 게재되거나 전재된 기사 약 100편을 확인했다. 이들은 대체로 국제 정세, 지정학, 중동의 사건들을 다루는 중소 규모 매체였다. 반면 소셜 미디어 댓글 중 좋아요, 공유, 추가 답글 등의 형태로 상당한 반응을 이끌어 낸 것은 없는 것으로 보인다. 실제로 운영자들의 내부 보고서는 소셜 미디어 영향력을 측정하는 데 기만적인 계산법을 사용했다. 자신들의 성과를 부풀려 보이려는 시도였을 수 있다.

전반적인 활동 양상은 상업적 주체가 의뢰를 받아 영향력 캠페인을 수행하는 모습과 부합했지만, 구체적으로 어떤 주체가 관여했는지는 확인할 수 없었다. 이 사례에 관한 정보는 관계 당국과 공유했다.

이 작전에서 가장 널리 확산된 활동은 미국·이란 분쟁의 지정학적 측면을 다룬 장문의 영문 기사를 ChatGPT에 검토하고 다듬어 달라고 요청하는 것이었다. 전형적인 프롬프트는 특정 온라인 매체의 투고 기준에 맞춰 영문 초안을 평가하고, 기준을 충족하도록 수정안을 제시해 달라는 것이었다. 운영자들은 수정안을 승인한 뒤 해당 온라인 매체의 편집자에게 기사 게재를 제안할 이메일을 작성해 달라고 모델에 요청했다.

이 제안 메일은 어빈 B. 호스킨스, 노아 래밍턴, 소피아 곤살레스, 마이클 해리슨, 에리카 퓨지어, 제니 윌리엄스, 앨리스 존슨이라는 가짜 필자명 7개로 작성되었다. 일부 기사와 함께 온라인에 게시된 약력에 따르면 각 가상 인물은 서방 기자를 자처했다. 대부분 미국인이라고 했지만 노아 래밍턴은 뉴질랜드에 있다고 소개되었다. 전문 분야로는 국제 정치, 중동, 인권, 분쟁 등을 내세우는 경우가 많았다. 운영자들은 가상 인물 중 한 명인 ‘마이클 해리슨’의 약력 자체를 작성해 달라고 모델에 요청하기도 했다. (주목할 점은 Meta가 3월에 차단한⁠(새 창에서 열기) 이란의 영향력 공작에도 ‘마이클 해리슨’이라는 기자를 사칭한 가상 인물이 등장했다는 것이다.)

일부 가상 인물은 여러 소셜 미디어 플랫폼의 계정을 통해 실제 인물처럼 꾸며졌다. 예를 들어 마이클 해리슨이라는 가상 인물은 Medium, X, Facebook 계정을 갖추고 있었다. 어빈 B. 호스킨스라는 가상 인물은 X, Facebook, Instagram, Threads 계정을 갖고 있었다. 이 인물의 소개에는 ‘미국인 프리랜서 작가’라고 적혀 있었지만, 소셜 미디어 투명성 정보에 표시된 계정 위치는 이란이었다.

위는 가상 인물 어빈 호스킨스의 Instagram 소개다. 왼쪽 아래는 서아시아 Android 앱 사용을 보여주는 X 계정 투명성 정보다. 오른쪽 아래는 위치가 이란으로 표시된 Instagram 계정 투명성 정보다. Meta는 8월에 해당 Instagram 계정을 차단했다.

공개 자료 조사 기법을 활용해 12곳이 넘는 매체에서 운영자들의 필자명 중 하나로 게재된 기사 약 100편을 확인했다. 이 매체들은 대체로 국제 정세, 지정학, 중동의 사건들을 다뤘으며, 때로는 반전 또는 진보적 관점에서 접근했다. 확인된 기사 중 가장 이른 것은 2025년 7월, 가장 최근 것은 2026년 10월에 게재되었다. 미국·이란 분쟁이 발발한 뒤 기사 게재 빈도가 크게 늘었다.

2025년 7월~2026년 9월의 기사를 저자와 주제별로 정리한 타임라인. 2026년 3월 이후 미국·이란 관계에 관한 기사가 집중적으로 게재된 점에 주목할 필요가 있다.

2026년 2~7월 여러 온라인 매체에 이 작전과 연계된 필자명으로 게재된 기사 제목 예시.

이 중 적어도 일부 기사는 해당 매체의 소셜 미디어 계정을 통해 홍보되었다. 이는 이란 운영자들에게 다른 방법으로는 닿지 못했을 독자층에 접근할 수 있는 경로를 제공했다.

위협 행위자들은 기사 외에도 지정학이나 정치 주제에 관한 영어 또는 페르시아어 댓글을 묶음으로 생성해 달라고 ChatGPT에 요청했다. 이들은 보통 소셜 미디어 게시물의 텍스트나 스크린샷을 입력하고, 자신들의 전반적인 방향에 맞는 답글 여러 개를 만들어 달라고 모델에 요청했다. 이 답글들은 이후 온라인에 게시되었으며, 몇 분 간격으로 잇따라 올라오는 경우가 많았다. 운영자들의 내부 보고에는 사람이 직접 게시하는 방식과 자동 게시 방식이 모두 언급되었다. 다만 이 자동화에 OpenAI 모델이 활용되었음을 시사하는 증거는 없다.

이 작전에서 생성해 7월에 게시한 영어 트윗(왼쪽)과 페르시아어 트윗(오른쪽). 영어 댓글은 미국이 이란에 대한 ‘대규모 공격’을 준비하고 있다고 경고하는 영어 트윗에 달린 답글이다. 이미지 속 영어 댓글은 모두 10분 이내에 게시되었다. 페르시아어 댓글은 미국의 이란 공습에 관한 페르시아어 트윗에 달린 답글로, 13분 이내에 게시되었다.

일부 대량 댓글 활동은 작전 측이 만든 뉴스 기사를 소개하는 소셜 미디어 게시물에 답글을 생성하는 방식으로 이루어졌다. 운영자들은 자신들의 기사를 홍보하는 게시물의 스크린샷을 입력한 뒤, 기사를 칭찬하거나 지지하는 댓글을 생성했다. 기사의 인기가 더 높은 것처럼 보이게 하려는 의도였을 가능성이 크다.

이 작전에서 생성한 기사를 공유한 미국 지역 뉴스 페이지의 Facebook 게시물과, 해당 게시물에 달기 위해 작전 측이 생성한 댓글.

댓글 묶음 대부분은 더 넓은 맥락에서 이란·미국·이스라엘 간 분쟁을 다뤘다. 사용자들은 미사일 공격, 휴전, 외교적 움직임 등의 주제에 관한 댓글을 요청했다. 이때 미국은 침략자, 이스라엘은 미국의 신뢰할 수 없는 동맹, 이란은 굴하지 않고 버티는 피해자로 묘사하도록 명시했다. 운영자들은 이란 정권에 비판적인 영국 소재 위성방송사 이란 인터내셔널의 게시물에 특히 많은 답글을 생성했다. 적대적인 페르시아어 답글 묶음만 24개가 넘었다. 일부 댓글 묶음은 미국 정치 이슈에 관한 소셜 미디어 게시물의 답글로 생성되었으며, 이 역시 대체로 분쟁이라는 더 큰 맥락 안에서 다뤄졌다.

미국 정치 관련 게시물에 대한 답글로 이 작전에서 생성한 Instagram 댓글.

이 답글 중 소수가 온라인에 게시된 것을 확인했다. 훨씬 더 많은 답글은 공개 자료 검색에서 발견되지 않았는데, 게시되지 않았거나 이미 삭제된 계정에서 게시했기 때문일 수 있다. (예를 들어 가짜 기자 3명인 에리카 퓨지어, 앨리스 존슨, 제니 윌리엄스는 공개 약력에 X 계정 아이디를 기재했는데, 이 계정들은 2026년 8월 기준 모두 정지된 상태였다.) 실제로 온라인에 댓글을 게시한 일부 계정은 서구식 이름을 사용했지만 계정 위치는 이란으로 표시되었다.

위에 제시된 댓글을 게시한 Instagram 계정의 투명성 정보. 위치가 이란으로 표시되어 있다.

실제로 게시된 답글을 확인한 경우에도, 이들은 대체로 해당 게시물 전체 댓글의 일부에 불과했다. 이는 운영자들이 실제 이용자들의 반응 사이에서 지배적인 목소리를 내지는 못했음을 시사한다. 상당한 반응을 끌어낸 것으로도 보이지 않았다. 실제로 작전 측 답글에 달린 좋아요 중 상당수는 작전과 연계된 계정들에서 나왔다. 이 사례에 관한 정보는 이용자 반응을 종합적으로 평가하기에 가장 적합한 위치에 있는 업계 파트너들과 공유했다.

자신들의 활동이 더 큰 인기를 얻은 것처럼 보이려는 시도는 공개 게시물에만 국한되지 않았다. 운영자들은 콘텐츠 생성 외에도 소셜 미디어 캠페인에 관한 내부 보고서로 보이는 문서를 다듬어 달라고 ChatGPT에 간헐적으로 요청했다. 대체로 모델에 여러 통계 수치를 제공하고 이를 잘 정리된 발표 자료로 만들어 달라고 요청하는 방식이었다.

OpenAI가 차단한 작전 중 AI로 자체⁠(새 창에서 열기) 평가 보고서⁠(새 창에서 열기)를 작성한 사례는 이번이 처음이 아니다. 이란 운영자들이 자신들의 성과를 스스로 평가하는 과정에서 가장 눈에 띈 것은 평가 방식이었다. 이들이 사용한 주요 ‘영향력’ 지표는 자신들이 답글을 단 원본 게시물의 조회 수였다. 실제 답글의 조회 수가 아니었다. 답글 게시 전과 게시 후 일정 시간이 지난 시점의 조회 수를 집계했지만, 그 시간 간격은 명시하지 않았다. 이 계산은 원본 게시물의 인기나 다른 댓글 등 다른 요인 때문에 발생했을 수 있는 조회 수를 고려하지 않았다. 따라서 작전의 영향력 수치를 크게 부풀렸다. 이는 운영자들이 더 효과적인 계산법을 몰랐거나, 알고도 사용하지 않았음을 시사한다.

실제로 공개 자료에서 확인할 수 있는 증거를 보면, 이 작전의 두 가지 주요 활동이 미쳤을 영향력에는 큰 차이가 있었던 것으로 보인다.

확인할 수 있었던 소셜 미디어 답글의 좋아요, 조회 수, 댓글 수는 대체로 한 자릿수나 두 자릿수에 그쳤다. 앞서 언급했듯이 해당 답글은 대체로 원본 게시물 전체 댓글의 일부에 불과했다. 영향력 공작을 1(최저)부터 6(최고)까지 평가하는 확산 척도(Breakout Scale)⁠(새 창에서 열기)를 적용하면, 작전의 이 부분은 2단계로 평가할 수 있다. 여러 플랫폼에 댓글을 게시했지만, 그 범위를 넘어 확산되거나 답글 여론을 장악할 수 있었다는 징후는 거의 없었다.

반면 가짜 기자들은 여러 매체에 기사를 게재하는 데 성공했으며, 그중 일부는 상당한 팔로워를 보유하고 있었다. 예를 들어 이 작전의 기사를 실은 한 온라인 매체는 2026년 8월 기준 Facebook 팔로워가 약 200만 명, X 팔로워가 약 35만 5,000명, Instagram 팔로워가 54만 4,000명 이상이었다. 여러 언론 매체로 꾸준히 확산된 점을 근거로 작전의 이 부분은 4단계로 평가할 수 있다.