‘제로 제노’ 작전: 이스라엘 연계 영향력 활동

이 사례 연구는 원래 OpenAI의 2024년 5월⁠(새 창에서 열기) 보고서에 게재되었습니다.

당사는 X, Facebook, Instagram, 웹사이트, YouTube에 걸친 영향력 작전용 콘텐츠를 생성하고 편집하는 데 사용된 이스라엘 운영 계정군을 차단했습니다. 이 네트워크는 이스라엘의 정치 캠페인 관리 회사인 STOIC이 운영했습니다. 스토아학파 창시자의 이름을 기리고 이 네트워크가 끌어낸 참여 수준이 낮았다는 점을 반영해, 당사는 이를 ‘제로 제노’라고 명명했습니다.

이 작전은 영어와 히브리어 콘텐츠로 캐나다, 미국, 이스라엘의 이용자를 겨냥했습니다. 5월 초에는 영어 콘텐츠로 인도 이용자를 겨냥하기 시작했습니다. 또한 가나 이용자를 겨냥한 영향력 작전 캠페인을 준비 중이었던 것으로 보입니다.

이 작전은 당사 모델을 사용해 웹 기사와 소셜 미디어 댓글을 생성한 뒤 Instagram, Facebook, X를 비롯한 여러 플랫폼에 게시했습니다.

또한 당사 모델을 사용해 나이, 성별, 위치 등의 변수를 바탕으로 소셜 미디어용 가상 인물과 약력을 만들고, 이스라엘 노동조합 히스타드루트에 관해 공개적으로 댓글을 단 이스라엘 사람들을 조사했습니다. 당사 모델은 이러한 프롬프트에 개인 정보를 제공하지 않았습니다.

이 네트워크가 생성한 콘텐츠는 여러 소셜 미디어 플랫폼에 게시됐습니다. 애틀랜틱 카운슬 디지털 포렌식 연구소⁠(새 창에서 열기)의 공개 출처 조사에서 Facebook, Instagram, X에 게시된 콘텐츠 일부가 확인됐습니다. 해당 계정들이 비활성화되자 작전 세력은 새 계정을 확보했습니다. 다른 콘텐츠는 가자 분쟁과 유대교·이슬람교 신자 간 관계 전반의 문제를 다루는 활동가 단체로 위장한 웹사이트 4곳(uc4canada.com, the-good-samaritan.com, ufnews.io, nonagenda.com)에 게시됐습니다.

일부 사례에서는 이 작전의 가짜 계정이 작전 세력이 직접 올린 소셜 미디어 게시물에 댓글을 달았습니다. 이용자의 참여가 있는 것처럼 보이게 하려는 시도로 추정됩니다.

이 네트워크의 콘텐츠를 게시한 많은 소셜 미디어 계정은 이전 세대의 인공지능 기술인 생성적 적대 신경망(GAN)으로 만든 것으로 보이는 프로필 사진을 사용했습니다. 이런 이미지는 인터넷에서 쉽게 다운로드할 수 있습니다. 이런 이미지는 쉽게 만들 수 있는데도, 이 네트워크의 여러 소셜 미디어 계정이 동일한 사진을 사용한 사례가 확인됐습니다. 때로는 같은 프로필 사진을 쓰는 계정 두 개 이상이 동일한 소셜 미디어 게시물에 답글을 달기도 했습니다.

이 작전은 여러 주제별 캠페인으로 나뉘었으며, 대부분은 가자 분쟁 및 유대교·이슬람교 신자 간 관계라는 폭넓은 문제와 느슨하게 연관돼 있었습니다. 5월에는 인도 선거를 겨냥한 일부 활동을 시작된 지 24시간도 되지 않아 차단했습니다.

2월의 공개 출처 조사⁠(새 창에서 열기)에서는 이 네트워크가 유엔 팔레스타인 난민구호기구(UNRWA)를 비판했다고 설명했습니다. 3월 DFRLab 보고서⁠(새 창에서 열기)는 캐나다를 다루면서 현지의 이른바 ‘급진 이슬람주의자’를 비판한 캠페인 콘텐츠에 주목했습니다. 또 다른 계정군은 미국 대학을 집중적으로 다루며 친팔레스타인 시위대가 반유대주의와 테러리즘을 조장한다고 비난했습니다. 네 번째 계정군은 카타르를 집중적으로 다루며 카타르의 미국 투자가 미국인의 삶의 방식을 위협한다고 묘사했습니다. 다섯 번째 계정군은 히브리어 소셜 미디어 게시물을 생성했습니다. 이 게시물들은 대체로 노동조합 조직 히스타드루트와 그 지도부를 칭찬했습니다. 마지막으로 5월에는 인도를 다루며 집권 BJP를 비판하고 야당인 국민회의당을 칭찬하는 댓글을 생성하기 시작했습니다.

때로는 계정의 주제를 다른 주제로 바꾼 것으로 보입니다. 예를 들어 이전에 캐나다 관련 게시물을 올리던 계정이 미국, 인도, 히스타드루트 중 하나 이상의 주제로 전환했습니다.

이 네트워크가 만든 콘텐츠 일부는 정치 성향을 막론하고 서구의 유명 인사들이 올린 소셜 미디어 게시물에 답글로 게시됐습니다. 이런 답글은 대체로 원본 게시물과 아무런 관련이 없었습니다. 예를 들어 카타르가 미국을 ‘사들이고 있다’는 내용의 댓글이 트럼프 전 대통령의 음악 취향에 관한 게시물에 답글로 달렸습니다.

제로 제노의 활동은 자체 비진정성 계정의 반응을 제외하면 참여를 거의 또는 전혀 끌어내지 못한 것으로 보입니다. (이미 Meta와 X가 많은 계정을 비활성화했으므로 현재 참여 수치만으로는 전체 상황을 파악하기 어려울 수 있습니다.)

영향력 작전의 파급력을 최저 1점부터 최고 6점까지 평가하는 브레이크아웃 척도⁠(새 창에서 열기)를 적용하면, 이 작전은 여러 플랫폼과 웹사이트에 게시물을 올렸지만 네트워크 외부의 사람들이 이를 크게 확산했다는 증거가 없는 카테고리 2에 해당합니다.

제로 제노의 캠페인과 연계된 것으로 확인된 도메인은 다음과 같습니다.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io