메인 콘텐츠로 건너뛰기
OpenAI

2025년 6월 1일

안전

‘베이그 포커스(VAGue Focus)’ 작전: 사회공학적 공격과 여론 공작

OpenAI는 AI를 사회공학적 공격, 감시 관련 조사, 비판자들을 겨냥한 여론 공작에 사용한 계정들을 차단했습니다.

로딩 중...

이 사례 연구는 OpenAI의 2025년 6월⁠(새 창에서 열기) 보고서에 처음 게재되었습니다.

행위자

OpenAI는 자사 모델을 이용해 소셜 미디어 게시물을 생성하고, 데이터셋을 분석하며, 사회공학적 공격 시도로 보이는 이메일과 메시지를 중국어에서 영어로 번역한 소규모 ChatGPT 계정 네트워크를 차단했습니다. 이 계정들은 중국어로 모델에 프롬프트를 입력했으며, 주로 중국 본토의 업무 시간대에 활동했습니다.

이들은 지정학을 다루는 세 단체, ‘포커스 렌즈 뉴스’, ‘브라이트웨이브 미디어 유럽’, ‘비저너리 어드바이저리 그룹’(VAG)의 직원이 보낸 것처럼 가장한 메시지를 생성했습니다. 또한 이 ChatGPT 계정들은 세 단체와 연계된 X 계정의 게시물 및 프로필 소개와 일치하는 텍스트를 생성했습니다. 위협 행위자들은 별도로 이 단체들이 정보 수집과 분석을 위한 위장 조직이라고 설명했습니다. OpenAI는 이 단체들의 이름을 바탕으로 이 작전을 ‘베이그 포커스(VAGue Focus)’라고 명명했습니다.

행동 양상

이 작전에서는 네 가지 주요 활동에 ChatGPT를 활용했습니다. 첫째, 이 계정들은 주로 은밀한 여론 공작의 일부로 보이는 온라인 가상 인물의 소셜 미디어 게시물과 프로필 소개를 생성하는 데 모델을 사용했습니다. 이 게시물들은 언론인과 지정학 분석가를 사칭하는 X 계정을 통해 배포되었습니다.

이 위협 행위자가 ChatGPT로 생성한 트윗. 이 행위자의 콘텐츠를 꾸준히 게시해 온 X 계정에 올라왔다.

이 위협 행위자가 ChatGPT로 생성한 트윗. 이 행위자의 콘텐츠를 꾸준히 게시해 온 X 계정에 올라왔다.

둘째, 이 계정들은 행정부 관료 지명과 관련해 미국 상원의원에게 보내는 서신을 다듬고 번역했습니다. 이 서신들이 실제로 발송되었는지는 독립적으로 확인할 수 없습니다.

셋째, 이 계정들은 컴퓨터 네트워크 공격 및 취약점 악용 도구에 관한 기초적인 질문을 여러 차례 했으며, 모델은 해당 도구의 용도와 기능에 대한 일반적인 설명만 제공했습니다. 이 질문들은 보고서 뒷부분에서 다루는 사이버 위협 행위자들의 질문만큼 정교하지 않았으며, 전문성이 낮음을 시사합니다.

마지막으로, 이 사용자들은 신원이 확인되지 않은 상대에게 접근해 궁극적으로 정보를 빼내려는 의도로 보이는 메시지를 중국어에서 영어로 번역해 달라고 정기적으로 요청했습니다. 이 메시지 중 일부는 소셜 미디어에서 언론인과 연구자에게 보내는 답글로 게시되었습니다. 다른 메시지들은 다이렉트 메시지 형태였으며 온라인 검색에서는 발견되지 않았습니다.

이 작전과 연계된 X 계정이 사전 교류가 없던 연구자에게 X에서 공개 메시지를 보내 접촉을 시도한 모습.

이 작전과 연계된 X 계정이 사전 교류가 없던 연구자에게 X에서 공개 메시지를 보내 접촉을 시도한 모습.

생성 결과

이 네트워크의 주된 목적은 유럽이나 튀르키예에서 활동하는 전문가를 사칭해 정보를 수집하는 것으로 보였습니다. 운영자들은 생성 후 온라인에 게시한 콘텐츠에서 ‘포커스 렌즈 뉴스’를 분석과 보도를 전문으로 하는 유럽 기반의 독립 단체라고 소개했습니다. 하지만 운영자들은 이러한 외형이 실제로는 정보 수집·분석·전파를 원활하게 하기 위한 위장이라고도 주장했습니다.

소셜 미디어 프로필 소개에 링크된 웹사이트에 따르면, 비저너리 어드바이저리 그룹은 튀르키예에 소재하며 전문적인 지정학 컨설팅 서비스를 제공합니다. 운영자들은 OpenAI 모델을 사용해 VAG 그룹이 미국의 경제·금융 정책에 관한 정보를 찾고 있으며 인터뷰 대가로 시간당 2,000달러를 지급할 의향이 있다는 안내문을 중국어에서 영어로 번역했습니다. 기밀 문서를 대가로 돈을 지급하겠다는 제안도 번역했습니다.

VAG 그룹 웹사이트는 튀르키예어와 영어 버전으로 제공되며, 영어 버전의 문의 페이지 메뉴에는 ‘문의’를 뜻하는 중국어 ‘聯絡’가 표시되어 있습니다. 이는 해당 도메인 전체에서 발견된 유일한 중국어 텍스트였습니다.

VAG 그룹의 문의 페이지 스크린샷. 드롭다운 메뉴에 ‘문의’를 뜻하는 중국어 ‘聯絡’가 보인다.

VAG 그룹의 문의 페이지 스크린샷. 드롭다운 메뉴에 ‘문의’를 뜻하는 중국어 ‘聯絡’가 보인다.

이 네트워크의 콘텐츠 중 일부는 더 광범위한 여론 공작을 위한 홍보 자료와 유사했습니다. 운영자들의 주장에 따르면, 이 작전에서는 머신러닝, 자연어 처리, 자동화된 데이터 스크래핑을 이용해 소셜 미디어에서 영향력 있는 인물과 주제를 파악했습니다. 다만 이 주장은 독립적으로 검증할 수 없습니다.

영향

이 활동과 연계된 소셜 미디어 계정들은 온라인에서 실제 사용자들의 유의미한 반응을 얻지 못했습니다. 포커스 렌즈 뉴스의 X 계정만 팔로워가 17,000명으로 상당한 규모였습니다. 그러나 이 계정은 2014년 11월에 다른 이름으로 생성되어 사흘간 트윗을 올린 뒤, 2024년 중반까지 활동이 없었습니다. 이는 탈취 후 다른 용도로 전용된 계정의 전형적인 양상이므로, 팔로워 수를 해석할 때 주의가 필요합니다.

여론 공작(IO)의 영향을 측정하는 확산 척도⁠(새 창에서 열기)를 적용하면, 이 작전의 공개 활동은 범주 2의 하위 수준으로 평가할 수 있습니다. 여러 플랫폼에서 활동했지만, 실제 사람들이 해당 콘텐츠에 관심을 보이거나 널리 공유했다는 증거는 거의 없습니다. 이 작전의 사회공학적 공격과 그 밖의 은밀한 활동이 미친 영향을 평가하기에는 확보된 증거가 부족합니다.