로맨스 미끼 사기: AI를 활용한 돼지 도살 사기 작업 흐름

이 사례 연구는 원래 OpenAI의 2025년 2월⁠(새 창에서 열기) 보고서에 게재되었습니다.

일본어, 중국어, 영어로 짧은 댓글을 번역하고 생성하던 ChatGPT 계정군을 차단했습니다. 이 활동은 캄보디아에서 시작된 것으로 보이며, 로맨스 및 투자 사기(일명 ‘돼지 도살’ 사기)의 양상과 일치했습니다. Meta는 최근 자사 플랫폼에서 관련 활동을 확인했습니다⁠(새 창에서 열기). 이 활동은 캄보디아에 새로 세워진 사기 단지에서 시작된 것으로 보였습니다.

이 네트워크는 OpenAI 모델을 사용해 짧은 댓글을 번역하고 생성했습니다. 행위자들이 주로 사용한 언어는 중국어였던 것으로 보입니다. 결과물은 여러 언어로 작성됐으며, 특히 일본어와 중국어가 많았지만 영어도 포함됐습니다.

행위자들은 OpenAI 모델을 주로 두 가지 활동에 사용했습니다. 첫째, Facebook, X, Instagram을 비롯한 소셜 미디어 플랫폼에 공개적으로 게시할 댓글을 생성했습니다. 각 소셜 미디어 계정에는 대개 젊은 여성의 프로필 사진이 하나 이상 있었습니다. 이 중 적어도 일부는 AI로 생성한 것이 아니라 실제 모델이나 인플루언서의 사진을 복사한 것으로 판단됩니다.

생성된 댓글은 대부분 실제 이용자의 소셜 미디어 게시물에 답글로 달렸습니다. 운영자들이 답글을 단 게시물 중에는 작성된 지 수개월 또는 수년이 지난 것도 있었습니다. 이 작전은 공개 프로필상 40세 이상으로 보이는 남성, 특히 의료계 종사자를 주로 노렸습니다. 골프 관련 게시물에 자주 답글을 단 점으로 볼 때, 의도적인 표적 선정 전략이 있었던 것으로 보입니다. 간혹 사기범들이 정치적 사안이나 시사 문제에 관한 글을 게시하기도 했습니다.

둘째, 더 빈번하게는 온라인 대화의 일부처럼 보이는 짧은 댓글을 생성했습니다. 일반적으로 중국어 댓글을 대상 언어인 일본어나 영어로 번역하거나, 대상 언어를 다시 중국어로 번역했습니다. 이는 사기범들이 진행 중인 대화를 번역하는 데 모델을 주로 사용했다는 분석과 일치합니다.

때로는 계정들이 모델에 젊은 여성의 유혹하는 말투처럼 특정한 어조로 답변을 생성해 달라고 요청했습니다. 모델의 답변을 유도하기 위해 가상 인물의 이름, 학력, 직업, 거주지, 취미 등 상세한 신상 정보를 제공하기도 했습니다. 이러한 신상 정보에는 대개 가상 인물이 온라인 투자를 조금씩 한다는 설정이 포함됐습니다.

사기범들은 표적과 접촉하기 위해 다양한 도구와 플랫폼을 대거 사용했던 것으로 보입니다. 조사 결과 LINE, WhatsApp, X, Facebook, Instagram, 기타 여러 메시징 서비스, Apple의 ‘나의 이메일 가리기’ 기능⁠(새 창에서 열기), 암호화폐 및 외환 거래 플랫폼 등을 사용한 증거가 확인됐습니다.

이 활동을 관찰할 수 있었던 제한된 범위를 바탕으로 볼 때, 사기범들은 표적과 접촉한 뒤 사기성 투자로 유도하기까지 대체로 다음과 같은 공통 작업 흐름을 따랐습니다.

1. 공개적 접촉: 사기범들은 표적의 소셜 미디어 게시물에 댓글을 달았습니다. 이런 댓글은 흔히 “[주제]에 대해 어떻게 생각하세요?” 같은 질문으로 끝났는데, 이는 상대의 반응을 이끌어낼 가능성을 높이려는 의도로 보입니다. 소수의 사례에서는 정치에 관해 댓글을 달았지만, 골프를 화제로 삼는 경우가 더 많았습니다.

2. 다이렉트 메시지로 추정되는 접촉: 이후 사기범들은 짧고 대화체로 된 댓글을 생성했습니다. 이 댓글들이 어디에서 어떻게 사용됐는지 모두 파악할 수는 없지만, 사기범과 표적이 다이렉트 메시지를 주고받기 시작한 상황과 일치했습니다.

3. 보안 메신저로 이동: 사기범들은 대개 며칠 안에 더 안전한 메시징 앱으로 옮기자고 제안하는 메시지를 생성했습니다. 때로는 소셜 미디어를 믿지 못한다는 이유를 댔고, 다른 때에는 곧 소셜 미디어를 이용할 수 없는 곳으로 가야 한다는 식의 상황적 핑계를 제시했습니다.

4. 연애 관계 형성: 사기범들은 갈수록 더 다정하고 친밀해지는 메시지를 작성하고 번역했습니다. 표적이 대화 중인 ‘여성’의 사진을 요구하면 사기범들은 핑계를 댔습니다.

5. 금전적 접근: 사기범들은 외환, 암호화폐 또는 금에 온라인으로 투자해 큰돈을 벌었다고 자랑하는 메시지를 작성하고 번역했습니다. 이는 흔히 금융업에 종사하는 친척의 조언을 따른 결과로 제시됐습니다. 사기범은 표적에게 같은 방식으로 투자를 시작하라고 재촉하며, 투자 과정을 안내해 주겠다고 제안했습니다.

6. 사기 실행: 사기범들은 피해자가 거래 앱으로 돈을 송금하도록 설득하는 메시지를 작성하고 번역했으며, 수익이 얼마나 큰지 강조하며 피해자를 부추겼습니다. 피해자가 ‘수익금’을 인출하려 할 때마다 사기범은 수수료를 내야 한다는 등의 핑계를 댔습니다.

이러한 활동 양상은 이 같은 사기의 일반적인 수법에 관한 공개 보도⁠(새 창에서 열기)와 일치합니다.

이 활동에는 시작 단계에서 중단되거나 실패한 사례가 많았던 것으로 보입니다. 사기범들이 OpenAI 모델로 처리한 대화 중 일부는 표적이 사기라고 지적하거나 더 이상 연락하지 말라고 하면서 끝났습니다. 또한 사기범들이 소셜 미디어에 게시했지만 아무 반응도 얻지 못한 글도 확인했습니다.

그러나 일부 대화에서는 개별 거래 규모로 수천 달러 또는 그에 상응하는 금액이 언급됐습니다. 이 운영자들이 OpenAI 모델을 사용한 방식상 실제로 금융 거래가 이루어졌는지는 파악할 수 없습니다. 다만 대화에서 언급된 내용은 적어도 일부 사례에서 사기범들이 표적을 속여 돈을 빼앗는 데 성공했음을 시사합니다.

OpenAI 정책은 OpenAI 도구의 결과물을 사기 행위에 사용하는 것을 엄격히 금지합니다. OpenAI는 AI가 적대적 행위에 어떻게 사용되는지 파악하고, 서비스를 악용하는 사기 활동을 적극적으로 차단하기 위해 업계 파트너 및 관계 당국과 협력하고 있습니다. 이러한 노력의 일환으로, OpenAI가 차단한 사기 네트워크에 관한 정보를 업계 파트너 및 관계 당국과 공유했습니다.