소개
올해 초, OpenAI는 ChatGPT를 이용해 투자, 연애, 도박 및 수사기관 사칭 사기를 지원한 캄보디아 기반 사기 조직의 활동을 차단했습니다. WhatsApp의 동료들이 제공한 제보를 계기로 이 활동을 조사하기 시작했으며, 이후 업계 파트너 및 관계 당국과 추가 위협 지표를 공유했습니다.
이 조직은 현대 사기 네트워크의 중요한 현실을 보여 줍니다. 조직범죄 집단은 좀처럼 한 가지 유형의 사기에만 국한되지 않습니다. 대신 피해자를 속이는 데 가장 효과적이라고 판단되는 이야기, 가상 인물, 수법을 기회에 따라 활용합니다. OpenAI는 조사 과정에서 행위자들이 여러 사기 유형을 오가거나 하나의 조직에서 여러 사기 수법을 결합하는 사례를 꾸준히 확인하고 있습니다.
네트워크의 일부 사용자는 인신매매 및 강제 범죄 가담과의 연관성을 시사하는 콘텐츠도 생성했습니다. 이러한 관찰 결과는 합법적인 일자리를 약속해 노동자를 모집한 뒤 채무 예속과 강압 체계에 가두는 동남아시아 조직범죄 집단을 다룬 광범위한 공개 보도(새 창에서 열기)와 보고서(새 창에서 열기)에 부합합니다. 관련된 모든 개인의 상황을 독립적으로 파악할 수는 없지만, 이 활동은 사기를 실행하는 사람들 역시 착취의 피해자일 수 있음을 일깨워 줍니다.
행위자
OpenAI는 캄보디아에서 시작되었을 가능성이 매우 높고 반테아이메안체이주의 도시 포이펫 또는 그 인근에서 활동한 것으로 보이는 ChatGPT 계정 네트워크를 차단했습니다. 포이펫은 공개 보도에서(새 창에서 열기) 온라인 사기 단지 및 인신매매 조직과 여러 차례(새 창에서 열기) 연관된 것으로 지목된(새 창에서 열기) 곳입니다.
이 네트워크는 OpenAI 모델을 이용해 가짜 온라인 인물을 만들고 운영했으며, 사기 대상에게 보낼 메시지를 생성·번역하고, 사기 수법을 홍보할 콘텐츠를 제작하고, 일상적인 운영 업무를 처리했습니다.
OpenAI가 차단한 과거(새 창에서 열기) 사기 네트워크와 마찬가지로, 일부 사용자는 내부 공지 작성, 직원 간 메시지 번역, 채용·체류 자격·근무 조건·직원 징계와 관련된 것으로 보이는 사안의 기록 등 행정 업무에도 ChatGPT를 사용했습니다.
행동
이 네트워크는 여러 유형의 사기를 동시에 벌였으며, 서로 다른 수법의 요소를 혼합하는 경우가 많았습니다. 예를 들어 운영자들은 데이팅 앱의 가짜 인물로 신뢰를 쌓은 뒤 암호화폐와 금 현물 거래를 이용한 허위 투자 기회를 제안했습니다. 다른 사용자들은 가짜 신원으로 대상과 장기간 연애 대화를 나누거나, 허위 보너스와 당첨금을 제공하는 온라인 도박 플랫폼 관계자로 가장하거나, 수사기관을 사칭해 중범죄를 저질렀으므로 벌금을 내야 한다고 속였습니다.
이야기의 내용은 달랐지만 네트워크 전반의 사용자들은 일관되게 동일한 기만 행동 패턴을 보였습니다. 예를 들어 가짜 데이팅 프로필과 허구의 투자 전문가, 수사기관을 사칭한 가상 인물을 만들어 운영했습니다. 여권, 법적 고지서, 주식 매수 확인서, 도박 플랫폼 인터페이스 등 위조 문서 이미지도 생성했습니다.
OpenAI가 앞선(새 창에서 열기) 여러(새 창에서 열기) 보고서(새 창에서 열기)에서 강조했듯이, 사기범들은 대상과 접촉할 때 공통적인 패턴을 따랐습니다. OpenAI는 이를 핑(접근), 징(감정 유발), 스팅(금전 탈취)이라고 부릅니다.
핑: 네트워크는 ChatGPT를 이용해 WhatsApp, Telegram 같은 메시징 플랫폼에서 대상과 나눌 대화를 번역하고 생성했습니다. 사기범들은 가짜 인물을 뒷받침하기 위해 소셜 미디어 콘텐츠를 만들고 데이팅 프로필 자료도 조사했습니다.
징: 사기 메시지는 감정적 압박과 신뢰 형성 기법에 자주 의존했습니다. 확정 수익과 ‘위험 부담 없는’ 투자를 약속하거나, 연애 감정을 자극하는 표현을 쓰거나, 대화를 비밀로 유지하라고 지시하거나, 가상의 보너스가 만료되기 전에 서둘러 행동하라고 요구하는 사례가 있었습니다.
스팅: 사기범들은 피해자에게 보상을 받으려면 돈을 입금하고, 활성화 수수료를 내고, 허위 벌금을 납부해야 한다고 지시한 뒤 결제 증빙으로 송금 화면이나 계좌 정보를 제공하도록 했습니다.
조직 내 사기범이 ChatGPT를 이용해 제작한 가짜 암호화폐 거래 인터페이스.
조직 내 사기범이 허위 투자 사기를 홍보하기 위해 제작한 AI 생성 이미지.
인신매매 징후
일부 사용자는 사기뿐 아니라 인신매매나 강제 노동처럼 OpenAI가 탐지하고 차단하는 다른 정책 위반 활동에 관여했음을 시사하는 콘텐츠도 생성했습니다. 여기에는 항공편, 숙소, 식사, 비자, 취업 허가를 제공한다고 약속하는 포이펫의 ‘채팅 상담원’ 구인 광고를 소셜 미디어용으로 제작하는 활동도 포함됐습니다.
다른 활동은 조직 내부 노동자 관리와 관련된 것으로 보였습니다. 사용자들은 직원의 채무, 급여 공제, 징계 벌금, 대출 상환 내역을 관리했으며, 체류 자격, 취업 허가, 비자 기한 초과 체류, 채용 장려금에 관한 논의를 번역했습니다.
일부 대화에서는 인신매매를 당해 사기 조직에서 강제로 일한 사람들의 구금 정황, 탈출 시도, 잠재적 형사 책임도 언급됐습니다. 이러한 대화만으로 특정 개인의 상황을 파악할 수는 없지만, 동남아시아 조직범죄 집단의 활동을 다룬 광범위한 공개 보도(새 창에서 열기)와 보고서(새 창에서 열기)에 부합합니다.
조직 내 사기범들이 소셜 미디어에서 캄보디아의 일자리를 홍보하기 위해 제작한 AI 생성 이미지. OpenAI가 일부 내용을 가렸습니다.
영향
OpenAI는 이 조직과 관련된 ChatGPT 계정을 차단하고, 업계 파트너 및 관계 당국과 관련 지표를 공유했으며, 이들이 OpenAI 제품과 서비스에 다시 접근하기 어렵도록 조치했습니다.
이 네트워크와 관련된 금전 피해의 전체 규모는 알 수 없지만, 사기범들의 대화에 따르면 이 조직은 여러 유형의 사기를 통해 수백 명의 대상과 접촉했을 수 있습니다. 사용자 대화에는 피해자 개인이 수천 달러를 잃었다는 내용이 있었지만, OpenAI는 이러한 주장을 독립적으로 확인할 수 없습니다.
더 넓게 보면, 이 사례는 두 가지 추세를 다시 확인해 줍니다. 첫째, 조직적인 사기 네트워크는 한 가지 사기 유형에 국한되지 않고 여러 사기 수법을 동시에 운영하는 등 고도로 다각화될 수 있습니다. 둘째, 온라인 사기와 조직범죄, 인신매매의 경계는 흔히 모호합니다. 따라서 효과적인 차단을 위해서는 피해자를 직접 겨냥한 사기 활동뿐 아니라 이를 조직하고 수익을 얻는 범죄 조직까지 대상으로 삼아야 합니다.