이 사례 연구는 OpenAI의 2025년 6월(새 창에서 열기) 보고서에 처음 게재되었습니다.
행위자
OpenAI는 영어, 스페인어, 스와힐리어, 르완다어, 독일어, 아이티 크리올어로 짧은 구인형 메시지를 생성한 ChatGPT 계정을 차단했습니다. 이 메시지들은 소셜 미디어 게시물에 ‘좋아요’를 누르는 것과 같은 간단한 과업에 높은 보수를 제안하고, 수신자에게 다른 사람도 모집하라고 권유했습니다. 이 작전은 고도로 중앙집중화된 것으로 보였으며, 캄보디아에서 시작됐을 가능성이 큽니다.
OpenAI는 AI 기반 번역 도구를 활용해 이 캠페인의 OpenAI 서비스 사용을 신속히 조사하고 차단할 수 있었습니다.
행태
이 네트워크가 남긴 요청의 대부분은 번역 작업이었습니다. 이들은 ChatGPT를 사용해 중국어와 여러 언어 간의 대화문을 번역했으며, 특히 영어, 스페인어, 르완다어, 스와힐리어, 독일어, 아이티 크리올어가 많았습니다. 일반적으로 수신 메시지를 중국어로 번역한 뒤, 중국어로 작성한 답변을 다시 원래 언어로 번역하는 작업이 번갈아 이뤄졌습니다.
이 메시지 중 일부는 적은 일에 높은 시급을 제안하는 무작위 구인 광고와 유사했습니다. 그러한 메시지 하나가 영국 휴대전화 번호로 보이는 무작위 번호들에 SMS로 전송됐으며, 그중 하나는 OpenAI 조사관의 번호였습니다. OpenAI는 최초 SMS에서 착안해 이 작전을 ‘잘못된 번호’라고 명명했습니다.
OpenAI 조사관에게 무작위로 전송된 ChatGPT 생성 SMS.
위협 행위자들은 여러 메시징 플랫폼을 이용한 것으로 보입니다. 최초 SMS는 수신자가 WhatsApp으로 연락하도록 유도했고, 답장을 보낸 사람은 이후 Telegram의 ‘멘토’에게 연결됐습니다. 일부 활동에서는 BonChat 메시징 앱도 언급됐습니다. 이러한 채널에서 초기에 전송된 소개 메시지는 OpenAI 모델로 생성된 것으로 보이지 않았습니다. 이는 어느 대화에나 적용할 수 있는 상투적인 메시지였습니다.
SMS에 이어 전송된 WhatsApp 메시지. 이 메시지는 OpenAI 모델로 생성된 것으로 보이지 않는다.
번역 작업 중 상당수는 이른바 ‘고용주’ 회사의 담당자가 보낸 것처럼 꾸민 메시지였습니다. 이번 조사 대상에 포함된 수많은 ChatGPT 대화에서 동일한 회사 이름이 반복적으로 등장했습니다. 여기에는 Hyesung Advertising(새 창에서 열기)과 Lightning Shared Scooter Co(LSSC)(새 창에서 열기)가 포함됐습니다. 공개 보고에서는 Hyesung과 LSSC가 과업 사기 조직으로 지목됐습니다. OpenAI가 이들 업체의 실체를 독립적으로 확인한 것은 아니지만, 조사 결과 이들이 보낸 것으로 알려진 메시지는 캄보디아에서 활동하는 것으로 추정되는 중국어 사용자들이 ChatGPT로 생성한 것으로 나타났습니다.
생성 결과
이 네트워크가 대리한다고 주장한 회사들은 주식 거래부터 스쿠터 대여, 소셜 미디어 ‘좋아요’ 판매에 이르기까지 다양한 업종에 걸쳐 있었습니다. 명백한 위험 신호 중 하나는 TikTok ‘좋아요’ 한 번에 5달러 넘게 지급한다는 제안이었습니다. 반면 OpenAI가 온라인 마켓플레이스를 직접 검토한 결과, 일부 판매자는 ‘좋아요’ 1,000개를 10달러 미만에 판매하고 있었습니다.
OpenAI는 외부 플랫폼의 지표와 내부 관찰 결과를 종합해 반복되는 작업 흐름 패턴을 파악했습니다. 이 수법에 대한 이해를 넓히고 쉽게 분류할 수 있도록, OpenAI는 이 패턴을 연락(무작위 접촉), 유혹(기대감 조성), 갈취(금전 탈취)의 세 단계로 설명합니다.
연락(무작위 접촉): 네트워크는 불특정 다수에게 접근하기 위한 콘텐츠를 생성하며, 일반적으로 적은 일에 비정상적으로 높은 임금을 제시하거나 주식시장 투자로 높은 수익을 낼 수 있다고 약속합니다. 소셜 미디어 게시물에 ‘좋아요’를 누르는 것과 같은 간단한 과업에 높은 보수를 지급하거나 수익성 높은 투자 기회를 제공한다는 제안이 포함됩니다.
유혹(기대감 조성): 네트워크는 Operator와 그 ‘직원’ 사이에서 오간 것으로 추정되는 대화를 번역합니다. 여기에는 과업 수행에 필요한 세부 정보가 담기지만, 수입과 보너스 가능성을 강조하는 동기 부여 메시지도 자주 섞여 있습니다.
갈취(금전 탈취): 네트워크는 더 큰 보상을 받으려면 돈을 내야 한다며 ‘직원’이나 ‘투자자’를 압박하는 콘텐츠를 생성하거나 전송합니다. 그 방식은 최초 ‘보증금’, 암호화폐 구매, ‘처리 수수료’ 등 다양합니다.
이 네트워크가 ChatGPT로 생성해 배포한 무작위 구인 메시지의 예. 수신자의 연락처에 없는 전화번호 8개로 동시에 전송됐으며, 수신자 한 명은 즉시 그룹에서 나갔다.
네트워크가 잠재적 피해자에게 보낸 Telegram 메시지. 20파운드 상당의 암호화폐를 구매해 신원이 밝혀지지 않은 판매자에게 송금하라고 지시한다.
공개 보고(새 창에서 열기)에 따르면, 일부 업체는 신규 모집자에게 상당한 가입비를 받은 뒤 그중 일부를 기존 ‘직원’의 참여를 유지할 만큼만 지급하는 방식으로 운영됐습니다. 이는 과업 사기(새 창에서 열기)의 전형적인 구조입니다.
영향
OpenAI가 파악할 수 있는 범위가 제한적이어서 이 네트워크의 실제 규모를 수치화하기는 어렵습니다. 하지만 외부 플랫폼의 보고(새 창에서 열기)와 ‘직원’들이 환불을 요구한 대화를 보면, 적어도 일부는 이들 고용주를 사칭한 업체에 돈을 지급한 것으로 보입니다. 또한 실제 사용자들이 소셜 미디어에서 해당 회사들을 옹호하는 모습도 확인돼, 현실에서 어느 정도 참여가 이뤄졌음을 시사했습니다.