‘거짓 증인’ 작전: 당국을 사칭한 가짜 피해금 회수 서비스

이 사례 연구는 OpenAI가 2026년 2월⁠(새 창에서 열기)에 발행한 AI 악용 차단 보고서에 처음 게재되었습니다.

OpenAI는 자사 모델을 이용해 가상의 법률 사무소로 행세하고 실제 변호사와 미국 법 집행 기관을 사칭한 일련의 ChatGPT 계정들을 차단했습니다. 이 계정들은 사기 피해자를 대상으로 피해금 회수를 빙자한 사기를 벌였습니다. 이 활동은 캄보디아에서 시작되었을 가능성이 매우 높으며, 중국인이 주도하는 현지 범죄 조직의 사기 활동에 관한 최근 공개 보도와도 부합합니다.

이 계정들은 가짜 법률 사무소를 내세우고 실제 변호사나 FBI 인터넷범죄신고센터(IC3) 등 신뢰받는 인물과 기관을 사칭하며 피해금 회수를 빙자한 사기를 벌이는 데 ChatGPT를 활용했습니다.

1. 접근: 사기범들은 ChatGPT를 사용해 최소 6곳의 가짜 법률 사무소에서 작성한 것처럼 꾸민 콘텐츠를 만들었습니다. 이 콘텐츠 중 일부는 가상의 피해금 회수 서비스를 홍보하는 소셜 미디어 계정과 온라인 광고에 게시되었습니다. 공개 자료에서 확인된 여러 정황은 이 법률 사무소들이 가짜임을 시사했습니다. 주 변호사 자격을 입증할 자료가 없었고, 사무소와 어울리지 않는 웹 도메인을 사용했으며, 연락처에 실재하지 않는 것으로 보이는 주소를 기재하고, 메신저 앱으로 변호사에게 연락하도록 안내했습니다.

2. 신뢰 확보: 사기범들은 사기 피해자의 금전적 손실 회복을 돕는 전문 변호사의 말투와 전문성을 흉내 낸 댓글을 생성해 대상자의 신뢰를 얻으려 했습니다. 이들은 가상의 변호사들이 작성한 것처럼 꾸민 콘텐츠를 생성했습니다. OpenAI는 여러 웹사이트에서 이러한 가상 인물 중 일부를 확인했습니다. 이들의 프로필 사진은 소셜 미디어에서 도용했거나 AI로 생성한 것으로 보였습니다. 여러 법률 사무소를 사칭하면서 동일한 ‘변호사’ 신원을 재사용한 사례도 있었습니다. 확인된 웹사이트 중 하나는 IC3를 사칭했습니다.

이러한 사기 웹사이트 여러 곳에 게시된 연락처는 방문자를 Telegram 같은 비공개 메신저 앱으로 유도했습니다. 사기범들은 ChatGPT로 작성해 대상자에게 보낸 메시지에서 국제형사재판소의 감독하에 활동한다고 거짓으로 주장했으며, 피해자의 자금을 모두 회수하기 전에는 수수료를 청구하지 않겠다고 말했습니다.

3. 금전 편취: 사기범들은 어떠한 ‘회수’도 이루어지기 전에 수수료와 예치금을 요구해 대상자에게서 돈을 뜯어내려 했습니다. 여기에는 회수했다고 주장하는 자금을 받기 전에 15%의 ‘서비스 수수료’를 내도록 안내하거나, 계정 활성화를 위한 예치금을 요구하거나, ‘상담료’를 청구하는 행위가 포함되었습니다. 사기범들이 ChatGPT로 작성해 대상자에게 보낸 메시지에는 암호화폐로 대금을 송금하고, 결제 증빙으로 거래 확인 화면의 스크린샷을 제출하라는 지시가 포함되어 있었습니다.

이 조직은 소셜 미디어용 홍보 콘텐츠와 사전 접촉이 없는 대상자에게 보낼 메시지를 생성하는 등 활동의 여러 단계에서 OpenAI 모델을 활용했습니다. 다만 사기범들이 ChatGPT를 가장 많이 사용한 용도는 비공개 메신저 앱에서 대상자와 주고받는 메시지의 번역이었습니다. 여기에는 ‘미국식 영어’나 변호사 문체로 답장을 작성해 달라는 요청도 포함되었습니다.

일부 사기 계정은 신뢰도를 높이기 위한 허위 자료를 만드는 데에도 OpenAI 모델을 사용했습니다. 여기에는 위조된 변호사 등록 기록과 변호사협회 회원증, 피해자가 외부에 도움을 요청하지 못하도록 하기 위한 가짜 비밀유지계약서 등이 포함되었습니다.

주요 근거가 사기범들이 직접 입력한 내용이므로, 영향을 평가할 때는 신중해야 합니다. 이 입력 내용은 사기범들이 개별 피해자에게서 수천 달러를 편취했을 가능성을 시사하지만, OpenAI는 이러한 주장을 독립적으로 검증할 수 없습니다. FBI와 사칭 피해를 입은 법률 사무소 중 최소 한 곳은 이 사기에 대해 공개 경보를 발령했습니다. FBI 관계자들은 이 조직이 사기 피해자의 심리 상태와 잃어버린 자금을 빨리 되찾으려는 마음을 악용해 취약계층, 특히 고령층을 노린다고 경고했습니다.

OpenAI 정책은 자사 도구의 출력을 사기 행위에 사용하는 것을 엄격히 금지합니다. 또한 OpenAI는 업계 및 당국과 협력해 AI가 악의적 행위자의 행동에 미치는 영향을 파악하고, 자사 서비스를 악용하는 사기 활동을 적극적으로 차단하는 데 힘쓰고 있습니다.