로맨스 사기: AI를 활용한 로맨스 사기의 진행 과정
OpenAI는 최초 접촉, 번역, 피해자와의 소통, 투자 사기 유인 등 로맨스 사기의 여러 단계에 AI를 활용한 계정들을 차단했습니다.
이 사례 연구는 OpenAI가 2026년 2월(새 창에서 열기)에 발간한 AI 악용 차단 보고서에 처음 실렸습니다.
OpenAI는 1년 전(새 창에서 열기) 자사 모델을 악용하려는 사기 조직에 대한 차단 활동을 보고하기 시작한 이래, 세계 여러 지역에서 벌어진 수많은 사기 활동을 차단했습니다. 여기에는 간단한 작업으로 얻었다는 가상의 수익금을 받으려면 먼저 돈을 내야 한다고 속이는 ‘작업형’ 사기와, 실체가 없는 투자 회사에 돈을 넣도록 유도하는 투자 사기가 포함됩니다.
AI가 등장하기 훨씬 전부터 흔히 벌어지던 사기 유형 중 하나가 로맨스 사기입니다. 사기범은 연인이 될 사람인 척하며 상대가 진정한 사랑을 만났다고 믿게 한 뒤, 점점 더 많은 돈을 요구합니다. OpenAI가 처음 공개한 사기 차단 사례는 캄보디아에서 활동을 막 시작한 범죄 조직에 관한 것이었습니다. 이 조직은 ChatGPT로 로맨스 사기 메시지를 생성했으며, 그중 일부는 소셜 미디어에 유포되었습니다. 이후에도 OpenAI는 다양한 로맨스 사기 시도를 차단했습니다. 6월(새 창에서 열기) 보고서에서 설명했듯, 이러한 사기와 다른 유형의 사기는 AI 활용 방식에서 공통된 패턴을 보이는 경향이 있습니다. OpenAI는 이를 접촉(낯선 상대에게 접근), 감정 자극(감정 유발), 금전 편취(돈 갈취)라는 세 단계로 구분합니다.
접촉(낯선 상대에게 접근): 사기범은 잠재적 표적의 관심사를 공략해 주의를 끌기 위한 콘텐츠를 생성합니다. 예를 들어, 지난해 보고한 ‘돼지 도살’ 사기는 의료계에 종사하는 미국의 40대 남성을 자주 표적으로 삼았으며, 이들이 소셜 미디어에 올린 골프 관련 게시물에 답글을 다는 방식으로 접근했습니다. 다른 사기 조직은 모르는 사람에게 보내는 SMS나 가짜 채용 메시지를 이용했고, 아래에서 설명할 가장 최근의 로맨스 사기 사례에서는 소셜 미디어 광고를 이용했습니다. 각 사례에서 위협 행위자들은 기존 사기 메시지보다 관심을 끌고 비원어민이 쓴 티가 덜 날 만한 메시지를 생성하는 데 ChatGPT를 사용했습니다.
2025년에 보고한 ‘돼지 도살’ 사기 조직이 골프를 화제로 접근한 메시지. 사기 활동과 무관한 사용자의 Facebook 게시물에 답글로 작성했습니다.
감정 자극(감정 유발): 사기범은 표적에게 강한 감정을 불러일으켜 더 쉽게 조종할 수 있도록 콘텐츠를 생성합니다. 로맨스 사기는 표적이 사기범에게 호감을 느끼도록 유도합니다. 다른 사기는 큰 수익을 올릴 수 있는 거래에 기대를 품게 하거나, 기회를 놓칠까 봐 두려워하게 하거나, 법적 문제나 미납 요금이 있다는 주장으로 불안감을 조성하기도 합니다. 때로는 최초 접촉 메시지에 감정을 자극하는 내용이 함께 담기기도 합니다.
2025년 6월에 적발한 ‘잘못 건 번호’ 사기 조직이 모르는 상대에게 보낸 SMS. ‘감정 자극’ 효과를 노린 것으로 보이며, 적은 노력으로도 믿기 어려울 만큼 높은 수익을 얻을 수 있다는 내용이 담겨 있습니다.
금전 편취(돈 갈취): 사기범은 표적이 돈을 건네도록 설득하는 콘텐츠를 생성합니다. 돈을 요구하는 명분은 매우 다양합니다. 예를 들어, 로맨스 사기는 연인의 사업에 투자하거나 연인이 겪는 경제적 위기를 해결할 돈을 보내 달라고 요구할 수 있습니다. ‘작업형’ 사기는 표적이 자신이 벌었다고 믿는 가상의 수익금을 받으려면 먼저 돈을 입금해야 한다고 말합니다. 투자 사기는 실체가 없는 투자 상품에 돈을 넣으라고 요구합니다.
2025년 6월에 적발한 ‘잘못 건 번호’ 사기 조직이 모르는 상대에게 보낸 SMS. ‘감정 자극’ 효과를 노린 것으로 보이며, 적은 노력으로도 믿기 어려울 만큼 높은 수익을 얻을 수 있다는 내용이 담겨 있습니다.
이러한 흐름에서 알 수 있듯, 사기에서 필수적인 요소는 메시지 유통망입니다. OpenAI가 적발한 여러 사기 조직은 SMS, 암호화 메시징 앱, 소셜 미디어 게시물, 온라인 광고를 이용하거나 이 모든 수단을 조합해 최초 접촉 메시지를 보냈습니다. AI 이전 시대의 사기는 이메일(새 창에서 열기)과 전화(새 창에서 열기)를 악용한 것으로 악명 높으며, 19세기에는 편지(새 창에서 열기)와 전보(새 창에서 열기)까지 이용했습니다. 많은 사기가 불특정 다수에게 무차별적으로 메시지를 뿌리는 방식을 취하지만, 일부는 표적을 정밀하게 겨냥하는 것으로 보입니다. 예를 들어, 2025년 2월에 보고한(새 창에서 열기) ‘돼지 도살’ 사기는 골프 같은 주제에 집중했습니다. 또 다른 로맨스 사기는 소셜 미디어 광고로 인도네시아의 젊은 남성을 노렸습니다. 유명인 사칭 사기(새 창에서 열기)는 대개 유명인인 척하며 해당 인물의 팬 그룹을 표적으로 삼습니다. 증거가 단편적이어서 OpenAI가 차단한 여러 사기를 신뢰성 있게 비교하기는 어렵습니다. 다만 각 조직이 여러 기능에 AI를 얼마나 활용했는지와 관계없이, 사기 조직이 선택한 메시지 유통 방식(예: 무차별 유포 또는 표적 접근)이 표적에게 접근해 피해를 입히는 데 성공할 가능성을 크게 좌우한다고 평가합니다.
