사이버 작전: 피싱 및 스크립팅 지원

이 사례 연구는 OpenAI의 2025년 10월⁠(새 창에서 열기) 보고서에 처음 게재되었습니다.

당사는 업계에서 UNK_DROPPITCH(Proofpoint)와 UTA0388(Volexity)로 추적하는 위협 그룹에 관한 공개 보고와 활동이 겹치는 ChatGPT 계정군을 식별해 차단했습니다. 적어도 한 사례에서는 ChatGPT 계정 등록에 사용된 이메일 주소가 피싱 메시지 전송에도 사용된 것으로 보고되었습니다.

이 계정들을 운영한 위협 행위자들은 중국어를 사용하고 대만의 반도체 부문, 미국 학계와 싱크탱크, 그리고 때로 ‘5대 독’으로 불리는 중국 공산당 비판 성향의 민족·정치 집단 관련 조직을 표적으로 삼았습니다. 이는 중국 정보기관의 요구에 부응하기 위해 수행되는 사이버 작전의 특징과 일치합니다.

당사 모델이 새로운 공격 역량을 제공한 것은 아닙니다. 운영자들은 주로 기존 워크플로의 효율을 조금씩 높이기 위해 당사 모델을 사용한 것으로 보이며, 특히 피싱 콘텐츠 작성과 도구의 디버깅 또는 수정에 활용했습니다.

행위자들은 ChatGPT를 주로 두 가지 작업에 사용했습니다. 하나는 중국어 간체와 번체, 영어, 일본어 등 여러 언어로 피싱 캠페인용 콘텐츠를 생성하는 것이고, 다른 하나는 도구와 멀웨어 개발을 지원받는 것이었습니다. 이들의 개발 작업은 기술적 역량은 있지만 정교하지는 않은 행위자의 특성과 일치했습니다. 예를 들어 C2 트래픽 보호에 AES를 사용할 때의 여러 측면과 세부 사항을 논의했지만, 여전히 단순한 정적 키를 사용했습니다.

피싱 콘텐츠 제작 방식은 상세하면서도 정형화되어 있었으며, 세밀하게 규정된 특정 인구 집단을 표적으로 삼는 양상과 일치했습니다. 일반적으로 학계, 업계 또는 학술대회 관계자를 가장해 간결하고 격식을 갖춘 정중한 이메일을 생성했습니다. 위협 행위자들은 어조를 조정하거나 지역 용례에 맞는 표현으로 바꾸고, 특정 기관을 언급해 달라고 자주 요청했습니다. 이처럼 세밀한 부분을 집중적으로 수정한 것은 초기 콘텐츠의 품질을 높이려는 조직적인 노력을 보여줍니다. 하지만 위협 행위자들은 서명란에 포함된 현실성 없는 연락처 예시처럼 정체를 드러낼 수 있는 일부 세부 사항을 바로잡지 못했습니다.

또한 일상적인 작업을 더 빠르게 처리할 수 있는 코드 조각과 체크리스트를 요청했습니다. 단순한 비콘 방식의 폴링에 사용할 암호화 전송(HTTPS, TLS)을 테스트하는 코드를 요청했고, 프로세스 열거, 실행 파일 이름을 기준으로 한 프로세스 종료, 환경 정보 수집을 위한 Go 및 PowerShell 코드 조각의 초안을 작성했습니다. 또한 범용 스캐너를 bash/PowerShell 래퍼에 연결했습니다.

아울러 모델에 함수 이름 변경, 헤더 조정, 문자열 숨기기 등 간단한 난독화와 운영 보안(OPSEC) 개선 방법을 제안해 달라고 요청했습니다. 여러 세션에 걸쳐 연결 유지 루프, HTTP(S)를 통한 최소한의 작업 지시, JSON 기반의 작업·결과 엔벌로프 등 성숙도가 낮거나 중간 수준인 멀웨어에서 볼 수 있는 기본적인 명령·제어 프로토타입 개발을 추진했습니다.

행위자가 Go를 기반으로 진행한 일부 개발 작업의 구현 세부 사항은 GOVERSHELL(Volexity) 또는 HealthKick(Proofpoint)으로 추적되는 멀웨어에 관한 업계 보고와 겹칩니다. 이는 이들이 주력 멀웨어 개발을 지원하기 위해 모델을 사용하려 했음을 시사합니다.

운영자들은 이러한 페르소나 구축과 도구 개발 외에도 DeepSeek를 통해 구현할 수 있는 추가 자동화 방안을 조사했습니다. 이 활동은 대규모 피싱을 자동화하기 위한 탐색 작업과 유사했습니다. 예를 들어 웹 콘텐츠를 분석해 이메일 표적 목록을 자동으로 만들고, 식별된 잠재 표적마다 관심을 가질 만한 콘텐츠를 생성하는 방식입니다. 행위자들이 실제로 이러한 자동화를 진행했는지, 진행했다면 최종적으로 어떤 모델을 사용했는지는 당사가 독립적으로 확인할 수 없습니다.

행위자들은 당사 모델을 사용해 암호화된 C2 구성 요소, 원격 명령 실행 워크플로, 문화적 특성에 맞춘 접촉 활동을 계획하고 반복적으로 개선하려 했습니다. 새로운 공격 역량보다는 속도와 현지화에 중점을 두었습니다. 이들은 다음과 같은 여러 작전 영역에서 당사 플랫폼 외부의 활동을 지원하려는 것으로 보이는 모델 출력을 생성했습니다.

• 암호화된 C2 및 원격 실행: AES-GCM과 같은 메시지 암호화, 세션 키 재설정, 시스템 정보 비콘, 표준 웹 프로토콜이나 WebSocket 기반 채널을 통해 PowerShell 명령을 내리는 서버 콘솔을 갖춘 Go 클라이언트·서버 코드의 작성 또는 수정을 요청했습니다.

• 트래픽 보호 및 OPSEC 조정: 일반 WebSocket에서 보안 WebSocket(wss://)으로, HTTP에서 HTTPS로 전환하기 위한 코드, 일부 테스트에서 인증서 검사 비활성화, CDN/TLS 프런트엔드를 통한 트래픽 위장, 클라이언트 충돌 없이 대용량 메시지를 처리하는 방법 등을 요청했습니다.

• 정찰 및 프로세스 제어: PowerShell을 통한 백신 탐지, 프로세스 열거와 관련된 정보, 특정 Edge/WebView2 프로세스를 종료하는 방법을 요청했습니다.

• 범용 스캔 환경 설정: 상용 Linux 인프라에 nuclei, fscan 등의 오픈 소스 도구를 설치하고 사용하는 방법과 나중에 검토할 수 있도록 결과를 저장하는 방법을 안내해 달라고 요청했습니다.

• 피싱 및 접촉 콘텐츠: 현지 관행에 맞게 제목과 문체를 조정한 설득력 있는 이메일을 여러 언어로 작성해 학계 또는 업계 관계자에게 보내려 했습니다.

이러한 활동은 LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery, LLM-Assisted Social Engineering을 비롯한 LLM ATT&CK 범주에 해당합니다.

당사는 이 활동과 관련된 모든 계정을 비활성화하고 관련 지표를 업계 파트너와 공유했습니다. 행위자들은 즉시 발송할 수 있는 피싱 이메일을 만들고 일상적인 코드 및 자동화 작업의 반복 개선 주기를 단축하는 등, 기존 워크플로의 효율을 점진적으로 높이는 데 주력했습니다. 모델 출력이 공개적으로 잘 알려진 기법을 넘어서는 역량을 제공했다는 증거는 발견되지 않았습니다. 당사 모델이 새로운 공격 역량을 제공한 것은 아닙니다. 모델의 도움으로 얻고자 한 작전상의 이점은 언어 구사력, 현지화, 끈기에서 비롯되었습니다. 언어 오류를 줄이고 연결용 코드를 더 빠르게 작성하며, 문제가 발생했을 때 신속히 수정할 수 있었을 것으로 보입니다.