사이버 작전: 러시아어권 멀웨어 도구 개발
OpenAI는 AI를 사용해 멀웨어 로더, 회피 계층, 자격 증명 탈취 스크립트, C2 인프라를 구축한 러시아어권 범죄 집단 연계 추정 계정을 차단했습니다.
이 사례 연구는 원래 OpenAI의 2025년 10월(새 창에서 열기) 보고서에 게재되었습니다.
행위자
원격 액세스 트로이 목마, 자격 증명 탈취 도구, 탐지 회피 기능 등 멀웨어의 개발과 개선에 모델을 활용하려 한 ChatGPT 계정을 차단했습니다. 이 계정들은 러시아어권 범죄 집단과 연계된 것으로 보입니다. 해당 행위자들이 이용하는 Telegram 채널에 자신들의 활동 증거를 게시한 사실이 관찰됐기 때문입니다. 조사 결과, 이 활동은 여러 계정을 관리하며 프록시와 단기 호스팅 인프라를 활용하는 러시아어권 Operator와 연계된 것으로 판단됩니다.
행태
이 위협 행위자는 여러 ChatGPT 계정을 사용해 주로 침해 후 활동과 자격 증명 탈취를 지원하는 기술 구성 요소의 프로토타입을 만들고 문제를 해결했습니다. 이는 이러한 유형의 위협 행위자에게서 잘 알려진 활동입니다. 모델은 악성 콘텐츠를 생성하라는 직접적인 요청을 거부했습니다. 이에 따라 Operator는 주로 컴파일된 실행 파일을 셸코드로 변환하거나, 메모리 내 로더를 설계하거나, 브라우저 자격 증명을 파싱하는 등 구성 요소 코드를 모델에서 얻어낸 뒤 이를 악성 워크플로로 조합한 것으로 보입니다.
이 위협 행위자는 패딩 명령과 정크 시퀀스 삽입, 클립보드 모니터링, Telegram 봇 업로더와 압축·전송 스크립트 같은 간단한 유출 보조 도구 등 난독화 및 ‘크립터’ 패턴을 위한 코드를 생성하는 데에도 모델을 사용했습니다. 이러한 출력물은 위협 행위자가 OpenAI 플랫폼 외부에서 악의적으로 사용하지 않는 한 그 자체로 악성은 아닙니다.
이 위협 행위자는 주로 저수준 PE / Win32 API, DPAPI / AES GCM 쿠키 처리, Chrome DevTools / CDP 자동화와 같은 기술 작업에 ChatGPT를 사용했습니다. 이 위협 행위자는 고도화 수준이 높고 낮은 요청을 섞어 제출했습니다. 많은 프롬프트에는 Windows 플랫폼에 관한 깊이 있는 지식과 반복적인 디버깅이 필요했지만, 대량 비밀번호 생성이나 스크립트를 이용한 입사 지원처럼 흔한 작업을 자동화하는 요청도 있었습니다. Operator는 소수의 ChatGPT 계정을 사용해 여러 대화에 걸쳐 같은 코드를 반복적으로 수정했습니다. 이는 일회성 테스트가 아니라 지속적인 개발에서 나타나는 패턴입니다.
수행 결과
OpenAI의 모델이 위협 행위자의 도구나 워크플로를 실행하는 데 사용되지는 않았으며, OpenAI는 플랫폼 외부의 활동을 독립적으로 확인할 수 없습니다. 이 위협 행위자는 자격 증명과 암호화폐 자산 탈취, 은밀한 코드 실행, 비밀 인프라 관리를 지원하는 것으로 보이는 공격용 도구와 운영 워크플로를 개발하고 개선하는 데 모델을 사용하려 했습니다.
구체적으로 이들은 ChatGPT를 사용해 메모리 내 실행 및 셸코드 로더, UAC / SmartScreen / Mark-of-the-Web 우회, 브라우저 자격 증명 / 쿠키 추출 및 앱 바인딩 복호화용 기반 코드, LevelDB 지갑 파싱과 데이터 유출 기능이 있는 클립보드 가로채기 / 교체 도구, 영상 및 입력 에뮬레이션을 포함한 원격 액세스 트로이 목마(RAT) 구성 요소를 위한 실제 작동 코드와 배포 지침을 생성하고 반복적으로 개선했습니다. OpenAI의 모델은 안전장치에 따라 명백히 악의적이고 합법적인 용도가 없는 요청을 거부했습니다.
이러한 활동의 대표적인 사례는 다음과 같이 LLM ATT&CK 프레임워크에 대응시킬 수 있습니다.
활동 | LLM ATT&CK 프레임워크 범주 |
|---|---|
EXE를 위치 독립적 셸코드로 변환, 메모리 내 로더(VirtualAlloc / WriteProcessMemory / 원격 스레드) 구축, 로더 도구 체인을 위한 프로그래밍 언어 변환. | LLM 최적화 페이로드 제작 |
PE 시그니처를 변경하거나 AV/EDR에서 페이로드를 숨기기 위해 설계된 것으로 보이는 난독화 / 패커 계층, 크립터 및 기법 삽입. | LLM 강화 이상 탐지 회피 |
브라우저 자격 증명과 쿠키 추출 / 복호화, 지갑 LevelDB 파싱, 클립보드 내용 모니터링 또는 교체, Telegram 같은 봇 채널을 통한 데이터 유출을 위해 설계된 것으로 보이는 스크립트와 프로그램 코드 생성. | LLM 지원 침해 후 활동 |
리버스 프록시, SOCKS5 / OpenVPN 구성, 원격 데스크톱 터널링, 원격 스트리밍 및 입력 에뮬레이션을 위한 디버깅 / 배포 지침을 포함한 C2 및 터널링 인프라의 구축과 개선. | LLM 기반 인프라 프로파일링 |
영향
이 활동과 관련된 모든 계정을 비활성화하고 관련 침해 지표를 업계 파트너와 공유했습니다. 모델에 대한 접근으로 이 행위자들이 여러 공개 자료를 통해서는 얻을 수 없었던 새로운 역량이나 방식을 확보했다는 증거는 발견되지 않았습니다. OpenAI의 모델은 익스플로잇과 키로거를 직접 요청하는 시도를 거부했습니다.