‘스코프크리프(ScopeCreep)’ 작전: 러시아어 사용자의 악성코드 개발

이 사례 연구는 OpenAI의 2025년 6월⁠(새 창에서 열기) 보고서에 처음 게재되었습니다.

OpenAI는 러시아어를 사용하는 위협 행위자가 운영하는 것으로 보이는 ChatGPT 계정군을 차단했습니다. 이 행위자는 OpenAI 모델의 도움을 받아 Windows 악성코드를 개발·개선하고, 여러 언어로 작성된 코드를 디버깅하며, 명령 및 제어(C2) 인프라를 구축했습니다.

이 행위자는 Windows 내부 구조에 대한 지식을 갖추고 있었으며, 일부 활동에서 작전 보안을 의식하는 모습을 보였습니다. 이 작전이 트로이 목마를 심은 게임용 ‘조준선’ 도구를 주로 사용하고 은밀한 전술을 구사했다는 점에서, OpenAI는 이를 ‘스코프크리프(ScopeCreep)’로 명명했습니다.

이 위협 행위자는 작전 보안 측면에서 주목할 만한 방식을 사용했습니다. 임시 이메일 주소로 ChatGPT에 가입한 뒤, 각 계정에서는 코드를 조금씩 개선하는 작업 하나에 대해 단 한 번의 대화만 진행했습니다. 그런 다음 기존 계정은 더 이상 사용하지 않고 새 계정을 만들었습니다.

이 행위자는 인기 있는 정상 게임용 조준선 오버레이 도구인 Crosshair-X를 사칭한 공개 코드 리포지터리를 통해 스코프크리프 악성코드를 배포했습니다. 악성 버전임을 모르고 다운로드해 실행한 사용자의 시스템에서는 악성코드 로더가 작동해, 공격자 인프라에서 추가 악성 파일을 다운로드하고 실행하게 됩니다.

이후 악성코드는 탐지를 피하면서 권한 상승, 은밀한 지속성 확보, 위협 행위자에게 알림 전송, 민감한 데이터 유출로 이어지는 다단계 프로세스를 시작하도록 설계되었습니다.

이 위협 행위자는 ChatGPT에 특정 기능을 추가로 구현해 달라고 계속 요청하며, OpenAI 모델의 도움을 받아 악성코드를 반복적으로 개발했습니다. 스코프크리프에서는 전달, 실행, 탐지 회피, 데이터 유출 전반에 걸쳐 다음과 같은 다양한 기법이 확인되었습니다.

• 시그니처 기반 탐지를 피하도록 설계된 C2 페이로드.

• DLL 사이드로딩을 통한 은밀한 실행.

• Themida를 이용한 맞춤형 패킹으로 난독화.

• 권한 상승 및 탐지 회피.

• 80번 포트를 통한 HTTPS 통신.

• 인증 정보 및 세션 탈취.

• Telegram을 통해 공격자에게 알림 전송.

• 프록시 기반 트래픽 난독화.

위협 행위자의 작전 보안 노력과 악성코드 자체의 탐지 회피 메커니즘에도 불구하고, OpenAI는 대규모 사이버 악용 탐지 프로세스를 통해 이 활동을 탐지할 수 있었습니다. OpenAI는 코드 호스팅 업체와 협력해 악성 리포지터리를 폐쇄하고, 이 활동과 관련된 모든 ChatGPT 계정을 차단했습니다.

이 계정군이 모델과 나눈 대화는 광범위한 개발 작업을 다루었습니다. 한 대화에서는 위협 행위자가 HTTPS 요청 처리에 어려움을 겪고 있는 Go 코드 일부를 제시하며 모델에 디버깅을 요청했습니다. 또 다른 사례에서는 프로그램으로 백신 검사 제외 항목을 추가할 방법을 찾으면서, Go에서 PowerShell 명령을 사용해 Windows Defender 설정을 수정하는 데 도움을 요청했습니다.

이러한 활동의 대표 사례는 LLM ATT&CK 프레임워크에 따라 다음과 같이 분류할 수 있습니다.

• python.exe가 실행될 때마다 공격자의 코드가 실행되도록 LLM을 활용해 python310.dll 파일 컴파일: LLM 지원 개발.

• 80번 포트에서 HTTPS 트래픽을 처리하기 위한 SSL/TLS 인증서 관련 오류 해결: LLM 지원 개발.

• 모델의 도움을 받아 Flask 기반 C2 서버를 실제 운영 환경에 적합한 WSGI 서버로 마이그레이션: LLM 지원 개발.

• Windows Defender 설정을 수정하고 백신 검사 제외 항목을 추가하는 PowerShell 명령을 Go에서 개발: LLM을 활용한 이상 탐지 회피 강화.

• 새로운 피해자가 발생하면 공격자가 제어하는 Telegram 채널로 알림을 보내는 코드의 오류 디버깅: LLM 지원 침해 후 활동.

현 단계에서는 신속한 신고와 업계 파트너들과의 긴밀한 협력을 통해 악성 리포지터리를 폐쇄함으로써 스코프크리프의 영향을 줄였을 가능성이 있습니다. OpenAI는 이 공격자가 사용한 OpenAI 계정들을 차단했습니다.

OpenAI는 이 위협 행위자가 악성코드 개발 속도를 높이려는 목적으로 OpenAI 모델을 활용한 것으로 평가합니다. 역설적으로 이는 OpenAI가 위협을 조기에 신속하게 식별하고 차단할 기회가 되기도 했습니다. 당시 위협은 초기 단계였던 것으로 보입니다.

이 악성코드는 권한 상승, 지속성 확보, 인증 정보 수집, 원격 액세스 등의 기능을 갖추고 있지만, 이러한 기능이 특별히 새로운 것은 아닙니다. 일부 샘플이 VirusTotal에서 발견되는 등 이 악성코드가 실제 환경에서 활동했을 가능성은 있지만, 광범위한 관심을 끌었거나 널리 유포되었다는 증거는 확인되지 않았습니다.