Đối tượng đe dọa mạng: Nghiên cứu xâm nhập với sự hỗ trợ của AI

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 2 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Chúng tôi đã cấm các tài khoản có hoạt động dường như liên quan đến những đối tượng đe dọa có liên hệ với Cộng hòa Dân chủ Nhân dân Triều Tiên (DPRK) đã được công khai đưa tin. Một số tài khoản này thực hiện các hoạt động có chiến thuật, kỹ thuật và quy trình (TTP) tương đồng với nhóm đe dọa có tên VELVET CHOLLIMA (còn gọi là Kimsuky, Emerald Sleet)⁠(mở trong cửa sổ mới), trong khi các tài khoản khác có thể liên quan đến một đối tượng mà một nguồn tin đáng tin cậy đánh giá là có liên hệ với STARDUST CHOLLIMA (còn gọi là APT38, Sapphire Sleet)⁠(mở trong cửa sổ mới). Chúng tôi phát hiện các tài khoản này nhờ thông tin do một đối tác đáng tin cậy trong ngành cung cấp.

Các tài khoản bị cấm chủ yếu sử dụng công cụ của chúng tôi để tìm kiếm thông tin có thể liên quan đến công cụ hoặc hoạt động xâm nhập mạng. Các tài khoản này cũng quan tâm đến những chủ đề về tiền mã hóa, có thể nhằm phục vụ các hoạt động vì động cơ tài chính. Sự kết hợp giữa hoạt động tài chính và hoạt động mạng như vậy là đặc trưng của các nhóm đe dọa có liên hệ với DPRK.

Các đối tượng đã dùng mô hình của chúng tôi để hỗ trợ lập trình, gỡ lỗi và nghiên cứu mã nguồn mở liên quan đến bảo mật. Trong đó có hoạt động hỗ trợ gỡ lỗi và phát triển các công cụ và mã được cung cấp công khai có thể dùng để tấn công vét cạn Giao thức Máy tính Từ xa (RDP), cũng như hỗ trợ sử dụng các Công cụ Quản trị Từ xa (RAT) nguồn mở.

Trong quá trình gỡ lỗi các vị trí và kỹ thuật điểm mở rộng tự khởi động (ASEP) trên macOS, đối tượng đã để lộ các URL trung chuyển cho những tệp nhị phân (tệp thực thi đã biên dịch) mà dường như các nhà cung cấp giải pháp bảo mật chưa biết đến vào thời điểm đó. Chúng tôi đã gửi các URL trung chuyển đến một dịch vụ quét trực tuyến để tạo điều kiện chia sẻ với cộng đồng bảo mật. Hiện nhiều nhà cung cấp đã có thể phát hiện các tệp nhị phân này một cách đáng tin cậy, qua đó bảo vệ những nạn nhân tiềm năng.

Dưới đây là một mẫu hoạt động được đối chiếu với các phần mở rộng theo chủ đề LLM từng được đề xuất cho Khung MITRE ATT&CK^®⁠(mở trong cửa sổ mới):

• Hỏi về lỗ hổng trong nhiều ứng dụng: Trinh sát dựa trên thông tin từ LLM.

• Phát triển và khắc phục sự cố cho ứng dụng khách RDP dựa trên C# để thực hiện tấn công vét cạn: Phát triển có LLM hỗ trợ.

• Yêu cầu mã để bỏ qua cảnh báo bảo mật khi truy cập RDP trái phép: Phát triển có LLM hỗ trợ.

• Yêu cầu nhiều tập lệnh PowerShell để kết nối RDP, tải tệp lên/xuống, thực thi mã từ bộ nhớ và làm rối nội dung HTML: Kỹ thuật viết tập lệnh được LLM tăng cường; Né tránh cơ chế phát hiện bất thường bằng LLM.

• Thảo luận việc tạo và triển khai các tải trọng được làm rối để thực thi: Tạo tải trọng được tối ưu hóa bằng LLM.

• Tìm kiếm phương thức thực hiện lừa đảo có chủ đích và kỹ nghệ xã hội nhắm vào nhà đầu tư, nhà giao dịch tiền mã hóa, cũng như nội dung lừa đảo chung hơn: Kỹ nghệ xã hội có LLM hỗ trợ.

• Soạn email và thông báo lừa đảo nhằm thao túng người dùng tiết lộ thông tin nhạy cảm: Kỹ nghệ xã hội có LLM hỗ trợ.

• Nghiên cứu các Công cụ Quản trị Từ xa (RAT) nguồn mở: Hoạt động sau xâm nhập có LLM hỗ trợ.

Các câu lệnh và truy vấn của đối tượng chủ yếu dựa trên thông tin nguồn mở sẵn có; nội dung do mô hình cung cấp hoặc không tạo ra năng lực mới nào, hoặc chỉ là lời từ chối phản hồi. Chúng tôi đã cấm các tài khoản liên quan đến đối tượng đe dọa này và chia sẻ tải trọng của họ với cộng đồng bảo mật để tiếp tục làm gián đoạn hoạt động của họ.