Hoạt động mạng: Công cụ phần mềm độc hại bằng tiếng Nga

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 10 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Chúng tôi đã cấm các tài khoản ChatGPT tìm cách sử dụng mô hình để hỗ trợ phát triển và tinh chỉnh phần mềm độc hại, bao gồm trojan truy cập từ xa, công cụ đánh cắp thông tin xác thực và các tính năng né tránh phát hiện. Các tài khoản này dường như có liên hệ với những nhóm tội phạm nói tiếng Nga, vì chúng tôi nhận thấy họ đăng bằng chứng về hoạt động của mình lên một kênh Telegram dành cho các tác nhân này. Dựa trên kết quả điều tra, chúng tôi đánh giá hoạt động này có liên quan đến một trình vận hành sử dụng tiếng Nga, quản lý nhiều tài khoản và tận dụng hạ tầng proxy cùng dịch vụ lưu trữ tạm thời.

Tác nhân đe dọa này chủ yếu sử dụng nhiều tài khoản ChatGPT để tạo nguyên mẫu và khắc phục sự cố cho các thành phần kỹ thuật phục vụ hoạt động hậu khai thác và đánh cắp thông tin xác thực—những hoạt động vốn phổ biến ở loại tác nhân này. Mô hình đã từ chối các yêu cầu trực tiếp về việc tạo nội dung độc hại. Vì vậy, cách trình vận hành thường sử dụng mô hình là yêu cầu tạo các đoạn mã thành phần, chẳng hạn chuyển tệp thực thi đã biên dịch thành shellcode, thiết kế trình nạp trong bộ nhớ hoặc phân tích thông tin xác thực trong trình duyệt; sau đó, tác nhân đe dọa có thể đã ghép chúng thành các quy trình độc hại.

Tác nhân đe dọa cũng sử dụng các mô hình của chúng tôi để tạo mã phục vụ kỹ thuật làm rối và các mẫu “crypter”, chẳng hạn chèn lệnh đệm và chuỗi rác, theo dõi bảng nhớ tạm, cùng các công cụ hỗ trợ đánh cắp dữ liệu đơn giản như bot Telegram để tải tệp lên và tập lệnh đóng gói rồi gửi dữ liệu. Bản thân những kết quả này không mang tính độc hại, trừ khi bị một tác nhân đe dọa sử dụng theo cách đó bên ngoài nền tảng của chúng tôi.

Tác nhân đe dọa chủ yếu sử dụng ChatGPT cho các tác vụ kỹ thuật như xử lý PE / Win32 API ở cấp thấp, cookie bằng DPAPI / AES GCM và tự động hóa Chrome DevTools / CDP. Tác nhân đe dọa đưa ra cả yêu cầu có độ tinh vi cao lẫn thấp hơn: nhiều câu lệnh đòi hỏi kiến thức chuyên sâu về nền tảng Windows và quá trình gỡ lỗi lặp lại, trong khi những yêu cầu khác tự động hóa các tác vụ phổ thông như tạo hàng loạt mật khẩu và nộp đơn xin việc bằng tập lệnh. Trình vận hành sử dụng một số ít tài khoản ChatGPT và liên tục chỉnh sửa cùng một đoạn mã qua nhiều cuộc trò chuyện, một kiểu hành vi phù hợp với hoạt động phát triển liên tục hơn là thử nghiệm không thường xuyên.

Các mô hình của chúng tôi không được dùng để thực thi bất kỳ công cụ hay quy trình nào của tác nhân đe dọa, và chúng tôi không thể xác minh độc lập bất kỳ hoạt động nào bên ngoài nền tảng. Tác nhân đe dọa này đã tìm cách sử dụng các mô hình của chúng tôi để phát triển và tinh chỉnh công cụ tấn công cùng quy trình vận hành có vẻ phục vụ việc đánh cắp thông tin xác thực và tài sản tiền mã hóa, thực thi mã một cách bí mật và quản lý hạ tầng ngầm.

Cụ thể, họ dùng ChatGPT để tạo và liên tục chỉnh sửa mã hoạt động được cũng như hướng dẫn triển khai cho việc thực thi trong bộ nhớ và trình nạp shellcode; vượt qua UAC / SmartScreen / Mark-of-the-Web; trích xuất thông tin xác thực / cookie của trình duyệt và tạo khung giải mã ràng buộc với ứng dụng; phân tích ví LevelDB và tạo công cụ chiếm quyền / thay thế bảng nhớ tạm kèm chức năng đánh cắp dữ liệu; cũng như xây dựng các thành phần truy cập từ xa (RAT), bao gồm video và mô phỏng thao tác nhập liệu. Theo đúng các biện pháp bảo vệ được tích hợp, mô hình của chúng tôi đã từ chối những yêu cầu rõ ràng mang tính độc hại và không có bất kỳ ứng dụng hợp pháp nào.

Có thể đối chiếu các ví dụ tiêu biểu về những hoạt động này với khung LLM ATT&CK như sau:

Chúng tôi đã vô hiệu hóa tất cả tài khoản liên quan đến hoạt động này và chia sẻ các chỉ dấu liên quan với đối tác trong ngành. Chúng tôi không tìm thấy bằng chứng nào cho thấy quyền truy cập vào các mô hình của mình đã mang lại cho những tác nhân này năng lực hoặc hướng đi mới mà họ không thể tìm thấy từ nhiều nguồn công khai khác. Các mô hình của chúng tôi đã từ chối những yêu cầu trực tiếp về mã khai thác và trình ghi thao tác bàn phím.