SweetSpecter: Hoạt động tấn công mạng có liên hệ với Trung Quốc
OpenAI đã cấm các tài khoản có thể thuộc về SweetSpecter, đối tượng tấn công bị nghi hoạt động tại Trung Quốc, sử dụng AI để nghiên cứu lỗ hổng, viết mã và hỗ trợ lừa đảo có chủ đích.
Nghiên cứu tình huống này được công bố lần đầu trong báo cáo tháng 10 năm 2024(mở trong cửa sổ mới) của OpenAI.
Đối tượng
Chúng tôi đã xác định và cấm các tài khoản mà theo đánh giá từ một nguồn đáng tin cậy, nhiều khả năng thuộc về một đối tượng tấn công bị nghi hoạt động tại Trung Quốc. Đối tượng này đã tìm cách sử dụng các mô hình của chúng tôi để hỗ trợ hoạt động tấn công mạng, đồng thời tiến hành các cuộc tấn công lừa đảo có chủ đích nhắm vào nhân viên của chúng tôi và các chính phủ trên thế giới. Được theo dõi công khai dưới tên SweetSpecter, đối tượng này xuất hiện vào năm 2023. Theo hiểu biết của chúng tôi, đây là lần đầu tiên thông tin về việc đối tượng nhắm vào một công ty AI tại Hoa Kỳ được công bố. Các báo cáo trước đó cho thấy hoạt động của đối tượng tập trung vào các tổ chức chính trị ở Trung Đông, châu Phi và châu Á.
Hành vi
Vào tháng 5 năm 2024, chúng tôi nhận được tin báo từ một nguồn đáng tin cậy rằng đội ngũ bảo mật của họ đã phát hiện SweetSpecter gửi email lừa đảo có chủ đích kèm tệp đính kèm độc hại đến cả tài khoản email công việc lẫn cá nhân của một số nhân viên của chúng tôi.
Phiên bản đã che một phần thông tin của email do SweetSpecter gửi đến một số ít nhân viên của chúng tôi. Các email này đã bị hệ thống bảo mật của chúng tôi chặn. Hình ảnh do Proofpoint cung cấp.
Trong các email này, SweetSpecter giả danh người dùng ChatGPT để yêu cầu những nhân viên bị nhắm đến hỗ trợ. Các email có một tệp đính kèm độc hại tên là “some problems.zip”, chứa một tệp LNK. Tệp này chứa mã mà khi được mở sẽ hiển thị cho người dùng một tệp DOCX liệt kê nhiều thông báo có vẻ là thông báo lỗi và dịch vụ từ ChatGPT. Tuy nhiên, ở chế độ nền, mã độc trên Windows có tên SugarGh0st RAT sẽ được giải mã và thực thi. Mã độc này được thiết kế để trao cho SweetSpecter quyền kiểm soát máy tính bị xâm nhập, cho phép đối tượng thực hiện các thao tác như chạy lệnh tùy ý, chụp ảnh màn hình và đánh cắp dữ liệu.
Đội ngũ bảo mật của OpenAI đã liên hệ với những nhân viên được cho là mục tiêu của chiến dịch lừa đảo có chủ đích này và xác nhận rằng các biện pháp bảo mật hiện có đã chặn email trước khi chúng đến được tài khoản email công việc của họ.
Nội dung mồi nhử sẽ hiển thị khi thực thi một trong các tệp LNK độc hại đã được phân tích.
Trong suốt quá trình này, việc hợp tác với các đối tác trong ngành đóng vai trò then chốt trong việc phát hiện những nỗ lực xâm nhập tài khoản nhân viên bất thành này. Điều này cho thấy tầm quan trọng của việc chia sẻ thông tin tình báo về mối đe dọa và hợp tác để đi trước các đối tượng tấn công tinh vi trong thời đại AI. Bằng cách tận dụng thông tin được chia sẻ và chuyên môn của các bên, chúng tôi có thể bảo vệ tài sản của mình tốt hơn và ngăn chặn hoạt động của các tài khoản trên nền tảng có liên quan đến những hành vi này.
Phản hồi của mô hình
Khi phân tích trên phạm vi rộng hơn cơ sở hạ tầng hỗ trợ chiến dịch này, chúng tôi đã phát hiện và ngăn chặn hoạt động của một nhóm tài khoản ChatGPT sử dụng cùng cơ sở hạ tầng để tìm câu trả lời và thực hiện các tác vụ viết tập lệnh, nghiên cứu lỗ hổng. Chúng tôi đã đối chiếu những tương tác này với các chiến thuật, kỹ thuật và quy trình (TTP) liên quan đến LLM mà Microsoft đề xuất tích hợp vào khung MITRE ATT&CK® hồi đầu năm nay. Khung MITRE ghi nhận các chiến thuật và kỹ thuật mà đối tượng tấn công mạng sử dụng trong thực tế. Bằng cách liệt kê các mục tương ứng sau khi đối chiếu, chúng tôi mong muốn cung cấp cho cộng đồng an ninh mạng thông tin về những TTP đã quan sát được và góp phần nâng cao hiệu quả phòng thủ mạng.
Dưới đây là một số ví dụ về hoạt động của SweetSpecter phù hợp với các TTP này:
Hoạt động | Nhóm hoạt động liên quan đến LLM trong khung ATT&CK |
|---|---|
Hỏi về lỗ hổng trong nhiều ứng dụng | Trinh sát dựa trên thông tin từ LLM |
Hỏi cách tìm các phiên bản Log4j cụ thể bị ảnh hưởng bởi lỗ hổng thực thi mã từ xa (RCE) nghiêm trọng Log4Shell | Trinh sát dựa trên thông tin từ LLM |
Hỏi về các hệ thống quản lý nội dung phổ biến ở nước ngoài | Trinh sát dựa trên thông tin từ LLM |
Yêu cầu thông tin về các mã CVE cụ thể | Trinh sát dựa trên thông tin từ LLM |
Hỏi cách xây dựng công cụ quét trên toàn bộ Internet. | Trinh sát dựa trên thông tin từ LLM |
Hỏi cách dùng sqlmap để tải một tệp có thể là web shell lên máy chủ mục tiêu. | Nghiên cứu lỗ hổng với sự hỗ trợ của LLM |
Yêu cầu hỗ trợ tìm cách khai thác cơ sở hạ tầng của một nhà sản xuất ô tô nổi tiếng. | Nghiên cứu lỗ hổng với sự hỗ trợ của LLM |
Cung cấp mã và yêu cầu hỗ trợ thêm về cách sử dụng các dịch vụ liên lạc để gửi tin nhắn văn bản bằng chương trình. | Kỹ thuật viết tập lệnh được cải thiện nhờ LLM |
Yêu cầu hỗ trợ gỡ lỗi khi phát triển một tiện ích mở rộng cho công cụ an ninh mạng. | Kỹ thuật viết tập lệnh được cải thiện nhờ LLM |
Yêu cầu hỗ trợ gỡ lỗi đoạn mã thuộc một khung phần mềm lớn hơn, dùng để gửi tin nhắn văn bản bằng chương trình đến các số do kẻ tấn công chỉ định. | Phát triển phần mềm với sự hỗ trợ của LLM |
Hỏi về các chủ đề có thể thu hút nhân viên cơ quan chính phủ và cách đặt tên tệp đính kèm để tránh bị chặn. | Tấn công phi kỹ thuật với sự hỗ trợ của LLM |
Yêu cầu viết các biến thể của một thông điệp tuyển dụng do kẻ tấn công cung cấp. | Tấn công phi kỹ thuật với sự hỗ trợ của LLM |
Trong suốt cuộc điều tra, các nhóm bảo mật của chúng tôi đã tận dụng ChatGPT để phân tích, phân loại, dịch và tóm tắt các tương tác từ tài khoản của đối tượng tấn công. Nhờ đó, chúng tôi có thể nhanh chóng rút ra thông tin hữu ích từ các tập dữ liệu lớn, đồng thời giảm thiểu nguồn lực cần thiết cho công việc này. Khi các mô hình ngày càng tiên tiến, chúng tôi kỳ vọng cũng có thể sử dụng ChatGPT để phân tích ngược và phân tích các tệp đính kèm độc hại gửi đến nhân viên.
Tác động
Tương tự những gì chúng tôi quan sát được trong báo cáo đầu tiên về các mối đe dọa, việc sử dụng mô hình của chúng tôi dường như không mang lại cho các đối tượng này năng lực hay hướng tiếp cận mới nào mà họ không thể tìm thấy từ nhiều nguồn tài nguyên công khai khác. Các cơ chế bảo mật của chúng tôi đã chặn email độc hại của đối tượng tấn công trước khi chúng đến hộp thư của nhân viên.