Kịch bản Ánh sáng sau mây: Hoạt động có thể bắt nguồn từ Trung Quốc nhắm vào các cá nhân Hoa Kỳ

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 2 năm 2026⁠(mở trong cửa sổ mới) của OpenAI về việc ngăn chặn hành vi sử dụng AI cho mục đích xấu.

Chúng tôi đã cấm một nhóm nhỏ tài khoản ChatGPT có khả năng xuất phát từ Trung Quốc. Các tài khoản này dùng mô hình của chúng tôi để yêu cầu thông tin về các cá nhân Hoa Kỳ, diễn đàn và vị trí tòa nhà liên bang, xin hướng dẫn về phần mềm hoán đổi khuôn mặt và tạo email tiếng Anh có dấu hiệu của hành vi kỹ thuật xã hội. Họ gửi câu lệnh bằng tiếng Trung cho các mô hình của chúng tôi, hoạt động chủ yếu trong giờ làm việc tại Trung Quốc đại lục và dùng VPN để truy cập nền tảng.

Các tài khoản đã tạo bản nháp email có vẻ như được gửi từ nhân viên của một công ty tại Hồng Kông mang tên “Nimbus Hub Consulting”. Tuy nhiên, họ gửi câu lệnh cho các mô hình bằng chữ Hán giản thể (thường dùng ở Trung Quốc đại lục) thay vì chữ Hán phồn thể (thường dùng ở Hồng Kông), cho thấy những người thực sự vận hành có thể ở Trung Quốc đại lục. Ngoài ra, một tài khoản đã tạo email tự xưng là đại diện của một tổ chức quan hệ công chúng tại Thượng Hải chuyên thúc đẩy giao lưu kinh tế và văn hóa giữa Hoa Kỳ với Thượng Hải. Vì tên công ty có từ “Nimbus”, nghĩa là mây mang mưa hoặc vầng hào quang, chúng tôi đặt tên chiến dịch này là “Kịch bản Ánh sáng sau mây”.

Các tài khoản đã tạo bản nháp email bằng tiếng Anh, gửi đến quan chức cấp tiểu bang của Hoa Kỳ hoặc các nhà phân tích chính sách làm việc trong lĩnh vực kinh doanh và tài chính. Dường như họ mời những người nhận này tham gia tư vấn có trả phí, được mô tả là công việc diễn giải chính sách và đưa ra lời khuyên chiến lược cho khách hàng. Họ yêu cầu bản nháp email phải súc tích, rõ ràng và chuyên nghiệp, với tiêu đề tạo cảm giác cấp bách và sử dụng những gợi ý tâm lý tinh tế.

Ngoài ra, các tài khoản ChatGPT đã dùng mô hình của chúng tôi để tìm kiếm thông tin chung; mô hình trả lời bằng các nguồn công khai. Các truy vấn bao gồm những chủ đề sau:

• Vị trí các cơ quan chính phủ liên bang Hoa Kỳ, bao gồm trụ sở chính, cùng danh sách xếp hạng các tiểu bang tập trung nhiều cơ quan và quan chức liên bang.

• Phân bố nhân sự liên bang Hoa Kỳ theo tiểu bang.

• Các cá nhân Hoa Kỳ, chẳng hạn như người dẫn chương trình của Đài Tiếng nói Hoa Kỳ, bao gồm những cuộc phỏng vấn trước đây và chủ đề họ quan tâm.

• Các diễn đàn và trang web trực tuyến thường được giới chuyên môn và người tìm việc trong ngành kinh tế, tài chính Hoa Kỳ sử dụng.

Đáng chú ý, một tài khoản đã yêu cầu hướng dẫn cách tải xuống và cài đặt trên máy tính một nền tảng chỉnh sửa khuôn mặt có tên FaceFusion, dùng để hoán đổi khuôn mặt và cải thiện nội dung đa phương tiện. Theo hoạt động trên ChatGPT, họ cho biết có ý định sử dụng riêng tính năng hoán đổi khuôn mặt trực tiếp của nền tảng này. Họ yêu cầu hướng dẫn cài đặt từng bước, không mang tính kỹ thuật và nói rằng mình mới học lập trình máy tính nên chỉ dẫn phải đơn giản. Họ tải lên ảnh chụp màn hình thông số phần cứng máy tính để hỗ trợ quá trình cài đặt. Mô hình đã trả lời bằng thông tin lấy từ trang web và tài liệu công khai của FaceFusion.

Yêu cầu dùng mô hình của chúng tôi để tạo bản nháp email đã tái hiện một kịch bản⁠(mở trong cửa sổ mới) kỹ thuật xã hội dùng trong cách tiếp cận của cơ quan tình báo nước ngoài, chứ không phải thông điệp tuyển dụng thông thường. Với mỗi bản nháp email, họ yêu cầu những phần sau:

Tạo dựng tính chính danh: Họ giới thiệu “Nimbus Hub” là công ty tư vấn chiến lược chuyên nghiệp, có chuyên môn uy tín về địa chính trị và chính sách xuyên quốc gia. Họ đưa vào liên kết đến trang web của Nimbus Hub (xem ảnh chụp màn hình bên dưới).

Cá nhân hóa và tâng bốc mục tiêu: Họ yêu cầu mô hình nêu rõ kinh nghiệm làm việc trong khu vực công của người nhận như bằng chứng rằng người này hoàn toàn phù hợp với vị trí. Trong một trường hợp, tài khoản đã tải lên ảnh chụp màn hình hồ sơ LinkedIn của một cá nhân Hoa Kỳ sống tại Thượng Hải rồi yêu cầu mô hình cá nhân hóa bản nháp email dựa trên nội dung trong ảnh về trải nghiệm và hoàn cảnh cá nhân của người đó.

Chồng chất ưu đãi: Lời mời tư vấn thường được tô vẽ thành một cơ hội trực tuyến hấp dẫn với thưởng hiệu suất và thưởng giới thiệu, trong khi công việc thực tế vẫn được mô tả mơ hồ.

Dùng ngôn từ trấn an và giảm cảm nhận về rủi ro: Họ thường khẳng định công việc thoải mái, được thanh toán đúng hạn và có tính bảo mật.

Nhanh chóng chuyển liên lạc khỏi nền tảng: Họ luôn tìm cách chuyển người nhận khỏi email sang cuộc gọi hội nghị video trực tuyến ban đầu qua WhatsApp, Zoom hoặc Teams.

Trong vụ việc này, cách các mạng lưới tương tác với mô hình không quá tinh vi về kỹ thuật, còn yêu cầu của họ đôi khi trông giống như việc soạn thư mời tuyển dụng hợp lý hoặc cài đặt phần mềm chính đáng. Tuy nhiên, việc những người dùng này ẩn mình sau danh tính doanh nghiệp giả và quan tâm đến các chủ đề địa chính trị cho thấy họ có thể có ý định tuyển mộ đối tượng cho mục đích đối địch.

Dựa trên cách các tài khoản sử dụng ChatGPT, không có bằng chứng cho thấy họ đã khiến mục tiêu phản hồi thư mời. Chúng tôi không thể xác định độc lập liệu các thư mời qua email có thực sự được gửi hay có người nhận mục tiêu nào phản hồi hay không.

Nhiều chính phủ dân chủ (ví dụ: Hoa Kỳ⁠(mở trong cửa sổ mới), Vương quốc Anh⁠(mở trong cửa sổ mới), Úc⁠(mở trong cửa sổ mới)) đã cảnh báo rằng các cơ quan tình báo nước ngoài đang giả danh công ty tư vấn và các tổ chức khác trên nền tảng mạng xã hội và mạng nghề nghiệp để nhắm đến tuyển mộ nhân viên chính phủ đương nhiệm và cựu nhân viên. Có thể khó phân biệt thông điệp tuyển dụng thông thường với những cách tiếp cận có chủ đích bằng kỹ thuật xã hội này vì chúng có một số đặc điểm tương đồng. Tuy nhiên, những lời mời chính đáng thường hướng đến quy trình sàng lọc lâu hơn và cung cấp thông tin có thể xác minh về chức danh, nhà tuyển dụng đáng tin cậy, khoảng thù lao hợp lý theo thị trường cùng liên kết đến tin tuyển dụng có thật. Tóm lại, nếu điều gì nghe có vẻ tốt đến khó tin thì có lẽ đúng là không đáng tin.