Lạm dụng liên quan đến CHND Trung Hoa: Hoạt động giám sát và gây ảnh hưởng

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 10 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Các cá nhân dường như có liên hệ với các cơ quan chính phủ CHND Trung Hoa đã sử dụng ChatGPT để hỗ trợ phát triển, lập hồ sơ và thực hiện các công việc hành chính.

Như đã trình bày trong bản đệ trình hồi tháng 3 cho Kế hoạch hành động về AI của Hoa Kỳ do Văn phòng Chính sách Khoa học và Công nghệ xây dựng, chúng tôi tin rằng để AI mang lại lợi ích cho nhiều người nhất có thể, cần tạo điều kiện phát triển AI thông qua các quy định hợp lý nhằm bảo vệ con người trước những tác hại thực tế, đồng thời xây dựng AI dân chủ. AI dân chủ là AI được định hình bởi những nguyên tắc dân chủ mà Hoa Kỳ luôn đề cao. Điều này bao gồm việc ngăn các chế độ độc tài sử dụng công cụ AI để thâu tóm quyền lực và kiểm soát người dân.

Những khoản đầu tư của chúng tôi vào việc phát hiện và ngăn chặn các nỗ lực lạm dụng năng lực của ChatGPT từ các chế độ độc tài không chỉ bảo vệ con người ở hiện tại mà còn đem lại hiểu biết quan trọng về cách họ có thể lạm dụng các năng lực trong tương lai. Phần này trình bày một nhóm phát hiện như vậy liên quan đến những cá nhân có thể có quan hệ với các chế độ này, tập trung vào CHND Trung Hoa.

Như chúng tôi đã viết vào tháng 6, CHND Trung Hoa đang đạt được bước tiến thực sự trong việc phát triển phiên bản AI chuyên chế của mình. Việc chúng tôi ngăn chặn các tài khoản ChatGPT do những cá nhân dường như có liên hệ với các cơ quan chính phủ Trung Quốc sử dụng đã phần nào cho thấy hiện trạng sử dụng AI trong môi trường độc tài này. Một số hình thức sử dụng dường như nhằm hỗ trợ giám sát quy mô lớn đối với lưu lượng trực tuyến hoặc ngoại tuyến, qua đó nhấn mạnh tầm quan trọng của việc chúng tôi tiếp tục lưu ý đến nguy cơ lạm dụng của các chế độ độc tài trong lĩnh vực này. Các hình thức sử dụng khác dường như nhằm lập hồ sơ chuyên sâu hơn. Chúng tôi đã cấm các tài khoản liên quan đến hoạt động này và chia sẻ những thông tin chuyên sâu trong báo cáo.

Nghiên cứu này dựa trên một số hoạt động vi phạm mà chúng tôi đã phát hiện và ngăn chặn, đồng thời cấm các tài khoản liên quan. Các hoạt động đó cho thấy ChatGPT được những người dùng riêng lẻ sử dụng, chứ không phải được các tổ chức áp dụng mô hình của chúng tôi trên quy mô lớn. Do đó, nghiên cứu này chỉ cung cấp một góc nhìn hạn chế về việc sử dụng các mô hình AI khác nhau trong bối cảnh này.

Một số tài khoản bị chúng tôi cấm dường như đang tìm cách sử dụng ChatGPT để phát triển công cụ giám sát quy mô lớn bằng cách phân tích các tập dữ liệu thường được thu thập từ những nền tảng mạng xã hội phương Tây hoặc Trung Quốc. Hồi tháng 2, chúng tôi đã báo cáo một trường hợp như vậy, trong đó các bên vận hành muốn thiết kế một công cụ theo dõi mạng xã hội ứng dụng AI mà họ tuyên bố là dành cho lực lượng an ninh Trung Quốc. Những người dùng này thường yêu cầu ChatGPT hỗ trợ thiết kế các công cụ như vậy hoặc tạo tài liệu quảng bá về chúng, chứ không dùng ChatGPT để triển khai hoạt động giám sát.

Ví dụ, gần đây chúng tôi đã cấm một người dùng có thể đã dùng VPN để truy cập dịch vụ của chúng tôi từ Trung Quốc. Người này yêu cầu ChatGPT hỗ trợ thiết kế tài liệu quảng bá và kế hoạch dự án cho một công cụ theo dõi mạng xã hội, được cho là dành cho một khách hàng chính phủ. Công cụ này được mô tả là một “máy dò” mạng xã hội (探针), được cho là có thể quét Twitter/X, Facebook, Instagram, Reddit, TikTok và YouTube để tìm nội dung mà người dùng mô tả là phát ngôn cực đoan cùng nội dung về sắc tộc, tôn giáo và chính trị. Người dùng không sử dụng mô hình của chúng tôi để thực hiện hoạt động giám sát mạng xã hội trên thực tế. Chúng tôi không thể xác minh độc lập liệu công cụ này có được một cơ quan chính phủ Trung Quốc sử dụng hay không.

Tương tự, chúng tôi đã cấm một người dùng thứ hai, có khả năng liên hệ với một cơ quan chính phủ, sau khi người này yêu cầu ChatGPT hỗ trợ soạn đề xuất cho công cụ mà họ gọi là Mô hình cảnh báo người có nguy cơ cao liên quan đến người Duy Ngô Nhĩ di chuyển vào khu vực (高危涉维吾尔关注人员流入预警模型). Đề xuất mô tả một công cụ có khả năng phân tích dữ liệu đặt vé và đối chiếu với hồ sơ cảnh sát để cảnh báo sớm về hoạt động di chuyển của những người bị xếp vào nhóm liên quan đến người Duy Ngô Nhĩ và có nguy cơ cao—một nhóm không được định nghĩa rõ hơn. Người dùng không yêu cầu mô hình của chúng tôi hỗ trợ xây dựng công cụ như vậy mà chỉ yêu cầu soạn một đề xuất tổng quát. Vì thế, chúng tôi không thể xác nhận độc lập họ định sử dụng công nghệ nào hay liệu công cụ đó đã được một cơ quan chính phủ Trung Quốc sử dụng hay chưa.

Chúng tôi cũng cấm những người dùng dường như có liên hệ với các cơ quan chính phủ Trung Quốc và đang tìm cách sử dụng ChatGPT để lập hồ sơ có mục tiêu, được tùy chỉnh kỹ hơn và tiến hành nghiên cứu trực tuyến.

Ví dụ, một người dùng đã yêu cầu ChatGPT xác định nguồn tài trợ cho một tài khoản X chỉ trích chính phủ Trung Quốc. Một người dùng thứ hai yêu cầu ChatGPT xác định những người tổ chức một bản kiến nghị ở Mông Cổ. Trong cả hai trường hợp, các mô hình của chúng tôi chỉ trả về thông tin công khai, không bao gồm những chi tiết nhạy cảm như nguồn tài trợ hay danh tính của những người tổ chức kiến nghị.

Trong một số hoạt động này, các mô hình của chúng tôi được dùng làm công cụ nghiên cứu nguồn mở, tương tự như cách những người dùng trước đây có thể sử dụng công cụ tìm kiếm trên Internet hoặc mạng xã hội. Ví dụ, một người dùng thứ ba yêu cầu ChatGPT xác định và tóm tắt tin nóng hằng ngày có liên quan đến Trung Quốc, bao gồm các chủ đề nhạy cảm như ngày tưởng niệm vụ thảm sát tại Quảng trường Thiên An Môn năm 1989 và sinh nhật Đức Đạt Lai Lạt Ma.