ÇHC bağlantılı kötüye kullanım: Gözetim ve etki faaliyetleri

Bu vaka çalışması ilk olarak OpenAI'ın Ekim 2025⁠(yeni bir pencerede açılır) raporunda yayımlandı.

ÇHC devlet kurumlarıyla bağlantılı görünen kişilerin geliştirme, profil oluşturma ve bürokratik işlevlere yardımcı olması için ChatGPT'yi kullanması.

Mart ayında Bilim ve Teknoloji Politikası Ofisinin ABD Yapay Zekâ Eylem Planı'na sunduğumuz görüşte belirttiğimiz gibi, yapay zekânın mümkün olduğunca çok kişiye fayda sağlaması için insanların gerçek zararlardan korunmasını amaçlayan sağduyulu kurallarla kullanımının önünün açılması ve demokratik yapay zekânın geliştirilmesi gerektiğine inanıyoruz. Demokratik yapay zekâ derken Amerika'nın her zaman savunduğu demokratik ilkeler doğrultusunda şekillenen yapay zekâyı kastediyoruz. Buna, otoriter rejimlerin güç toplamak ve vatandaşlarını kontrol etmek amacıyla yapay zekâ araçlarını kullanmasının önlenmesi de dâhildir.

Otoriter rejimlerin ChatGPT'nin yeteneklerini kötüye kullanma girişimlerini tespit edip engellemeye yönelik yatırımlarımız, bugün insanları korumakla kalmıyor, bu rejimlerin gelecekteki yetenekleri nasıl kötüye kullanabileceğine ilişkin önemli bilgiler de sağlıyor. Bu bölümde, bu tür rejimlerle bağlantılı olabilecek kişilere dair bulgularımızdan ÇHC odaklı bir grup ele alınıyor.

Haziran ayında yazdığımız gibi ÇHC, yapay zekânın otokratik versiyonunu geliştirme konusunda kayda değer ilerleme sağlıyor. Çin devlet kurumlarıyla bağlantılı görünen kişilerin kullandığı ChatGPT hesaplarını engellememiz, bu otoriter ortamdaki güncel yapay zekâ kullanımına bir ölçüde ışık tutuyor. Bu kullanımın bazı unsurları, çevrim içi veya çevrim dışı trafiğin geniş ölçekte izlenmesini desteklemeyi amaçlıyor gibi görünüyordu. Bu da bu alandaki olası otoriter suistimalleri yakından izlemeyi sürdürmemizin önemini ortaya koyuyor. Bu kullanımın diğer unsurlarıysa daha ayrıntılı profil oluşturmayı amaçlıyor gibi görünüyordu. Bu faaliyetle ilişkili hesapları yasakladık ve elde ettiğimiz bulguları bu raporda paylaşıyoruz.

Bu çalışma, tespit edip yasakladığımız, politikalarımızı ihlal eden faaliyetlere yönelik müdahalelerimizden seçilmiş örneklere dayanıyor. Bu faaliyet, modellerimizin geniş çapta kurumsal olarak benimsenmesinden ziyade bireysel kullanıcıların ChatGPT kullanımına işaret ediyordu. Dolayısıyla bu çalışma, farklı yapay zekâ modellerinin bu bağlamdaki kullanımına ilişkin sınırlı bir kesit sunuyor.

Yasakladığımız hesaplardan bazıları, genellikle Batılı veya Çinli sosyal medya platformlarından toplanan veri kümelerini analiz etmek gibi geniş ölçekli izleme araçları geliştirmek için ChatGPT'yi kullanmaya çalışıyor gibi görünüyordu. Şubat ayında, operatörlerin Çin güvenlik güçleri için tasarlandığını iddia ettiği, yapay zekâ destekli bir sosyal medya takip aracının geliştirilmesini amaçlayan böyle bir vakayı bildirmiştik. Bu kullanıcılar genellikle ChatGPT'den bu tür araçları tasarlamaya veya bunlara yönelik tanıtım materyalleri hazırlamaya yardımcı olmasını istiyor, ancak izlemeyi gerçekleştirmesini istemiyordu.

Örneğin yakın zamanda, hizmetlerimize Çin'den erişmek için VPN kullanmış olabilecek bir kullanıcıyı yasakladık. Bu kullanıcı, sözde bir devlet müşterisinin kullanımı için tasarlanan bir sosyal medya takip aracına yönelik tanıtım materyalleri ve proje planları hazırlama konusunda ChatGPT'den yardım istiyordu. Araç; Twitter/X, Facebook, Instagram, Reddit, TikTok ve YouTube'u tarayarak kullanıcının aşırılıkçı söylem olarak tanımladığı ifadelerin yanı sıra etnik, dinî ve siyasi içerikleri de tespit edebildiği iddia edilen bir sosyal medya “sondası” (探针) olarak tanımlandı. Kullanıcı, sosyal medyadaki asıl izlemeyi gerçekleştirmek için modelimizi kullanmadı. Bu aracın bir Çin devlet kurumu tarafından kullanılıp kullanılmadığını bağımsız olarak doğrulayamıyoruz.

Benzer şekilde, muhtemelen bir devlet kurumuyla bağlantılı olan ve Uygurlarla İlişkili Yüksek Riskli Kişi Akışı Erken Uyarı Modeli (高危涉维吾尔关注人员流入预警模型) olarak tanımladığı sistem için teklif hazırlama konusunda ChatGPT'den yardım isteyen ikinci bir kullanıcıyı da yasakladık. Teklifte; başka şekilde tanımlanmayan “Uygurlarla ilişkili ve yüksek riskli” kategorisine alınmış kişilerin seyahat hareketleri hakkında erken uyarı sağlamak amacıyla ulaşım rezervasyonlarını analiz edip polis kayıtlarıyla karşılaştıracak bir araç tarif ediliyordu. Kullanıcı, modelimizden böyle bir aracın geliştirilmesine değil, yalnızca genel bir teklif hazırlanmasına yardımcı olmasını istedi. Bu nedenle hangi teknolojiyi kullanmayı amaçladığını veya böyle bir aracın bir Çin devlet kurumu tarafından kullanılıp kullanılmadığını bağımsız olarak doğrulayamıyoruz.

Ayrıca Çin devlet kurumlarıyla bağlantılı görünen ve ChatGPT'yi kişiye özel, hedefli profil oluşturma ve çevrim içi araştırma amacıyla kullanmaya çalıştığı anlaşılan kullanıcıları da yasakladık.

Örneğin bir kullanıcı, Çin hükûmetini eleştiren bir X hesabının finansman kaynaklarını belirlemesini ChatGPT'den istedi. İkinci bir kullanıcıysa Moğolistan'daki bir imza kampanyasının organizatörlerini belirlemesini ChatGPT'den istedi. Her iki durumda da modellerimiz yalnızca kamuya açık bilgileri sundu; bu bilgiler finansman kaynakları veya imza kampanyasını düzenleyenlerin kimlikleri gibi hassas ayrıntıları içermiyordu.

Bu faaliyetlerin bazılarında modellerimiz, geçmişte internet veya sosyal medya aramalarının kullanıldığına benzer şekilde açık kaynaklı bir araştırma aracı olarak kullanıldı. Örneğin üçüncü bir kullanıcı, 1989'daki Tiananmen Meydanı katliamının yıl dönümü ve Dalay Lama'nın doğum günü gibi hassas konular da dâhil olmak üzere Çin'i ilgilendiren güncel haberleri her gün belirleyip özetlemesini ChatGPT'den istedi.