Menghentikan penggunaan AI yang berbahaya: Oktober 2025
Misi kami adalah memastikan bahwa kecerdasan umum buatan bermanfaat bagi manusia. Kami memajukan misi ini dengan menyebarkan inovasi yang membantu orang memecahkan masalah yang sulit dan dengan membangun AI demokratis yang berlandaskan pada aturan berakal sehat yang melindungi orang dari bahaya nyata.
Sejak kami mulai melaporkan ancaman publik pada bulan Februari 2024, kami telah menghentikan dan melaporkan lebih dari 40 jaringan yang melanggar kebijakan penggunaan kami. Ini termasuk mencegah penggunaan AI oleh rezim otoriter untuk mengendalikan masyarakat atau menekan negara lain, serta penyalahgunaan seperti penipuan, aktivitas siber yang berbahaya, dan operasi terselubung untuk memengaruhi.
Dalam laporan terkini ini, kami menyampaikan studi kasus dari triwulan terakhir serta cara kami mendeteksi dan menghentikan penggunaan model kami yang berbahaya. Kami terus melihat pelaku ancaman menggunakan AI dalam siasat lama agar dapat bergerak lebih cepat, bukan memperoleh kemampuan penyerangan yang baru dari model kami. Ketika aktivitas melanggar kebijakan kami, kami memblokir akun dan, apabila sesuai, membagikan wawasan kepada mitra. Pelaporan publik, penegakan kebijakan, dan kolaborasi kami dengan rekan kerja bertujuan untuk meningkatkan kesadaran terhadap penyalahgunaan sekaligus meningkatkan perlindungan bagi pengguna sehari-hari.
