AI の悪用を阻止：2025年10月

汎用人工知能が全人類に利益をもたらすようにすることが当社の使命です。当社は、人々が困難な問題を解決するのに役立つイノベーションを展開し、現実的な危害から人々を守る常識的なルールに基づいた民主的な AI を構築することで、この使命を推進します。

当社は2024年2月に脅威に関するレポートを公開し始め、これまでに、当社の利用規定に違反していた40以上のネットワークを遮断し、報告してきました。その中には、国民を監視・支配したり他国を脅迫する権威主義政権による AI の利用の防止、そして詐欺・サイバー攻撃・秘密裏の影響工作といった悪用の阻止も含まれています。

今回の最新レポートでは、直近の四半期における事例と、当社の AI モデルの悪用をどのように検知し、阻止しているかを紹介します。当社は依然として、悪意ある攻撃者が既存の手口に AI を後付けして動きを加速していることを確認していますが、これらの攻撃者は当社のモデルから新しい攻撃能力を得ているわけではありません。当社のポリシーに違反する行為が確認された場合は、該当アカウントを停止し、必要に応じて協力機関と情報や知見を共有します。さらに、公開レポートやポリシーの徹底、他社との連携を通じて、悪用に対する認識を高めるとともに、一般ユーザーの保護を強化することを目指しています。