Операции влияния, связанные с КНР, нацелены на дискуссии об ИИ в США

Наша миссия — сделать так, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы продвигаем эту миссию, внедряя наши инновации для создания демократического ИИ: ИИ, сформированного демократическими принципами, управляемого правилами здравого смысла и предназначенного помогать людям решать сложные проблемы, защищая их от реального вреда. Эта миссия также требует выявлять и пресекать попытки авторитарных режимов и их посредников использовать ИИ-системы для давления на критиков, слежки за сообществами или скрытого вмешательства в жизнь демократических обществ.

В этом отчете мы описываем два кластера учетных записей ChatGPT, вероятно происходящих из Китая, которые мы заблокировали после того, как они использовали наши модели для поддержки предполагаемых скрытых операций влияния, продвигавших нарративы с целью манипулировать дискуссией об американской политике в сфере ИИ и технологий в целом.

Первый кластер генерировал комментарии и изображения для социальных сетей с утверждениями, что строительство дата-центров для ИИ повышает цены на электроэнергию для обычных семей. Мы назвали этот кластер кампанией «Data Center Bandwagon» (Ажиотаж вокруг дата-центров).

Второй кластер генерировал комментарии и изображения с критикой тарифов США как попыток доминировать в технологической конкуренции, при этом в запросах указывалось, что что в итоговом контенте не должно быть председателя КНР Си Цзиньпина — вместо него следовало изображать только президента Трампа. Этот кластер был связан с сетью, вероятно, фиктивных учетных записей в социальных сетях, которые, по всей видимости, также нацеливались на OpenAI, заявляя, что данные пользователей ChatGPT были скомпрометированы. Эти обвинения были полностью ложными. Мы назвали этот второй кластер кампанией «Tech and Tariffs» (Технологии и пошлины).

Нацеливание на OpenAI и строительство дата-центров в США важно не потому, что эта операция, по-видимому, изменила общественное мнение, а потому, что оно показывает, как эти исполнители влияния из КНР тестируют нарративы против ИИ-инфраструктуры — основы технологического лидерства США, экономического роста и более широкой экосистемы демократического ИИ. Эта операция стремилась использовать и усиливать существующую обеспокоенность общества ценами на электроэнергию и локальными последствиями развития дата-центров, однако мы не обнаружили признаков того, что эта деятельность получила какой-либо значимый резонанс за пределами непосредственных действий самих организаторов. Операции по оказанию иностранного влияния уже давно стремятся использовать существующие местные проблемы и искренние убеждения людей, чтобы завоевать доверие, углубить раскол или усилить общественное недоверие. В этом случае исполнители пытались скрытно встроиться в продолжающуюся в США дискуссию о будущем ИИ-возможностей страны, скрывая, кто они и чем руководствуются.

Публикуя эти выводы, мы стремимся помочь нашей отрасли, правительствам, гражданскому обществу и общественности лучше выявлять и пресекать попытки иностранных злоумышленников манипулировать легитимными публичными дебатами, ослаблять демократические институты и продвигать тоталитаризм с характеристиками ИИ — использование ИИ для слежки, цензуры и контроля над политической, социальной и частной жизнью.