Пов’язані з КНР операції впливу націлені на дебати щодо ШІ в США

Наша місія — забезпечити, щоб штучний загальний інтелект приносив користь усьому людству. Ми просуваємо цю місію, впроваджуючи наші інновації для створення демократичного ШІ: ШІ, сформованого демократичними принципами, керованого правилами здорового глузду й розробленого, щоб допомагати людям розв’язувати складні проблеми, водночас захищаючи їх від реальної шкоди. Ця місія також вимагає виявляти й зривати спроби авторитарних режимів та їхніх посередників використовувати системи ШІ для примусу критиків, стеження за спільнотами або прихованого втручання в демократичні суспільства.

У цьому звіті ми описуємо два кластери облікових записів ChatGPT, які, ймовірно, походили з Китаю та які ми заблокували після того, як вони використовували наші моделі на підтримку ймовірних прихованих операцій впливу, що просували наративи в спробі маніпулювати легітимною дискусією про американський ШІ й ширшу технологічну політику.

Перший кластер генерував коментарі та зображення для соцмереж із твердженнями, що розбудова дата-центрів для ШІ підвищує ціни на електроенергію для звичайних родин. Ми назвали цей кластер кампанією «Ажіотаж навколо дата-центрів».

Другий кластер генерував коментарі та зображення з критикою мит США як спроб домінувати в технологічній конкуренції, а у своїх запитах зазначав, що контент не має включати лідера Китаю Сі Цзіньпіна, а натомість має включати лише президента Трампа. Цей кластер був пов’язаний із мережею ймовірно фейкових облікових записів у соцмережах, які також, імовірно, були націлені на OpenAI, стверджуючи, що дані користувачів ChatGPT було скомпрометовано. Ці твердження були цілковито неправдивими. Ми назвали цей другий кластер кампанією «Технології та тарифи».

Націлювання на OpenAI і розбудову дата-центрів у США є важливим не тому, що ця операція, схоже, змінила громадську думку, а тому, що воно показує: оператори впливу, пов’язані з КНР, тестують наративи проти інфраструктури ШІ — основи технологічного лідерства США, економічного зростання та ширшої екосистеми демократичного ШІ. Операція намагалася використати й посилити наявні суспільні занепокоєння щодо цін на енергію та місцевих наслідків розвитку дата-центрів, але ми не знайшли доказів значного поширення за межі її власної активності. Іноземні операції впливу вже давно намагаються прив’язатися до наявних місцевих проблем і щирих переконань, використовуючи їх, щоб здобути довіру, посилити розбіжності або поглибити суспільну недовіру. У цьому випадку оператори намагалися приховано втрутитися в поточну американську дискусію про майбутнє ШІ-можливостей країни, приховуючи, ким вони були та що ними керувало.

Публікуючи ці висновки, ми прагнемо допомогти нашій галузі, урядам, громадянському суспільству й громадськості краще виявляти та зривати спроби іноземних суб’єктів загроз маніпулювати легітимними публічними дебатами, послаблювати демократичні інституції та просувати тоталітаризм із ШІ-характеристиками — використання ШІ для стеження, цензури й контролю над політичним, соціальним і приватним життям.