Операции за влияние, свързани с КНР, са насочени към дебати за AI в САЩ

Нашата мисия е да гарантираме, че изкуственият общ интелект носи ползи за цялото човечество. Напредваме в тази мисия, като внедряваме нашите иновации, за да изграждаме демократичен AI: AI, оформен от демократични принципи, управляван от разумни правила и проектиран да помага на хората да решават трудни проблеми, като същевременно ги предпазва от реална вреда. Тази мисия изисква също да идентифицираме и прекъсваме опити на авторитарни режими и техните посредници да използват AI системи, за да принуждават критици, да наблюдават общности или тайно да се намесват в демократични общества.

В този доклад описваме два клъстера от акаунти в ChatGPT, вероятно произхождащи от Китай, които забранихме, след като използваха нашите модели в подкрепа на видимо прикрити операции за влияние, насърчаващи наративи в опит да манипулират легитимен дебат за американските политики за AI и по-широките технологични политики.

Първият клъстер генерираше коментари и изображения за социални медии с твърдения, че изграждането на центрове за данни за AI повишава цените на електроенергията за средните семейства. Нарекохме този клъстер кампанията „На вълната на центровете за данни“.

Вторият клъстер генерираше коментари и изображения, критикуващи митата на САЩ като опити за доминиране в технологичната конкуренция, и посочваше в своите подкани, че съдържанието не трябва да включва китайския лидер Си Дзинпин в резултата, а вместо това да включва само президента Тръмп. Този клъстер беше свързан с мрежа от вероятно неавтентични акаунти в социалните медии, които също вероятно са били насочени срещу OpenAI, като са твърдели, че данните на потребители на ChatGPT са били компрометирани. Тези твърдения бяха напълно неверни. Нарекохме този втори клъстер кампанията „Технологии и мита“.

Насочването към OpenAI и изграждането на центрове за данни в САЩ е значимо не защото операцията изглежда е променила общественото мнение, а защото показва как оператори за влияние с произход от КНР тестват наративи срещу AI инфраструктурата — основа на технологичното лидерство, икономическия растеж и по-широката демократична AI екосистема в САЩ. Операцията се стремеше да използва и засили съществуващите обществени опасения относно цените на енергията и местните ефекти от развитието на центрове за данни, но не открихме доказателства за значим пробив извън собствената ѝ дейност. Операциите за чуждестранно влияние отдавна се стремят да се закачат за съществуващи местни проблеми и искрени убеждения, използвайки ги, за да изградят доверие, да усилят разделенията или да задълбочат общественото недоверие. В този случай операторите се опитаха тайно да се намесят в текущ американски дебат за бъдещето на AI възможностите на страната, като криеха кои са и какво ги мотивира.

Като публикуваме тези констатации, целим да помогнем на нашата индустрия, правителствата, гражданското общество и обществеността по-добре да идентифицират и прекъсват опитите на чуждестранни заплахи да манипулират легитимни публични дебати, да отслабват демократичните институции и да насърчават тоталитаризъм с AI характеристики — използването на AI за наблюдение, цензура и контрол върху политическия, социалния и личния живот.