Vlivové operace napojené na ČLR cílí na debaty o AI v USA

Naším posláním je zajistit, aby obecná umělá inteligence přinášela prospěch celému lidstvu. Toto poslání naplňujeme tím, že nasazujeme naše inovace k budování demokratické AI: AI utvářená demokratickými principy, řízená pravidly zdravého rozumu a navržená tak, aby lidem pomáhala řešit obtížné problémy a zároveň je chránila před skutečnou újmou. Toto poslání také vyžaduje odhalovat a mařit pokusy autoritářských režimů a jejich zástupců využívat systémy AI k nátlaku na kritiky, sledování komunit nebo skrytému zasahování do demokratických společností.

V této zprávě popisujeme dva shluky účtů ChatGPT pravděpodobně pocházející z Číny, které jsme zablokovali poté, co použily naše modely na podporu zjevně skrytých vlivových operací propagujících narativy snažící se manipulovat legitimní debatu o americké AI a širší technologické politice.

První shluk vytvářel komentáře a obrázky pro sociální média, které tvrdily, že výstavba datových center pro AI zvyšuje ceny elektřiny pro průměrné rodiny. Tento shluk jsme nazvali kampaní „Data Center Bandwagon“.

Druhý shluk vytvářel komentáře a obrázky kritizující americká cla jako pokusy ovládnout technologickou soutěž a ve svých promptech uváděl, že obsah nemá ve výstupu zahrnovat čínského vůdce Si Ťin-pchinga, ale pouze prezidenta Trumpa. Tento shluk byl napojen na síť pravděpodobně neautentických účtů na sociálních sítích, které se zřejmě zaměřovaly také na OpenAI tvrzením, že byla kompromitována uživatelská data ChatGPT. Tato obvinění byla zcela nepravdivá. Tento druhý shluk jsme nazvali kampaní „Tech and Tariffs“.

Zacílení na OpenAI a výstavbu datových center v USA je významné ne proto, že by se zdálo, že operace změnila veřejné mínění, ale proto, že ukazuje, jak vlivoví operátoři původem z ČLR testují narativy proti infrastruktuře AI – základu technologického vůdcovství USA, hospodářského růstu a širšího ekosystému demokratické AI. Operace se snažila využít a zesílit stávající obavy veřejnosti z cen energií a místních dopadů rozvoje datových center, ale nenašli jsme žádné důkazy o smysluplném průniku mimo její vlastní aktivitu. Zahraniční vlivové operace se dlouhodobě snaží navázat na existující místní témata a upřímně zastávaná přesvědčení a využívat je k budování důvěryhodnosti, posilování rozporů nebo prohlubování nedůvěry veřejnosti. V tomto případě se operátoři pokusili skrytě vložit do probíhající americké debaty o budoucnosti schopností země v oblasti AI a zároveň skrývali, kdo jsou a co je motivuje.

Zveřejněním těchto zjištění chceme pomoci našemu odvětví, vládám, občanské společnosti i veřejnosti lépe rozpoznávat a mařit pokusy zahraničních aktérů hrozeb manipulovat legitimní veřejné debaty, oslabovat demokratické instituce a prosazovat totalitarismus s rysy AI (využívání AI ke sledování, cenzuře a kontrole politického, společenského i soukromého života).