Operacions d’influència vinculades a la RPC apunten als debats sobre la IA als EUA

La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. Impulsem aquesta missió desplegant les nostres innovacions per construir una IA democràtica: una IA modelada per principis democràtics, regida per normes de sentit comú i dissenyada per ajudar les persones a resoldre problemes difícils alhora que les protegeix de danys reals. Aquesta missió també exigeix identificar i frustar els intents dels règims autoritaris i els seus representants d’utilitzar sistemes d'intel·ligència artificial per coaccionar la crítica, vigilar comunitats o interferir de manera encoberta en societats democràtiques.

En aquest informe, descrivim dos grups de comptes de ChatGPT que probablement provenen de la Xina que vam prohibir després que utilitzessin els nostres models per donar suport al que semblen ser operacions d’influència encobertes destinades a promoure narratives amb l’objectiu de manipular un debat legítim sobre la IA dels EUA i polítiques tecnològiques més àmplies.

El primer grup va generar comentaris i imatges per a xarxes socials que afirmaven que el desenvolupament de centres de dades per a IA estava incrementant el preu de l’electricitat per a les famílies mitjanes. Vam anomenar aquest grup la campanya «Data Center Bandwagon».

El segon grup va generar comentaris i imatges que criticaven els aranzels dels EUA com a intents de dominar la competència tecnològica, i especificava a les seves indicacions que el contingut no havia d’incloure el líder de la Xina, Xi Jinping, en el resultat, sinó només el president Trump. Aquest grup estava connectat a una xarxa de comptes de xarxes socials probablement no autèntics que també probablement apuntaven contra OpenAI afirmant que les dades dels usuaris de ChatGPT havien estat compromeses. Aquestes acusacions eren completament falses. Vam anomenar aquest segon grup la campanya «Tech and Tariffs».

El fet que l'objectiu fossin OpenAI i el desenvolupament de centres de dades als EUA és significatiu, no perquè l’operació sembli haver canviat l’opinió pública, sinó perquè mostra operadors d’influència procedents de la RPC provant narratives contra la infraestructura d’IA: una base del lideratge tecnològic dels EUA, el creixement econòmic i l’ecosistema més ampli d'IA democràtica. L’operació pretenia explotar i amplificar les preocupacions públiques existents sobre els preus de l’energia i els impactes locals del desenvolupament de centres de dades, però no vam trobar cap prova d’una difusió significativa més enllà de la seva pròpia activitat. Les operacions d’influència estrangera fa temps que intenten aferrar-se a qüestions locals existents i a creences sincerament sostingudes, utilitzant-les per generar credibilitat, amplificar divisions o agreujar la desconfiança pública. En aquest cas, els operadors van intentar inserir-se de manera encoberta en un debat nord-americà en curs sobre el futur de les capacitats d’IA del país, tot ocultant qui eren i què els motivava.

En publicar aquestes conclusions, volem ajudar el nostre sector, els governs, la societat civil i el públic a identificar i frustrar els intents d'agents estrangers hostils de manipular debats públics legítims, debilitar institucions democràtiques i promoure el totalitarisme amb característiques pròpies de la IA: l’ús de la IA per a la vigilància, la censura i el control de la vida política, social i privada.