Operació "Menjar per a peixos": activitat d'una granja de continguts d'origen rus

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de febrer de 2026⁠(s'obre en una finestra nova) sobre la interrupció dels usos maliciosos de la IA.

Vam bloquejar un conjunt de comptes de ChatGPT vinculats a la xarxa "Rybar" ("Рыбарь", que en rus significa "pescador") a Telegram i X. És probable que almenys alguns dels comptes fossin d'origen rus. La xarxa generava contingut que es publicava arreu d'internet, de vegades mitjançant comptes amb la marca "Rybar" i, d'altres, mitjançant comptes de xarxes socials que no declaraven cap relació amb "Rybar". Un usuari també va demanar a ChatGPT que l'ajudés a elaborar, en nom de "Rybar", plans comercials per a campanyes encobertes d'ingerència a l'Àfrica. Atesa la manera com els actors utilitzaven ChatGPT per alimentar de contingut la xarxa "Rybar" i altres canals, hem batejat aquesta operació com a "Menjar per a peixos".

La principal activitat que vam detectar en aquesta xarxa era la generació de contingut per publicar-lo a les xarxes socials. Els usuaris solien escriure les indicacions en rus, però generaven contingut en diverses llengües, sobretot en rus, anglès i castellà. Part d'aquest contingut es publicava després a internet mitjançant comptes de xarxes socials amb la marca "Rybar" i el web principal de "Rybar". Un usuari també va generar vídeos amb Sora per promocionar la marca "Rybar".

A més de generar contingut que es publicava a internet mitjançant comptes amb la marca "Rybar", l'usuari principal d'aquest cas també generava lots de comentaris en anglès. Mitjançant tècniques de recerca de fonts obertes, vam identificar coincidències textuals exactes entre molts d'aquests comentaris generats i els publicats al canal de Telegram de Rybar. A dalt a la dreta, tuit en anglès amb la marca Rybar. a internet mitjançant diversos comptes d'X i Telegram, cap dels quals A baix a la dreta, text en castellà i infografia amb la marca Rybar en castellà no declarava cap vinculació amb Rybar. En essència, el web lingüístic de ChatGPT andaluciamorisca[.]org. semblava funcionar com una granja de continguts per a aquests comptes. No podem confirmar de manera independent el mecanisme pel qual aquests comptes acabaven publicant a internet el contingut generat per IA; a més, sembla que de vegades també publicaven contingut no generat pels nostres models.

Cal destacar que, almenys en una ocasió (il·lustrada a continuació), l'actor de l'amenaça va generar un lot de set tuits amb una sola indicació. En vam identificar sis, publicats per comptes d'X diferents. Segons les estadístiques d'X, el tuit més vist va superar les 150.000 visualitzacions, mentre que el menys vist només en va tenir 57. El compte del tuit amb més visualitzacions tenia més de 600.000 seguidors el 26 de gener de 2026; el compte del tuit amb menys visualitzacions en tenia 827 en la mateixa data. Com que tots els tuits es van generar en un sol lot a partir d'una única indicació, això suggereix que el factor determinant perquè cada tuit tingués moltes visualitzacions probablement era el nombre de seguidors de cada compte, més que no pas el fet que el contingut fos generat per IA.

A banda de generar contingut, el compte principal de l'operació també va demanar a ChatGPT que traduís a l'anglès una llista de serveis que "Rybar" podia oferir a clients no identificats, com ara gestionar comptes d'X i Telegram, un web bilingüe de "periodisme d'investigació" centrat en l'Àfrica, publicacions de pagament en mitjans francòfons i una xarxa d'amplificadors. En una altra indicació es demanava al model que edités una proposta per al que semblava un equip d'ingerència electoral desplegat, aparentment a l'Àfrica. Aquesta proposta incloïa tant activitats sobre el terreny com en línia, com ara crear una xarxa d'agents locals i organitzar actes a gran escala. Una tercera indicació tractava sobre una campanya informativa centrada en la República Democràtica del Congo (RDC). Altres indicacions preguntaven pel procés electoral a Burundi i el Camerun i esbossaven opcions per a una campanya a Madagascar, inclosa la idea d'atiar protestes sobre el terreny. Les quantitats implicades eren considerables: un pressupost anual estimat de fins a 600.000 dòlars per al projecte més ambiciós.

El mateix usuari generava ocasionalment material promocional per a un mitjà de comunicació anomenat "REST Media", que investigadors de fonts obertes han vinculat⁠(s'obre en una finestra nova) a Rybar. Part d'aquest material promocional es va publicar a internet mitjançant el mateix conjunt de canals de Telegram descrit anteriorment. Per exemple, a l'agost, el principal usuari de ChatGPT d'aquest cas va introduir un article de REST Media que acusava Alemanya de crear una xarxa d'influència a Moldàvia i va demanar al nostre model que generés un conjunt de comentaris sobre l'article. Després, tres canals diferents van publicar a Telegram tres dels comentaris, cadascun amb un enllaç a l'article de REST.

El contingut generat per aquesta operació era típic de les operacions encobertes d'influència russes dels darrers anys. Habitualment elogiava Rússia i els seus aliats (com Bielorússia), criticava Ucraïna i acusava els països occidentals d'ingerència estrangera.

La xarxa Rybar té molts seguidors a les xarxes socials: només el seu principal canal de Telegram en rus té uns 1,4 milions de subscriptors. Molts dels comptes d'X i Telegram que publicaven el contingut de l'operació també tenien desenes de milers de seguidors. Tanmateix, no vam observar que els principals mitjans de comunicació amplifiquessin el contingut, ni vam poder identificar activitats sobre el terreny a l'Àfrica que coincidissin amb la descripció de les propostes comercials.

D'acord amb la Breakout Scale⁠(s'obre en una finestra nova) d'impacte de les operacions d'influència, que les puntua en una escala de l'1 (mínim) al 6 (màxim), situaríem aquesta operació a la franja superior de la categoria 3 (múltiples comunitats en múltiples plataformes), atesa la seva àmplia difusió a les xarxes socials.