Operacioni „Doppelganger“: aktivitet rus ndikimi kundër Ukrainës
OpenAI bllokoi llogari të lidhura me operacionin me origjinë ruse „Doppelganger“, i cili përdorte IA-në për të krijuar komente kundër Ukrainës në rrjetet sociale, përkthime dhe tekste për faqe interneti në disa gjuhë.
Ky studim rasti u botua fillimisht në raportin e OpenAI të majit 2024(hapet në një dritare të re).
Aktori
Bllokuam katër grupe llogarish që përdornin modelet tona dhe lidheshin me persona që vepronin në emër të operacionit rus të ndikimit të njohur si „Doppelganger“(hapet në një dritare të re). Çdo grup përdorte taktika, teknika dhe procedura (TTP) të ndryshme, në përputhje me një operacion të përbërë nga ekipe me funksione të ndryshme.
Sjellja
Ky aktivitet synonte audienca në Evropë dhe Amerikën e Veriut dhe përqendrohej në krijimin e përmbajtjes për faqe interneti dhe rrjete sociale.
Grupi i parë i llogarive krijonte komente të shkurtra në anglisht, frëngjisht, gjermanisht, italisht dhe polonisht. Ato postoheshin në 9GAG dhe X, së bashku me meme, video dhe lidhje që nuk duket se ishin krijuar me modelet tona. Disa meme ishin kopjuar nga interneti dhe dukej se ishin prej vitesh në qarkullim.
Në 9GAG, llogaritë që postonin përmbajtjen e kësaj fushate zakonisht kishin si fotografi profili persona të famshëm ose mace. Ato i postonin memet dhe videot e tyre në një gamë të gjerë kanalesh, përfshirë kanalin „Random“ dhe kanale kushtuar kafshëve shtëpiake, sportit, humorit, madje edhe marrëdhënieve dhe takimeve romantike.
Koment për Ukrainën dhe video për Gazën, të postuara në kanalin „Motor Vehicles“ të 9GAG nga një llogari që postonte vazhdimisht përmbajtje të krijuar nga kjo fushatë. Referenca ndaj Ukrainës dhe kufirit të SHBA-së u krijua me modelet tona. Videoja ishte një kolazh pamjesh nga lajmet. Postimi mori 11 vota pozitive dhe 93 vota negative.
Sa herë që fushata postonte një meme ose video në 9GAG, përgjigjeshin tri deri në pesë llogari, zakonisht me mesazhe të thjeshta si „hahaha“ ose „lol“. Secila prej këtyre llogarive ndërvepronte vetëm me përmbajtjen e kësaj fushate; shumica ishin krijuar në të njëjtën datë. Kjo sjellje shpesh tërhiqte komente kritike nga përdorues të tjerë, shumë prej të cilëve i denonconin llogaritë si „bote“.
Komente për videon e paraqitur më sipër. Tri llogaritë e fundit (komentuesit e parë) u krijuan të gjitha në fund të prillit 2024 dhe postuan, votuan pozitivisht ose komentuan vazhdimisht vetëm postimet e kësaj fushate. Tri llogaritë e para, që denoncuan falsifikimet, ishin krijuar nga një deri në dhjetë vjet më parë dhe shfaqnin një gamë të gjerë aktivitetesh.
Në X, komentet e fushatës postoheshin nga llogari që zakonisht bënin vetëm një ose dy postime secila. Komentet zakonisht shoqëroheshin nga një lidhje në dukje e rastësishme, si „solarpanelfor.sale“. Këto lidhje ridrejtonin te një grup faqesh interneti që i janë atribuar vazhdimisht Doppelganger. Faqet kishin kufizime gjeografike, ndaj mund t'i shikonin vetëm personat me adresë IP në vendin e synuar. Megjithatë, operatorët duket se kishin gabuar, kështu që disa artikuj në anglisht, gjermanisht dhe polonisht mund të shiheshin vetëm nga një adresë IP franceze.
Postim në X që përfshin një koment të krijuar me modelet tona. Komenti përkthehet: „Një akt tronditës! Politika nuk duhet të lidhet kurrë me dhunën. Na duhet dialog, jo dhunë“. Lidhja shoqëruese ridrejtonte te versioni në gjermanisht i faqes së markuar të Doppelganger, rrn.media. Megjithatë, më 20 maj, ajo mund të shikohej vetëm nga një adresë IP franceze.
Me gjasë për t'iu shmangur zbulimit, ky grup i qasej modeleve tona përmes një shërbimi të lidhur me kompani në Rusi dhe Republikën Çeke. Ky shërbim synonte t'u mundësonte personave në Rusi të anashkalonin politikën tonë të qasjes për vendet e mbështetura(hapet në një dritare të re). Ia kemi çaktivizuar këtij shërbimi qasjen në API.
Grupi i dytë përkthente artikuj nga rusishtja në anglisht dhe frëngjisht; tekstet ruse duket se ishin krijime origjinale. Shumë prej këtyre artikujve u botuan më pas në një faqe interneti që i është atribuar vazhdimisht Doppelganger: rrn.media. I njëjti grup krijonte komente të shkurtra rreth artikujve të vet, të cilat më vonë shfaqeshin në rrjetet sociale.
Postim në X, i krijuar me modelet tona, së bashku me një lidhje drejt një artikulli në rrn.media.
Grupi i tretë përdorej për të krijuar, redaktuar dhe korrigjuar artikuj në frëngjisht. Më pas, artikujt botoheshin në franceeteu.today, një faqe interneti që i është atribuar gjithashtu Doppelganger.
Grupi i fundit vepronte në gjermanisht. Ai merrte përmbajtje nga faqja e Doppelganger grenzezank.com dhe e përdorte për të krijuar postime të shkurtra për një grup dhe faqe në Facebook që mbanin emrin e faqes së internetit.
Përmbajtja
Pjesa më e madhe e përmbajtjes që kjo fushatë publikoi në internet përqendrohej te lufta në Ukrainë. Ajo i paraqiste negativisht Ukrainën, SHBA-në, NATO-n dhe BE-në, ndërsa Rusinë pozitivisht. Komentet tipike pretendonin se Rusia është një partnere e rëndësishme ekonomike për vendet evropiane; se udhëheqësit perëndimorë që kritikojnë Rusinë nuk i kuptojnë votuesit e tyre; dhe se Ukraina është e dobët, e korruptuar dhe/ose në prag të humbjes.
Në disa raste, aktorët e Doppelganger u përpoqën t'i bënin modelet tona të krijonin karikatura të politikanëve të shquar evropianë dhe kritikëve të Rusisë. Modelet tona i refuzuan këto kërkesa.
Vlerësimi i ndikimit
Asnjë nga fushatat e Doppelganger që identifikuam nuk duket se ka siguruar angazhim të konsiderueshëm pozitiv nga audienca autentike.
Në 9GAG, postimet tipike merrnin 5–10 vota pozitive, kryesisht nga llogari që postonin edhe përmbajtjen e kësaj fushate, dhe nga 15 deri në 200 vota negative. Në X, postimet tipike kishin rreth 1 000 shpërndarje, asnjë përgjigje dhe asnjë pëlqim. Kjo mospërputhje është aq e madhe sa sugjeron amplifikim joautentik. Një postim mori tri përgjigje, të cilat e denoncuan të gjitha si të rremë.
Përgjigje në X ndaj një postimi të Doppelganger.
Duke përdorur Shkallën e Përhapjes(hapet në një dritare të re) për të vlerësuar ndikimin e operacioneve të ndikimit, e cila i klasifikon në një shkallë nga 1 (më e ulëta) në 6 (më e larta), aktivitetin e lidhur me përdorimin e modeleve tona do ta vlerësonim në Kategorinë 2, të karakterizuar nga postime në disa platforma, por pa përhapje ose angazhim të konsiderueshëm të audiencës në ndonjërën prej tyre.