Nfixklu operazzjoni moħbija Iranjana ta’ influwenza
Ippruvdejna kontijiet marbuta ma’ operazzjoni Iranjana ta’ influwenza li kienet tuża ChatGPT biex tiġġenera kontenut iffukat fuq diversi suġġetti, inkluża l-kampanja presidenzjali tal-Istati Uniti. Ma rajna ebda sinjal li dan il-kontenut laħaq udjenza sinifikanti.
OpenAI hija impenjata li tipprevjeni l-abbuż u ttejjeb it-trasparenza dwar kontenut iġġenerat mill-AI. Dan jinkludi x-xogħol tagħna biex nindividwaw u nwaqqfu operazzjonijiet moħbija ta’ influwenza (IO), li jippruvaw jimmanipulaw l-opinjoni pubblika jew jinfluwenzaw riżultati politiċi waqt li jaħbu l-identità vera jew l-intenzjonijiet tal-atturi warajhom. Dan huwa speċjalment importanti fil-kuntest tal-ħafna elezzjonijiet li qed isiru fl-2024. Estendejna x-xogħol tagħna f’dan il-qasam matul is-sena, inkluż billi użajna l-mudelli AI tagħna stess biex nindividwaw u nifhmu aħjar l-abbuż.
Din il-ġimgħa identifikajna u żarmajna grupp ta’ kontijiet ta’ ChatGPT li kienu qed jiġġeneraw kontenut għal operazzjoni moħbija Iranjana ta’ influwenza identifikata bħala Storm-2035(jinfetaħ f’tieqa ġdida). Ipprojbejna lil dawn il-kontijiet milli jużaw is-servizzi tagħna, u nibqgħu nissorveljaw għal kull tentattiv ieħor biex jinkisru l-politiki tagħna. L-operazzjoni użat ChatGPT biex tiġġenera kontenut iffukat fuq numru ta’ suġġetti—inkluż kummentarju dwar kandidati miż-żewġ naħat fl-elezzjoni presidenzjali tal-Istati Uniti – li mbagħad qasmet permezz ta’ kontijiet tal-midja soċjali u websajts.
Simili għall-operazzjonijiet moħbija ta’ influwenza li rrappurtajna f’Mejju, din l-operazzjoni ma tidhirx li kisbet involviment sinifikanti tal-udjenza. Il-maġġoranza tal-posts fuq il-midja soċjali li identifikajna rċevew ftit jew ebda likes, shares, jew kummenti. Bl-istess mod ma sibniex indikazzjonijiet li l-artikli tal-web tqassmu fuq il-midja soċjali. Bl-użu tal-Breakout Scale(jinfetaħ f’tieqa ġdida) ta’ Brookings, li tevalwa l-impatt ta’ IO moħbi fuq skala minn 1 (l-inqas) sa 6 (l-ogħla), din l-operazzjoni kienet fit-tarf baxx tal-Kategorija 2 (attività fuq bosta pjattaformi, iżda mingħajr evidenza li nies reali qabdu jew qasmu b’mod wiesa’ l-kontenut tagħhom). L-investigazzjoni tagħna bbenefikat minn informazzjoni dwar l-operazzjoni ippubblikata minn Microsoft il-ġimgħa li għaddiet.(jinfetaħ f’tieqa ġdida)
L-investigazzjoni tagħna żvelat li din l-operazzjoni użat ChatGPT għal żewġ skopijiet: il-ġenerazzjoni ta’ artikli twal u kummenti iqsar għall-midja soċjali. L-ewwel linja ta’ xogħol ipproduċiet artikli dwar il-politika tal-Istati Uniti u avvenimenti globali, ippubblikati fuq ħames websajts li ppreżentaw ruħhom kemm bħala mezzi tal-aħbarijiet progressivi kif ukoll konservattivi. It-tieni linja ta’ xogħol ħolqot kummenti qosra bl-Ingliż u bl-Ispanjol, li ġew ippubblikati fuq il-midja soċjali. Identifikajna tnax-il kont fuq X u wieħed fuq Instagram involuti f’din l-operazzjoni. Xi wħud mill-kontijiet fuq X ppreżentaw ruħhom bħala progressivi, u oħrajn bħala konservattivi. Ġġeneraw xi wħud minn dawn il-kummenti billi talbu lill-mudelli tagħna biex jiktbu mill-ġdid kummenti ppubblikati minn utenti oħra tal-midja soċjali.
L-operazzjoni ġġenerat kontenut dwar diversi suġġetti: prinċipalment, il-kunflitt f’Gaża, il-preżenza ta’ Iżrael fil-Logħob Olimpiku, u l-elezzjoni presidenzjali tal-Istati Uniti—u sa ċertu punt iżgħar il-politika fil-Venezwela, id-drittijiet tal-komunitajiet Latinx fl-Istati Uniti (kemm bl-Ispanjol kif ukoll bl-Ingliż), u l-indipendenza Skoċċiża. Huma daħħlu bejn dan kontenut politiku kummenti dwar il-moda u s-sbuħija, possibbilment biex jidhru aktar awtentiċi jew f’tentattiv li jibnu segwitu.
Minkejja n-nuqqas ta’ involviment sinifikanti tal-udjenza li rriżulta minn din l-operazzjoni, nieħdu bis-serjetà kull sforz biex jintużaw is-servizzi tagħna f’operazzjonijiet barranin ta’ influwenza. Għaldaqstant, bħala parti mix-xogħol tagħna biex nappoġġjaw lill-komunità usa’ fit-tfixkil ta’ din l-attività wara li neħħejna l-kontijiet mis-servizzi tagħna, qsamna intelligence dwar it-theddid ma’ partijiet interessati fil-gvern, kampanji u industrija. OpenAI tibqa’ ddedikata biex tikxef u tnaqqas dan it-tip ta’ abbuż fuq skala billi tissieħeb mal-industrija, is-soċjetà ċivili u l-gvern, u billi tisfrutta l-qawwa tal-AI ġenerattiva biex tkun multiplikatur tal-forza fix-xogħol tagħna. Se nkomplu nippubblikaw sejbiet bħal dawn biex nippromwovu l-qsim tal-informazzjoni u l-aħjar prattiki.
Titli ta’ żewġ artikli ġġenerati minn din l-operazzjoni u ppubblikati fuq tnejn mill-websajts tagħha. Ma rajniex evidenza li dawn l-artikli nqassmu b’mod wiesa’ fuq il-midja soċjali.
Posts dwar kandidati għall-elezzjoni tal-Istati Uniti ġġenerati minn din l-operazzjoni, ippubblikati minn żewġ kontijiet differenti fuq X. Dawn il-posts ġabru ftit jew xejn involviment.
Posts dwar is-sbuħija ġġenerati mill-operazzjoni bl-Ingliż u bl-Ispanjol, ippubblikati minn żewġ kontijiet differenti fuq X. Għaddejna dawn l-immaġnijiet mill-klassifikatur DALL·E 3 tagħna, li identifikahom bħala mhux iġġenerati mis-servizzi tagħna. Dawn il-posts ġabru ftit jew xejn involviment.
Domains marbuta ma’ din l-attività:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com