「Doppelganger」行動：針對烏克蘭的俄羅斯影響力活動
OpenAI 封禁了與源自俄羅斯的「Doppelganger」行動有關的帳號。這項行動利用 AI，以多種語言生成反烏克蘭的社群媒體留言、翻譯及網站文案。
本案例研究最初刊載於 OpenAI 的 2024 年 5 月(在新視窗中開啟)報告。
行動者
我們封禁了四組使用我們模型的帳號；這些帳號與代表俄羅斯影響力行動 「Doppelganger」(在新視窗中開啟)行事的人員有關。各組帳號採用不同的戰術、技術與程序（TTP），這與一項由不同職能團隊組成的行動相符。
行為
這項活動以歐洲與北美洲的受眾為目標，主要為網站及社群媒體生成內容。
第一組帳號生成英文、法文、德文、義大利文及波蘭文的短篇文字留言。這些留言與迷因、影片及連結一同發布於 9GAG 和 X；後三者似乎並非使用我們的模型生成。部分迷因取自網路各處，而且似乎已流傳多年。
在 9GAG 上，發布這項行動內容的帳號通常以名人或貓咪的照片作為大頭貼。他們在各式各樣的頻道發布迷因和影片，包括「隨機」頻道，以及寵物、運動、幽默，甚至感情與約會等主題頻道。
一個屢次發布這項行動所生成內容的帳號，在 9GAG 的「汽車」頻道發布了有關烏克蘭的留言及一段關於加薩的影片。其中提及烏克蘭與美國邊境的內容是使用我們的模型生成。該影片由新聞片段拼接而成。這則貼文獲得 11 個讚和 93 個倒讚。
每當這項行動在 9GAG 發布迷因或影片，就會有三至五個帳號回覆，通常只是「哈哈哈」或「笑死」之類的簡短訊息。這些帳號全都只曾與這項行動的內容互動，而且多數建立於同一天。這種行為經常引來其他使用者批評，其中許多人直接指稱這些帳號是「機器人」。
上圖影片的留言。最下方三個帳號（最早留言者）都建立於 2024 年 4 月下旬，且一再發布、按讚或留言回應這項行動的貼文，從未與其他內容互動。最上方三個揭穿造假行為的帳號建立於一至十年前，活動類型相當多元。
在 X 上，這項行動的留言均由通常只發布過一兩則貼文的帳號發出。這些留言通常附有看似隨機的連結，例如「solarpanelfor.sale」。這些連結會重新導向一組屢次被認定與 Doppelganger 有關的網站。這些網站設有地理圍欄，因此只有 IP 位址位於目標國家的人才能瀏覽。不過，行動人員似乎出了差錯，導致部分英文、德文及波蘭文文章只能透過法國 IP 瀏覽。
發布於 X 的貼文，其中包含使用我們的模型生成的留言。留言譯文為：「令人震驚的行徑！政治絕不該與暴力掛鉤。我們需要的是對話，而不是暴力。」隨附連結會重新導向 Doppelganger 旗下網站 rrn.media 的德文版。然而截至 5 月 20 日，該網站只能透過法國 IP 瀏覽。
這組帳號疑似為了躲避偵測，透過一項與俄羅斯及捷克共和國企業有關的服務存取我們的模型。這項服務旨在讓俄羅斯境內的人規避我們的支援國家／地區存取政策(在新視窗中開啟)。我們已停用這項服務的 API 存取權。
第二組帳號將文章從俄文翻譯成英文和法文；俄文原稿似乎是自行撰寫的。其中許多文章後來發布於 rrn.media；該網站屢次被認定與 Doppelganger 有關。同一組帳號還針對這些文章生成短篇留言，之後發布於社群媒體。
使用我們的模型生成並發布於 X 的貼文，附有一篇 rrn.media 文章的連結。
第三組帳號用於生成、校對及修正法文文章。這些文章隨後發布於同樣被認定與 Doppelganger 有關的網站 franceeteu.today。
最後一組帳號以德文運作。這組帳號擷取 Doppelganger 網站 grenzezank.com 的內容，並據此為一個以該網站命名的 Facebook 社團與專頁生成短篇貼文。
內容
這項行動在網路上發布的內容，大多聚焦於烏克蘭戰爭。這些內容負面描繪烏克蘭、美國、北約與歐盟，卻正面描繪俄羅斯。常見留言主張俄羅斯是歐洲國家的重要經濟夥伴；批評俄羅斯的西方領袖不了解本國選民；以及烏克蘭既弱小又腐敗，且／或瀕臨戰敗。
Doppelganger 的行動者有時會嘗試讓我們的模型生成歐洲知名政治人物及俄羅斯批評者的卡通圖片。我們的模型拒絕了這些要求。
影響評估
我們辨識出的 Doppelganger 行動，似乎都未從真實受眾獲得大量正面互動。
在 9GAG 上，一般貼文會獲得 5 至 10 個讚，大多來自同樣發布這項行動內容的帳號，並收到 15 至 200 個倒讚不等。在 X 上，一般貼文約有 1,000 次分享，但回覆數和按讚數都是零。如此懸殊的差距顯示，其中可能存在非真實放大操作。有一則貼文收到三則回覆，全都指稱它是假的。
對 Doppelganger 貼文的 X 回覆。
我們採用突破量表(在新視窗中開啟)評估影響力行動的影響。該量表將影響分為 1（最低）至 6（最高）級；我們認為與使用我們模型有關的活動屬於第 2 類，其特徵是在多個平台發布內容，但未在任何平台形成突破性傳播或獲得顯著的受眾互動。