סיכול מבצעים במסווה בסיוע בינה מלאכותית

בשנתיים וחצי האחרונות דיווחנו על דרכים רבות שבהן גורמי איום ניסו להשתמש במודלים שלנו לביצוע מתקפות סייבר, מבצעי השפעה חשאיים (IO), הונאות והפרות אחרות של מדיניות השימוש שלנו. אנחנו מפרסמים את הדוחות האלה כדי ליידע רגולטורים, עמיתים בתעשייה ואת הציבור הרחב על ניסיונות של גורמי איום לנצל בינה מלאכותית שאנו מזהים, וכדי לחשוף את נקודות התורפה שהם מנסים לנצל.

לאחרונה חסמנו שני מבצעי השפעה — אחד מרוסיה ואחד מאיראן — שהשתמשו במודלים שלנו בשילוב שיטות וטכנולוגיות מסורתיות יותר, כדי לתמוך בגופים מתוחכמים שפעלו במסווה. הם השתמשו בגופים האלה כדי להעביר לקהלי היעד מסרים גאופוליטיים הנוגעים לעימותים, תוך הסוואת מקורם. המבצע האיראני הפעיל שבע דמויות של ״עיתונאים״, שבשמן הוצעו מאמרים ארוכים לכלי תקשורת מקוונים קטנים ובינוניים ברחבי העולם; נראה שהמבצע הרוסי גייס אנשים באמריקה הלטינית, שלא היו מודעים למטרתו, כדי להפעיל ״מכון מחקר״ בשטח.

שני המבצעים פעלו בכמה מישורים וניסו מגוון טקטיקות כדי להשיג את מטרותיהם. לצד מאמרים ארוכים, המבצע האיראני יצר מקבצי תגובות לרשתות החברתיות, בדרך כלל בנושאים הקשורים למלחמת ארה״ב–איראן. לצד השליטה ב״מכון המחקר״, המבצע הרוסי יצר מסמכים מזויפים שהוצגו כ״הדלפות״ ותסריטים להקלטות קול, ואת חלקם זיהינו כשהופצו ברשת. בשני המבצעים נעשה גם שימוש נרחב בבינה מלאכותית לניסוח דוחות פנימיים (במבצע הרוסי זה היה השימוש העיקרי); בשני המקרים השתמשו הגורמים בשיטות מפוקפקות או מטעות במכוון כדי להפריז ביעילותם של המפעילים.

המאפיין הבולט ביותר של המבצעים האלה הוא הדמיון הרב בינם לבין מבצעי השפעה מורכבים מהתקופה שקדמה לבינה המלאכותית, לצד השימוש בבינה מלאכותית כדי להקל חלק מתהליכי העבודה. דמויות העיתונאים שהפעיל המבצע האיראני הזכירו את העיתונאית הבדויה ״אליס⁠(נפתח בחלון חדש) דונובן⁠(נפתח בחלון חדש)״, זהות כיסוי של המודיעין הצבאי הרוסי, שמאמרים בשמה פורסמו במגוון כלי תקשורת מערביים בשנים 2016–2017. ב-2020 הפעילו אנשים שנקשרו לפעילות קודמת של הסוכנות הרוסית לחקר האינטרנט כלי ״חדשות״ מזויף בשם ״פיסדאטה⁠(נפתח בחלון חדש)״, שגייס עיתונאים ברחבי העולם לכתוב עבורו מבלי שידעו מי עומד מאחוריו.

המבצעים האלה היו חריגים גם בפוטנציאל התפוצה שלהם. לפי סולם הפריצה⁠(נפתח בחלון חדש) למבצעי השפעה, המדרג אותם מ-1 (הנמוך ביותר) עד 6 (הגבוה ביותר), אנו מעריכים שהמבצע שמקורו ברוסיה שייך לקטגוריה 5. זהו המבצע הראשון בקטגוריה 5 שסיכלנו מאז שהתחלנו לפרסם דוחות. המבצע שמקורו באיראן הגיע לקטגוריה 4. שניהם הצליחו להביא לפרסום התוכן שלהם (שלא כולו נוצר באמצעות המודלים שלנו) בכלי תקשורת מרכזיים, ולא הסתפקו בפרסומו ברשתות החברתיות. הדבר תואם דפוס שזיהינו ב-30 מבצעי ההשפעה החשאיים שחשפנו בשנתיים וחצי האחרונות: מבצעים שמנסים לפרסם את התוכן שלהם בכלי תקשורת אמיתיים, במקום להסתמך על הפצה באמצעות חשבונות מזויפים ברשתות החברתיות, נוטים להיות בעלי פוטנציאל התפוצה וההשפעה הגבוה ביותר.

מטריצה של 30 מבצעי ההשפעה שחשפנו מתחילת 2024, לפי שיטת ההפצה העיקרית (רשתות חברתיות, אתר שמפעיל המבצע, פרסומים חיצוניים) והדירוג בסולם הפריצה. מבצעים שהשתמשו ביותר משיטת הפצה אחת, כגון הפעלת אתר וקידומו ברשתות החברתיות, מסווגים לפי השיטה שנראתה כליבת המבצע.

בינה מלאכותית יכולה להרחיב את היקפם של מבצעים כאלה הפועלים במסווה, לייעל אותם ולשפר את רמת השפה ואת יכולות העריכה שלהם. המפעילים יכולים להשתמש ביתרונות האלה כדי לנצל קורבנות תמימים, כגון עובדים או עורכים, ולשתול את התוכן שלהם מול קהלים שאין להם מושג מי עומד מאחוריו ומה מניעיו. המבצעים האלה גם ממחישים את המורכבות והתחכום בשימוש של גורמי איום בדמויות ובגופים בדויים כדי להשיג את מטרותיהם. הבנת נקודות התורפה שגורמי האיום מנצלים במאמצים האלה, והאופן שבו הן עשויות לאפשר להם להגיע לקהלים ולתפוצה רחבה, תהיה חיונית לשמירה על הגנה איתנה בארגונים.

עם זאת, אופיים החשאי של המבצעים האלה הפועלים במסווה הופך אותם גם לפגיעים במיוחד לחשיפה אחראית. גם ״אליס דונובן״ וגם ״פיסדאטה״ הפסיקו את פעילותם לאחר שנחשפו. לכן מטרתנו בדיווח על המבצעים האלה הפועלים במסווה היא להקל על המשך המחקר והסיכול — ולהקשות על המשך פעילותם.

גורמים שמקורם ברוסיה, המנהלים קמפיינים של השפעה ברחבי אמריקה הלטינית.

חסמנו קבוצת חשבונות ChatGPT שמקורם ברוסיה. הם השתמשו ב-ChatGPT למגוון משימות הקשורות למבצעי השפעה חשאיים שכוונו למדינות ברחבי אמריקה הלטינית. נראה שחלק ניכר מהפעילות נועד לפגוע במוניטין של אוקראינה באזור, אך חלקה נראה מכוון להשפעה על תוצאות פוליטיות מקומיות, במיוחד בארגנטינה ובבוליביה. רוב המפעילים כתבו הנחיות ברוסית; אחד כתב בספרדית, אך למרות זאת נראה שגם הוא נמצא ברוסיה. שיתפנו מידע על המקרה עם הרשויות הרלוונטיות.

המפעילים השתמשו ב-ChatGPT לביצוע שלוש משימות עיקריות: כתיבת דוחות פנימיים על פעילותם (ועל פעילות של אחרים שיכלו לייחס לעצמם באופן משכנע), יצירת תוכן למבצעים שלהם, וניסוח דוחות על ביצועיו של גוף באמריקה הלטינית שהגדיר את עצמו כ״פלטפורמת מחקר״ ונקרא המרכז למחקר חברתי (SRC). נראה שהם שלטו במרכז באמצעות דמות בדויה בשם ״מיה קלארק״; על שם הדמות כינינו את המבצע ״קלארק האפלה״. מכיוון שאיננו מאפשרים גישה למודלים שלנו מרוסיה, הם השתמשו ברשתות VPN כדי להתחבר לשירותים שלנו.

בדוחות הפנימיים שלהם טענו המפעילים שהפיצו ידיעות כוזבות ברחבי אמריקה הלטינית כדי לפגוע באוקראינה או במנהיגים מקומיים. חלק מהזיופים האלה יוחסו בידי חוקרי⁠(נפתח בחלון חדש) מקורות גלויים⁠(נפתח בחלון חדש) לגוף רוסי המכונה ״פוליטולוגיה״ או ״לה קומפניה״, שלפי דיווחים הוא ממשיך דרכם של קבוצת וגנר ושל גופים אחרים שייסד האוליגרך הרוסי יבגני פריגוז׳ין. המפעילים גם ביקשו מהמודלים שלנו לתרגם או להסביר דיווחים פומביים על פוליטולוגיה ועל וגנר, בהיקף גדול בהרבה משאלותיהם על כל רשת אחרת שמקורה ברוסיה.

המבצע הזה היה חריג בשני היבטים. ראשית, נראה שהוא הצליח לגייס אנשים באמריקה הלטינית לעבודה עבור המרכז. דוחות המפעילים הרוסיים על המרכז התייחסו להחלטות בנושאים כגון טבלאות שכר, גיוס עובדים ופיטורים, דבר שמעיד שהם שלטו בגוף ולא רק שיתפו איתו פעולה. הראיות הזמינות מצביעות על כך שעובדי המרכז באמריקה הלטינית לא ידעו שהם עובדים עבור קבוצה רוסית. בניגוד ל״מכון מחקר״ אחר המקושר לרוסיה שחשפנו לאחרונה, נראה שרוב התוכן של המרכז היה מקורי ונוצר בידי העובדים שגויסו אליו. זהו הניסיון המורכב ביותר להפעלת זהות כיסוי שסיכלנו בשנתיים וחצי האחרונות.

שנית, ראיות מסוימות ממקורות גלויים מצביעות על כך שהזיופים של ״קלארק האפלה״ הופצו בהיקף רחב דיו כדי לעורר בדיקות עובדות⁠(נפתח בחלון חדש) והכחשות רשמיות⁠(נפתח בחלון חדש). הדבר מעיד על מידת חדירה שעולה על זו של כל מבצעי ההשפעה שסיכלנו בשנתיים האחרונות. זיוף אחד שהמבצע טען כי שתל בפרו אף ליבה מתיחות ציבורית בין אוקראינה לפולין.

השימוש העיקרי של המפעילים ב-ChatGPT היה ניסוח ועדכון של דוחות פנימיים לממונה שזהותו אינה ידועה. הדוחות השוטפים האלה תיארו מאמצים לנהל קמפיינים חשאיים של השפעה ברחבי אמריקה הלטינית. הם עסקו בשלושה תחומי פעילות עיקריים: מאמצים להשמיץ את אוקראינה ולפגוע בגיוס לכוחותיה המזוינים; מאמצים להתערב בפוליטיקה הפנימית של מדינות מסוימות, במיוחד בוליביה וארגנטינה; וניהול המרכז. ברוב המקרים לא ראינו את גורמי האיום משתמשים במודלים שלנו ליצירת תוכן לקמפיינים, אלא רק לדיווח עליהם (החריגים המעטים מתוארים בהמשך⁠).

הדוחות היו עשירים בפרטים טקטיים וחשפו כיצד ביקש המבצע לפגוע באוקראינה ובמנהיגים של כמה מדינות, ובייחוד בנשיאי ארגנטינה, בוליביה ואקוודור. חלקם תיארו ניסיונות להונות תושבים מקומיים ולגרום להם לבצע פעילויות שהמפעילים יוכלו לנצל למטרותיהם; אחרים תיארו ״הדלפות״ מזויפות שהמפעילים טענו כי הפיצו.

בשני מקרים הראיות קושרות את המפעילים לדיווחים פומביים על ״פוליטולוגיה״. המפעילים דיווחו שב-2024 ניהלו שני קמפיינים נגד נשיא ארגנטינה חאבייר מיליי. ראשית, הם אמרו שהפיצו דיווח כוזב שלפיו מיליי קנה לכלביו קולרים משובצים באבני חן של קרטייה. שנית, הם טענו ששילמו לגורמים מקומיים כדי לצייר כתובות גרפיטי נגד מיליי בבואנוס איירס. על סמך מסמכים שהודלפו, שתי הפעולות האלה יוחסו⁠(נפתח בחלון חדש) בפומבי⁠(נפתח בחלון חדש) ל״פוליטולוגיה״ ול״לה קומפניה״.

זיופים רבים נוספים לא נקשרו בעבר למבצעי השפעה רוסיים. למשל, המפעילים טענו שבמאי 2026 יצרו כתובת דוא״ל מזויפת שהתחזתה לכתובת של מינהלת החינוך האזורית בלימה שבפרו. באמצעותה הם הנחו בתי ספר במחוז לקיים אירועים המוקדשים לאוקראינה ביום הלאומי לגיוון תרבותי ולשוני (21 במאי). הודעות הדוא״ל כללו הנחיות מפורשות להתייחס, בין היתר, לסטפן בנדרה, לאומן אוקראיני שנוי במחלוקת מהמאה העשרים. חלק מהאוקראינים רואים בו דמות במאבק לעצמאות, אך ברוסיה ובפולין הוא מזוהה עם פשיזם, שיתוף פעולה בזמן המלחמה ומעשי זוועה. לדברי המפעילים, כמה בתי ספר השיבו לכתובת הדוא״ל המזויפת, אישרו שקיימו אירועים כאלה ואף שלחו תמונות.

לאחר מכן טענו המפעילים ששתלו בתקשורת בפרו ובפולין ידיעות על האירועים, לצד האשמות שאוקראינה ״מייצאת״ אידאולוגיות לאומניות קיצוניות, וכך עוררו זעם. בחיפושים במקורות גלויים נמצאו ידיעות שתאמו לטענה זו בעיתונות⁠(נפתח בחלון חדש) בפרו⁠(נפתח בחלון חדש) וגם⁠(נפתח בחלון חדש) בפולין⁠(נפתח בחלון חדש), ובפרסום בשפה האנגלית בהונגריה⁠(נפתח בחלון חדש) (כמה מהכתבות נמחקו מאז). חלק⁠(נפתח בחלון חדש) מהכתבות⁠(נפתח בחלון חדש) כללו תגובה של חבר פולני בפרלמנט האירופי, שהציע להכריז על אנשים שהפגינו ״עוינות לפולין״ כעל אישים בלתי רצויים בפולין. כך הזיוף הרוסי גם ניזון מהמתיחות ההיסטורית בין אוקראינים לפולנים וגם ליבה אותה.

בדומה לכך, ביוני טענו המפעילים שהשתמשו בכתובת דוא״ל מזויפת אחרת כדי להונות בתי ספר באקוודור ולגרום להם לקיים טקס שבועת אמונים לנשיא דניאל נובואה ולאריק פרינס, לשעבר ראש החברה הצבאית הפרטית בלאקווטר. המפעילים טענו שהאירוע עורר זעם באקוודור והפעיל לחץ על הממשלה להכחיש את הזיוף, ובכך חשף אותו לקהל בכל רחבי המדינה. גם במקרה זה, מחקר במקורות גלויים זיהה סיקור⁠(נפתח בחלון חדש) תקשורתי⁠(נפתח בחלון חדש) בעיתונות⁠(נפתח בחלון חדש) באקוודור⁠(נפתח בחלון חדש) שדמה מאוד לטענה זו, ואפילו הפרכה מפורטת⁠(נפתח בחלון חדש) מצד שרת החינוך של אקוודור.

המפעילים השתמשו במגוון שיטות כדי להעניק תימוכין לידיעות הכוזבות שלהם. לפי הדיווח הפנימי שלהם, במרץ הם הפיצו שני זיופים שונים שכוונו לאקוודור. באחד מהם נעשה שימוש בהקלטת קול מזויפת שיוחסה לקונסול אוקראינה באקוודור, ובה נטען כי השמיע הערות מזלזלות על אקוודורים. החקירה שלנו במקורות גלויים זיהתה פוסט ב-TikTok שתאם בדיוק לטענה זו; נראה שהוא זכה למעורבות מוגבלת בלבד. הדיווח על הזיוף השני תיאר סרטון מזויף שהופץ ב-X וב-TikTok עם סמליל של ערוץ חדשות אמיתי, ובו נטען שממשלת נובואה מגייסת גברים צעירים ללחימה באוקראינה. בודקי עובדות⁠(נפתח בחלון חדש) באקוודור תיארו בתחילת אפריל קמפיין שתאם לתיאור זה.

סרטון TikTok שפורסם ב-8 באפריל 2026, ובו הקלטת הקול המזויפת שמפעילי המבצע טענו לאחריות עליה ושיוחסה לקונסול האוקראיני.

דוח פנימי אחר תיאר זיוף שהפיצו בבוליביה בסוף מאי, בשיאן של מחאות נגד הממשלה. המפעילים ציינו במפורש שמטרת הקמפיין הייתה להחריף את המשבר סביב המחאות. הקמפיין כלל הקלטת קול מזויפת של עובד בחברת המים הממשלתית EPSAS, שאמר כי הממשלה עומדת לנתק את אספקת המים לבירה המינהלית לה פאס ולהכריז על מצב חירום. המחקר שלנו במקורות גלויים איתר הפרכה⁠(נפתח בחלון חדש) של טענה תואמת וכן הכחשה רשמית⁠(נפתח בחלון חדש) מטעם EPSAS.

דוחות פנימיים אחרים כללו זיופים שלא הצלחנו למצוא להם תימוכין במקורות גלויים, אולי משום שכבר הוסרו או שלא הצליחו להתפשט. למשל, המפעילים טענו שבינואר הפיצו ידיעה שלפיה משפיענית ודוגמנית ברזילאית הועברה לאוקראינה בידי נציגי שגרירות אוקראינה במסגרת סחר בבני אדם, ונהרגה בקייב. ביוני הם טענו שהפיצו בבוליביה הקלטת קול מזויפת נוספת, הפעם לכאורה מפי עובד הבנק המרכזי של בוליביה, שהזהיר כי הבנק עומד להגביל משיכות מזומנים. הם גם טענו שהפיצו מכתב מזויף מטעם רשות הפחמימנים של המדינה, המזהיר מפני הגבלות על מכירת דלק למכוניות פרטיות.

בדוחות אחרים ביקשו המפעילים מהמודלים שלנו לעזור לזהות אירועים במדינות היעד שיוכלו לזקוף לזכותם, גם אם לא היו מעורבים בהם. למשל, בארגנטינה טענו המפעילים ששר החוץ הארגנטינאי ציטט את המבצע שלהם בישיבת ועדה של האו״ם בנושא איי פוקלנד / מלווינס. המפעילים ייחסו לעצמם את הפצת הטיעונים שלפיהם עקרון ההגדרה העצמית אינו חל על האיים, ובריטניה מקיימת בהם נוכחות צבאית בלתי מידתית. למעשה, שני הטיעונים הם חלק מעמדתה הרשמית של ארגנטינה כבר שנים⁠(נפתח בחלון חדש) רבות⁠(נפתח בחלון חדש). בדומה לכך, ביוני דיווחו⁠(נפתח בחלון חדש) כלי תקשורת בברזיל על אזרח ברזילאי שנסע לאוקראינה כדי להצטרף לצבא, נשבה בידי כוחות רוסיים, ולאחר מכן מסר הצהרה בטלוויזיה שבה טען כי הוליכו אותו שולל כדי לגרום לו להילחם. המפעילים שהשתמשו ב-ChatGPT ניסו לטעון שהדיווח חזר על מסרי המבצע שלהם; למעשה, הוא ציטט את הסרטון של השבוי עצמו⁠(נפתח בחלון חדש). הדבר מעיד על ניסיון של המפעילים לנהל מבצע השפעה המכוון למעסיקיהם שלהם, ולא לקהל חיצוני כלשהו.

חלק מדוחות המפעילים התייחסו לגוף שכינה את עצמו ״פלטפורמת מחקר״ בשם המרכז למחקר חברתי (ברוסית, Центр социологических исследований). לפי אתר המרכז (SRC), הוא מתמקד בפזורה ההודית באמריקה הלטינית וביחסים בין הודו למדינות האזור.

מהדוחות הפנימיים עלה שהמפעילים שלטו במכון המחקר, ולא רק שיתפו איתו פעולה. הם התייחסו, למשל, להחלטות על גיוס עובדים ופיטוריהם, לטבלאות שכר, לתוכניות כוח אדם ולמיזמי מחקר שוטפים. חשוב במיוחד שבדוחות גם צוין כי המפעילים יצרו דמות בדויה בשם ״מיה קלארק״, כדי לנהל את פעילות המבצע ברשתות החברתיות ולקיים קשר עם העובדים בשטח באמריקה הלטינית. הראיות הזמינות מצביעות על כך שלעובדים בשטח לא היה מושג שהם עובדים עבור מבצע רוסי, והם ביצעו משימות מחקר בתום לב. השימוש הזה במתווכים שאינם מודעים לתפקידם דומה מאוד למבצע רוסי קודם, ״פיסדאטה״, שגם הוא נקשר לעולמו של פריגוז׳ין וש-Meta חשפה⁠(נפתח בחלון חדש) ב-2020.

לפי דוחות המפעילים הרוסיים, העובדים שלהם בשטח באמריקה הלטינית ראיינו מומחים ופרשנים ברחבי האזור, ואז ניסחו מאמרי מחקר על בסיס הממצאים. הנושאים נעו מניתוח רחב של דעת הקהל על קבוצת BRICS ועד להשוואה מפורטת של כלכלת ברזיל בתקופות כהונתם של הנשיאים ז׳איר בולסונארו ולואיז אינסיו לולה דה סילבה. לעיתים ניסחו המפעילים הרוסיים דוחות מצב על מיזמי המחקר עוד לפני פרסומם, דבר שמעיד על מעורבות הדוקה בתהליך ההפקה. זיהינו באתר המרכז הרבה יותר מ-60 מאמרים, ורובם המכריע נראו כיצירות מקוריות. בכך נבדל ״קלארק האפלה״ מהמבצע שמקורו ברוסיה שחשפנו לאחרונה, שגם הוא הפעיל מכון מחקר ככיסוי, אך העתיק את רוב התוכן שלו. הדבר מצביע על כוונה לבנות גוף כיסוי שיוכל להתקיים לאורך זמן, עם קשרים ברחבי אמריקה הלטינית.

כדי לקדם את עבודת המרכז, המפעילים הרוסיים טענו שניסו ליצור רשת של נכסים ברשתות החברתיות. לפי הדוחות שלהם, הפעילות הזו נתקלה בבעיות כאשר מפעילים באזורים שונים בעולם ניסו לגשת לאותם חשבונות, מה שהוביל להגבלות על החשבונות. אפשר לראות לכך עקבות במקורות הגלויים: למשל, פרטי השקיפות של החשבון הראשי של המרכז ב-X הציגו מיקום בגרמניה (ייתכן שעקב שימוש ב-VPN), אך חיבור דרך ה-App Store של הפדרציה הרוסית. לעומת זאת, פרטי השקיפות של אחד מחשבונות Instagram שלו הציגו מנהל חשבון שנמצא בוונצואלה. לאף אחד משלושת חשבונות Facebook במיתוג המרכז שזיהינו לא היו די עוקבים כדי שיוצג בו מיקום מנהלי החשבון.

משמאל, חשבון X המקושר למרכז למחקר חברתי. שימו לב לפרטי השקיפות המציינים שהחשבון התחבר דרך חנות האפליקציות של הפדרציה הרוסית. מימין, חשבון Instagram של המרכז: שימו לב למיקום בוונצואלה.

המפעילים דיווחו על בעיות מיוחדות ב-LinkedIn, שם לדבריהם יצרו חשבון שציינו במפורש שהוא מזויף כדי לייצג את המרכז, אך לאחר מכן התקשו לבנות לו רשת קשרים. לפי הדוחות שלהם, הפתרון היה ליצור עוד חשבונות מזויפים שיעקבו אחרי החשבון הראשון ויגרמו לו להיראות אמין יותר. נכון ל-17 באוגוסט, חשבון LinkedIn שנשא את אותו מיתוג של המרכז למחקר חברתי מנה 961 עוקבים וטען ל-200–500 אנשי צוות, אך הציג שני עובדים בלבד.

מדי פעם, לצד השימוש בבינה מלאכותית לעדכון דוחות, המפעילים גם ביקשו מהמודל שלנו לעזור לתכנן וליצור טקסטים שיוכלו להשתמש בהם במבצעיהם. למשל, הם ביקשו עזרה לוודא שהזיופים שלהם משתמשים במבטא, באוצר המילים ובסגנון המוסדי המתאימים למדינות שונות. זה היה חלק קטן יחסית מכלל העבודה, אולי משום שנראה כי במבצע השתתף לפחות דובר ספרדית אחד כשפת אם מאמריקה הלטינית, ולכן היה פחות צורך בסיוע לשוני מבינה מלאכותית.

למשל, באחת הפעמים ביקש אחד המפעילים דוברי הרוסית מהמודל לעזור לנסח ברוסית מכתב שיקשור את קונסול הכבוד של אוקראינה בפנמה לשחיתות. לאחר מכן ביקש המפעיל דובר הספרדית מהמודל לתרגם את המכתב לספרדית וליצור תסריט להקלטת קול שתלווה אותו. תמונה שתאמה לנוסח המכתב, עם קריינות שתאמה לתסריט של המפעיל, פורסמה ב-TikTok מחשבון שהציג את עצמו ככלי תקשורת, אך השתמש בסמליל של TVN Noticias⁠(נפתח בחלון חדש) מפנמה. לערוץ TikTok היה עוקב אחד בלבד, והוא הפסיק לפרסם לאחר ששתל את הזיוף הזה.

פוסט ב-TikTok המציג את המכתב שנוסחו נוצר במסגרת המבצע, עם קריינות שגם התסריט שלה נוצר במסגרת המבצע.

במקרה אחר נתן המפעיל דובר הספרדית ברוסיה למודל תסריט ברוסית, שבו נטען שנובואה העליב אנשים עניים באקוודור, וביקש לתרגם אותו לספרדית הנהוגה באקוודור. במקרה שלישי, במרץ, ביקש אותו משתמש מהמודל להגיה טיוטת חוזה בספרדית בין חברה בשם ״אינטרנשיונל סקיוריטי סולושנס FZE״ לאדם באקוודור, לכאורה לצורך מתן שירותי תשתית באוקראינה. שאלות המשתמש התמקדו בשיפור הניסוח והעיצוב, לרבות אילו מילים יש להדגיש.

הנחיות המשתמש בנוגע לחוזה הסתיימו לאחר גיבוש הנוסח הסופי. עם זאת, מחקר במקורות גלויים מראה שתמונה של ה״חוזה״ הופצה לאחר מכן ברשתות החברתיות⁠(נפתח בחלון חדש). היא שימשה לחיזוק הטענה שממשלת נובואה שיתפה פעולה עם חברת כיסוי כדי להונות אקוודורים ולגרום להם להתגייס לצבא אוקראינה. הזיוף הופץ בהיקף רחב דיו כדי להוביל לבדיקת עובדות⁠(נפתח בחלון חדש) בתחילת אפריל. בודקי העובדות קבעו שהחברה ״אינה מופיעה במרשם של רשות הפיקוח על חברות, ניירות ערך וביטוח באקוודור״.

הערכת ההשפעה של המבצע הזה מחייבת זהירות מיוחדת. כפי שצוין לעיל, אחת השיטות העיקריות של המפעילים הייתה לזקוף לזכותם פעילות שלא הייתה קשורה כלל למבצע שלהם. לכן אי אפשר לקבל כפשוטן את טענותיהם בדיווח הפנימי על מידת השפעתם. בדומה לכך, חלק מהידיעות הכוזבות שטענו כי שתלו לא נמצאו במחקר במקורות גלויים, אולי משום שהופצו בערוצים שאינם פומביים, כבר הוסרו או לא פורסמו בפועל.

עם זאת, ראיות ממקורות גלויים אפשרו לנו לאמת חלק מטענותיהם. חלק מהזיופים שהמבצע טען כי הפיץ דווחו לאחר מכן בידי בודקי עובדות והופרכו בידי ממשלות, מה שמרמז שהופצו בהיקף רחב דיו כדי להצדיק תגובה. במקרים אחרים הצלחנו לזהות ברשת תוכן שתאם במידה רבה לתוכן שנוצר במסגרת המבצע. בפרט, הטענה שהמבצע הצליח להונות בית ספר בפרו ולגרום לו לקיים אירוע שבו הוצגה דמותו של בנדרה סוקרה לאחר מכן הן באמריקה הלטינית והן באירופה, ונראה שהובילה לתגובה של לפחות חבר פולני אחד בפרלמנט האירופי.

לפי סולם הפריצה⁠(נפתח בחלון חדש) למבצעי השפעה, המדרג אותם מ-1 (הנמוך ביותר) עד 6 (הגבוה ביותר), אנו מעריכים שהמבצע הזה שייך לקטגוריה 5, על סמך ראיות המצביעות על כך שהוביל לתגובות פומביות של פוליטיקאים בכמה מדינות. זהו המבצע הראשון בקטגוריה 5 שסיכלנו מאז שהתחלנו לפרסם דוחות.

מבצע שמקורו באיראן, השותל מאמרים ארוכים בשמות מחברים מטעים בכלי חדשות מקוונים.

חסמנו קבוצת חשבונות ChatGPT שמקורם באיראן. הם כתבו הנחיות בפרסית ויצרו תוכן בפרסית ובאנגלית. הגורמים הסתירו את מיקומם באמצעות שימוש ברשתות VPN כדי לגשת ל-ChatGPT.

המבצע השתמש במודלים שלנו לליטוש מאמרים ארוכים ופניות לעורכים, ליצירת תגובות ברשתות החברתיות ולליטוש דוחות פנימיים. המפעילים השתמשו בשבעה שמות מחברים שונים כדי להציע את מאמריהם לפרסום, ולכן כינינו את הקמפיין שלהם ״שמות עט כוזבים״. המאמרים הארוכים התמקדו בעימות בין ארה״ב לאיראן. גם רוב התגובות עסקו בעימות; מיעוטן עסקו בפוליטיקה בארה״ב, בדרך כלל בהקשר הרחב של העימות.

ניכרו הבדלים משמעותיים במידת ההשפעה של תחומי הפעילות העיקריים שלהם. זיהינו כמעט 100 מאמרים שפורסמו או הופצו לפרסום חוזר בשמות המחברים של המבצע, בככתריסר כלי תקשורת מקוונים ברחבי העולם. אלה היו כלי תקשורת קטנים עד בינוניים, שהתמקדו בדרך כלל בעניינים בינלאומיים, בגאופוליטיקה ובאירועים במזרח התיכון. לעומת זאת, נראה שאף אחת מהתגובות ברשתות החברתיות לא עוררה מעורבות משמעותית במונחי לייקים, שיתופים או תגובות נוספות. למעשה, הדוחות הפנימיים של המפעילים השתמשו בחישוב מטעה כדי למדוד את השפעתם ברשתות החברתיות, אולי בניסיון להציג את המפעילים כיעילים יותר מכפי שהיו.

הפעילות הכוללת נראתה תואמת לזו של גורם מסחרי שמנהל קמפיין השפעה בתשלום, אך איננו יכולים לזהות את הגורם המסוים שהיה מעורב בה. שיתפנו מידע על המקרה עם הרשויות הרלוונטיות.

הפעילות של המבצע שהגיעה לתפוצה הרחבה ביותר הייתה בקשות מ-ChatGPT לבדוק וללטש מאמרים ארוכים באנגלית על הגאופוליטיקה של העימות בין ארה״ב לאיראן. בדרך כלל, ההנחיות ביקשו מהמודל להעריך טיוטה באנגלית לפי תנאי ההגשה של כלי תקשורת מקוון מסוים, ולהציע עריכות שיבטיחו שהיא עומדת בהם. לאחר שהמפעילים אישרו את העריכות, הם ביקשו מהמודל לנסח הודעת דוא״ל שבעזרתה יוכלו להציע את המאמר לעורך של אותו כלי תקשורת מקוון.

הפניות האלה נוסחו בשבעה שמות מחברים בדויים: ארווין ב׳ הוסקינס, נואה למינגטון, סופיה גונזלס, מייקל הריסון, אריקה פוזייה, ג׳ני ויליאמס ואליס ג׳ונסון. לפי הביוגרפיות שפורסמו ברשת לצד חלק מהמאמרים, כל דמות הוצגה כעיתונאי או כעיתונאית ממדינה מערבית — לרוב מארה״ב, אם כי בביוגרפיה של נואה למינגטון נטען שמקום המגורים הוא ניו זילנד — ולעיתים קרובות צוין עיסוק בפוליטיקה בינלאומית, במזרח התיכון, בזכויות אדם או בעימותים. עבור אחת הדמויות, ״מייקל הריסון״, ביקשו המפעילים מהמודל לכתוב גם את הביוגרפיה עצמה. (ראוי לציין שבמרץ Meta סיכלה⁠(נפתח בחלון חדש) מבצע השפעה איראני שגם בו הופיעה דמות של עיתונאי בשם ״מייקל הריסון״.)

לחלק מהדמויות נבנתה תשתית תומכת של חשבונות במגוון רשתות חברתיות. לדמותו של מייקל הריסון, למשל, היו חשבונות תומכים ב-Medium, ב-X וב-Facebook. לדמותו של ארווין ב׳ הוסקינס היו חשבונות ב-X, ב-Facebook, ב-Instagram וב-Threads. בביוגרפיה שלו נטען שהוא ״כותב עצמאי אמריקאי״, אך פרטי השקיפות ברשתות החברתיות הצביעו על כך שהחשבונות נמצאים באיראן.

למעלה, הביוגרפיה ב-Instagram של הדמות הבדויה ארווין הוסקינס. משמאל למטה, פרטי השקיפות של חשבון X, המציגים שימוש באפליקציית Android של מערב אסיה. מימין למטה, פרטי השקיפות של חשבון Instagram, המציגים מיקום באיראן. Meta חסמה את חשבון Instagram באוגוסט.

באמצעות שיטות חקירה במקורות גלויים זיהינו כמעט 100 מאמרים שפורסמו תחת אחד משמות המחברים של המפעילים, ביותר מתריסר כלי תקשורת שונים. כלי התקשורת האלה התמקדו בדרך כלל בעניינים בינלאומיים, בגאופוליטיקה ובאירועים במזרח התיכון, לעיתים מנקודת מבט אנטי-מלחמתית או פרוגרסיבית. המאמר המוקדם ביותר שזיהינו פורסם ביולי 2025, והמאוחר ביותר באוקטובר 2026. תדירות פרסום המאמרים עלתה מאוד לאחר פרוץ העימות בין ארה״ב לאיראן.

ציר זמן של מאמרים לפי מחבר ונושא, יולי 2025–ספטמבר 2026. שימו לב לצפיפות הפרסומים על יחסי ארה״ב–איראן ממרץ 2026 ואילך.

דוגמאות לכותרות מאמרים שפורסמו בשמות המחברים המקושרים למבצע הזה בין פברואר ליולי 2026, במגוון כלי תקשורת מקוונים.

לפחות חלק מהמאמרים קודמו לאחר מכן בחשבונות של אותם כלי תקשורת ברשתות החברתיות, וכך נפתחה בפני המפעילים האיראניים אפשרות להגיע לקהלים שאחרת לא היו מגיעים אליהם.

לצד המאמרים, גורמי האיום ביקשו מ-ChatGPT ליצור מקבצי תגובות בנושאים גאופוליטיים או פוליטיים באנגלית או בפרסית. השיטה הרגילה שלהם הייתה להזין טקסט או צילום מסך של פוסט מרשת חברתית, ולבקש מהמודל סדרת תגובות שתואמות את כיוון הפעילות הכללי שלהם. התגובות פורסמו לאחר מכן ברשת, לעיתים קרובות בהפרש של דקות ספורות זו מזו. הדיווח הפנימי של המפעילים התייחס לפרסום הן בידי בני אדם והן באמצעים אוטומטיים; אין בידינו ראיות לכך שהאוטומציה הזו בוצעה בעזרת המודלים שלנו.

ציוצים באנגלית משמאל ובפרסית מימין, שנוצרו במסגרת המבצע ופורסמו ביולי. התגובות באנגלית נכתבו בתגובה לציוץ באנגלית שהזהיר כי ארה״ב מתכוננת ל״מתקפה רחבת היקף״ על איראן. כל התגובות באנגלית שבתמונה פורסמו בפרק זמן של 10 דקות. התגובות בפרסית נכתבו בתגובה לציוץ בפרסית על תקיפות ארה״ב באיראן, ופורסמו בתוך 13 דקות.

חלק מפעילות יצירת התגובות במקבצים כלל יצירת תגובות לפוסטים ברשתות החברתיות שעסקו בכתבות החדשות של המבצע עצמו. במקרים האלה הזינו המפעילים צילומי מסך של פוסטים שקידמו את המאמרים שלהם, ואז יצרו תגובות ששיבחו אותם או הביעו בהם תמיכה, ככל הנראה כדי לגרום למאמרים להיראות פופולריים יותר.

פוסט בדף Facebook של חדשות מקומיות בארה״ב, המשתף מאמר שיצר המבצע, ולצידו תגובות לפוסט שגם הן נוצרו במסגרת המבצע.

רוב מקבצי התגובות התמקדו באופן כללי יותר בעימות בין איראן, ארצות הברית וישראל. המשתמשים ביקשו תגובות בנושאים כגון תקיפות טילים, הפסקות אש ותמרונים דיפלומטיים, וציינו שעל התוצרים להציג את ארה״ב כתוקפן, את ישראל כבעלת ברית לא אמינה של ארה״ב, ואת איראן כקורבן שמתריס אך מפגין חוסן. המפעילים יצרו מספר גדול במיוחד של תגובות לפוסטים של רשת הלוויין איראן אינטרנשיונל, שמרכזה בבריטניה ומבקרת את המשטר האיראני — יותר מ-24 מקבצים של תגובות עוינות בפרסית. מיעוט מהמקבצים כלל תגובות לפוסטים ברשתות החברתיות על סוגיות פוליטיות בארה״ב, בדרך כלל גם הן בהקשר הרחב של העימות.

תגובות ב-Instagram שיצר המבצע בתגובה לפוסטים על הפוליטיקה בארה״ב.

זיהינו מספר קטן מהתגובות האלה שפורסמו ברשת; רבות אחרות לא הופיעו בחיפושים שלנו במקורות גלויים, ייתכן משום שלא פורסמו או משום שפורסמו מחשבונות שכבר הוסרו. (למשל, שלוש מדמויות העיתונאים — אריקה פוזייה, אליס ג׳ונסון וג׳ני ויליאמס — ציינו שמות משתמש ב-X בביוגרפיות שפרסמו; נכון לאוגוסט 2026, כל החשבונות האלה הושעו.) לחלק מהחשבונות שכן פרסמו תגובות ברשת היו שמות שנראו מערביים, אך מיקום החשבון שהוצג היה באיראן.

פרטי השקיפות של חשבונות Instagram שפרסמו את התגובות המוצגות לעיל, המעידים שהם נמצאים באיראן.

במקרים שבהם מצאנו שהתגובות אכן פורסמו, הן היו בדרך כלל מיעוט מכלל התגובות לפוסט, מה שמרמז שהמפעילים לא היו קול דומיננטי בין התגובות האותנטיות. גם לא נראה שהן עוררו מעורבות משמעותית: למעשה, רבים מהלייקים לתגובות המבצע הגיעו מחשבונות שבעצמם היו קשורים אליו. שיתפנו מידע על המקרה עם שותפים בתעשייה, שנמצאים בעמדה הטובה ביותר לספק הערכות מקיפות של המעורבות.

הניסיון להציג את פעילותם כפופולרית יותר לא הוגבל לפוסטים הפומביים. לצד יצירת התוכן, המפעילים ביקשו מדי פעם מ-ChatGPT ללטש מסמכים שנראו כדוחות פנימיים על הקמפיין שלהם ברשתות החברתיות. בדרך כלל הם סיפקו למודל סדרת נתונים סטטיסטיים וביקשו ממנו להפוך אותם למצגות מלוטשות.

זה אינו המבצע הראשון שסיכלנו שהשתמש בבינה מלאכותית לכתיבת ההערכה העצמית⁠(נפתח בחלון חדש) שלו⁠(נפתח בחלון חדש). מה שבלט במיוחד בניסיונות המפעילים האיראניים להעריך את עבודתם שלהם היה השיטה שבה השתמשו. מדד ה״השפעה״ העיקרי שלהם היה מספר הצפיות בפוסטים שהגיבו עליהם (לא מספר הצפיות בתגובות עצמן), שנמדד לפני פרסום התגובות ובמועד לא מוגדר לאחר פרסומן. החישוב הזה לא הביא בחשבון צפיות שייתכן שנבעו מגורמים אחרים, כגון הפופולריות של הפוסטים המקוריים או תגובות אחרות. לכן הוא ניפח מאוד את נתוני ההשפעה של המבצע, מה שמרמז שהמפעילים לא הכירו דרך יעילה יותר לחשב אותם, או שבחרו לא להשתמש בה.

למעשה, על סמך הראיות שניתן לאסוף מתצפית במקורות גלויים, נראה ששני תחומי הפעילות העיקריים של המבצע נבדלו מאוד במידת השפעתם המשוערת.

התגובות ברשתות החברתיות שהצלחנו לזהות זכו בדרך כלל למספר נמוך של לייקים, צפיות ותגובות — במספרים חד-ספרתיים או דו-ספרתיים. כפי שצוין לעיל, התגובות היו בדרך כלל מיעוט מכלל התגובות לפוסט. לפי סולם הפריצה⁠(נפתח בחלון חדש) למבצעי השפעה, המדרג אותם מ-1 (הנמוך ביותר) עד 6 (הגבוה ביותר), אנו מעריכים שחלק זה של המבצע שייך לקטגוריה 2: תגובות בכמה פלטפורמות, אך מעט עדויות לפריצה לקהלים נוספים או ליכולת לשלוט בשיח בתגובות.

לעומת זאת, דמויות העיתונאים הצליחו להביא לפרסום מאמריהן במגוון כלי תקשורת, שלחלקם קהל עוקבים גדול. למשל, נכון לאוגוסט 2026, לאחד מכלי התקשורת המקוונים שפרסמו את מאמרי המבצע היו כמעט 2 מיליון עוקבים ב-Facebook, כמעט 355,000 עוקבים ב-X ויותר מ-544,000 ב-Instagram. אנו מעריכים שחלק זה של המבצע שייך לקטגוריה 4, על סמך הצלחתו העקבית להגיע למספר כלי תקשורת.