Vilseledande anställningsupplägg: IT-arbetares verksamhet

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från juni 2025⁠(öppnas i ett nytt fönster).

Vi identifierade och stängde av ChatGPT‑konton som var kopplade till vad som föreföll vara flera misstänkta vilseledande rekryteringskampanjer. Dessa hotaktörer använde OpenAI:s modeller för att ta fram material till vad som kan ha varit bedrägliga försök att söka distansjobb inom IT, programvaruutveckling och andra områden världen över.

Även om vi inte kan fastställa var hotaktörerna befann sig eller vilken nationalitet de hade, överensstämde deras beteende med verksamhet som offentligt har tillskrivits upplägg med IT-arbetare med koppling till Nordkorea (DPRK)⁠(öppnas i ett nytt fönster). Vissa av aktörerna bakom de senaste kampanjerna kan ha anlitats som uppdragstagare av kärngruppen av potentiellt DPRK-kopplade hotaktörer för att utföra ansökningsuppgifter och hantera maskinvara, även i USA.

I likhet med hotaktörerna som vi stoppade och skrev om i februari⁠(öppnas i ett nytt fönster) försökte aktörerna bakom de senaste kampanjerna använda AI i varje steg av anställningsprocessen. Tidigare såg vi dessa aktörer använda AI för att manuellt skapa trovärdiga, ofta USA-baserade, personprofiler med påhittad arbetslivserfarenhet från välkända företag. Den här gången försökte de i viss mån automatisera framtagningen av meritförteckningar. Vissa indikatorer tyder även på att operatorer i Afrika utgav sig för att vara arbetssökande och att personer i Nordamerika rekryterades för att sköta bärbara datorer åt dem.

Vi upptäckte två tydligt åtskilda verksamhetsgrenar, som sannolikt representerade två typer av operatorer: kärnoperatorer och uppdragstagare.

Kärnoperatorerna försökte automatisera framtagningen av meritförteckningar utifrån specifika arbetsbeskrivningar, kompetensmallar och personprofiler. De sökte även information om hur man bygger verktyg för att hantera och följa upp jobbansökningar. De använde också våra modeller för att skapa innehåll som liknade platsannonser avsedda att rekrytera uppdragstagare i olika delar av världen.

Kärnoperatorerna använde ChatGPT som ett researchverktyg för att planera upplägg för distansarbete. De använde också våra modeller för att skapa text om rekrytering av verkliga personer i USA som skulle ta emot företagsdatorer. Kärngruppen av hotaktörer eller deras uppdragstagare skulle sedan fjärransluta till datorerna.

Hotaktörerna undersökte hur verktyg som Tailscale peer-to-peer VPN, OBS Studio, vdo.ninja för injicering av direktsänd video och HDMI-inspelningsloopar kunde användas i verksamheten. Dessa verktyg kan användas för att kringgå företags säkerhetsåtgärder. Om det lyckas kan någon upprätthålla en varaktig, oupptäckt fjärrnärvaro och försöka kringgå vissa identitetskontroller som bygger på videomöten i realtid.

Samtidigt använde de möjliga uppdragsoperatorerna ChatGPT för att få hjälp med uppgifter i jobbansökningar. De använde även ChatGPT för att skapa innehåll som liknade meddelanden till kärnoperatorerna med frågor om betalningar och om de personprofiler som användes för att söka distansjobb.

Vi fastställde att dessa hotaktörer försökte använda våra modeller i en vilseledande operation. De använde närmare bestämt detaljerade prompter, instruktioner och automatiseringsloopar för att skapa skräddarsydda, trovärdiga meritförteckningar i stor skala.

• Automatisering av detaljerade meritförteckningar anpassade efter olika arbetsbeskrivningar för teknikjobb, personprofiler och branschnormer: LLM-stödd social manipulation.

• Besvarande av ansökningsfrågor om anställning, programmeringsuppgifter och intervjufrågor i realtid utifrån uppladdade meritförteckningar: LLM-stödd social manipulation.

• Begäran om vägledning för att fjärrkonfigurera företagsdatorer så att de verkar finnas i landet, bland annat genom maskering av geografisk plats och metoder för att kringgå klientsäkerhet: LLM-förstärkt kringgående av avvikelsedetektering.

• Hjälp med att programmera verktyg som flyttar muspekaren automatiskt eller fjärrstyrt hindrar en dator från att gå in i viloläge, möjligen som stöd för infrastruktur för distansarbete: LLM-stödd utveckling.

Vi kan inte oberoende bedöma hur framgångsrika dessa operationer var, eftersom en bedömning av påverkan skulle kräva underlag från flera berörda parter.

Även om hotaktörerna sannolikt integrerade AI i varje steg av processen för att effektivisera den, ökade det samtidigt risken för att de skulle avslöjas. Genom att ge oss insyn i hela sina arbetsflöden gjorde de det möjligt för oss att dela information om kampanjerna med relevanta branschkollegor och myndigheter för varje steg i verksamheten. Det stärkte vår gemensamma förmåga att upptäcka, förebygga och hantera sådana hot och bidrog samtidigt till vår gemensamma säkerhet.