Misleidend arbeidsbemiddelingsplan: wervingsbedrog met hulp van AI

Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van februari 2025⁠(opent in een nieuw venster) van OpenAI.

We hebben een aantal accounts geblokkeerd die mogelijk werden gebruikt voor een misleidend arbeidsbemiddelingsplan. De waargenomen activiteit komt overeen met de tactieken, technieken en procedures (TTP's) die Microsoft⁠(opent in een nieuw venster) en Google⁠(opent in een nieuw venster) toeschreven aan een mogelijk met Noord-Korea verbonden plan waarbij IT'ers worden ingezet.

Hoewel we de locaties of nationaliteiten van de actoren niet kunnen vaststellen, vertoonde de door ons verstoorde activiteit kenmerken waarover openbaar is bericht⁠(opent in een nieuw venster) in verband met pogingen van de Noord-Koreaanse staat om via misleidende wervingsconstructies inkomsten door te sluizen. Daarbij bemachtigen personen op frauduleuze wijze functies bij westerse bedrijven om het financiële netwerk van het regime te ondersteunen.

De verschillende accounts gebruikten onze modellen om content te genereren die met uiteenlopende misleidende praktijken op elke stap van het wervingsproces leek te zijn gericht. Al deze praktijken waren bedoeld om elkaar te ondersteunen.

De actoren gebruikten virtuele privénetwerken (VPN's), tools voor externe toegang zoals AnyDesk en Voice over IP-telefoons (VoIP), die zich grotendeels in de Verenigde Staten leken te bevinden. Hoewel we slechts beperkt zicht hebben op de manier waarop deze actoren hun content verspreidden, hebben we content aangetroffen die op LinkedIn was geplaatst.

Een belangrijk deel van de door deze actoren gegenereerde content bestond uit persoonlijke documenten voor de fictieve "sollicitanten", zoals cv's, online vacatureprofielen en sollicitatiebrieven. Deze cv's en profielen werden vaak afgestemd op een specifieke vacature om de kans te vergroten dat iemand als een goed gekwalificeerde kandidaat overkwam. Een tweede deel bestond uit het creëren van "ondersteunende" persona's, die werden gebruikt om als referent voor de "sollicitanten" op te treden en hen voor vacatures aan te bevelen.

Tegelijkertijd maakten de uitvoerders berichten voor sociale media om echte mensen te werven die hun plannen konden ondersteunen. Daarbij ging het bijvoorbeeld om mensen die bereid waren thuis laptops in ontvangst te nemen en te beheren, of hun identiteit voor het plan uit te lenen zodat de sollicitanten de antecedentencontrole konden doorstaan.

Tot slot lijken de persona's van de "sollicitanten" onze modellen tijdens gesprekken te hebben gebruikt om geloofwaardige antwoorden op technische en gedragsgerichte vragen te genereren. We hebben echter niet waargenomen dat ze onze tools voor spraak naar spraak gebruikten.

Nadat ze een baan leken te hebben gekregen, gebruikten ze onze modellen voor werkgerelateerde taken, zoals programmeren, problemen oplossen en berichten uitwisselen met collega's. Ze gebruikten onze modellen ook om dekmantels te bedenken voor ongebruikelijk gedrag, zoals het vermijden van videogesprekken, toegang tot bedrijfssystemen vanuit niet-toegestane landen of werken op ongebruikelijke tijden.

Omdat we slechts zicht hebben op een klein deel van dit geheel aan activiteiten, zijn bijdragen van meerdere belanghebbenden nodig om de impact ervan te beoordelen.

Het beleid van OpenAI verbiedt ten strengste om uitvoer van onze tools te gebruiken voor fraude of oplichting. Tijdens ons onderzoek naar misleidende arbeidsbemiddelingsplannen hebben we tientallen accounts geïdentificeerd en geblokkeerd. We hebben inzichten over de door ons verstoorde frauduleuze netwerken gedeeld met branchegenoten en relevante autoriteiten. Zo vergroten we gezamenlijk ons vermogen om dergelijke dreigingen te detecteren, te voorkomen en erop te reageren, en verbeteren we onze gezamenlijke veiligheid.