Trama laboral enganyosa: engany en la contractació assistit per IA

Aquest estudi de cas es va publicar originalment a l'informe de febrer de 2025⁠(s'obre en una finestra nova) d'OpenAI.

Vam bloquejar diversos comptes que podrien haver-se utilitzat per facilitar una trama laboral enganyosa. L'activitat que vam observar concorda amb les tàctiques, tècniques i procediments (TTP) que Microsoft⁠(s'obre en una finestra nova) i Google⁠(s'obre en una finestra nova) van atribuir a una trama de treballadors del sector informàtic possiblement vinculada a Corea del Nord.

Tot i que no podem determinar la ubicació ni la nacionalitat dels actors, l'activitat que vam desarticular compartia característiques descrites públicament⁠(s'obre en una finestra nova) en relació amb els esforços de l'Estat nord-coreà per canalitzar ingressos mitjançant trames de contractació enganyoses, en què algunes persones obtenen fraudulentament llocs de treball en empreses occidentals per finançar la xarxa del règim.

Els diversos comptes van utilitzar els nostres models per generar contingut aparentment destinat a cada etapa del procés de contractació, mitjançant diferents pràctiques enganyoses concebudes per reforçar-se mútuament.

Els actors van utilitzar xarxes privades virtuals (VPN), eines d'accés remot com AnyDesk i telèfons de veu sobre IP (VOIP) que, en gran part, semblaven estar ubicats als Estats Units. Tot i que tenim una visibilitat limitada sobre com aquests actors distribuïen el contingut, vam identificar contingut publicat a LinkedIn.

Un dels principals tipus de contingut generat per aquests actors consistia en documentació personal per als "candidats" ficticis, com ara currículums, perfils professionals en línia i cartes de presentació. Aquests currículums i perfils sovint s'adaptaven a una oferta de feina concreta per augmentar les possibilitats que el candidat semblés ben qualificat. Un segon tipus consistia a crear identitats "de suport", que s'utilitzaven per proporcionar referències dels "candidats" i recomanar-los per a oportunitats laborals.

Paral·lelament, els operadors preparaven publicacions per a xarxes socials amb l'objectiu de captar persones reals que donessin suport a les seves trames. Entre aquestes persones hi havia, per exemple, qui estava disposat a rebre i allotjar ordinadors portàtils a casa seva o a prestar la seva identitat a la trama perquè els candidats poguessin superar les comprovacions d'antecedents.

Finalment, sembla que les identitats dels "candidats" van utilitzar els nostres models durant les entrevistes per generar respostes plausibles a preguntes tècniques i de comportament. Tanmateix, no vam observar que utilitzessin les nostres eines de veu a veu.

Després d'aconseguir aparentment una feina, utilitzaven els nostres models per dur a terme tasques laborals, com ara escriure codi, resoldre problemes i comunicar-se amb els companys. També van utilitzar els nostres models per inventar coartades que expliquessin comportaments inusuals, com ara evitar videotrucades, accedir als sistemes corporatius des de països no autoritzats o treballar en horaris irregulars.

Atès que només tenim visibilitat sobre una petita part del conjunt d'aquesta activitat, per avaluar-ne l'impacte caldria comptar amb informació de múltiples parts interessades.

Les polítiques d'OpenAI prohibeixen estrictament utilitzar els resultats de les nostres eines per cometre fraus o estafes. Durant la nostra investigació sobre trames laborals enganyoses, vam identificar i bloquejar desenes de comptes. Hem compartit informació sobre les xarxes fraudulentes que vam desarticular amb altres organitzacions del sector i amb les autoritats competents. Així, reforcem la nostra capacitat col·lectiva per detectar, prevenir i afrontar aquestes amenaces, alhora que millorem la seguretat de tothom.