Armupettused: tehisaru kasutamine pettuste eri etappides
OpenAI blokeeris kontod, mis kasutasid tehisaru armupettusteks, sealhulgas kontakti loomiseks, tõlkimiseks, ohvritega suhtlemiseks ja investeerimispettustesse meelitamiseks.
See juhtumiuuring avaldati algselt OpenAI 2026. aasta veebruari(avaneb uues aknas) aruandes tehisaru pahatahtliku kasutamise tõkestamise kohta.
Alates sellest, kui hakkasime aasta tagasi(avaneb uues aknas) avaldama teavet meie mudeleid kuritarvitada püüdnud petuvõrgustike tõkestamise kohta, oleme peatanud paljude petuskeemide tegevuse maailma eri paigus. Nende hulka kuulusid „ülesandepettused“, mille puhul veendakse ohvreid raha sisse maksma, et saada kätte lihtsate ülesannete eest väidetavalt teenitud, kuid tegelikult olematu tasu. Samuti kuulusid nende hulka investeerimispettused, mille puhul veendakse ohvreid paigutama raha olematutesse investeerimisettevõtetesse.
Üks juba ammu enne tehisaru ajastut levinud pettuseliik on armupettus. Selle puhul esinevad petturid võimaliku romantilise partnerina ja püüavad sihtmärki veenda, et too on leidnud endale kallima, enne kui hakkavad temalt üha rohkem raha küsima. Meie esimene avaldatud ülevaade pettuse tõkestamisest käsitles Kambodžas äsja tegevust alustanud kuritegelikku rühmitust, mis oli kasutanud ChatGPT‑d armupettuse sõnumite loomiseks. Osa neist sõnumitest levitati sotsiaalmeedias. Sellest ajast peale oleme tõkestanud mitmesuguseid armupettuse katseid. Nagu kirjutasime juunis(avaneb uues aknas), järgib tehisaru kasutamine neis ja teistes pettustes tavaliselt ühist mustrit, mille jagame kolmeks etapiks: kontakti loomine (võõra poole pöördumine), emotsioonide äratamine ja raha väljapetmine.
Kontakti loomine (võõra poole pöördumine): pettur loob sisu, mis on mõeldud võimaliku sihtmärgi tähelepanu köitmiseks tema huvide kaudu. Näiteks „sea nuumamise ja tapmise“ petuskeem, millest eelmisel aastal teatasime, võttis sageli sihikule 40. eluaastates Ameerika meedikud, vastates nende golfiteemalistele sotsiaalmeediapostitustele. Teised petuvõrgustikud kasutasid võõrastele saadetud SMS-e, võltsitud värbamissõnumeid või meie viimase, allpool kirjeldatud armupettuse juhtumi puhul sotsiaalmeediareklaame. Kõigil juhtudel kasutasid kurjategijad ChatGPT‑d, et luua tavapäraste petusõnumitega võrreldes köitvamaid sõnumeid, mille puhul oleks vähem märgata, et autor ei kirjuta oma emakeeles.
Golfiteemaline kontaktivõtt „sea nuumamise ja tapmise“ petuvõrgustikult, millest teatasime 2025. aastal. Sõnum saadeti vastusena võrgustikuga mitteseotud kasutaja Facebooki postitusele.
Emotsioonide äratamine: pettur loob sisu, mille eesmärk on tekitada sihtmärgis tugevaid emotsioone ja muuta temaga manipuleerimine seeläbi lihtsamaks. Armupettustega püütakse panna sihtmärki tundma petturi vastu romantilist tõmmet. Teistes pettustes võidakse püüda sihtmärki vaimustada võimalikust tulusast tehingust, tekitada temas hirmu heast võimalusest ilma jääda või ärevust väidetava õigusliku ohu või tasumata arve pärast. Mõnikord püütakse emotsioone äratada juba esimeses sõnumis, millega kontakti luuakse.
Võõrale saadetud SMS petuvõrgustikult „Vale number“, mille paljastasime 2025. aasta juunis. Sõnum lubab vähese töö eest uskumatult suurt tasu, tõenäoliselt eesmärgiga äratada tugevaid emotsioone.
Raha väljapetmine: pettur loob sisu, mille eesmärk on veenda sihtmärki raha üle andma. Selleks toodud põhjused võivad olla väga erinevad. Näiteks võidakse armupettuse puhul paluda sihtmärgil investeerida kallima ettevõttesse või anda raha rahalise kriisi ületamiseks. „Ülesandepettuste“ puhul palutakse sihtmärkidel raha sisse maksta, et nad saaksid kätte (väljamõeldud) raha, mille nad enda arvates on teeninud. Investeerimispettuste puhul suunatakse sihtmärke paigutama raha olematutesse investeeringutesse.
Võõrale saadetud SMS petuvõrgustikult „Vale number“, mille paljastasime 2025. aasta juunis. Sõnum lubab vähese töö eest uskumatult suurt tasu, tõenäoliselt eesmärgiga äratada tugevaid emotsioone.
Nagu sellest käigust nähtub, on pettuste oluline osa levitusvõrgustik. Meie paljastatud petuvõrgustikud lõid esmaseid kontakte SMS-ide, krüpteeritud sõnumirakenduste, sotsiaalmeediapostituste, veebireklaamide või kõigi nende kombinatsiooni kaudu. Tehisaru-eelse ajastu pettused on kurikuulsad e-kirjade(avaneb uues aknas), telefonikõnede(avaneb uues aknas) ning juba 19. sajandil ka kirjade(avaneb uues aknas) ja telegrammide(avaneb uues aknas) kasutamise poolest. Paljud petuvõrgustikud levitavad sõnumeid huupi ja massiliselt, kuid mõned näivad püüdvat sihtmärke täpselt valida. Näiteks „sea nuumamise ja tapmise“ petuskeem, millest teatasime 2025. aasta veebruaris(avaneb uues aknas), keskendus sellistele teemadele nagu golf. Üks teine armupettus kasutas sotsiaalmeediareklaame, et võtta sihikule noori mehi Indoneesias. Kuulsustega seotud pettustes(avaneb uues aknas) esinetakse tavaliselt tuntud inimesena ja võetakse sihikule tema fännirühmad. Kuigi tõendite katkendlikkus raskendab meie tõkestatud pettuste usaldusväärset võrdlemist, on meie hinnangul valitud levitusviisil (näiteks huupi või sihitult sõnumite saatmisel) oluline roll selles, kui edukalt jõuab petuskeem oma sihtmärkideni ja suudab neid ära kasutada. See kehtib sõltumata sellest, mil määral kasutati eri ülesanneteks tehisaru.
