«Жалған куә» операциясы: өзін билік органы ретінде таныстырған жалған ақша қайтару қызметі
OpenAI Камбоджадан басқарылған болуы әбден ықтимал аккаунттарды бұғаттады. Олар ЖИ көмегімен өздерін ақшаны қайтару қызметтері, заң фирмалары және билік органдары ретінде таныстырып, алаяқтық құрбандарын нысанаға алған.
Бұл оқиғаға қатысты талдау алғаш рет OpenAI компаниясының 2026 жылғы ақпандағы(жаңа терезеде ашылады) ЖИ-ді зиянды мақсатта пайдалануға тосқауыл қою туралы есебінде жарияланды.
Әрекет етуші тарап
Біз алаяқтық құрбандарына ақшасын қайтарып беруді уәде етіп алдаған өзара байланысты ChatGPT аккаунттарын бұғаттадық. Олар біздің модельдерімізді пайдаланып, өздерін ойдан шығарылған заң фирмалары, сондай-ақ шынайы адвокаттар мен АҚШ құқық қорғау органдары ретінде таныстырған. Бұл әрекеттердің Камбоджадан басқарылған болуы әбден ықтимал. Олар осы елде қытайлықтар басқаратын қылмыстық алаяқтық топтар туралы жуырда жарияланған мәліметтерге сәйкес келеді.
Әрекет тәсілі
Бұл аккаунттар ChatGPT‑ді алаяқтықтан жоғалған қаражатты қайтарып береміз деген желеумен жасалған қылмыстық әрекеттерге пайдаланған. Алаяқтық жалған заң фирмаларына және шынайы адвокаттар мен ФТБ-ның Интернеттегі қылмыстар туралы шағымдар орталығы (IC3) сияқты сенімге ие тұлғалар мен ұйымдардың атын жамылуға негізделген.
1. Назар аударту: Алаяқтар ChatGPT көмегімен кемінде алты жалған заң фирмасының атынан контент жасаған. Осы контенттің бір бөлігі кейін алаяқтықтан жоғалған ақшаны қайтаруды ұсынатын жалған қызметтерді жарнамалайтын әлеуметтік желі аккаунттары мен онлайн жарнамаларда жарияланған. Ашық дереккөздердегі бірнеше белгі бұл фирмалардың жалған екенін аңғартты: штаттың адвокаттар алқасы берген лицензия туралы дерек болмады, сайт домендері фирмаларға сәйкес келмеді, байланыс деректерінде жоқ сияқты көрінетін мекенжайлар көрсетілді және адвокаттармен мессенджерлер арқылы байланысу ұсынылды.
Алаяқтар біздің модельдерімізді әлеуметтік желілерде алаяқтықтан жоғалған ақшаны қайтаруды ұсынатын жалған қызметтерді жарнамалайтын контент жасауға пайдаланған.
2. Сенімге кіру: Алаяқтар нысанаға алған адамдардың сеніміне кіру үшін алаяқтық құрбандарына жоғалтқан қаражатын қайтаруға көмектесетін адвокаттардың сөйлеу мәнері мен кәсібилігіне еліктейтін пікірлер жаздырған. Олар ойдан шығарылған адвокаттардың атынан контент жасаған. Біз осы жалған тұлғалардың кейбірін бірқатар веб-сайттан таптық. Олардың профиль суреттері әлеуметтік желілерден алынған немесе ЖИ көмегімен жасалған сыңайлы. Кей жағдайларда алаяқ бір «адвокаттың» деректерін бірнеше жалған заң фирмасында қайталап қолданған. Біз анықтаған веб-сайттардың бірі өзін IC3 сайты ретінде көрсеткен.
Осы түрлі алаяқтық сайттарда жарияланған байланыс деректері келушілерді Telegram сияқты жеке хат алмасуға арналған қолданбаларға бағыттаған. ChatGPT көмегімен нысанаға алынған адамдарға жазылған хабарламаларда алаяқтар Халықаралық қылмыстық соттың қадағалауымен жұмыс істейтіндерін жалған мәлімдеген. Сондай-ақ жәбірленушінің барлық қаражаты қайтарылмайынша ешқандай ақы алынбайтынын айтқан.
3. Ақша алу: Алаяқтар қандай да бір қаражатты «қайтармас» бұрын ақы мен депозиттерді алдын ала сұрап, нысанаға алған адамдардан ақша алуға тырысқан. Мысалы, олар қайтарылды делінген қаражатты алу үшін алдымен 15% «қызмет ақысын» төлеуді талап еткен, аккаунтты белсендіру үшін депозит сұраған және «кеңес беру ақысын» алған. Алаяқтар ChatGPT көмегімен нысанаға алған адамдарға жазған хабарламаларында криптовалютамен төлем жіберуді және төлемді растау үшін транзакция растамаларының скриншоттарын ұсынуды нұсқаған.
Өзін ФТБ-ның IC3 бөлімшесінің сайты ретінде көрсеткен және осы алаяқтықпен байланысты веб-сайт. «Шағым беру» түймесін басқан келушілер сол бөлімшенің атын жамылған Telegram аккаунтына бағытталған.
Іске асыру
Бұл топ біздің модельдерімізді жұмысының бірнеше кезеңінде, соның ішінде әлеуметтік желілерге жарнамалық контент жасауға және нысанаға алған адамдарға алдын ала байланыс орнатпай жіберілетін хабарламалар жазуға пайдаланған. Дегенмен алаяқтар ChatGPT‑ді көбіне жеке мессенджерлерде нысанаға алған адамдарға жіберілетін және олардан келетін хабарламаларды аударуға пайдаланған. Соның ішінде жауапты «америкалық ағылшын тілінде» немесе адвокаттың стилінде жазуды сұраған.
Алаяқтық аккаунттардың бір бөлігі біздің модельдерімізді өздеріне деген сенімді арттыруға арналған жалған материалдар жасау үшін де пайдаланған. Олардың ішінде адвокат ретінде тіркелгені туралы жалған құжаттар мен адвокаттар алқасының жалған мүшелік куәліктері, сондай-ақ жәбірленушілердің сырттан көмек іздеуіне жол бермеуге арналған жалған құпиялылық келісімдері болған.
Біздің модельдерімізбен жасалған Нью-Йорк штатының адвокаттар қауымдастығының жалған мүшелік куәлігі. Кейбір деректерді OpenAI тергеушілері жасырған.
Салдары
Салдарын бағалауда сақтық қажет, өйткені негізгі дәлел көздерінің бірі — алаяқтардың өздері енгізген мәліметтер. Бұл мәліметтер алаяқтардың жекелеген құрбандарынан мыңдаған доллар алдап алған болуы мүмкін екенін көрсетеді, бірақ біз мұны тәуелсіз дереккөздер арқылы растай алмаймыз. ФТБ және алаяқтар атын жамылған кемінде бір заң фирмасы осы алаяқтық туралы көпшілікке ескерту жариялады. ФТБ өкілдері бұл топтың осал адамдарды, әсіресе қарттарды нысанаға алатынын ескертті. Алаяқтар құрбандардың эмоциялық күйін және жоғалтқан қаражатын тез қайтаруға деген ұмтылысын пайдаланады.
OpenAI ережелері біздің құралдарымыздан алынған нәтижелерді алаяқтыққа немесе алдау әрекеттеріне пайдалануға қатаң тыйым салады. Біз ЖИ-дің қаскүнемдердің іс-әрекетіне қалай әсер ететінін түсіну және қызметтерімізді теріс пайдаланатын алаяқтардың әрекеттеріне белсенді түрде тосқауыл қою үшін саладағы әріптестерімізбен және мемлекеттік органдармен ынтымақтасуға ниеттіміз.