Операция „Лъжесвидетел“: фалшива услуга за възстановяване на средства от името на властите
OpenAI блокира акаунти, които много вероятно са били управлявани от Камбоджа и са използвали ИИ, за да се представят за услуги за възстановяване на средства, адвокатски кантори и органи на властта, насочвайки се към жертви на измами.
Този анализ на случай е публикуван първоначално в доклада на OpenAI от февруари 2026 г.(отваря се в нов прозорец) относно пресичането на злонамерени употреби на ИИ.
Извършител
Блокирахме група акаунти в ChatGPT, които използваха нашите модели, за да се представят за фиктивни адвокатски кантори, както и за реални адвокати и правоохранителни органи на САЩ, в схема за измама с възстановяване на средства, насочена към жертви на измами. Много вероятно е тази дейност да е била организирана от Камбоджа. Тя съответства на скорошни публични сведения за престъпни схеми за измами в страната, ръководени от китайци.
Поведение
Акаунтите използваха ChatGPT в подкрепа на измамна схема за възстановяване на средства, загубени при измами. Схемата се основаваше на фалшиви адвокатски кантори и представяне за доверени лица и организации, като реални адвокати и Центъра за жалби за интернет престъпления на ФБР (IC3).
1. Първи контакт: Измамниците използваха ChatGPT, за да създават съдържание, което уж идваше от поне шест фалшиви адвокатски кантори. След това част от това съдържание беше публикувана чрез акаунти в социалните мрежи и онлайн реклами, популяризиращи фиктивни услуги за възстановяване на средства, загубени при измами. Множество признаци в открити източници сочеха, че канторите са измамни: липса на доказателства за регистрация в щатска адвокатска колегия, използване на несъответстващи уеб домейни, посочване на привидно несъществуващи адреси за контакт и указания за връзка с адвокатите чрез приложения за съобщения.
Измамниците използваха нашите модели, за да генерират съдържание за социалните мрежи, популяризиращо фалшиви услуги за възстановяване на средства, загубени при измами.
2. Спечелване на доверие: Измамниците се опитваха да спечелят доверието на набелязаните жертви, като генерираха коментари, имитиращи тона и професионализма на адвокати, специализирани в подпомагането на жертви на измами да възстановят финансовите си загуби. Те генерираха съдържание уж от името на измислени адвокати. Открихме някои от тези измислени самоличности в различни уебсайтове, където профилните им снимки изглежда бяха взети от социални мрежи или генерирани с ИИ. В някои случаи измамникът използваше едни и същи „адвокатски“ самоличности в няколко предполагаеми адвокатски кантори. Един от откритите от нас уебсайтове се представяше за сайта на IC3.
Данните за контакт, публикувани в тези измамни уебсайтове, насочваха посетителите към приложения за лични съобщения, като Telegram. В съобщения до набелязаните жертви, съставени с ChatGPT, измамниците лъжливо твърдяха, че работят под надзора на Международния наказателен съд и че няма да начисляват такси, докато всички средства на жертвата не бъдат успешно възстановени.
3. Измама: Измамниците се опитваха да вземат пари от набелязаните жертви, като искаха такси и депозити преди каквото и да е „възстановяване“. Това включваше указания към жертвите да платят 15% „такса за услугата“, преди да получат уж възстановените средства, искане на депозити за активиране на акаунт и начисляване на „такси за консултация“. Съобщенията на измамниците до набелязаните жертви, съставени с ChatGPT, включваха инструкции да платят с криптовалута и да предоставят екранни снимки на потвържденията за трансакциите като доказателство за плащане.
Уебсайт, свързан с тази измама, който се представя за сайта на звеното IC3 на ФБР. Щракването върху „Подаване на жалба“ насочваше посетителите към акаунт в Telegram с фалшива самоличност.
Изпълнение
Организаторите на схемата използваха нашите модели в различни етапи от работата си, например за генериране на рекламно съдържание за социалните мрежи и непоискани съобщения за първоначален контакт с набелязаните жертви. Най-често обаче измамниците използваха ChatGPT за превод на съобщения до и от набелязаните жертви в приложения за лични съобщения, включително с искания да напише отговор на „американски английски“ или в стила на адвокат.
Част от измамните акаунти използваха нашите модели и за създаване на подвеждащи материали, предназначени да вдъхват доверие. Това включваше фалшиви документи за адвокатска регистрация и фалшиви членски карти за адвокатски колегии, както и фиктивни споразумения за поверителност, целящи да разубедят жертвите да търсят външна помощ.
Фалшива членска карта за Адвокатската асоциация на щата Ню Йорк, генерирана с нашите модели. Чувствителните данни са заличени от разследващия екип на OpenAI.
Въздействие
Въздействието трябва да се оценява внимателно, тъй като основен източник на доказателства са данните, въведени от самите измамници. Тези данни сочат, че измамниците може да са отнели чрез измама хиляди долари от отделни жертви, но не можем да потвърдим независимо тези твърдения. ФБР и поне една адвокатска кантора, за която измамниците са се представяли, са публикували предупреждения за тази измама. Представители на ФБР предупредиха, че схемата е насочена към уязвими групи, особено към възрастни хора, и използва емоционалното състояние на жертвите на измами и желанието им бързо да си върнат загубените средства.
Правилата на OpenAI строго забраняват използването на съдържание, генерирано от нашите инструменти, за измами. Ангажирани сме да си сътрудничим с други компании в сектора и с властите, за да разбираме как ИИ влияе върху поведението на злонамерените участници и да пресичаме активно измамни дейности, при които се злоупотребява с нашите услуги.