“Хуурамч гэрч” ажиллагаа: Эрх бүхий байгууллагын нэр барьсан хохирол барагдуулах хуурамч үйлчилгээ
OpenAI нь Камбожоос ажиллаж байсан өндөр магадлалтай, хиймэл оюун ухаанаар хохирол барагдуулах үйлчилгээ, хуулийн фирм, эрх бүхий байгууллагын дүр эсгэн залилангийн хохирогчдыг онилсон бүртгэлүүдийг хаалаа.
Энэхүү тохиолдлын судалгаа анх OpenAI-ийн 2026 оны хоёрдугаар сарын(шинэ цонхонд нээгдэнэ) хиймэл оюун ухааныг хортой зорилгоор ашиглахыг таслан зогсоох тухай тайланд нийтлэгдсэн.
Үйл ажиллагаа явуулагч
Бид залилангийн хохирогчдын мөнгийг буцаан олгох нэрээр залилан үйлдэхдээ манай загваруудыг ашиглан зохиомол хуулийн фирмийн дүр эсгэж, бодит өмгөөлөгчид болон АНУ-ын хууль сахиулах байгууллагуудын нэрийг барьж байсан бүлэг ChatGPT бүртгэлийг хаасан. Энэ үйл ажиллагаа Камбожоос явагдаж байсан өндөр магадлалтай бөгөөд тус улсад хятадуудын удирдсан гэмт бүлэглэлүүд залилан үйлдэж байгаа тухай сүүлийн үеийн нээлттэй мэдээлэлтэй нийцэж байна.
Үйлдлийн хэв маяг
Эдгээр бүртгэл ChatGPT‑ийг ашиглан хуурамч хуулийн фирмээр халхавчилж, бодит өмгөөлөгчид, Холбооны мөрдөх товчооны (FBI) Цахим гэмт хэргийн гомдол хүлээн авах төв (IC3) зэрэг итгэл хүлээсэн хүмүүс, байгууллагын нэрийг барин залилуулсан мөнгийг буцаан олгох нэртэй луйврын ажиллагаагаа дэмжиж байжээ.
1. Анхаарал татах: Залилагчид ChatGPT‑ийг ашиглан дор хаяж зургаан хуурамч хуулийн фирмээс гаргасан мэт харагдах контент бүтээсэн. Улмаар энэ контентын заримыг залилуулсан мөнгийг буцаан олгох хуурамч үйлчилгээг сурталчилсан нийгмийн сүлжээний бүртгэлүүд болон цахим зар сурталчилгаагаар түгээжээ. Нээлттэй эх сурвалж дахь хэд хэдэн шинж тэмдэг эдгээр фирм хуурамч болохыг илтгэж байв. Тухайлбал, мужийн өмгөөлөгчдийн холбооноос олгосон тусгай зөвшөөрлийн баримт олдоогүй, тохирохгүй вэб домэйн ашигласан, холбоо барих хаяг нь бодитоор байдаггүй бололтой гудамжны хаяг байсан бөгөөд өмгөөлөгчидтэй мессежийн апп ашиглан холбогдохыг заажээ.
Залилагчид манай загваруудыг ашиглан залилуулсан мөнгийг буцаан олгох хуурамч үйлчилгээг сурталчилсан нийгмийн сүлжээний контент бүтээсэн.
2. Итгэл төрүүлэх: Залилагчид залилангийн хохирогчдын санхүүгийн хохирлыг барагдуулах чиглэлээр мэргэшсэн өмгөөлөгчдийн ярианы өнгө аяс, мэргэжлийн хэв маягийг дуурайсан сэтгэгдлүүд үүсгэж, онилсон хүмүүсийнхээ итгэлийг олохыг оролдсон. Тэд өмгөөлөгчийн зохиомол дүрүүдийн нэрийн өмнөөс нийтэлсэн мэт контент үүсгэсэн. Бид эдгээр дүрийн заримыг хэд хэдэн вэбсайтаас олсон бөгөөд профайлын зургуудыг нь нийгмийн сүлжээнээс хуулж авсан эсвэл хиймэл оюун ухаанаар үүсгэсэн бололтой байв. Зарим тохиолдолд залилагч нэг “өмгөөлөгчийн” нэр, мэдээллийг хуулийн фирм гэх хэд хэдэн байгууллагад давтан ашигласан байв. Бидний илрүүлсэн вэбсайтуудын нэг нь IC3-ийн нэрийг барьсан байв.
Эдгээр залилангийн вэбсайтад нийтэлсэн холбоо барих мэдээлэл нь зочдыг Telegram зэрэг хувийн мессежийн апп руу чиглүүлж байв. Залилагчид ChatGPT‑ээр бэлтгэсэн, онилсон хүмүүстээ илгээх мессежүүддээ Олон улсын эрүүгийн шүүхийн хяналт дор ажилладаг хэмээн худал мэдэгдэж, хохирогчийн бүх мөнгийг амжилттай буцаан олгох хүртэл ямар ч төлбөр авахгүй гэжээ.
3. Мөнгө салгах: Залилагчид ямар нэг мөнгө “буцаан олгохоос” өмнө шимтгэл, урьдчилгаа төлбөр шаардаж, онилсон хүмүүсээсээ мөнгө авахыг оролдсон. Тухайлбал, буцаан олсон гэх мөнгөө хүлээн авахаас өмнө 15 хувийн “үйлчилгээний шимтгэл” төлөхийг зааварлах, данс идэвхжүүлэхийн тулд урьдчилгаа төлбөр шаардах, “зөвлөгөөний төлбөр” авах зэрэг арга хэрэглэсэн. Залилагчдын ChatGPT‑ээр бэлтгэсэн мессежүүдэд криптовалютаар төлбөр шилжүүлж, төлбөр төлснөө нотлохын тулд гүйлгээний баталгааны дэлгэцийн зураг илгээх заавар багтсан байв.
FBI-ийн IC3 нэгжийн нэрийг барьсан, энэ залилантай холбоотой вэбсайт. “Гомдол гаргах” дээр дарахад зочдыг бусдын нэрээр нээсэн Telegram бүртгэл рүү чиглүүлж байв.
Гүйцэтгэл
Уг ажиллагаанд манай загваруудыг нийгмийн сүлжээний сурталчилгааны контент бүтээх, онилсон хүмүүстэйгээ анх удаа холбоо тогтоох мессеж бэлтгэх зэрэг ажлын олон үе шатанд ашигласан. Гэхдээ залилагчид ChatGPT‑ийг голчлон хувийн мессежийн апп дээр онилсон хүмүүстэйгээ солилцох мессежийг орчуулахад ашиглаж байв. Ингэхдээ хариуг “америк англи хэлээр” эсвэл өмгөөлөгчийн хэв маягаар бичих хүсэлт ч тавьж байжээ.
Залилангийн зарим бүртгэл манай загваруудыг мөн итгэл төрүүлэх зорилготой хуурамч материал бүтээхэд ашигласан. Үүнд өмгөөлөгчийн бүртгэлийн хуурамч баримт, өмгөөлөгчдийн холбооны хуурамч гишүүний үнэмлэхээс гадна хохирогчдыг бусдаас тусламж эрэхээс нь татгалзуулах зорилготой хуурамч нууцлалын гэрээнүүд багтсан.
Манай загваруудаар үүсгэсэн Нью-Йорк мужийн өмгөөлөгчдийн холбооны хуурамч гишүүний үнэмлэх. OpenAI-ийн шалгагчид зарим мэдээллийг халхалсан.
Үр нөлөө
Нотлох баримтын гол эх сурвалжуудын нэг нь залилагчдын өөрсдийн оруулсан мэдээлэл учраас үр нөлөөг болгоомжтой үнэлэх шаардлагатай. Тэдгээр мэдээллээс үзэхэд залилагчид хохирогч тус бүрээс хэдэн мянган ам.доллар залилсан байж болзошгүй ч бид эдгээр мэдэгдлийг бие даан баталгаажуулах боломжгүй байна. FBI болон нэрээ ашиглуулсан дор хаяж нэг хуулийн фирм энэ залилангийн талаар олон нийтэд сэрэмжлүүлэг гаргасан. Уг ажиллагаа эмзэг бүлгийн хүмүүс, ялангуяа ахмад настнуудыг онилж, залилангийн хохирогчдын сэтгэл санааны байдал болон алдсан мөнгөө хурдан буцааж авах хүслийг ашиглаж байгааг FBI-ийн албан тушаалтнууд анхааруулсан.
OpenAI-ийн бодлогоор манай хэрэгслүүдийн гаргасан үр дүнг залилан, луйварт ашиглахыг хатуу хориглодог. Бид хиймэл оюун ухаан хорлон үйлдэгчдийн зан үйлд хэрхэн нөлөөлж байгааг ойлгож, манай үйлчилгээг урвуулан ашигласан залиланг идэвхтэй таслан зогсоохын тулд салбарын бусад байгууллага болон эрх бүхий байгууллагуудтай хамтран ажиллахыг зорьдог.