Ռոմանտիկ խայծով խարդախություն․ ԱԲ-ի օգնությամբ «խոզի մորթման» գործընթացներ
OpenAI-ն արգելափակել է առերևույթ Կամբոջայից կառավարվող հաշիվներ, որոնք ԱԲ-ն օգտագործում էին ռոմանտիկ և ներդրումային խարդախության զրույցներ թարգմանելու ու ստեղծելու համար։
Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թ. փետրվարյան(բացվում է նոր պատուհանում) զեկույցում։
Գործող անձ
Մենք արգելափակել ենք ChatGPT‑ի մի խումբ հաշիվներ, որոնք ճապոներեն, չինարեն և անգլերեն կարճ մեկնաբանություններ էին թարգմանում ու ստեղծում։ Այս գործունեությունը, ըստ ամենայնի, ծագել է Կամբոջայում և համապատասխանում էր ռոմանտիկ ու ներդրումային խարդախության (նաև հայտնի որպես «խոզի մորթում») բնույթին։ Meta-ն վերջերս հայտնաբերել է նմանատիպ գործունեություն(բացվում է նոր պատուհանում) իր հարթակում, որը, ըստ ամենայնի, ծագել էր Կամբոջայում նորաստեղծ խարդախության համալիրից։
Վարքագիծ
Այս ցանցն օգտագործում էր մեր մոդելները՝ կարճ մեկնաբանություններ թարգմանելու և ստեղծելու համար։ Գործող անձանց հիմնական լեզուն, ըստ ամենայնի, չինարենն էր։ Արդյունքները տարբեր լեզուներով էին՝ հատկապես ճապոներեն և չինարեն, ինչպես նաև անգլերեն։
Գործող անձինք մեր մոդելներն օգտագործում էին երկու հիմնական նպատակով։ Նախ՝ նրանք ստեղծում էին մեկնաբանություններ, որոնք հրապարակվում էին սոցիալական հարթակներում, այդ թվում՝ Facebook-ում, X-ում և Instagram-ում։ Սոցիալական ցանցերի յուրաքանչյուր հաշվում սովորաբար տեղադրված էր երիտասարդ կնոջ մեկ կամ մի քանի պրոֆիլի նկար։ Մեր գնահատմամբ՝ այդ նկարներից առնվազն մի քանիսը ոչ թե ստեղծվել էին ԱԲ-ով, այլ պատճենվել էին իրական մոդելներից կամ ինֆլուենսերներից։
Ստեղծված մեկնաբանությունների մեծ մասը հրապարակվել էր ի պատասխան իրական մարդկանց սոցիալական ցանցերի գրառումների։ Որոշ գրառումներ, որոնց արձագանքել էին կազմակերպիչները, ամիսների կամ տարիների վաղեմություն ունեին։ Այս գործողությունը սովորաբար թիրախավորում էր տղամարդկանց, որոնց հանրային պրոֆիլներից ենթադրվում էր, որ նրանք 40-ն անց են և հաճախ աշխատում են բժշկության ոլորտում։ Գործողության շրջանակում հաճախ արձագանքում էին գոլֆի մասին հրապարակումներին, ինչը վկայում է թիրախավորման կանխամտածված ռազմավարության մասին։ Երբեմն խարդախները հրապարակումներ էին անում քաղաքական թեմաների կամ ընթացիկ իրադարձությունների մասին։
Facebook-ի մեկնաբանություն, որն այս գործող անձը ստեղծել է մեր մոդելներով և հրապարակել ի պատասխան գոլֆի մասին այն անձի մեկնաբանության, որն առերևույթ կապ չուներ այս գործողության հետ։ Խարդախ հաշվի պրոֆիլի նկարը պատճենված է ԱՄՆ-ից նորաձևության և գեղեցկության ինֆլուենսերից։ Երբ խարդախ հաշիվը մեկնաբանել է, սկզբնական հրապարակումն ավելի քան մեկ ամսվա վաղեմություն ուներ։
Մեր մոդելներով ստեղծված մեկնաբանություն, որը X-ում հրապարակել է հաստատված հաշիվը՝ ի պատասխան այս խարդախության հետ առերևույթ կապ չունեցող հաշվի թվիթի։ Հաշվի պրոֆիլի նկարը պատճենված է ԱՄՆ-ից նույն նորաձևության և գեղեցկության ինֆլուենսերից։ Սկզբնական թվիթը գրեթե վեց ամսվա վաղեմություն ուներ։
Երկրորդ՝ և ավելի հաճախ, կազմակերպիչները ստեղծում էին կարճ մեկնաբանություններ, որոնք առցանց զրույցի հատվածների էին նման։ Սովորաբար մեկնաբանությունները չինարենից թարգմանվում էին նպատակային լեզվով՝ ճապոներեն կամ անգլերեն, կամ նպատակային լեզվից՝ չինարեն։ Սա համապատասխանում է այն վարկածին, որ խարդախները մոդելն առաջին հերթին օգտագործում էին ընթացիկ զրույցները թարգմանելու համար։
Երբեմն հաշիվները մոդելին խնդրում էին որոշակի տոնով պատասխան ստեղծել, օրինակ՝ սիրախաղ անող երիտասարդ կնոջ ոճով։ Մոդելի պատասխաններն ուղղորդելու համար երբեմն տրամադրվում էին կենսագրական մանրամասն տվյալներ՝ ներառյալ կեղծ կերպարի անունը, կրթությունը, աշխատանքը, բնակության վայրը և նախասիրությունները։ Այս կենսագրություններում սովորաբար նշվում էր, որ կեղծ կերպարը երբեմն առցանց ներդրումներ է կատարում։
Խարդախները, ըստ ամենայնի, թիրախների հետ շփվելու համար օգտագործել են բազմաթիվ տարբեր գործիքներ և հարթակներ։ Մեր հետաքննությունը վկայում է, որ նրանք օգտագործել են LINE, WhatsApp, X, Facebook, Instagram, հաղորդագրությունների փոխանակման այլ ծառայություններ, Apple-ի «Թաքցնել իմ էլ. հասցեն» գործառույթը(բացվում է նոր պատուհանում), ինչպես նաև կրիպտոարժույթի և արտարժույթի հարթակներ։
Արդյունքներ
Այս գործունեության վերաբերյալ մեր ունեցած տվյալների հիման վրա՝ խարդախները, ըստ ամենայնի, թիրախին շփումից դեպի խարդախ ներդրում տանելու համար հետևել են տարածված գործընթացի։
Հանրային շփում․ խարդախները մեկնաբանում էին թիրախի սոցիալական ցանցերի հրապարակումները։ Այս մեկնաբանությունները հաճախ ավարտվում էին այնպիսի հարցով, ինչպիսին է՝ «Ի՞նչ եք մտածում [թեմայի] մասին», հավանաբար՝ պատասխան ստանալու հավանականությունը մեծացնելու համար։ Մի քանի դեպքում նրանք մեկնաբանում էին քաղաքական թեմաներ, սակայն ավելի հաճախ խոսում էին գոլֆի մասին։
Հավանական անձնական հաղորդագրություններ․ այնուհետև խարդախները ստեղծում էին կարճ, խոսակցական մեկնաբանություններ։ Թեև ամբողջությամբ չենք տեսնում, թե դրանք ինչպես և որտեղ են օգտագործվել, մեկնաբանությունները համապատասխանում էին մի իրավիճակի, երբ խարդախն ու թիրախը սկսել էին անձնական հաղորդագրություններ փոխանակել։
Անվտանգ հաղորդագրություններ․ շատ շուտով, հաճախ մի քանի օրվա ընթացքում, խարդախները ստեղծում էին հաղորդագրություններ, որոնցով առաջարկում էին անցնել ավելի անվտանգ հաղորդագրությունների հավելվածի։ Երբեմն դա հիմնավորում էին՝ ասելով, թե խարդախը չի վստահում սոցիալական ցանցերին, իսկ այլ դեպքերում բերում էին գործնական պատրվակ, օրինակ՝ պնդում էին, որ շուտով գնալու են մի վայր, որտեղ սոցիալական ցանցերից օգտվելու հնարավորություն չեն ունենա։
Ռոմանտիկ շփում․ խարդախները գրում և թարգմանում էին աստիճանաբար ավելի քնքուշ ու մտերմիկ հաղորդագրություններ։ Եթե թիրախները խնդրում էին ուղարկել այն «կնոջ» լուսանկարները, որի հետ զրուցում էին, խարդախները տարբեր պատրվակներ էին բերում։
Ֆինանսական ներգրավում․ խարդախները գրում և թարգմանում էին հաղորդագրություններ՝ պարծենալով, թե մեծ գումար են վաստակել՝ առցանց ներդրումներ կատարելով արտարժույթում, կրիպտոարժույթում կամ ոսկում։ Հաճախ դա ներկայացվում էր որպես ֆինանսական ոլորտում աշխատող ազգականի խորհրդին հետևելու արդյունք։ Խարդախը թիրախին հորդորում էր նույն կերպ ներդրումներ սկսել և առաջարկում էր քայլ առ քայլ ուղղորդել նրան։
Խարդախություն․ խարդախները գրում և թարգմանում էին հաղորդագրություններ՝ փորձելով զոհին համոզել գումար փոխանցել առևտրային հավելված և ոգևորելով նրան իրենց իբր ստացած մեծ շահույթի մասին խոսքերով։ Ամեն անգամ, երբ զոհը փորձում էր հանել իր «շահույթը», խարդախը պատրվակ էր բերում, օրինակ՝ ասում էր, որ անհրաժեշտ է վճարել որևէ միջնորդավճար։
Գործունեության այս օրինաչափությունը համապատասխանում է նման խարդախությունների սովորական գործելակերպի մասին հանրությանը հասանելի հրապարակումներին(բացվում է նոր պատուհանում)։
Ազդեցություն
Այս գործունեության ընթացքում, ըստ ամենայնի, եղել են բազմաթիվ անհաջող փորձեր և ձախողումներ։ Մեր մոդելներով խարդախների մշակած որոշ զրույցներ ավարտվել են նրանով, որ թիրախը բացահայտ անվանել է դա խարդախություն կամ խարդախին ասել է, որ իրեն հանգիստ թողնի։ Մենք նաև հայտնաբերել ենք խարդախների հրապարակումներ սոցիալական ցանցերում, որոնք ընդհանրապես որևէ արձագանք չէին ստացել։
Սակայն որոշ զրույցներում առանձին գործարքների գումարները նշվում էին հազարավոր դոլարներով կամ այլ արժույթներով համարժեք չափով։ Քանի որ այս կազմակերպիչները մեր մոդելներն այդ կերպ են օգտագործել, մենք չենք տեսնում՝ արդյոք այդ ֆինանսական գործարքներն իրականացվել են։ Սակայն զրույցներում եղած հիշատակումները հուշում են, որ առնվազն որոշ դեպքերում խարդախներին հաջողվել է խաբեությամբ գումար կորզել թիրախներից։
OpenAI-ի կանոնները խստորեն արգելում են մեր գործիքների արդյունքներն օգտագործել խարդախության կամ խաբեության համար։ Մենք վճռականորեն համագործակցում ենք ոլորտի գործընկերների և իրավասու մարմինների հետ՝ հասկանալու, թե ինչպես է ԱԲ-ն օգտագործվում վնասաբեր գործողություններում, և ակտիվորեն խափանելու մեր ծառայությունները չարաշահող խարդախ գործունեությունը։ Այս հանձնառությանը համապատասխան՝ մեր խափանած խարդախ ցանցերի մասին տեղեկությունները փոխանցել ենք ոլորտի գործընկերներին և համապատասխան մարմիններին։