Խարդախ գործողություններ․ առցանց խարդախության ցանցեր

Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թվականի հոկտեմբերյան⁠(բացվում է նոր պատուհանում) զեկույցում։

Հավանաբար Կամբոջայից, Մյանմայից և Նիգերիայից գործող ցանցերը չարաշահում են ChatGPT‑ն՝ առցանց մարդկանց խաբելու ակնհայտ փորձերում։

Մենք հանձնառու ենք բացահայտելու, կանխելու և խափանելու մեր մոդելները վնասակար նպատակներով չարաշահելու փորձերը։ Այդ չարաշահումների թվում են խարդախությունները․ մենք հայտնաբերում և արգելափակում ենք չարագործներին, որոնք փորձում են մեր մոդելներն օգտագործել մարդկանց մոլորեցնելու և խաբելու համար։ Վերջին երեք ամսում մենք խափանել ենք խարդախ ցանցերի գործունեություն, որոնք հավանաբար ծագել են Կամբոջայում, Մյանմայում և Նիգերիայում։ Որպես խարդախության դեմ պայքարում ԱԲ-ի հնարավոր դերի վկայություն՝ չարաշահման այս օրինաչափություններն ուսումնասիրելիս տեսել ենք նաև, որ շատերն օգտվում են մեր մոդելներից՝ խարդախությունները բացահայտելու համար։ Այս զեկույցում դիտարկվում են կիրառման երկու դեպքերն էլ։

Խարդախություններին աջակցելու նպատակով մեր մոդելների չարաշահումը տարբեր ձևեր ունի՝ առանձին անձանց խարդախության փորձերից մինչև լայնածավալ և շարունակական գործողություններ, որոնք հավանաբար կապված են կազմակերպված հանցավոր խմբերի հետ։ Անկախ ծագումից և ճշգրիտ մարտավարությունից՝ մեր խափանած խարդախ գործողությունները սովորաբար հետևում են ընդհանուր օրինաչափության՝ առաջին ազդակ (անսպասելի կապի հաստատում), լարում (ոգևորություն կամ խուճապ առաջացնելու փորձ) և հարված (գումար կամ արժեքավոր տեղեկություն կորզել)։

Այս խարդախները նախ տարածում են ԱԲ-ով ստեղծված կամ այլ բովանդակություն հաղորդագրությունների ծառայություններում և համացանցում, այդ թվում՝ սոցիալական ցանցերում գովազդ տեղադրելով։ Այնուհետև նրանք փորձում են պատասխանողին կա՛մ ոգևորել շահավետ հնարավորությամբ, կա՛մ վախեցնել մոտալուտ ֆինանսական կորստով և այդ հույզն օգտագործել՝ համոզելու թիրախին փոխանցել գումար կամ զգայուն տեղեկություն։

Մենք նաև բազմաթիվ դեպքեր ենք նկատել, երբ մեր մոդելները, ամենայն հավանականությամբ, օգնել են մարդկանց պաշտպանվել խարդախությունից։ Մենք տեսել ենք, որ մարդիկ ամսական միլիոնավոր անգամ օգտվում են ChatGPT‑ից՝ առցանց խարդախությունները բացահայտելու և դրանցից խուսափելու համար։ Այս զեկույցում ներկայացված յուրաքանչյուր խարդախ գործողության դեպքում մոդելն օգնել է մարդկանց ճիշտ ճանաչել խարդախությունը և խորհուրդներ տվել անվտանգության համապատասխան միջոցների մասին։ Մեր ընթացիկ գնահատմամբ՝ ChatGPT‑ն խարդախությունները բացահայտելու համար օգտագործվում է մինչև երեք անգամ ավելի հաճախ, քան խարդախություն կատարելու համար։

Օրինակ, թե ինչպես է OpenAI-ի քննիչը ChatGPT‑ում տեղադրում իր ստացած խարդախ SMS հաղորդագրության սքրինշոթը և մոդելի օգնությամբ հաջողությամբ պարզում, որ դա խարդախություն է։ Այս դեպքում չարագործները փորձել էին ներկայանալ որպես TikTok-ի հավաքագրողներ։

Մեր վերջին զեկույցից ի վեր մենք ամրապնդել ենք խարդախությունները հայտնաբերելու և խափանելու մեր կարողությունները։ Մենք խափանել ենք խարդախ այլ ցանցերի գործունեություն, որոնք, ըստ ամենայնի, ծագել են Կամբոջայում, Մյանմայում և Նիգերիայում։ Մեր նախորդ միջամտությունների հետ մեկտեղ այս խափանումները թույլ են տալիս բացահայտել տարբեր երկրներից իրականացվող բազմաթիվ խարդախ գործողությունների որոշ նոր միտումներ։

Մեր խափանած խարդախ գործողությունների մեծ մասը նպատակ ուներ ԱԲ-ն ներառել արդեն գոյություն ունեցող խարդախության սխեմաներում, այլ ոչ թե ստեղծել ԱԲ-ի շուրջ կառուցված նոր սխեմաներ։ Այս տարի մեր հայտնաբերած և արգելափակած բոլոր խարդախ գործողություններում ԱԲ-ն հիմնականում օգտագործվել է ծավալներն ու արդյունավետությունը մեծացնելու համար։ Սովորաբար մեր մոդելներն օգտագործվել են թարգմանելու, հաղորդագրություններ գրելու և սոցիալական ցանցերի համար բովանդակություն ստեղծելու նպատակով։

Օրինակ՝ վերջերս արգելափակել ենք հավանաբար Կամբոջայից և Նիգերիայից իրականացվող խարդախ գործողություններ, որոնց կազմակերպիչները ներկայացել են որպես «ներդրումային ընկերություններ»՝ փորձելով խաբել տարբեր երկրների զոհերին։ Խարդախները կեղծ ընկերությունները գովազդելու համար ստեղծել էին կայքեր և առցանց գովազդներ, իսկ առևտրի փորձագետ ներկայացող, հավանաբար կեղծ սոցիալական հաշիվներով մարդկանց հրավիրում էին միանալ հաղորդագրությունների փակ խմբերին։ Խոստանալով մեծ շահույթ և առանց ռիսկի վաստակելու հնարավորություններ՝ չարագործները փորձում էին հավանական զոհերին հրապուրել, որ գումար փոխանցեն մտացածին առևտրային հարթակներին։ Այս բոլոր սխեմաներում խարդախները մեր մոդելները հիմնականում օգտագործել են նամակագրություն ստեղծելու և թարգմանելու, իրենց կայքերի ու սոցիալական հաշիվների համար բովանդակություն պատրաստելու և պարզ հետազոտություններ կատարելու համար։

Մեկ այլ դեպքում մենք արգելափակել ենք մեծ հավանականությամբ Մյանմայում գտնվող խարդախության կենտրոն, որը մեր մոդելներն օգտագործել է թե՛ իր խարդախ սխեմաների համար բովանդակություն ստեղծելու, թե՛ առօրյա գործարար առաջադրանքներ կատարելու նպատակով։ Դրանց թվում էին ժամանակացույցերի կազմումը, ներքին հայտարարությունների մշակումը, աշխատասեղանների և հանրակացարանային տեղերի բաշխումն ու ֆինանսական հաշիվների կառավարումը։ Որոշ կազմակերպիչներ հարցրել են, թե ինչ քրեական պատիժ է սպառնում առցանց խարդախություն կատարելիս բռնված անձանց։

Մեր գործունեության արդյունքում վնասազերծված ոչ բոլոր խարդախներն էին մեր մոդելներն օգտագործում նույն ձևերով կամ նույն բարդության աստիճանով։ Խարդախների և ChatGPT‑ի փոխգործակցությունների մեծ մասը վերաբերում էր համեմատաբար պարզ առաջադրանքների, օրինակ՝ թարգմանությանը, սակայն որոշ խարդախ գործողություններ ավելի հավակնոտ ու մշակված էին։

Օրինակ՝ մեր խափանած և հավանաբար Կամբոջայից իրականացվող խարդախ գործողություններից մեկի կազմակերպիչները մեր մոդելներով մանրամասն կենսագրություններ էին ստեղծում կեղծ ներդրումային փորձագետների և մտացածին առևտրային ընկերությունների հորինված աշխատակիցների համար։ Այնուհետև խարդախները ChatGPT‑ին խնդրել են այդ կերպարների անունից սոցիալական ցանցերի հաղորդագրություններ գրել։ Չարագործները հաճախ մեր մոդել էին մուտքագրում հաղորդագրություններ, որոնք, ըստ ամենայնի, ստացել էին իրենց թիրախներից, ապա խնդրում էին մոդելին շարունակել զրույցը կեղծ կերպարի անունից։

Երկրորդ խարդախ գործողությունը, որը նույնպես հավանաբար ծագել էր Կամբոջայում, սկսվել էր մեր մոդելներով անսպասելի առաջարկ պարունակող SMS հաղորդագրություններ ստեղծելուց, որոնք զանգվածաբար ուղարկվել էին ԱՄՆ հեռախոսահամարներին։ Այդ հաղորդագրություններից մեկն ուղարկվել էր OpenAI-ի քննիչին՝ հունիսին մեր հաղորդած դեպքի նմանությամբ։ Այս SMS հաղորդագրությունները պարունակում էին ավելի ուշ արգելափակված WhatsApp խմբերին միանալու հրավերներ, իսկ այդ խմբերի անունները նման էին օրինական ներդրումային ընկերության անվանը։

Դատելով OpenAI-ի քննիչին ուղարկված WhatsApp հաղորդագրությունների շարքից՝ եթե հավանական թիրախը միանար այդ խմբերից մեկին, անմիջապես ականատես կլիներ ներդրումների մասին խոսող մոտ կես տասնյակ տարբեր հաշիվների միջև «զրույցի»։ Հաշիվներից մեկը ներկայանում էր որպես «ներդրումային փորձագետ», իսկ մյուսները՝ վստահության և փորձի տարբեր մակարդակներ ունեցող ներդրողներ։ Այս զրույցի յուրաքանչյուր հատված ստեղծել էին խարդախները՝ ամբողջը մեկ միասնական հատվածով թարգմանելով չինարենից, հավանաբար ակտիվ ու հաջողակ թրեյդերների աշխույժ խմբի տպավորություն ստեղծելու համար։ Ի վերջո, «ներդրումային փորձագետը» թիրախին առաջարկում էր նույնպես փորձել ներդրում կատարել։

Առանձին դեպքով՝ մեծ հավանականությամբ Նիգերիայից իրականացվող ներդրումային խարդախության կազմակերպիչները մոդելից քայլ առ քայլ խորհուրդներ էին խնդրել, թե ինչպես սոցիալական ցանցերի գովազդներով հասնել Լատինական Ամերիկայի ունևոր մարդկանց, թաքցնել իրենց գտնվելու վայրը և շրջանցել սոցիալական հարթակների սահմանափակումները։ Դրա համար նրանք մոդելին ուղղորդել էին հարթակի հանրային ծառայության պայմաններին և խնդրել ստուգել՝ արդյոք առաջարկվող գովազդային բովանդակությունը համապատասխանում է դրանց։

Խարդախները, հատկապես լայնածավալ խարդախության կենտրոնները, համառ են։ Խափանմանն ի պատասխան՝ նրանք շատ հաճախ փորձում են վերսկսել կանոնները խախտող գործունեությունը՝ միաժամանակ փոխելով իրենց վարքի որոշ տարրեր, հավանաբար հետագա հայտնաբերումից խուսափելու համար։ Սա պատճառներից մեկն է, թե ինչու է կարևոր ոլորտի ներսում կիսվել նրանց զարգացող գործունեության վերաբերյալ դիտարկումներով։ Օրինակ՝ OpenAI-ն և Meta-ն առանձին-առանձին տեղեկություններ են փոխանցել չարագործների մասին, ինչը նպաստել է հետագա հետաքննությանն ու միջոցների կիրառմանը։

Հնարավոր է՝ արձագանքելով խափանումներին կամ ԱԲ-ի կիրառումը մատնող նշանների շուրջ առցանց լայն քննարկումներին՝ խարդախները փորձել են թիրախների հետ առցանց բովանդակության և հաղորդակցության մեջ քողարկել ԱԲ-ի օգտագործումը։ Օրինակ՝ հավանաբար Կամբոջայից իրականացվող խարդախ գործողությունների կազմակերպիչները մոդելին հրահանգել են պատասխաններից հեռացնել երկար գծիկները։

Մի դեպքում խարդախները փորձել են արդարացում հորինել իրենց սոցիալական հաշիվների լայնածավալ արգելափակման համար։ Խոսքը վերը նկարագրված՝ հավանաբար Կամբոջայից գործող և SMS ու WhatsApp օգտագործող խարդախության կենտրոնի մասին է։ Երբ WhatsApp-ն արգելափակեց այդ գործողության հետ կապված «ներդրումային խմբերը», կազմակերպիչները սկսեցին հաղորդագրություններ ստեղծել, որոնցում պնդում էին, թե մրցակիցը կեղծ բողոքներ է ներկայացրել այդ խմբերի դեմ՝ այդ կերպ, հավանաբար, փորձելով բացատրել արգելափակումները։

Կամբոջայի հետ կապված խարդախ գործողության կազմակերպիչների՝ WhatsApp-ի արգելափակումից հետո OpenAI-ի քննիչին ուղարկած WhatsApp հաղորդագրության սքրինշոթը։