«Սխալ համար» գործողություն․ ԱԲ-ի աջակցությամբ առաջադրանքային խարդախություն

Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թ. հունիսի⁠(բացվում է նոր պատուհանում) զեկույցում։

Մենք արգելափակել ենք ChatGPT‑ի այն հաշիվները, որոնք անգլերեն, իսպաներեն, սուահիլի, կինյարվանդա, գերմաներեն և հայիթյան կրեոլերեն հավաքագրման ոճով կարճ հաղորդագրություններ էին գեներացնում։ Այդ հաղորդագրություններում հասցեատերերին չնչին առաջադրանքների, օրինակ՝ սոցիալական ցանցերի գրառումները հավանելու դիմաց բարձր վարձատրություն էին առաջարկում և խրախուսում ներգրավել ուրիշների։ Գործողությունը խիստ կենտրոնացված էր թվում և, հավանաբար, ծագել էր Կամբոջայից։

ԱԲ-ով աշխատող թարգմանչական գործիքների շնորհիվ կարողացանք արագ հետաքննել և խափանել այս արշավի կողմից OpenAI-ի ծառայությունների օգտագործումը։

Ցանցի հարցումների մեծ մասը վերաբերում էր թարգմանության առաջադրանքներին։ Նրանք ChatGPT‑ն օգտագործում էին խոսակցական նախադասությունները չինարենից մի շարք այլ լեզուների և հակառակ ուղղությամբ թարգմանելու համար՝ առավելապես անգլերեն, իսպաներեն, կինյարվանդա, սուահիլի, գերմաներեն և հայիթյան կրեոլերեն։ Սովորաբար հերթով թարգմանում էին ստացված հաղորդագրությունը չինարեն, ապա չինարեն պատասխանը՝ սկզբնական լեզվով։

Այս հաղորդագրությունների մի մասը նման էր անծանոթներին ուղարկվող աշխատանքի հայտարարությունների՝ նվազագույն աշխատանքի դիմաց բարձր ժամավճարի առաջարկով։ Այդպիսի մի հաղորդագրություն SMS-ով տարածվել էր ՄԹ-ի՝ պատահական թվացող բջջային համարների շրջանում, որոնցից մեկը պատկանում էր OpenAI-ի հետաքննողին։ Ի պատիվ սկզբնական SMS-ի՝ այս գործողությունն անվանել ենք «Սխալ համար»։

Ըստ ամենայնի՝ սպառնալիքի դերակատարներն օգտվում էին հաղորդագրությունների փոխանակման մի քանի հարթակից։ Սկզբնական SMS-ը հասցեատերերին ուղղորդում էր WhatsApp, որտեղ պատասխանողներին այնուհետև ուղարկում էին Telegram-ում գործող մի «մենթորի» մոտ։ Որոշ գործողություններում հիշատակվում էր նաև BonChat հաղորդագրությունների հավելվածը։ Ըստ ամենայնի՝ այս ուղիներով ուղարկված սկզբնական ծանոթացման հաղորդագրությունները չեն գեներացվել մեր մոդելներով։ Դրանք սովորական հաղորդագրություններ էին, որոնք, հավանաբար, կիրառելի էին ցանկացած զրույցի համար։

Թարգմանության առաջադրանքներից շատերը վերաբերում էին հաղորդակցությունների, որոնք իբր ստացվել էին ենթադրյալ «գործատու» ընկերությունների ներկայացուցիչներից։ Նույն ընկերությունների անունները բազմիցս հանդիպել են այս հետաքննության շրջանակում ուսումնասիրված ChatGPT‑ի բազմաթիվ զրույցներում։ Դրանց թվում էին Hyesung Advertising-ը⁠(բացվում է նոր պատուհանում) և Lightning Shared Scooter Co-ն (LSSC)⁠(բացվում է նոր պատուհանում)։ Հրապարակային աղբյուրներում Hyesung-ը և LSSC-ն ներկայացվել են որպես ենթադրյալ առաջադրանքային խարդախության սխեմաներ։ Թեև մենք ինքնուրույն չենք ստուգել այս կազմակերպությունների բնույթը, մեր հետաքննությունը պարզել է, որ իբր նրանցից ստացված հաղորդագրությունները գեներացրել են չինախոս ChatGPT օգտատերեր, որոնք, հավանաբար, գործել են Կամբոջայից։

Ընկերությունները, որոնց ներկայացուցիչն էր ներկայանում այս ցանցը, ընդգրկում էին ոլորտների լայն շրջանակ՝ բաժնետոմսերի առևտրից և սկուտերների վարձույթից մինչև սոցիալական ցանցերում հավանումների վաճառք։ Ակնհայտ նախազգուշացնող նշաններից մեկը TikTok-ում մեկ հավանման դիմաց ավելի քան $5 վճարելու առաջարկն էր։ Համեմատության համար՝ առցանց շուկաների մեր ձեռքով կատարված ուսումնասիրությունը ցույց տվեց, որ սոցիալական ցանցերի հավանումների որոշ վաճառողներ 1,000 հավանման համար գանձում են $10-ից պակաս։

Արտաքին հարթակների ցուցիչները համադրելով ներքին դիտարկումների հետ՝ բացահայտեցինք աշխատանքի կրկնվող գործընթաց։ Այս մարտավարությունն ավելի լայնորեն հասկանալի դարձնելու և դրա դասակարգումը պարզեցնելու համար այն նկարագրում ենք այսպես՝ ազդանշան (առաջին կապ), ոգևորում (հետաքրքրության խթանում) և խայթոց (գումարի կորզում)։

1. Ազդանշան (առաջին կապ)․ ցանցը նյութեր է ստեղծում անծանոթներին դիմելու համար՝ սովորաբար առաջարկելով անսովոր բարձր վարձատրություն նվազագույն աշխատանքի դիմաց կամ խոստանալով բարձր եկամուտ բաժնետոմսերի շուկայում ներդրումներից։ Այս առաջարկները ներառում են բարձր վարձատրություն պարզ առաջադրանքների, օրինակ՝ սոցիալական ցանցերի գրառումները հավանելու դիմաց, կամ շահութաբեր ներդրումային հնարավորություններ։

2. Ոգևորում (հետաքրքրության խթանում)․ ցանցը թարգմանում է զրույցներ, հավանաբար՝ Օպերատորի և նրա «աշխատակիցների» միջև։ Այդ հաղորդագրությունները ներառում են առաջադրանքների կազմակերպչական մանրամասներ, սակայն հաճախ ընդմիջվում են եկամուտների և հնարավոր պարգևավճարների մասին ոգևորող ուղերձներով։

3. Խայթոց (գումարի կորզում)․ ցանցը գեներացնում և/կամ ուղարկում է նյութեր, որոնցով ճնշում է «աշխատակցին» կամ «ներդրողին» գումար ներդնել՝ ավելի մեծ պարգևներ ստանալու համար։ Սա դրսևորվում է մի քանի ձևով՝ ներառյալ սկզբնական «ավանդը», կրիպտոարժույթի գնումները և «սպասարկման վճարները»։

Հրապարակային աղբյուրները⁠(բացվում է նոր պատուհանում) վկայում են, որ այս ընկերություններից մի քանիսը նոր անդամներից զգալի միացման վճարներ էին գանձում, ապա այդ գումարի մի մասն օգտագործում գործող «աշխատակիցներին» այնքան վճարելու համար, որ նրանք շարունակեին մասնակցել։ Այս կառուցվածքը բնորոշ է առաջադրանքային խարդախություններին⁠(բացվում է նոր պատուհանում)։

Մեր սահմանափակ տեսանելիության պատճառով դժվար է քանակապես գնահատել այս ցանցի իրական ընդգրկումը։ Սակայն արտաքին հարթակների հրապարակումները⁠(բացվում է նոր պատուհանում) և այն զրույցները, որոնցում «աշխատակիցները» պահանջում էին վերադարձնել իրենց գումարը, ցույց են տալիս, որ առնվազն որոշ անձինք վճարել են այս ենթադրյալ գործատուներին։ Մենք նաև նկատել ենք իրական օգտատերերի, որոնք սոցիալական ցանցերում պաշտպանում էին այդ ընկերություններին, ինչը վկայում է իրական աշխարհում որոշակի ներգրավվածության մասին։