1 հոկտեմբերի, 2024 թ.

«A2Z» գործողություն․ բազմալեզու ազդեցության գործունեություն

OpenAI-ն արգելափակել է «A2Z»-ի հաշիվները, որոնք AI-ի միջոցով տարբեր հարթակներում ընտրությունների, Ուկրաինայի և քաղաքականության մասին բազմալեզու ազդեցության բովանդակություն էին ստեղծում։

Բեռնվում է…

Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2024 թվականի հոկտեմբերի⁠(բացվում է նոր պատուհանում) զեկույցում։

Գործող սուբյեկտ

Մենք արգելափակել ենք նախկինում չզեկուցված հաշիվների մի խումբ, որը մեր API-ի միջոցով ստեղծում էր մեկնաբանություններ՝ հետագայում X-ում և Facebook-ում հրապարակելու համար։ Այս մեկնաբանություններից շատերը գովաբանում էին Ադրբեջանը կամ պաշտպանում մարդու իրավունքների ոլորտում նրա ցուցանիշները, սակայն խումբը նաև անդրադառնում էր բազմաթիվ այլ թեմաների, ինչը կարող է վկայել առևտրային հիմքով իրականացվող գործողության մասին։ Հաշվի առնելով, թե որքան հաճախ էր այն գովաբանում Ադրբեջանը և փորձում AI-ն օգտագործել գործողության մի քանի փուլերում, այս ցանցն անվանեցինք «A2Z»։

Վարքագիծ

Ինչպես մայիսին մեր բացահայտած և «Bad Grammar» անվանած ռուսալեզու Telegram գործողությունը, այս գործողությունը ևս մեր մոդելներն օգտագործում էր սոցիալական ցանցերում մեկնաբանություններ գրելու համար։ Այն AI-ն օգտագործում էր սոցիալական ցանցերի կեղծ անձանց կառավարելու, կենսագրություններ ստեղծելու, գրառումներն ու մեկնաբանությունները վերլուծելու, բազմաթիվ լեզուներով պատասխաններ կազմելու և դրանք սրբագրելու համար։ Այնուհետև պատասխանները հրապարակվում էին X-ում կամ Facebook-ում։ Բովանդակության մեծ մասը կարճ մեկնաբանությունների տեսքով էր, սակայն ներառում էր նաև ոճավորված պատկերներ։ Դրանք հաճախ նմանակում էին 1930-ականների պաստառների ոճը, ուստի, ըստ ամենայնի, նախատեսված էին ուշադրություն և ներգրավվածություն գրավելու, այլ ոչ թե մոլորեցնելու համար։ Սակայն այս ոճավորված պատկերներով սովորական գրառումներից յուրաքանչյուրը ստացել է ընդամենը 0–5 արձագանք։

Գործողության թուրքերեն հաշիվներից մեկի գրառումը X-ում՝ տեքստով և պատկերով։ Երկուսն էլ ստեղծվել էին մեր մոդելների միջոցով։ Այս գրառումը ոչ մի պատասխան, տարածում կամ հավանում չի ստացել։

Գործողության անգլերեն հաշիվներից մեկի գրառումը X-ում՝ տեքստով և պատկերով։ Երկուսն էլ ստեղծվել էին մեր մոդելների միջոցով։ Այս գրառումը ոչ մի պատասխան, տարածում կամ հավանում չի ստացել։

AI-ի այս կիրառումը հնարավորություն էր տալիս գործողությանը միաժամանակ կառավարել սոցիալական ցանցերի բազմաթիվ հաշիվներ․ X-ում և Facebook-ում հայտնաբերեցինք այս գործունեությանը համապատասխանող մոտ 150 հաշիվ, իսկ կասկածելի հաշիվների թիվն ավելի մեծ էր։ Այն նաև հնարավորություն էր տալիս գործողությանը երբեմն համացանցում իրական մարդկանց հետ ներգրավվել մեկնաբանությունների շղթաներում։ Երբեմն իրական մարդկանց և կեղծ հաշիվների միջև կարճ զրույցներ էինք նկատում, որոնցում կեղծ հաշիվների պատասխանները ստեղծվում էին մեր մոդելների միջոցով։

Զրույց երկու իրական մարդկանց և գործողության կողմից կառավարվող հաշվի միջև, որն օգտագործում էր մեր մոդելներով ստեղծված բովանդակություն։ Թուրքերենից թարգմանված․ [Անձ 1]․ Տեղյա՞կ եք։ Ոչ բոլոր աթաթուրքականներն են սիոնիստ, բայց Թուրքիայում բոլոր սիոնիստները, Իսրայելի կողմնակիցները և ցեղասպանության մասին լռողները աթաթուրքականներ են։ Կա՞ օրինակ, որը չի համապատասխանում այս ընդհանրացմանը։ [Գործողության հաշիվ]․ Քեմալիզմը պաշտպանում է խաղաղությունն ու արդիականացումը։ Նման ընդհանրացումները վտանգավոր և մոլորեցնող են։ [Անձ 2]․ Ի՞նչ խաղաղություն։ Եթե իմ Աթաթուրքը ողջ լիներ, նա հետ կվերցներ Մոսուլը, Քիրքուքը և Արևմտյան Թրակիան… Դուք Աթաթուրքի մասին եք կարդում։ Յըլմազ Օզդիլի՝ շեբլեբի ուտելու պատմություննե՞րն եք լսում։ [Գործողության հաշիվ]․ Պատմությունը ցույց է տալիս, որ Աթաթուրքը խաղաղություն և արդիականացում էր ցանկանում։ Եկեք սխալ տեղեկությունների ազդեցության տակ չընկնենք։

Մինչև AI-ի ի հայտ գալը նման ծավալի գործողության համար, հավանաբար, կպահանջվեր տրոլների մեծ թիմ՝ այդպիսի նախաձեռնությանը բնորոշ բոլոր ծախսերով և արտահոսքի ռիսկերով։ Սակայն AI-ից կախվածությունը նաև գործողությունն անսովոր խոցելի էր դարձնում մեր միջամտության հանդեպ։ Քանի որ այն AI էր օգտագործում հարձակման շղթայի բազմաթիվ օղակներում, մեր միջամտությունը միաժամանակ խզեց շղթայի շատ օղակներ։ Հունիսի սկզբին այս գործունեությունը խափանելուց հետո սոցիալական ցանցերի այն հաշիվները, որոնք համարել էինք այս գործողության մաս, դադարեցին գրառումներ կատարել ԵՄ-ի, ՄԹ-ի և Ֆրանսիայի ընտրությունների ամբողջ ընթացքում։ Դրանցից մի քանիսը վերսկսեցին գրառումները օգոստոսի վերջին։ Նրանց գրառումներից մի փոքր մասում կային նշաններ, որ դրանք, հավանաբար, ստեղծվել էին AI-ի միջոցով։ Այդպիսի նշաններ պարունակող բովանդակությունը չէր ստեղծվել մեր մոդելներով։

Ստեղծված արդյունքներ

Այս արշավը ստեղծում էր կարճ մեկնաբանություններ՝ քաղաքական թեմաների լայն շրջանակի վերաբերյալ։ Ամենատարածված թեման Ադրբեջանի կառավարության և ներքին, տարածաշրջանային ու միջազգային քաղաքականության մեջ նրա դերի գովաբանումն էր, օրինակ՝ Կենտրոնական Ասիայի երկրների միասնության խթանումը կամ ՄԱԿ-ի Կլիմայի փոփոխության համաժողովի հյուրընկալումը։ Անգլերեն և իտալերեն հաշիվները գովաբանում էին Ադրբեջանի դերը՝ որպես Եվրոպային էներգակիրներ մատակարարող երկիր, երբեմն՝ ի պատասխան մարդու իրավունքների ոլորտում Ադրբեջանի կառավարության ցուցանիշների քննադատության։

Մեկնաբանությունների շղթա X-ում։ [Օգտատեր 1, որի օգտանունը պարունակում է «ազատ» բառը]․ Բայց ի՞նչն է այդքան սկանդալային կայսերապաշտական ռազմական դաշինքի լուծարման մեջ, որտեղ Իտալիան նույնպես կամակատար է, իսկ դաշինքը ողջունում է Էրդողանի նման բռնապետերին։ [Օգտատեր 2]․ Հարգելի՛ անունով ազատ, բայց իրականում հպատակ, ՆԱՏՕ-ից դուրս գալ նշանակում է հաջորդ իսկ վայրկյանին հայտնվել Ռուսաստանի կրնկի տակ։ Եվ, որքան հասկանում եմ, Բելառուսում, Վրաստանում, Ադրբեջանում ու Ղազախստանում գործերն այնքան էլ լավ չեն… ա՜հ, հենց այդպիսի՞ ճակատագիր եք ուզում։ [Գործողության հաշիվ]․ Հայտնվե՞լ Ռուսաստանի տակ։ Ծիծաղելի է։ ՆԱՏՕ-ն պաշտպանում է մեզ, եկեք էներգետիկ անվտանգության համար համագործակցենք Ադրբեջանի հետ։ Անունով ազատ, իրականում՝ շփոթված։

Գործունեության մյուս ուղղություններն անդրադառնում էին AI-ի առավելություններին ու զարգացմանը, ֆինանսական շուկաներին, բնապահպանական խնդիրներին, կրիպտոարժույթներին և ընդհանրապես տեխնոլոգիաներին։ Խմբերից մեկը կենտրոնացած էր Արաբական Միացյալ Էմիրությունների վրա՝ ներկայացնելով այն որպես ներդրումների համար կայուն ուղղություն և հաճախ հակադրելով Միացյալ Նահանգներում քաղաքական անկայունության մասին պնդումներին։

*Bloomberg-ի զեկույցին X-ում տրված պատասխան՝ այս գործողության բովանդակությունը հրապարակող հաշվից։*

Որոշ կեղծ անձինք կենտրոնացած էին Եվրոպայի կամ Միացյալ Նահանգների քաղաքականության վրա։ Այս գործունեության գաղափարախոսությունը տարբերվում էր տարածաշրջանից տարածաշրջան։ Օրինակ՝ Միացյալ Նահանգների վրա կենտրոնացած X-ի մի հաշիվ ներկայանում էր որպես լիբերալ և քննադատում ԱՄՆ նախկին նախագահ Թրամփին, իսկ ֆրանսերեն գրառումներ կատարող Facebook-ի որոշ հաշիվներ քննադատում էին նախագահ Մակրոնին և աջակցում «Ազգային միավորում» (RN) կուսակցությանը։ Երբեմն այս քննադատությունը կենտրոնանում էր ներքին խնդիրների վրա՝ պնդելու համար, որ տվյալ երկիրը չպետք է միջամտի միջազգային հարցերին, այդ թվում՝ Ռուսաստանի ներխուժմանը Ուկրաինա։

Facebook-ի երկու տարբեր հաշիվների մեկնաբանություններ, որոնք պարբերաբար հրապարակում էին այս գործողության բովանդակությունը։ Գերմաներեն տեքստը մեկնաբանում էր AfD-ի քաղաքական գործիչ Ալեքսանդր Յունգբլութի հարցազրույցը։ Այնտեղ գրված է․ «Յունգբլութը քննարկում է իրական խնդիրները․ ԵՄ-ն պետք է մտահոգվի ներքին գործերով։ Նրա պատասխաններն ինձ ոգևորում են, հատկապես՝ Ուկրաինայի հակամարտության մասին»։

Ազդեցության գնահատում

Այս գործողությունը շատ ակտիվ էր Facebook-ում և X-ում՝ հավանաբար ունենալով հարյուրավոր հաշիվներ։ X-ում դրա որոշ հաշիվներ ունեին վճարովի հաստատման կապույտ նշանը։ Երկու հարթակներում մեր ուսումնասիրած մոտ 150 հաշիվներից որևէ մեկի հետևորդների թիվը նշանակալի չէր․ հետաքննության ընթացքում X-ում մեր հայտնաբերած առավելագույնը 222 հետևորդ էր, սովորաբար հաշիվներն ունեին մոտ 15–20 հետևորդ, իսկ X-ի սովորական գրառումները միանիշ թվով արձագանքներ էին ստանում։ Նմանապես, մեր հետաքննության ընթացքում Facebook-ի որևէ գրառման համար նկատած արձագանքների առավելագույն թիվը 36 էր, իսկ սովորական ցուցանիշը՝ 0–5։ Սակայն հայտնաբերեցինք որոշ դեպքեր, երբ գործողության գրառումներն իրական մարդկանց պատասխաններ էին գրավել։ Դրանք միշտ չէ, որ դրական էին և երբեմն ներառում էին կեղծ հաշիվներին հակադարձող իրական մարդկանց, սակայն ցույց են տալիս տարբեր հարթակներում, լեզուներով և թեմաներով լսարան ներգրավելու առնվազն որոշակի կարողություն։

Մեկնաբանությունների վեճ գործողության հաշվի (վերևի գրառում) և իրական անձի (ներքևի գրառում) միջև։ Վերևում․ Ջերալդ, հենց դա է ցույց տալիս, թե որքան խորն են մեր արդարադատության համակարգի խնդիրները։ Այժմ առավել քան երբևէ պետք է աջակցենք Թրամփին։ Պատասխան․ հենց դա է ցույց տալիս, թե որքան խորն են արդարադատության մասին մեր պատկերացումների խնդիրները, երբ օրենքը կամ կանոնները խախտող յուրաքանչյուր քաղաքական գործչի արդարադատությունն այնուհետև «հետապնդում» է «քաղաքական» պատճառներով…

Ազդեցության գործողությունների ազդեցությունը գնահատող Breakout Scale-ի համաձայն, որը դրանք դասակարգում է 1-ից (նվազագույն) մինչև 6 (առավելագույն) սանդղակով, այս գործողությունը կդասեինք երկրորդ կատեգորիայի վերին սահմանում՝ երրորդ կատեգորիա անցնելու վտանգով․ այն աչքի էր ընկնում բազմաթիվ հարթակներում գրառումներով, և կային որոշ վկայություններ, որ իրական մարդիկ փոխազդում էին դրա բովանդակության հետ։ Սակայն այն բանից հետո, երբ արգելեցինք այս գործողությանը մեր մոդելների օգտագործումը և տեղեկություններ փոխանցեցինք ոլորտի գործընկերներին, մեր հայտնաբերած սոցիալական ցանցերի հաշիվները երկար շաբաթներ լռեցին։ Այսպիսով, գործողությունը ցույց է տալիս, որ AI-ի կիրառումը մեծացնում է իրականացնողների կարողությունները, սակայն AI մոդելից նրանց կախվածությունը նաև մեծացնում է միջամտության հանդեպ խոցելիությունը։

Հեղինակ

OpenAI