Oibríochtaí camscéime: Líonraí calaoise ar líne

Foilsíodh an cás-staidéar seo ar dtús i dtuarascáil OpenAI Dheireadh Fómhair 2025⁠(osclaíonn i bhfuinneog nua).

Líonraí ar dócha gur sa Chambóid, i Maenmar agus sa Nigéir a bunaíodh iad, agus a bhain mí-úsáid as ChatGPT in iarrachtaí dealraitheacha daoine a chalaois ar líne.

Táimid tiomanta d’iarrachtaí ár samhlacha a mhí-úsáid chun críocha díobhálacha a shainaithint, a chosc agus a chur ó mhaith. Áirítear camscéimeanna ar na cineálacha mí-úsáide sin; braithimid agus coiscimid gníomhaithe mailíseacha a dhéanann iarracht ár samhlacha a mhí-úsáid chun daoine a mhealladh agus a chalaois. Le trí mhí anuas, chuireamar isteach ar líonraí camscéime ar dócha gur sa Chambóid, i Maenmar agus sa Nigéir a bunaíodh iad. Mar léiriú ar an ról is féidir le IS a imirt sa chomhrac i gcoinne na calaoise, agus na patrúin mhí-úsáide seo á bhfiosrú againn, chonaiceamar go leor daoine ag úsáid ár samhlacha chun cabhrú leo camscéimeanna a aithint. Pléitear an dá chás úsáide sa tuarascáil seo.

Cuimsíonn mí-úsáid ár samhlacha chun tacú le camscéimeanna idir dhaoine aonair ag iarraidh calaois a dhéanamh agus oibríochtaí leanúnacha ar scála mór ar dócha go bhfuil baint acu le grúpaí coireachta eagraithe. Beag beann ar a mbunús ná ar a gcuid beart cruinn, is gnách go leanann an ghníomhaíocht chamscéime ar chuireamar isteach uirthi patrún coiteann: an teagmháil gan choinne, an spreagadh (díograis nó scaoll a chothú), agus an sá (airgead nó faisnéis luachmhar a bhaint den sprioc).

Tosaíonn na camscéalaithe seo trí ábhar, bíodh sé ginte ag IS nó ná bíodh, a scaipeadh ar sheirbhísí teachtaireachtaí agus ar an idirlíon, lena n-áirítear trí fhógraí a reáchtáil ar na meáin shóisialta. Ansin déanann siad iarracht díograis faoi dheis bhrabúsach nó eagla roimh chaillteanas airgeadais atá ar tí tarlú a mhúscailt in aon duine a fhreagraíonn, agus leas a bhaint as an mothúchán sin chun a chur ina luí ar an sprioc airgead nó faisnéis íogair a thabhairt dóibh.

Thugamar faoi deara freisin go leor cásanna inar dócha gur chuidigh ár samhlacha le daoine a chosaint ar chalaois. Tá fianaise feicthe againn go n-úsáideann daoine ChatGPT na milliúin uair sa mhí chun cabhrú leo camscéimeanna ar líne a aithint agus a sheachaint; i ngach oibríocht chamscéime sa tuarascáil seo, chonaiceamar an tsamhail ag cabhrú le daoine an chamscéim a aithint i gceart agus ag tabhairt comhairle dóibh faoi bhearta sábháilteachta cuí. De réir ár meastacháin reatha, úsáidtear ChatGPT chun camscéimeanna a aithint suas le trí huaire níos minice ná mar a úsáidtear é chun camscéimeanna a dhéanamh.

Sampla d’imscrúdaitheoir de chuid OpenAI ag greamú seat scáileáin de theachtaireacht chamscéime SMS a fuair sé in ChatGPT agus ag úsáid na samhla go rathúil chun a aithint gur camscéim a bhí inti. Sa chás seo, rinne na gníomhaithe bagartha iarracht aithris a dhéanamh ar earcaitheoirí TikTok.

Ó foilsíodh ár dtuarascáil dheireanach, neartaíomar ár gcumas féin camscéimeanna a bhrath agus a chur ó mhaith. Chuireamar isteach ar líonraí camscéime eile ar chosúil gur sa Chambóid, i Maenmar agus sa Nigéir a bunaíodh iad. I dteannta na mbeart a rinneamar roimhe seo, cuireann na baint anuas seo ar ár gcumas roinnt treochtaí nua a aithint thar oibríochtaí camscéime éagsúla ó thíortha éagsúla.

Bhain formhór na gníomhaíochta camscéime ar chuireamar isteach uirthi le IS a chur le modhanna camscéime atá ann cheana, seachas modhanna nua a chruthú bunaithe ar IS. Bhain gach oibríocht chamscéime a d’aithníomar agus a choisceamar i mbliana úsáid as IS go príomha mar uirlis chun scála agus éifeachtúlacht a mhéadú. De ghnáth, chuimsigh sé seo úsáid ár samhlacha chun aistriúchán a dhéanamh, teachtaireachtaí a scríobh agus ábhar a chruthú do na meáin shóisialta.

Mar shampla, chuireamar cosc le déanaí ar oibríochtaí camscéime ar dócha gur sa Chambóid agus sa Nigéir a bunaíodh iad agus a lig orthu gur “gnólachtaí infheistíochta” iad chun íospartaigh i dtíortha éagsúla a chalaois. Chruthaigh na camscéalaithe suíomhanna gréasáin agus fógraí ar líne chun na gnólachtaí bréige a chur chun cinn, agus d’úsáid siad cuntais mheán sóisialta ar dócha nach raibh barántúil, agus iad ag ligean orthu gur saineolaithe trádála iad, chun cuireadh a thabhairt do dhaoine dul isteach i ngrúpaí príobháideacha teachtaireachtaí. Agus deiseanna brabúsacha tuillimh gan riosca á ngealladh acu, rinne na gníomhaithe bagartha iarracht ansin íospartaigh ionchasacha a mhealladh chun íocaíochtaí a dhéanamh le hardáin trádála bhréige. Sna camscéimeanna uile, d’úsáid na camscéalaithe ár samhlacha go príomha chun comhfhreagras a ghiniúint agus a aistriú, ábhar a chruthú dá suíomhanna gréasáin agus dá gcuntais mheán sóisialta, agus taighde bunúsach a dhéanamh.

I gcás eile, chuireamar cosc ar ionad camscéime ar dócha go mór a bhí lonnaithe i Maenmar agus a d’úsáid ár samhlacha chun ábhar a ghiniúint dá scéimeanna calaoiseacha agus chun gnáthchúraimí gnó a dhéanamh. Áiríodh leis seo sceidil a eagrú, fógraí inmheánacha a dhréachtú, deasca agus leapacha suanliosanna a leithdháileadh, agus cuntais airgeadais a bhainistiú. D’fhiafraigh roinnt oibreoirí faoi na pionóis choiriúla a ghearrtar ar dhaoine a ghabhtar ag déanamh camscéimeanna ar líne.

Níor úsáid gach camscéalaí ar chuireamar isteach air ár samhlacha ar na bealaí céanna ná leis an leibhéal céanna castachta. Bhain formhór idirghníomhaíochtaí na gcamscéalaithe le ChatGPT le cúraimí measartha simplí amhail aistriúchán, ach bhí roinnt oibríochtaí camscéime níos uaillmhianaí agus níos casta.

Mar shampla, d’úsáid oibríocht chamscéime amháin ar chuireamar isteach uirthi, agus ar dócha gur sa Chambóid a bunaíodh í, ár samhlacha chun beathaisnéisí mionsonraithe a ghiniúint do shaineolaithe infheistíochta bréige agus d’fhostaithe samhailteacha gnólachtaí trádála bréige. D’iarr na camscéalaithe ansin ar ChatGPT teachtaireachtaí meán sóisialta a scríobh i nglórtha na bpearsana sin. Ba mhinic a chuir na gníomhaithe bagartha teachtaireachtaí isteach inár samhail ar chosúil go bhfuair siad óna spriocanna iad, agus d’iarr siad ar an tsamhail leanúint den chomhrá mar an phearsa bhréige.

Thosaigh an dara hoibríocht chamscéime, ar dócha gur sa Chambóid a bunaíodh í freisin, trí ár samhlacha a úsáid chun teachtaireachtaí SMS gan choinne a ghiniúint agus iad a sheoladh ar an mórchóir chuig uimhreacha gutháin sna Stáit Aontaithe. Seoladh ceann acu seo chuig imscrúdaitheoir de chuid OpenAI, cosúil leis an gcás ar thuairiscíomar air i mí an Mheithimh. Bhí cuirí sna teachtaireachtaí SMS seo chun dul isteach i ngrúpaí WhatsApp, a cuireadh faoi chosc ina dhiaidh sin, a raibh ainmneacha orthu a bhí cosúil le hainm gnólachta infheistíochta dhlisteanaigh.

Bunaithe ar shraith teachtaireachtaí WhatsApp a seoladh chuig imscrúdaitheoir OpenAI, dá rachadh sprioc ionchasach isteach i gceann de na grúpaí seo, d’fheicfeadh siad go luath “comhrá” idir leathdhosaen cuntas éagsúil agus iad uile ag caint faoi infheistíocht. Lig ceann de na cuntais air gurbh é an “saineolaí infheistíochta” é, agus lig an chuid eile orthu gur infheisteoirí iad a raibh leibhéil éagsúla muiníne agus taithí acu. Ba iad na camscéalaithe a ghin gach cuid den chomhrá seo agus d’aistrigh siad é mar bhloc aonair ón tSínis — ar dócha chun cuma grúpa bhríomhaire de thrádálaithe díograiseacha rathúla a chruthú. Sa deireadh, mholfadh an “saineolaí infheistíochta” don sprioc triail a bhaint as infheistiú freisin.

Ar leithligh, d’iarr oibríocht chamscéime infheistíochta ar dócha go mór gur sa Nigéir a bunaíodh í comhairle céim ar chéim ar an tsamhail faoi fhógraí meán sóisialta a úsáid chun teagmháil a dhéanamh le daoine saibhre i Meiriceá Laidineach, a suíomh a cheilt agus srianta ardán meán sóisialta a sheachaint. Mar chuid de seo, threoraigh siad an tsamhail chuig téarmaí seirbhíse poiblí ardáin agus d’iarr siad uirthi ábhar fógraíochta molta a sheiceáil lena chinntiú go raibh sé comhlíontach.

Bíonn camscéalaithe, go háirithe ionaid mhórscála camscéime, seasmhach. Go minic, freagraíonn siad do chur isteach trí iarracht a dhéanamh a ngníomhaíocht sháraitheach a atosú agus gnéithe áirithe dá n-iompar a athrú, ar dócha chun brath breise a sheachaint. Sin cúis amháin a bhfuil sé tábhachtach léargais ar a ngníomhaíocht athraitheach a roinnt ar fud an tionscail, amhail nuair a roinn OpenAI agus Meta faisnéis faoi ghníomhaithe bagartha, rud a chuidigh le tuilleadh imscrúdaithe agus forfheidhmithe.

B’fhéidir mar fhreagairt ar bhearta ina gcoinne nó ar phlé níos leithne ar líne faoi chomharthaí a d’fhéadfadh úsáid IS a nochtadh, chonaiceamar camscéalaithe ag iarraidh a n-úsáid as IS a cheilt in ábhar ar líne agus i gcumarsáid le spriocanna. Áirítear leis seo oibríochtaí camscéime ar dócha gur sa Chambóid a bunaíodh iad agus a d’ordaigh don tsamhail eim-dais a bhaint as aschuir.

I gcás amháin, rinne na camscéalaithe iarracht míniú a thabhairt ar chur isteach mórscála ar a gcuid sócmhainní meán sóisialta trí leithscéal bréige a chumadh faoin gcúis ar cuireadh cosc orthu. Bhain sé seo leis an ionad camscéime a ndéantar cur síos air thuas, ar dócha gur sa Chambóid a bunaíodh é agus a d’fheidhmigh ar SMS agus WhatsApp. Tar éis do WhatsApp cosc a chur ar “ghrúpaí infheistíochta” a bhí nasctha leis an oibríocht, thosaigh na hoibreoirí ag giniúint teachtaireachtaí a mhaígh gur thuairiscigh iomaitheoir na grúpaí sin go bréagach, ar dócha chun míniú bréige a thabhairt ar na toirmisc.

Seat scáileáin de theachtaireacht WhatsApp a sheol an oibríocht chamscéime a bhí nasctha leis an gCambóid chuig imscrúdaitheoir de chuid OpenAI tar éis do WhatsApp í a bhaint anuas.