Mí-úsáid a bhaineann le Daon-Phoblacht na Síne: Faireachas agus gníomhaíocht tionchair

Foilsíodh an cás-staidéar seo den chéad uair i dtuarascáil OpenAI ó Dheireadh Fómhair 2025⁠(osclaíonn i bhfuinneog nua).

Daoine ar cosúil go bhfuil baint acu le heintitis rialtais Dhaon-Phoblacht na Síne agus a d’úsáid ChatGPT chun cabhrú le forbairt, próifíliú agus feidhmeanna maorlathacha.

Mar a leagamar amach inár n-aighneacht i mí an Mhárta maidir le Plean Gníomhaíochta SAM um IS de chuid na hOifige um Beartas Eolaíochta agus Teicneolaíochta, creidimid gur gá IS a chumasú trí rialacha ciallmhara a bhfuil sé mar aidhm leo daoine a chosaint ar fhíordhíobháil, agus IS dhaonlathach a fhorbairt, lena chinntiú go rachaidh IS chun tairbhe don oiread daoine agus is féidir. Is é atá i gceist againn le IS dhaonlathach ná IS atá múnlaithe ag na prionsabail dhaonlathacha ar sheas Meiriceá leo riamh. Áirítear leis sin cosc a chur ar réimis údarásaíocha uirlisí IS a úsáid chun cumhacht a charnadh agus smacht a choinneáil ar a saoránaigh.

Ní hamháin go gcosnaíonn ár n-infheistíochtaí i mbrath agus i gcur isteach ar iarrachtaí réimis údarásaíocha mí-úsáid a bhaint as cumais ChatGPT daoine anois, ach tugann siad léargas tábhachtach freisin ar an gcaoi a bhféadfadh na réimis sin mí-úsáid a bhaint as cumais amach anseo. Pléitear sa chuid seo tacar amháin torthaí den chineál sin a bhaineann le daoine a bhféadfadh nasc a bheith acu le réimis den sórt sin, agus dírítear ar Dhaon-Phoblacht na Síne.

Mar a scríobhamar i mí an Mheithimh, tá dul chun cinn nach beag á dhéanamh ag Daon-Phoblacht na Síne maidir lena leagan uathlathach féin den IS a chur chun cinn. Tugann an cur isteach a rinneamar ar chuntais ChatGPT a bhí á n-úsáid ag daoine ar cosúil go raibh baint acu le heintitis rialtais na Síne léargas éigin ar staid reatha úsáid IS sa chomhthéacs údarásach seo. Ba chosúil go raibh gnéithe áirithe den úsáid seo dírithe ar thrácht ar líne nó as líne a mhonatóiriú ar mhórscála, rud a léiríonn a thábhachtaí atá sé dúinn leanúint de bheith airdeallach ar mhí-úsáid údarásach fhéideartha sa réimse seo. Ba chosúil go raibh gnéithe eile den úsáid seo dírithe ar phróifíliú níos doimhne. Chuireamar cosc ar na cuntais a bhain leis an ngníomhaíocht seo agus táimid ag roinnt ár gcuid léargas sa tuarascáil seo.

Tá an staidéar seo bunaithe ar rogha cásanna inar chuireamar isteach ar ghníomhaíocht sháraitheach a d’aithníomar agus ar chuir muid cosc uirthi. Bhí an ghníomhaíocht sin ag teacht le húsáideoirí aonair a bheith ag úsáid ChatGPT, seachas glacadh institiúideach ar mhórscála lenár samhlacha. Dá bhrí sin, níl anseo ach léargas teoranta ar úsáid samhlacha éagsúla IS sa chomhthéacs seo.

Ba chosúil go raibh roinnt de na cuntais ar chuir muid cosc orthu ag iarraidh ChatGPT a úsáid chun uirlisí monatóireachta ar mhórscála a fhorbairt: tacair sonraí a anailísiú, ar sonraí iad a bailíodh go minic ó ardáin meán sóisialta an Iarthair nó na Síne. I mí Feabhra, thugamar tuairisc ar chás amháin den chineál sin a bhí dírithe ar uirlis éisteachta meán sóisialta faoi thiomáint IS a dhearadh, uirlis a mhaígh na hoibreoirí a bhí beartaithe d’fhórsaí slándála na Síne. De ghnáth, d’iarr na húsáideoirí seo ar ChatGPT cabhrú leo uirlisí den sórt sin a dhearadh nó ábhar bolscaireachta a chruthú fúthu, ach níor iarr siad air an mhonatóireacht a chur i bhfeidhm.

Mar shampla, chuireamar cosc le déanaí ar úsáideoir a d’fhéadfadh a bheith ag úsáid VPN chun rochtain a fháil ar ár seirbhísí ón tSín. Bhí an t-úsáideoir sin ag iarraidh ar ChatGPT cabhrú le hábhar bolscaireachta agus pleananna tionscadail a dhearadh d’uirlis éisteachta meán sóisialta a bhí, de réir an mhaímh, le húsáid ag cliant rialtais. Cuireadh síos ar an uirlis mar “thóireadóir” meán sóisialta (探针) a d’fhéadfadh, de réir an mhaímh, Twitter/X, Facebook, Instagram, Reddit, TikTok agus YouTube a scanadh le haghaidh ábhar ar thug an t-úsáideoir caint antoisceach air, chomh maith le hábhar eitneach, reiligiúnach agus polaitiúil. Níor úsáid an t-úsáideoir ár samhail chun an mhonatóireacht iarbhír ar na meáin shóisialta a dhéanamh. Ní féidir linn a dheimhniú go neamhspleách ar bhain eintiteas rialtais na Síne úsáid as an uirlis seo.

Ar an gcaoi chéanna, chuireamar cosc ar úsáideoir eile ar dócha go raibh baint aige le heintiteas rialtais agus a d’iarr ar ChatGPT cabhrú le togra a scríobh le haghaidh rud ar thug sé Samhail Luathrabhaidh faoi Insreabhadh Daoine Ardriosca a Bhaineann le hUigiúraigh (高危涉维吾尔关注人员流入预警模型) air. Rinneadh cur síos sa togra ar uirlis a dhéanfadh anailís ar áirithintí iompair agus a chuirfeadh iad i gcomparáid le taifid póilíní chun luathrabhadh a thabhairt faoi ghluaiseachtaí taistil daoine a aicmíodh mar dhaoine ardriosca a bhain le hUigiúraigh, catagóir nár sainíodh ar shlí eile. Níor iarr an t-úsáideoir ar ár samhail cabhrú le huirlis den sórt sin a thógáil, ach le togra ginearálta a fhorbairt; dá bhrí sin, ní féidir linn a dheimhniú go neamhspleách cén teicneolaíocht a bhí beartaithe acu a úsáid ná ar bhain eintiteas rialtais na Síne úsáid as uirlis den sórt sin.

Chuireamar cosc freisin ar úsáideoirí ar cosúil go raibh baint acu le heintitis rialtais na Síne agus a bhí, de réir dealraimh, ag iarraidh ChatGPT a úsáid chun próifíliú níos saincheaptha agus níos spriocdhírithe, chomh maith le taighde ar líne, a dhéanamh.

Mar shampla, d’iarr úsáideoir amháin ar ChatGPT foinsí maoinithe cuntais X a cháin rialtas na Síne a aithint. D’iarr úsáideoir eile ar ChatGPT eagraithe achainí sa Mhongóil a aithint. Sa dá chás seo, níor thug ár samhlacha ar ais ach faisnéis a bhí ar fáil go poiblí, agus ní raibh sonraí íogaire inti amhail foinsí maoinithe ná céannacht eagraithe na hachainí.

I gcuid den ghníomhaíocht seo, úsáideadh ár samhlacha mar uirlis taighde foinse oscailte, ar bhealach cosúil leis an gcaoi a mbíodh úsáideoirí roimhe seo ag cuardach an idirlín nó na meán sóisialta. Mar shampla, d’iarr tríú húsáideoir ar ChatGPT nuacht phráinneach laethúil a bhainfeadh leis an tSín a aithint agus achoimre a dhéanamh uirthi, lena n-áirítear ábhair íogaire amhail comóradh shlad Chearnóg Tiananmen in 1989 agus lá breithe an Dalai Lama.