Cur isteach ar fheachtas comhordaithe driogtha samhlacha

Le déanaí, d’aithníomar feachtas comhordaithe a bhí dírithe ar réasúnaíocht chosanta a bhaint as ár samhlacha agus chuireamar isteach air. Sa chéad seachtain de mhí Iúil a chonaiceamar an ghníomhaíocht den chéad uair. Tá an ghníomhaíocht seo ag teacht le driogadh ionsaitheach: úsáid chórasach neamhúdaraithe a bhaint as aschuir nó réasúnaíocht samhla amháin chun cabhrú le samhail eile a thraenáil, a atáirgeadh nó a fheabhsú. Is í an réasúnaíocht chosanta taifead inmheánach na samhla ar an gcaoi a n-oibríonn sí trí thasc. Má bhaintear an réasúnaíocht sin aisti, d’fhéadfaí faisnéis nár cuireadh sa fhreagra deiridh a nochtadh agus cabhrú le daoine eile cumais na samhla a atáirgeadh.

Níor bhris na hoibreoirí ár gcriptiú, níor chuir siad bunachar sonraí i mbaol, ná ní bhfuair siad rochtain dhíreach ar chomhráite úsáideoirí a bhí stóráilte. Ina áit sin, rinne siad ionramháil ar idirghníomhaíochtaí leis na samhlacha chun go bhféadfaí réasúnaíocht chosanta a atáirgeadh i bhfoirmeacha a bhí infheicthe ag an iarratasóir. Rinneadh é sin ar bhealach comhordaithe agus ar scála mór, de shárú ar ár dtéarmaí seirbhíse. Ní bhaineann an leochaileacht a cheadaíonn an ionramháil seo le samhlacha OpenAI amháin. Tá faisnéis fúithi roinnte againn le comhpháirtithe tionscail tríd an Frontier Model Forum chun cosaintí comhchoiteanna ar dhriogadh ionsaitheach a neartú.

Roimh fhoilsiú, rinneamar imscrúdú ar raon feidhme na gníomhaíochta agus ar an tionchar a d’fhéadfadh a bheith aici, chuireamar ár mbearta maolaithe féin i bhfeidhm, agus roinneamar faisnéis le taighdeoirí agus comhpháirtithe tionscail agus fuaireamar aiseolas uathu lena chinntiú go bhfuil cosaintí ar an gcineál seo ionsaithe i bhfeidhm. Tá tuilleadh oibre maolaithe agus imscrúdaithe ar siúl. Creidimid go gcabhróidh sé leis an éiceachóras níos leithne a chosaintí a neartú má roinnimid anois an méid atá foghlamtha againn.

Chonaiceamar oibreoirí ag iarraidh réasúnaíocht chosanta a bhaint ar bhealaí nua, lena n-áirítear réasúnaíocht chriptithe a chóipeáil ó chomhrá amháin agus iarraidh ar shamhail i gcomhrá eile an t-ábhar réasúnaíochta folaithe a dhíchriptiú agus a thras-scríobh.

Tharraing taighdeoirí neamhspleácha slándála⁠(osclaíonn i bhfuinneog nua) ár n-aird freisin ar leochaileachtaí gaolmhara a bhain le húsáid samhlacha éagsúla le chéile agus le comhdhlúthú comhráite, trí nochtadh freagrach. Rinneamar imscrúdú ar a dtorthaí agus dheimhníomar go raibh na bealaí ionsaithe a d’aithin siad ann i ndáiríre. Chabhraigh a gcuid oibre linn an chatagóir ionsaithe níos leithne a thuiscint agus dlús a chur leis na bearta maolaithe.

Thosaigh an ghníomhaíocht an 1 Iúil, ar scála beag ar dtús, go dtí gur thugamar borradh mór faoi deara an 24 agus an 25 Iúil: 16,000 iarratas¹ ó bhreis agus 4,000 úsáideoir, agus patrún ábhartha bainte in úsáid iontu. Le linn tuilleadh imscrúdaithe, aithníodh gníomhaíocht a bhain le patrúin ghaolmhara leideanna i measc grúpa de bhreis agus 15,000 úsáideoir. Faoin 28 Iúil, bhí stop iomlán curtha againn leis an ngníomhaíocht sin.

D’athraigh an ghníomhaíocht le himeacht ama, rud a dhearbhaíonn gur dúshlán slándála níos leithne é an driogadh ionsaitheach a éilíonn cosaintí ilchisealacha inoiriúnaithe.

Ní léir an raibh na hoibreoirí uile a chonaiceamar le linn na tréimhse ábhartha ag gníomhú thar ceann aon ghníomhaí amháin. Measaimid, áfach, go bhfuil daoine a bhfuil baint acu le Moonshot AI, forbróir Kimi, freagrach as croíghrúpa den ghníomhaíocht.

Tá rioscaí don tsábháilteacht agus don tslándáil náisiúnta ag baint le driogadh ionsaitheach. D’fhéadfaí réasúnaíocht a baineadh as samhail a úsáid chun samhail eile a thraenáil gan na coimircí a chuirtear i bhfeidhm ar aschuir na samhla bunaidh a fheiceann úsáideoirí a chaomhnú. Ar scála mór, is féidir le driogadh dlús a chur le haistriú ardchumas freisin gan an infheistíocht chéanna sa tsábháilteacht a éileamh. Éiríonn na hábhair imní sin níos géire de réir mar a ghnóthaíonn samhlacha cumais i réimsí dé-úsáide.

Ní le OpenAI amháin a bhaineann an riosca seo. Mar a luadh thuas, d’fhéadfadh teicnící comhchosúla dul i bhfeidhm ar ardchórais eile IS. Dá bhrí sin, is dúshlán slándála comhroinnte é seo a éilíonn comhordú ar fud an tionscail.

Rinneamar an feachtas driogtha seo le déanaí a mhaolú trí mheascán de bhearta forfheidhmithe ar chuntais, rialuithe teicniúla agus comhordú le comhpháirtithe. Chuireamar toirmeasc nó srianta ar chuntais chalaoiseacha, neartaíomar rialuithe clárúcháin agus bonneagair, agus leathnaíomar an mhonatóireacht ar líonraí gaolmhara.

Neartaíomar cosaintí don réasúnaíocht fholaithe freisin ar fud úsáideoirí, spásanna oibre, eagraíochtaí agus teaghlaigh samhlacha. Dhúnamar bealach a lig do dhuine a raibh réasúnaíocht chriptithe úsáideora eile aige cheana í a athsheinm agus a hábhar a aisghabháil. Chuireamar seiceálacha leis freisin chun aschur sruthaithe a d’fhéadfadh réasúnaíocht a nochtadh a bhrath agus a choinneáil siar. Nuair a bhog gníomhaíocht ghaolmhar trí sheirbhísí tríú páirtí, d’oibríomar leis na soláthraithe sin chun na cuntais lena mbaineann a aithint agus cur isteach orthu.

Ar deireadh, roinneamar torthaí ábhartha tríd an Frontier Model Forum agus trí chainéil chuí rialtais um chomhroinnt faisnéise, ionas go bhféadfadh forbróirí eile atá ar thús cadhnaíochta agus comhpháirtithe san earnáil phoiblí gníomhaíocht chomhchosúil a lorg agus a gcosaintí féin a neartú. D’fhéadfadh rioscaí gaolmhara a bheith roimh chórais a thacaíonn le déantáin réasúnaíochta iniompartha nó in-athsheinnte.

Táimid ag súil go n-éireoidh iarrachtaí ar dhriogadh ionsaitheach níos sofaisticiúla de réir mar a fheabhsaíonn samhlacha ceannródaíocha agus de réir mar a lorgaíonn gníomhaithe bealaí níos saoire chun aithris a dhéanamh ar a gcumais. Teastaíonn rialuithe ilchisealacha agus oiriúnú leanúnach chun cosaint a dhéanamh ar an ngníomhaíocht seo.

Níl an obair seo críochnaithe. Teastaíonn na cosaintí céanna ó imlonnuithe arna n-óstáil ag comhpháirtithe agus a theastaíonn ó sheirbhísí céadpháirtí. I gcás ionsaithe trí aschuir uirlisí, teastaíonn cosaintí a scrúdaíonn níos mó ná gnáth-théacs infheicthe amháin. Táimid ag leanúint de chosaintí uirlisí, clúdach aicmitheoirí agus diúltuithe samhlacha a fheabhsú, agus de rialuithe ábhartha a leathnú ar fud ár gcomhpháirtithe néil.

Leanfaidh ár bhfreagairt de bheith dírithe ar thrí réimse: cosaintí teicniúla níos láidre ar bhaint faisnéise, brath agus forfheidhmiú níos fearr i gcoinne feachtais chomhordaithe, agus comhroinnt níos doimhne faisnéise faoi bhagairtí ar fud an tionscail agus an rialtais.