Forbairt samhlacha a rialú i ré na gcumas cibearchriticiúil

Le roinnt seachtainí anuas, léirigh dhá fhorbairt na rioscaí méadaitheacha a bhaineann le córais IS atá ag éirí níos cumasaí: teagmhas OpenAI-Hugging Face agus, ar leithligh, réamhfhianaise go bhféadfadh ceann dár samhlacha atá le teacht, Astra, tairseach na cumais chriticiúil cibearshlándála faoinár Creata Ullmhachta a bhaint amach. I dteannta a chéile, agus leis an dul chun cinn tapa inár dtaighde inmheánach, chuir na forbairtí seo tuilleadh práinne lenár n-iarrachtaí chun cosaintí monatóireachta, ailínithe agus srianta a neartú ag gach céim den phróiseas oiliúna.

De réir mar a éiríonn samhlacha níos cumasaí, méadaíonn na rioscaí a bhaineann lena bhforbairt agus lena dtástáil go hinmheánach freisin. Ní mór dár gcaighdeáin monatóireachta, ailínithe agus slándála fanacht chun tosaigh ar na rioscaí sin. Theastaigh uainn an t-am ba ghá a ghlacadh chun na caighdeáin sin a bhaint amach, agus mar sin chuireamar moill shealadach ar an méadú acmhainne. Áiríodh leis sin sos coicíse in oiliúint foghlama atreisiúcháin (RL) ar na samhlacha is déanaí atá beartaithe againn lena n-imscaradh, agus muid ag treisiú agus ag déanamh tástáil ionsaitheach ar ár dtimpeallachtaí taighde agus ag leathnú chumhdach ár gcóras monatóireachta. Tá an rith RL teorannach is mó atá beartaithe againn fós ar feitheamh agus muid ag déanamh oiliúna agus measúnuithe ar scála níos lú chun iompar na samhla a mheas, ár gcosaintí a dheimhniú agus tuilleadh fianaise ar ailíniú a bhunú sula rachaimid ar aghaidh.

Tá ailíniú—an obair lena chinntiú go n-iompraíonn córais IS mar atá beartaithe agus go bhfreagraíonn siad do mhaoirseacht dhaonna—i gcroílár ár gclár taighde le fada. Éilímid anois fianaise níos láidre ar iompar ailínithe le linn na hoiliúna ar fad, ag tógáil ar thaighde agus ar mheasúnuithe atá ar bun cheana féin. Dúshlán don réimse ar fad is ea córais atá ag éirí níos cumasaí a choinneáil ailínithe. Léiríonn na comharthaí atá á bhfeiceáil againn ón dul chun cinn i samhlacha atá le teacht go bhfuil cur chuige níos leithne de dhíth—cur chuige a thógann ar an gCreata Ullmhachta reatha agus a théann níos faide ná é.

Creidimid go bhfuil sé tábhachtach a bheith trédhearcach faoin gcaoi a bhfuil ár gcur chuige ag athrú. Thíos, déanaimid cur síos ar na hathruithe atá déanta againn cheana ar ár bpróisis agus ar ár mbonneagar taighde, chomh maith leis an obair atá fós ar bun.

Tá ár gcur chuige maidir le samhlacha níos cumasaí a fhorbairt bunaithe ar thrí chosaint a threisíonn a chéile:

1. Monatóireacht, a bhraitheann iompar ar ábhar imní é agus a chuireann ar ár gcumas freagairt dó.
2. Ailíniú, a laghdaíonn an dóchúlacht go ndéanfar gníomhartha díobhálacha nó neamhúdaraithe.
3. Bearta slándála, a chuireann teorainn leis an méid ar féidir le córais IS rochtain a fháil air nó dul i bhfeidhm air.

Measaimid go ndéanfaidh samhlacha formhór na hoibre slándála go luath, lena n-áirítear cosaint ar shamhlacha eile. Cuirfidh sé sin ar chumas na dtrí chosaint fás de réir chumas na samhla, rud atá ríthábhachtach dar linn.

Cuirimid na cosaintí seo i bhfeidhm ar fud an taighde agus an imscartha, agus cuirimid in oiriúint iad do chumais, timpeallacht oibriúcháin agus leibhéal riosca gach samhla.

De réir mar a fhorbraíonn samhlacha teorannacha cumais chibearshlándála níos láidre, táimid ag ardú na gcaighdeán slándála do na timpeallachtaí ina ndéanaimid iad a oiliúint agus a mheas. Bhí obair shuntasach innealtóireachta de dhíth chun na caighdeáin seo a bhaint amach, rud a chuir costas mór agus moilleanna ar thaighde teorannach. Díreach i ndiaidh theagmhas OpenAI-Hugging Face*, chuireamar tátal samhlacha teorannacha ar sos i mbraislí taighde i gcás ritheanna a d’fhéadfadh cód a rith nó uirlisí a úsáid a raibh rochtain acu ar an idirlíon. D’athbhunaíomar bealach níos teoranta agus níos sláine chun cód a rith go measartha tapa, agus ansin rinneamar gach ualach oibre a mheas ar leithligh lena fháil amach an bhféadfaí é a atosú go sábháilte. Atosaíodh roinnt ualaí oibre taighde faoi na rialuithe nua seo, agus bhí athruithe breise de dhíth ar chinn eile.

Sna seachtainí ina dhiaidh sin, shainíomar ceanglais slándála níos láidre d’ualaí oibre taighde teorannacha agus thosaíomar á gcur i bhfeidhm. Mar shampla:

• Leithlisiú ualaigh oibre: Éilímid anois leithlisiú níos láidre («boscaí gainimh») d’ualaí oibre a ritheann cód arna ghiniúint ag samhail nó cód eile nach bhfuil iontaofa. Baineann sé seo freisin le bogearraí a bhféadfaí iad a shárú agus aschuir samhla á bpróiseáil acu.
• Leithlisiú líonra: Tá tuilleadh rialuithe curtha i bhfeidhm againn chun ualaí oibre ardriosca agus neamhiontaofa a leithlisiú ón idirlíon. Dhearamar na rialuithe seo ionas nach leor sárú amháin ar ualach oibre nó ar sheirbhís tacaíochta chun rochtain neamhúdaraithe ar an idirlíon nó ar líonraí inmheánacha eile a chumasú.
• Tástáil leanúnach slándála: Tá ár dtimpeallacht athchumraithe againn chun seirbhísí comhroinnte a d’fhéadfadh a bheith leochaileach a bhaint, pribhléidí seasta a laghdú agus teorainneacha slándála agus iontaoibhe a fheabhsú. Táimid ag feabhsú ár gcumais logaí slándála a bhailiú agus monatóireacht a dhéanamh orthu freisin. Ar deireadh, táimid ag infheistiú in uathoibriú a úsáideann ár samhlacha chun na teorainneacha seo a thástáil go leanúnach in aghaidh ionsaithe ionsamhlaithe.

I dteannta a chéile, soláthraíonn na rialuithe seo cosaint ilchisealach agus cuidíonn siad lenár dtimpeallacht taighde a chosaint ar ionsaithe. Faoi láthair, éilímid an leibhéal is déine cosaintí slándála d’ualaí oibre a bhaineann le Astra nó le samhlacha cibearshlándála, ó chinneamar go bhféadfadh leibhéal criticiúil cumais cibearshlándála a bheith ag samhlacha Astra. Baineann na cosaintí seo le gach ualach oibre eile a bhaineann le cibearshlándáil freisin.

Cé go gcomhlíonann cuid d’oiliúint agus de mheasúnuithe Astra na ceanglais sin, tá líon suntasach ualaí oibre fós ar sos go dtí go n-aistreofar agus go bhfeabhsófar iad go hiomlán chun an caighdeán nua slándála a bhaint amach. Táimid ag tabhairt tús áite d’ualaí oibre sábháilteachta agus ailínithe agus iad á n-aistriú chuig na timpeallachtaí nua seo.

Tá monatóireacht ina cuid thábhachtach dár bpróiseas forbartha samhlacha le fada, lena n-áirítear monatóireacht ar ghníomhairí inmheánacha códaithe agus ar sheisiúin fhada. Dhírigh ár n-iarrachtaí monatóireachta go háirithe ar imscaradh inmheánach samhlacha teorannacha agus ar ritheanna oiliúna RL teorannacha. Mheasamar gurbh iad sin na hualaí oibre ba mhó riosca toisc go bhféadfaidís ardchumais samhla a chomhcheangal le rochtain ar uirlisí, córais íogaire agus líonraí inmheánacha nó seachtracha. Níor cuireadh i bhfeidhm iad ar gach rith tátail agus oiliúna a d’úsáid uirlisí. Tá ár gcur chuige athbhreithnithe agus leathnaithe againn lenár gcóras nua monatóireachta.

Tá roinnt céimeanna sa chóras nua monatóireachta seo. Tosaíonn sé le haicmitheoirí gníomhachtaithe (brathadóirí a scrúdaíonn gníomhaíocht inmheánach samhla), a ritheann ag gach téacschomhartha sampláilte agus a chuireann ábhair imní fhéideartha ar aghaidh chuig imscrúdaitheoirí uathoibrithe atá níos sofaisticiúla agus a úsáideann níos mó ríomhaireachta de réir a chéile. Scrúdaíonn na córais sin gníomhartha uirlisí, an réasúnaíocht atá ar fáil agus seicheamh iomlán na gníomhaíochta chun rochtain neamhúdaraithe, goid sonraí, iompar millteach agus iarrachtaí chun cosaintí a shárú a aimsiú. Tá sé mar aidhm againn foláireamh a eisiúint laistigh de 30 nóiméad tar éis dár gcóras monatóireachta gníomhaíocht ar ábhar imní í a thabhairt chun solais. Má aithníonn an córas monatóireachta sárú dóchúil ar theorainn chriticiúil slándála, gineann sé foláireamh den tosaíocht is airde. Sa chur i bhfeidhm reatha, seoltar glaoireacht chuig na foirne sábháilteachta, slándála agus taighde. Mura féidir leo a chinneadh go cinntitheach laistigh de 30 nóiméad gur foláireamh bréagach é, bítear ag súil go gcuirfidh na foirne sin an ghníomhaíocht ar sos.

Tá an mhonatóireacht seo riachtanach do gach oiliúint agus measúnú RL a bhaineann le huirlisí i gcás samhlacha a bhfuil cumas Sol nó cumas níos airde acu. Nuair a chinneamar an 7 Lúnasa go bhféadfadh cumais chriticiúla cibearshlándála a bheith ag Astra, chuireamar ceanglas breise monatóireachta i bhfeidhm ar gach tátal de chuid Astra a úsáideann uirlisí (ní hamháin ar oiliúint agus measúnuithe RL).

Teastaíonn acmhainn shuntasach ríomhaireachta ó na cosaintí seo. De réir ár meastachán reatha, is ionann forchostas na monatóireachta agus thart ar 20% den ríomhaireacht tátail a bhfuil monatóireacht á déanamh uirthi, cé go n-athraíonn an costas go mór idir ualaí oibre oiliúna agus measúnaithe. Roinnfimid tuilleadh sonraí faoin gcóras seo i bhlagphost atá le teacht.

Tá taighde ailínithe lárnach dár misean. Is é ár misean a chinntiú go rachaidh intleacht shaorga ghinearálta chun tairbhe don chine daonna ar fad. De réir mar a fhorbraíonn samhlacha ardchumais, amhail an cumas cibearionsaí a dhéanamh, agus a oibríonn siad i dtimpeallachtaí níos casta, cruthóidh iompar mí-ailínithe—amhail haiceáil luaíochta (bealaí a aimsiú chun luaíochtaí arda a fháil san oiliúint gan an toradh beartaithe a bhaint amach i ndáiríre), dallamullóg nó rochtain neamhúdaraithe—riosca níos tromchúisí de réir a chéile.

I gcás ritheanna RL ar na samhlacha is cumasaí, táimid anois ag cur ár bpríomhtheicnící ailínithe i bhfeidhm ag níos mó céimeanna den phróiseas oiliúna. Áirítear leis seo samhlacha luaíochta a fheabhsú chun iompar neamhshábháilte a bhrath agus a dhíspreagadh ar bhealach níos fearr i dtascanna agus i dtimpeallachtaí éagsúla; samhlacha a oiliúint chun bheith níos macánta faoina ngníomhartha, faoina gcumais agus faoina dteorainneacha; agus iompar a bhaineann leas as laigí i luaíochtaí, i ngrádóirí, in uirlisí nó i maoirseacht a laghdú. Táimid ag leathnú chumhdach oiliúna freisin d’iompar a d’fhéadfadh díobháil a dhéanamh nuair a idirghníomhaíonn samhlacha le córais nó acmhainní seachtracha.

Leanaimid orainn ag infheistiú go tréan i dtaighde ailínithe, ag leathnú chumhdach na measúnuithe agus ag úsáid a bhfoghlaimímid chun bonn eolais a chur faoin oiliúint agus faoi na cosaintí. Tá sé beartaithe againn i bhfad níos mó a roinnt faoinár dtaighde ailínithe go luath, lena n-áirítear a bhfuil á fhoghlaim againn faoi iompar samhlacha agus aon dúshláin nua a aimsímid.

Forbróimid ár gCreata Ullmhachta chun na cosaintí seo a thabhairt le chéile ar fud na hoiliúna agus an imscartha, agus chun cumais samhlacha amach anseo agus na timpeallachtaí ina n-oibríonn siad a léiriú ar bhealach níos fearr. Chun modhanna a fhorbairt ar féidir leo fás de réir na gcumas sin, beidh infheistíocht leanúnach de dhíth i slándáil le cúnamh samhlacha, i monatóireacht níos éifeachtaí agus i ndul chun cinn leanúnach sa taighde ailínithe. Tá sé beartaithe againn eagraíochtaí seachtracha a bheith páirteach agus níos mó dá bhfoghlaimímid a roinnt de réir mar a fhorbraíonn ár gcur chuige.

Tá cumais samhlacha teorannacha ag dul chun cinn go han-tapa. Ní mór dár gcumas iad a thuiscint, a ailíniú agus a dhaingniú fanacht chun tosaigh.

*Foilseoimid tuarascáil theicniúil ar a bhfuil foghlamtha againn sna seachtainí amach romhainn.