Claonadh a laghdú agus sábháilteacht a fheabhsú in DALL·E 2

Inniu, táimid ag cur teicníc nua i bhfeidhm ionas go nginfidh DALL·E íomhánna de dhaoine a léiríonn ar bhealach níos cruinne éagsúlacht dhaonra an domhain. Cuirtear an teicníc seo i bhfeidhm ar leibhéal an chórais nuair a thugtar leid do DALL·E a chuireann síos ar dhuine gan cine ná inscne a shonrú, mar shampla “comhraiceoir dóiteáin.”

Bunaithe ar ár measúnú inmheánach, bhí úsáideoirí 12 uair níos dóchúla a rá go raibh daoine ó chúlraí éagsúla san áireamh in íomhánna DALL·E tar éis an teicníc a chur i bhfeidhm. Tá sé i gceist againn an teicníc seo a fheabhsú le himeacht ama de réir mar a bhailímid níos mó sonraí agus aiseolais.

I mí Aibreáin, thosaíomar ag réamhamharc ar thaighde DALL·E 2 do líon teoranta daoine, rud a chuir ar ár gcumas cumais agus teorainneacha an chórais a thuiscint níos fearr agus ár gcórais sábháilteachta a fheabhsú.

Le linn na céime réamhamhairc seo, chuir luathúsáideoirí íomhánna íogaire agus claonta in iúl, rud a chabhraigh leis an maolú nua seo a mhúnlú agus a mheas.

Táimid ag leanúint d’imscrúdú a dhéanamh ar an gcaoi a bhféadfadh córais IS, cosúil le DALL·E, claontaí ina sonraí oiliúna a léiriú agus ar bhealaí éagsúla ar féidir linn dul i ngleic leo.

Le linn an réamhamhairc thaighde, ghlacamar céimeanna eile freisin chun ár gcórais sábháilteachta a fheabhsú, lena n-áirítear:

• An riosca go mbainfí mí-úsáid as DALL·E chun ábhar mealltach a chruthú a laghdú trí uaslódálacha íomhá ina bhfuil aghaidheanna réalaíocha agus iarrachtaí cosúlacht daoine poiblí, lena n-áirítear daoine cáiliúla agus pearsaí polaitiúla mór le rá, a chruthú a dhiúltú.
• Ár scagairí ábhair a dhéanamh níos cruinne ionas go mbeidh siad níos éifeachtaí maidir le leideanna agus uaslódálacha íomhá a sháraíonn ár beartas ábhair⁠(osclaíonn i bhfuinneog nua) a bhac agus léiriú cruthaitheach á cheadú fós.
• Córais mhonatóireachta uathoibrithe agus dhaonna a fheabhsú chun cosaint a dhéanamh ar mhí-úsáid.

Chabhraigh na feabhsuithe seo linn níos mó muiníne a bheith againn as an gcumas cuireadh a thabhairt do níos mó úsáideoirí taithí a fháil ar DALL·E.

Is cuid thábhachtach dár gcur chuige i leith chórais IS a imscaradh go freagrach⁠ é rochtain a leathnú, mar cuireann sé ar ár gcumas níos mó a fhoghlaim faoi úsáid sa saol fíor agus leanúint ar aghaidh ag athdhéanamh ár gcórais sábháilteachta.