Freagra ar Ordú Feidhmiúcháin NIST ar AIacht Shaorga

Bunaíodh OpenAI mar eagraíocht neamhbhrabúis in 2015 lena chinntiú go rachaidh intleacht shaorga ghinearálta—i mbeagán focal, AI atá ar a laghad chomh cliste le duine—chun tairbhe gach daonnachta uile. Déanaimid taighde, forbairt, agus scaoileadh ar theicneolaíocht AI ar thús cadhnaíochta chomh maith le huirlisí agus dea-chleachtais maidir le sábháilteacht, ailíniú agus rialachas AI. Cuirimid fáilte roimh an deis seo chun obair leanúnach agus ríthábhachtach N NIST ar AI a chur ar an eolaislae.

Anseo, dírímid ar trí ábhar a ardaíodh san RFI: (1) cumais AI a mheas agus a iniúchadh, (2) tástálacha modh na foirne deirge a dhéanamh chun córais shábháilte, shlán agus iontaofa a imscaradh, agus (3) meáin shintéiseacha agus bunús.

Molaimid fócas NST ar “threoir agus tagarmharcanna a chruthú chun cumais a mheas... trína bhféadfadh AI dochar a dhéanamh.” Tá OpenAI tiomanta do Chreata Ullmhachta⁠(osclaíonn i bhfuinneog nua), cur chuige cuimsitheach chun rioscaí contúirteacha tubaisteacha ó shamhlacha AI reatha agus amach anseo a mheas, a rianú agus a mhaolú. Faoi láthair, rianaíonn an Creata Ullmhachta ceithre réimse tosaigh riosca: cibearshlándáil; bagairtí ceimiceacha, bitheolaíocha, núicléacha agus raideolaíocha (CBRN); áitiú; agus uathriail samhla. Geallann an Creat freisin faireachas leanúnach ar rioscaí “anaithnid anaithnide” nár aithníodh fós. Mar chuid den obair seo, roinn meastóireacht mhórscála amháin do Cadhn: measúnú a dhéanamh ar chumas GPT‑4 rochtain gníomhaithe mailíseacha ar fhaisnéis chontúirteach faoi chruthú bagairtí bitheolaíocha a mhéadú go suntasach, i gcomparáid le bunlíne na n-acmhainní atá ann cheana (i.e., an t-idirlíon). Sa mheastóireacht is mó dá leithéid a bhain le saineolaithe bitheolaíochta agus mic léinn araon, fuair muid amach go soláthraíonn GPT‑4 ardú éadrom ar a mhéad i bhfaisnéis chruthaithe bagairtí bitheheolaíocha. Cé nach ardú sách mór é le bheith cinntitheach, tá súil againn go mbeidh an toradh seo mar thúsphointe do thaighde leanúnach agus do phlé pobail, a bhfuil súil againn a bheidh á stiúradh ag NIST agus ag an Institiúid nua um Shábháilteacht AI. Mhéadaigh an obair seo ár muinín i roinnt príomhphrionsabal chun rioscaí ó chórais AI a mheas:

• Ba cheart rannchuidiú na gcóras AI le rioscaí a thomhas i dtéarmaí athraithe i gcoibhneas le bunlíne iomchuí.Tá cuid de na rioscaí a d’fhéadfadh a bheith méadaithe ag córais AI reatha agus amach anseo (mar shampla i gcibearshlándáil nó bithshlándáil) ann go pointe éigin fiú gan AI. Mar shampla, cuireann cuardach idirlín ar chumas rochtain shuntasach ar fhaisnéis ábhartha do bhithshlándáil cheana féin. Agus rannchuidiú na gcóras AI le rioscaí á meas, is dea-chis thábhachtach is ea tástáil a dhéanamh ar cé acu a mhéadaíonn AI riosca thar acmhainní atá ann cheana. Inár staidéar le déanaí ar bhio-rioscaí, d’oibríomar é seo trí leath de na rannpháirtithe a shannadh go randamach do ghrúpa rialaithe a raibh cead acu foinsí eolais neamh-AI amháin a úsáid (lena n-áirítear bunachair sonraí ar líne, ailt agus innill chuardaigh idirlín, chomh maith le haon cheann dá gcuid eolais roimhe seo), agus an leath eile a shannadh do ghrúpa cóireála le rochtain iomlán ar na hacmhainní sin agus ar an tsamhail GPT‑‑4 araon.
• Tá sé ríthábhachtach oibriú le saineolaithe fearainn chun rioscaí a thuiscint.Tá sé dúshlánach d’aon eintiteas amháin saineolaithe den scoth a fhostú i ngach ábhar leathan agus éagsúil atá ábhartha do shábháilteacht AI. Chun sainolas den chaighdeáin ór a fháil, is úsáideach comhpháirtíocht a dhéanamh le tríú páirtithe a fhostaíonn saineolaithe fearainn sna hábhair atá ábhartha do mheasúnuithe cumais chontúirteacha. Ina theannta sin, cabhraíonn saineolaithe fearainn a bheith páirteach i ngrádú na staidéar le dearbhú a thabhairt go bhfuil na meastóireachtaí á ndéanamh go hoibiachtúil. Mar shampla, i bhforbairt agus i riar na meastóireachta bithriosca, d’oibríamar go dlúth le saineolaithe bithshlándála tríú páirtí ar dheadh an taisc taige, oiliúintí sábháilteachta a riar do rannpháirtithe, agus na tascanna críochnaithe a ghrádú. Bheadh sé chun leasa sábháilteacht AI an-éiceachóras seo a leathnú agus a éagsúlú.
• Éilíonn meastóireacht chríochnúil freisin oibriú le saineolaithe AI chun raon iomlán na gcumas samhla a spreagadh go héifeachtach.Chun raon iomlán na rioscaí ó shamhlacha AI a thuiscint, is gá cumais iomlána na samhla a wherever possible sa mheastóireacht a spreagadh. Éilíonn sé seo tuiscint dhomhain ar na córais AI bunúsacha agus ar an gadh ar féidir iad a ghiaráil go héifeachtach. Molaimid go ndéanfaí meastóireachtaí a dhearadh i ndlúthchomhar le saineolaithe AI. Inár staidéar bithriosca, áiríodh leis seo oiliúint a chur ar ábhair dhaonna maidir leis an gcaoi feidhmíocht níos fearr a fháil ó dhea-chleachtais spreagtha cumais samhail teanga, chomh maith le cuir chuige teicniúla saincheaptha chun cumais na samhlacha a spreagadh agus a fhiosrú níos fearr.
• Tá níos mó taighde ag teastáil uainn ar conas tortha meastóireachtaí riosca a léirmhíniú.Mar shampla, i gcás measúnú a dhéanamh ar rochtain mhéadaithe samhlacha AI ar fhaisnéis bhithriosca, ní léir go cén leibh rochtana faisnéise méadaithe a aistriú go riosriosca suntasach. D’fhéadfadh éifeacht na gcóras AI ar bhithriosca athrú de réir mar a thagann teicneolaíochtaí nua chun cinn ar féidir leo faisnéis ar líne a aistriú go bagairtí bitheolaíocha fisiciúla. De réir mar a leanann muid ag cur ár Creata Ullmhachta i ngníomh, táimid fonnmhar oibriú le NIST agus leis an Institiúid um Shábháilteacht AI chun tuiscint níos láidre ar rioscaí agus ar mhéadrachtaí riosca a thógáil.
• Tá meastóireachtaí ábhair dhaonna den chaighdeán ór costasach.Éilíonn meastóireachtaí daonna ar shamhlacha teanga buiséad suntasach chun rannpháirtithe a chúiteamh, bogearraí a fhorbairt, agus slándáil. Inár staidéar bithriosca, scrúdaíomar bealaí éagsúla chun na costaisí seo a laghdú, ach bhí an chuid is mó de na costais seo riachtanach mar gheall ar cheachtar (1) breithnithe slándála nach féidir idirbheartaíocht a dhéanamh orthu, nó (2) líon na rannpháirtithe a theastaíonn agus an méid ama a chaithfidh gach rannpháirtí a chaitheamh le haghaidh scrúdú críochnúil. Ba cheart é seo a chur san áireamh agus caighdeáin á ndearadh.

Tá faisnéis bhreise ar fáil inár mblagphost ar an staidéar bithriosca le déanaí: Córas luathrabhaidh a thógáil do chruthú bagairtí bitheolaíocha le cúnamh LLM⁠.

Sainmhíníonn OpenAI modh na foirne deirge mar “próiseas struchtúrtha chun córais agus táirgí AI a fhiosrú chun cumais dhíobhálacha, aschuir, nó bagairtí bonneagair a aithint.”^A
Tá modhanna éagsúla féideartha ag teacht chun cinn faoin scáth-théarma modh na foirne deirge, lena n-áirítear modh na foirne deirge inmheánach (arna dhéanamh ag foirne inmheánacha tiomnaithe i saotharlann nó i gcuideachta), modh na foirne deirge seachtrach (arna dhéanamh ag páirtithe leasmhara seachtracha i gcomhar le saotharlann nó cuideachta), nó modh na foirne deirge uathoibrithe (ag úsáid samhlacha AI chun ionsaithe uathoibrithe a ghiniúint agus aschuir a rangú). I gcomhthéacs an doiciméid seo, táimid ag tagairt go príomha d’iarrachtaí seachtracha modh na foirne deirge a bhaineann le OpenAI ag obair le saineolaithe fearainn seachtracha chun cumais agus rioscaí samhail nó córais AI a mheas.

Ní mheasann cur chuige OpenAI i leith modh na foirne deirge ionsaithe achrannacha ná aschuir samhla ina n-aonar. Ina ionad sin, is modh é chun rioscaí a spreagadh ar bhealach comhthéacsaithe, iomlánaíoch i gcomhar le saineolaithe fearainn.^B Chomh maith le húsáid mhailíseach agus modhanna chun maoluithe sábháilteachta a sheachbhóthar, breineann mod modh na foirne deirge rioscaí eile freisin: ionchuir neamhurchóideacha nó ionchais a thugann aschuir dhíobhálacha nó rioscacha, feabhsuithe ar chumais núíosacha a d’fhéadfadh an tírdhreach riosca a athrú, agus conas a d’fhéadfadh fachtóirí lasmuigh den chóras féin idirghníomhú le haschuir samhail chun rioscaí nó díobhálacha a chruthú. Is minic a bhaineann measúnuithe sna réimsí seo tairbhe as daoine a bheith sa lúb chun samplaí féideartha a ghiniúint, agus chun na haschuir dá bharr a bhailíochtú i gcomhthéacs saineolas foirne deirge ar leith.

Cabhraíonn modh na foirne deirge AI leis na rioscaí féideartha a bhaineann le samhlacha agus córais nua a thuiscint a:

• A éilíonn cineálacha idirghníomhaíochtaí a d’fhéadfadh a bheith éagsúil ó chórais nó teicneolaíochtaí AI roimhe seo agus nach bhfuil clúdaithe go maith ag meastóireachtaí cláir (m.sh., in painting ar DALL·E, GPTs).
• A cumais atá feabhsaithe go suntasach a d’fhéadfadh rioscaí núíosacha nár measadh fós a thabhairt isteach (m.sh., réimsí eolaíochta, áitiú, nó réasúnaíocht).
• A comhthéacs eolais nó eolas fearainn-shonrach le haghaidh tástála agus fíoraithe (m.sh., ábhar polaitiúil réigiún-shonrach, claontaí cultúrtha, nó réimsí eolaíochta nó saineolaithe amhail dlí agus leigheas).
• A tuiscint ar shreabhadh úsáideora nó cásanna úsáide ar leith,, lena n-áirítear fachtóirí a d’fhéadfadh a bheith seachtrach don chóras féin (m.sh., tástáil GPT‑4(V) do dhaoine le radharc íseal).

Feiceann OpenAI modh na foirne deirge mar uirlis chun rioscaí ar leibh samhla agus agus ar leasanna ar le leibh córais a a mheas. D’fhéadfadh gnéithe córais a áireamh: aicmitheoirí, scagairí leid / liostaí blocála, idirghabhálacha ar le le comhéadain úsáideora, cleachtais mhonatóireachta agus mheasúnaithe agus meicníochtaí eile forfheidhmithe beartais. Uaireanta déanaimid modh na foirne deirge do tháirge nua fiú nuair nach bhfuil samhail nua i gceist. Mar shampla, cé nár thug GPTs⁠ samhail bhunúsach nua isteach, thug siad córais nua isteach maidir leis an gadh a n-idirghníomhaíonn úsáideoirí leis an tsamhail.

Feiceann OpenAI ár n-iarrach modh na foirne deirge mar chomhlántach le hiarrachtaí breise modh na foirne deirge fearainn-sonracha ar cheart d’fhorbróirí a bheith á ndéanamh agus iad ag tógáil ar bharr ár teicne. Mar shampla, cé go gcuirimid modh na foirne deirge ar ár samsamhlacha agus ár gcórais ag pointí sonracha ama faoi choinníollacha áirithe, ba cheart d’fhorbróirí atá ag tógáil ar ár API na foghlaama sin a chur san áireamh, agus modh breise na foirne deirge a dhéanamh bunaithe ar an gcóras agus ar na coinníollacha comhthéacsúla a bhfuil siad ag súil leo oibriú iontu. Seo ceann de na cúiseanna a fhoilsíonn OpenAI na príomhthorthaí ó iarrachtaí modh na foirne deirge i gcártaí córais (agus foirmeacha eile doiciméadachta atá ar fáil go poiblí) ionas gur féidir le daoine eile foghlaim uathu agus tógáil orthu.

Tá roinnt dár n-iarrachtaí modh na foirne deirge do sheoltaí samhla teorainn doiciméadaithe againn i gcártaí córais:

• Cárta Córais DALL·E 2⁠(osclaíonn i bhfuinneog nua)
• Cárta Córais GPT‑4⁠(osclaíonn i bhfuinneog nua)
• Cárta Córais GPT‑4(V)⁠
• Cárta Córais DALL·E 3⁠

Thug OpenAI rochtain do fhoirneoirí saineolaithe deirge ar shamhlacha réamhoilte le céimeanna éagsúla mínmhionchoigeartaithe agus iar-oiliúna chomh maith le leibh éagsúlaibíochta éagsúil maoluithe sábháilteachta.

Seo a leanas aidhmeanna é sin a dhéanamh:

• D’fhéadfadh léargais modh na foirne deirge forbairt maoluithe ar le iar-oiliúna,, maoluithe ar le córais, beartais agus meastóireachtaí a chur ar an eadh.
• D’fhéadfadh léargais modh na foirne deirge cuidiú le cinnteoireacht ceannaireachta a-thabhairt ar gh gnéithe áirithe a scaoileadh,, conas scaoileadh a imscaradh go atriallach, agus éifeachtacht maoluithe sábháilteachta.
• D’fhéadfaí tortha modh na foirne deirge a roinnt in éineacht le hábhair sheolta poiblí (mar shampla i gcártaí córais nó i bhformáidí eile) chun úsáideoirí ionchasacha agus páirtithe leasmhara eile a chur ar an e faoi rioscaí atá maolaithe, rioscaí iarmharacha, agus rioscaí féideartha amach anseo.

Téimid i dteagmháil le foirneoirí deirge chomh luath agus atá réasúnta sa phróiseas forbartha, ionas gur féidir le léargais modh na foirne deirge beathú go díreach isteach in iarrachtaí sábháilteachta agus i gcinnteoireacht. Tá sé tábhachtach freisin foghlaim faoi bhunmhumais an an tsamhail sula gcuirtear aon mhaoluithe sábháilteachta breise leis, ionas gur féidir le forbróirí samhla cinntí eolasacha a dhéanamh faoi rioscaí bunlíne na samhla,, agus le haghaidh tuiscint shochaíoch ar an tírdhreach riosca a bhaineann le córais atá ag éirí níos cumhachtaí.

Nuair a bheidh maoluithe sábháilteachta curtha i bhfeidhm,, fé d’fhéadfadh iarrachtaí modh na foirne deirge babhtaí breise modh deirge a dhíriú ar bhearnaí agus rioscaí iarmharacha nach dtugann na maoluithe sábháilteachta aghaidh orthu a aithint, chomh maith le hathléimneacht na maoluithe a mheas.

I ndeireadh na dála, cé go bhfuil tréithe sábháilteachta tábhachtacha le breithniú níos faide suas an bpróáis forbartha samhla,, tá sé beartaithe ag modh na foirne deirge eispéas a insamhlh chomh gar agus is féidir leis an méid a tugann forbróirí samhla don phobal.

Ní cleachtadh leordhóthanach tomhais riosca é modh na foirne deirge ann féin. Leis féin, ní dhéanfaidh modh na foirne deirge dóchúlacht ná claonadh samhla chun ábhar díobhálach a tháirgeadh ná rioscaí a bhaineann le húsáid córais AI a chainníochtú. Ní sholáthraíonn modh na foirne deirge go leor faisnéise ach oiread chun déine riosca nó díobhála a aithníodh a chainníochtú.

Cé go dtarlaíonn formhór iarrachtaí saineolaí OpenAI maidir le modh na foirne deirge roimh imscaradh mór samhla nó táirge, for, forbraíonn samhlacha agus córais go sách minic i dtáirgeadh, agus mar sin, tá sé tábhachtach é sin a chur san áireamh agus tortha modh na foirne deirge á gcomhthéacsú. Ar an gadh dá réir, d d’fhéadfadh forbróirí atá ag tógáil do chaltaí úsáide ar leith ar shamacha cinntí deartha a dhéanamh a athraíonn próifíl sábháilteachta samhla nó córais mura bhfuil sé dúchasach do (nó dosháraithe ón) tsamhail nó ón gcóras féin.

Leagann modh na foirne deirge bunús do chineálacha tuilleadh tástála agus meastóireachta, agus soláthraíonn sé treoir éigin faoi veicteoirí ionsaí nó saincheisteanna ar gá do mhaoluithe sábháilteachta a bheith láidir ina gcoinne.

Is féidir muinín a chur isteach i gcaoi tomhas réimse riosca ar leith trí shamplaí iomadúla agus malairtí saincheiste a scrúdú. Tá sé mar aidhm ag modh saineolaí na foirne deirge de réir deartha fairsinge seachas doimhneacht réimsí riosca a chlúdach, agus mar sin, leis féin, ní dócha go gcruthóidh sé meastóireacht leordhóthanach chun rioscaí sonracha a thomhas. Ina ionad sin, is féidir le modh na foirne deirge tacair sonraí a ghiniúint a d’fhéadfaí a mheas mar “shíolta” do mheastóireacht níos críochnúla. Ón áit sin, is féidir na torthaí a úsáid chun níos mó samplaí de réimse saincheiste áirithe a nochtadh a ghiniúint, agus is féidir “sraith órga” samplaí lipéadaithe (de ghnáth, ag saineolaithe fearainn) a úsáid chun samhlacha amach anseo a mheas ar ré saincheiste a aithníodh.

Éilíonn córais AI ilchuspóireacha a úsáidfear i go leor cásanna úseartha agus neamhthuartha, agus i gcomhthéacsanna éagsúla ar fud an domhain, go gclúdófaí réimse leathan réimsí ábhair, le daoine a léiríonn réimse leathan peirspictíochtaí agus dearcthaí domhanda.

Creideann OpenAI i raon leathan saineolaithe a earcú chun modh na foirne deirge a chur i bhfeidhm dár samhlacha. Anuraidh, d’oscail muid glao ar iarratasóirí chuig an Líonra na Foirne Deirge. Áiríodh leis na critéir roghnúcháin:

• Saineolas nó taitheas léirithe i réimse ar leith don mhodh na foirne deirge
• Paiseanta faoi shábháilteacht AI a fheabhsú
• Gan coinbhleachtaí leasa ar bith a bheith acu
• Cúlraí éagsúla agus grúpaí a bhí gannionadaithe go traidisiúnta
• Ionadaíocht gheografach éagsúil
• Líofacht i níos mó ná teanga amháin
• Cumas teicniúil (cabhrúil ach ní riachtanach)

Is féidir tosaíochtú fearainn a chur ar an eolas ag: úsáidí ionchais na gcóras AI nó an tsamhail, go háirithe i gcomhthéacsanna le débhríocht níos airde nó rioscaí féideartha, meastóireacht luath ar shamhlacha ina bhféadfadh forbróirí samhlacha a bheith ag súil le cumais mhéadaithe, réimsí saincheisteanna aitheanta roimhe seo maidir le beartas ábhair, agus comhthéacsanna sóisialta-polaitiúla ábhartha (m.sh., is mórbhliain toghcháin í 2024 i go leor áiteanna ar fud an domhain). Tá sé tábhachtach a thabhairt faoi deara go bhféadfadh sraitheanna éagsúla saineolais a bheith de dhíth ar gach samhail nó córas, agus go bhféadfaí fearainn nua a mheas bunaithe ar na cumais atá ag dul chun cinn agus na cásanna úsáide núíosacha a bhaineann le samhail nó córais. Mar sin, forbróidh comhdhéanamh optamach na bhfoirne deirge le himeacht ama.

• Comharthaíocht uisce: Faoin gcur chuige seo, tá comhartha dá bhunús sa mheáin ghinithe closamhairc féin – patrún caolchúiseach nach léir don bhreathnóir ná don éisteoir, ach gur féidir le bogearraí é a bhrath. D’fhéadfadh sé seo a bheith ina chomhartha nach féidir a bhrath ach le cabhair eochair rúnda, nó mar rogha eile, d’fhéadfadh na bogearraí chun an comhartha uisce a bhrath a bheith ar fáil go poiblí. Mar gheall air seo, dá gcuirfeadh OpenAI comhartha uisce lenár n-aschuir, b bheadh comhoibri ar fud an tslabhair luacha AI riachtanach ionas go bhféadfadh rannpháirtithe eile, amhail ardáin na meán sóisialta a dháileann ábhar, an comhartha a dhéanamh soiléir agus úsáideach d’úsáideoirí. Mura bhfuil an próiseas braite féin poiblí féin, is ceist bheartais casta é rochtain ar an bprróiseas sin. Tá dúshláin theicniúla ann freisin. Cé go bhféadfadh comharthaí uisce a bheith níos deacra a bhaint ná modhanna bunús eile, d d’fhéadfadh an meáin marcáilte a comhartha uisce a chailleadh fós má bharrtar, má athraítear méid uirthi nó má modhnaítear í ar shlí eile. Ar na cúiseanna seo, is féidir comharthaí uisce a sheachaint fós, go háirithe ag gníomhaithe achrannacha spreagtha. Ina theannta sin, d’fhéadfadh tionchar na comharthaíochta uisce a bheith teoranta ós rud é gur féidir le drochghníomhaithe rochtain a fháil ar shamhlacha nach gcuireann comhartha uisce ar a n aschuir.
  
• Aicmitheoirí (samhlacha oilte a dhéanann idirdhealú idir aschur ginte ag AI agus meáin eile, agus a d’fhéadfadh a bhrath cén samhail nó seirbhís a ghin aschur ar leith): Nuair atá siad éifeachtach, tá na cuir chuige seo thar a bheith tarraingteach toisc nach mbíonn siad ag brath ar chomhoibriú ón duine a dháileann íomhá ná ar aon duine eile. Mar sin féin, is féidir leo botúin a dhéanamh—dearfacha bréagacha agus diúltacha bréagacha araon—agus d’fhéadfadh siad a bheith dian ó thaobh ríomha de a imscaradh ar scála. D’fhéadfadh dearfacha bréagacha, mar shampla, saothar ealaíontóra daíonna a chur síos go mícheart mar aschur AI. D’fhéadfadh diúltacha bréagacha, ar an taobh eile, íomhá a bhratach go mícheart mar neamhghinte ag AI, nuair atá sí i ndáiríre.
  
  
• Cuir chuige bunaithe ar mheiteashonraí(amhail caighdeán reatha C2PA⁠(osclaíonn i bhfuinneog nua)): Sna cuir chuige seo, sínítear meiteashonraí a ghabhann le meáin áirithe go cripteagrafach chun fianú ar bhunús na meán a sholáthar.
  
  Féadann sé seo cumhacht a thabhairt do dhaoine ar mian leo bunús meán a chruthú, cibé acu atá ginte ag AI nó nach bhfuil. Mar shampla, d’fhéadfadh C2PA ligean d’fhoilsitheoir nuachta a léiriú, agus do lucht féachana a dheimhniú, gur fhoilsigh an foilsitheoir íomhá nó físeán áirithe i ndáiríre agus go seasann sé le cruinne na híomhá nó an fhíseáin sin. Ar an gadh freisin, má chuirtear i bhfeidhm é do chóras giniúna AI, d d’fhéadfadh an teicníc seo cuidiú le healaíontóir a thaispeáint gur ghin siad íomhá nó físeán sintéiseach áirithe. Tá an tairbhe ag na cuir chuige seo, go dealraitheach, infheictheacht tomhaltóra nó phoiblí a sholáthar i mbunús ábhair. Ina theannta sin sin, tá buntáiste acu nach n-éilíonn acmhainní suntasacha le cur i bhfeidhm.
  
  Mar sin féin, is féidir meiteashonraí a bhaint go héasca ó bhuníomhá nó físeán, mar sin ní chruthaíonn an teicníc seo bacainn bhríoch do dhrochghníomhaithe (mar shampla iad siúd atá páirteach i bhfeachtais mhífhaisnéise) ar mian leo ábhar ginte a chur i láthair mar fhíorábhar.
  
  Chun go rachadh cuir chuige meiteashonraí chun tairbhe don phobal go ginearálta,, bheadh ar bhrabhsálaithe agus ar ardáin dáilte, amhail ardáin na meán sóisialta, na meiteashonraí a bhrath agus a thaispeáint. Dá bhrí sin, éilíonn cur i bhfeidhm r rathúil ar chuir chuige bunaithe ar mheiteashonraí comhoibri ar fud an tslabh luacha: Ní leor do mheáin closamhairc meiteashonraí a bheith sínithe go cripteagrafach, ach caithfidh na hardáin dáilte a bheith in ann na meiteashonraí atá i gceist a bhrath agus iad a thaispeáint d’úsáideoir deiridh chun bunús na meán a fhíorú.

Toisc go dtagann buntáistí agus srianta le gach modh bunúis, tá OpenAI ag iniúchadh raon cur chuige i leith bunúis do mheáin closamhairc a ghin AI.

An 15 Eanáir i mbliana, d’fhógair OpenAI go mbeidh muid ag cur chur chuige meiteashonraí C2PA i bhfeidhm d’íomhánna a ghintear ag úsáid ár samhail téacs-go-híomhá DALL·E 3. Is caighdeán teicniúil oscailte iad sonraíochtaí C2PA a thugann do fhoilsitheoirí, do chruthaitheoirí agus do thomhaltóirí an cumas bunús cineálacha éagsúla meán a rianú.

Ligeann na sonraíochtaí seo meiteashonraí a cheangal le comhad. Cuimsíonn an mheiteashonraí seo faisnéis faoi fhoinse íomhá (inár gcás, gur tháinig an íomhá ó DALL·E) agus am an chruthaithe. Is féidir le baill den phobal tástáil a dhéanamh ar an meiteashonraí seo agus, má tá an mheiteashonraí i láthair, a dheimhniú gur ghin DALL·E 3 íomhá.

Cabhróidh sé seo linn úsáideoirí a chumhachtú chun bunús na n-íomhánna a ghineann siad ag úsáid DALL·E 3 a léiriú. Mar sin féin, is féidir an mheiteashonraí seo a bhaint go measartha héasca: is féidir le drochghníomhaí spreagtha an mheiteashonraí C2PA a ghabhann le haon íomhá a bhaint. Ina theannta sin, baineann ardáin chomhroinnithe íomhánna coitianta amhail ardáin na meán sóisialta í de réir réamhshocraithe, seachas í a bhrath agus a chur i láthair d’úsáideoirí. I bhfianaise cé chomh héasca is atá C2PA a bhaint, ní féidir le baill den phobal glacadh leis go mbeidh sonraí den sórt sin ag gach íomhá DALL·E a fheiceann siad de riachtanas.

Mar sin féin, níl C2PA díreach d’íomhánna AI, agus d’fhéadfadh buntáistí tábhachtacha a bheith aige dá nglacfaí leis níos leithne. Tá monaróirí ceamara, eagraíochtaí nuachta agus daoine eile á ghlacadh freisin chun dearbhú cá as a dtagann íomhánna. Creidimid gur céimeanna tábhachtacha iad glacadh níos leithne le modhanna nochta, agus úsáideoirí a spreagadh chun na comharthaí seo a lorg, i dtreo iontaofacht faisnéise digití a mhéadú.

An 19 Deireadh Fómhair 2023, d’fhógraíomar ár n-obair leanúnach ar aicmitheoir foinse, uirlis inmheánach nua chun íomhánna a ghin ár gcóras DALL·E 3 a bhrath. Tomhaisimid cruinne aninnis an aicmitheora le tagarmharcanna inmheánacha a léirigh tortha geallta, fiú nuair a cuireadh cineálacha coitianta modhnuithe ar íomhánán, amhail barradh, athrú méide, comhbhrú JPEG, nó nuair a forchuireadh téacs nó gearrthacha ó fhíoríomhánna ar chodanna beaga den íomhá ghinte. In ainneoin na dtorthaí láidre seo i dtástáil inmheánach, ní féidir leis an aicmitheoir ach a rá linn gur dócha gur ghin DALL·E íomhá, agus ní chuireann sé ar ár gcumas fós conclúidí cinntitheacha a bhaint amach.

Táimid ag leanúint ar aghaidh ag tástáil ár n-aicmitheora maidir le hathléimneacht agus, sa chéad ráithe de 2024, tá sé beartaithe againn é a chur ar fáil do chomhpháirtithe seachtracha chun aiseolas a fháil. Sa bhliain amach romhhainn, táimid ag súil lenár dturgnaimh leis an aicmitheoir íomhá a leathnú, trí chuireadh a thabhairt do pháirtithe seachtracha roghnaithe a bheith linn chun a fheidhmíocht agus a úsáidí a mheas.

Tá an t-aicmitheoir saincheaptha don tsamhail agus ní féidir leis ach a rangú ar gadh íomhá gur dócha gur ghin DALL·E í, agus dá bhrí sin, fiú dá mbeadh sé go hiomlán cruinn ina ranguithe, ní bheidís in ann é a úsáid chun a chinneadh ar gh íomhá ar gh uirlis ghinte eile a íomhá.

Cuirimid fáilte roimh an deis comhoibriú leat de réir mar a leanann bhur gcuid oibre sa réimse seo.

Le meas,

Anna Adeola Makanju
Leas-Uachtarán ar Gnóthaí Domhanda
OpenAI