Léim go dtí an príomhábhar
OpenAI

19 Meán Fómhair 2023

Sábháilteacht

Líonra Tástála Ionsaithí OpenAI

Táimid ag fógairt glao oscailte ar iarratais do Líonra Tástála Ionsaithí OpenAI. Tugaimid cuireadh do shaineolaithe réimse ar spéis leo sábháilteacht shamhlacha OpenAI a fheabhsú páirt a ghlacadh inár n-iarrachtaí.

Líonra Tástála Ionsaithí

Léaráid: Justin Jay Wang

Ag lódáil…

Nóta ón eagarthóir

Dúnadh iarratais don chéim seo de Líonra Tástála Ionsaithí OpenAI ar an 1 Nollaig 2023.

Táimid ag fógairt glao oscailte ar iarratais do Líonra Tástála Ionsaithí OpenAI. Tugaimid cuireadh do shaineolaithe réimse ar spéis leo sábháilteacht shamhlacha OpenAI a fheabhsú páirt a ghlacadh inár n-iarrachtaí. Táimid ag lorg saineolaithe ó réimsí éagsúla chun comhoibriú linn ar mheastóireacht dhian agus ar thástáil ionsaitheach ar ár samhlacha IS.

Cad é Líonra Tástála Ionsaithí OpenAI?

Is cuid lárnach dár bpróiseas imscartha atriallach⁠ í an tástáil ionsaitheachA. Le cúpla bliain anuas, tá ár n-iarrachtaí tástála ionsaithí méadaithe. Ar dtús, dhíríomar ar thástáil sháraíochta inmheánach in OpenAI; anois oibrímid le grúpa saineolaithe seachtrachaB chun cabhrú le tacsanomaíochtaí riosca a fhorbairt do réimsí ar leith agus chun cumais a d’fhéadfadh dochar a dhéanamh i gcórais nua a mheas. Is féidir leat tuilleadh a léamh faoin tástáil ionsaitheach a rinneamar roimhe seo ar shamhlacha amhail DALL·E 2⁠(osclaíonn i bhfuinneog nua) agus GPT‑4⁠(osclaíonn i bhfuinneog nua), lena n-áirítear an obair a rinneamar le saineolaithe seachtracha.C

Inniu, táimid ag seoladh tionscnamh níos foirmiúla chun cur leis an mbunobair sin agus chun ár gcomhoibriú le saineolaithe seachtracha a dhoimhniú agus a leathnú, ionas go mbeidh ár samhlacha níos sábháilte. Is cuid thábhachtach dár bpróiseas é a bheith ag obair le saineolaithe aonair, le hinstitiúidí taighde agus le heagraíochtaí na sochaí sibhialta. Measaimid go gcomhlánaíonn an obair seo cleachtais rialachais a shonraítear go seachtrach, amhail iniúchtaí tríú páirtí.

Is pobal saineolaithe iontaofa a bhfuil taithí acu é Líonra Tástála Ionsaithí OpenAI. Is féidir leo bonn eolais níos leithne a chur faoinár n-iarrachtaí rioscaí a mheas agus a mhaolú, in ionad dul i mbun comhoibrithe agus próiseas roghnúcháin aonuaire roimh mhór-imscarthaí samhlacha. Iarrfar ar bhaill an líonra, de réir a saineolais, cabhrú le tástáil ionsaitheach ag céimeanna éagsúla de shaolré forbartha samhlacha agus táirgí. Ní bheidh gach ball páirteach i ngach samhail ná táirge nua. Socrófar le gach ball ar leith cé mhéad ama a thabharfaidh siad, agus d’fhéadfadh sé sin a bheith chomh beag le 5–10 n-uaire an chloig in aon bhliain amháin.

Lasmuigh de na feachtais tástála ionsaithí a choimisiúnaíonn OpenAI, beidh deis ag baill plé a dhéanamh le chéile ar chleachtais agus ar thorthaí ginearálta na tástála ionsaithí. Is é an sprioc rannpháirtíocht níos éagsúla agus níos leanúnaí a éascú, agus an tástáil ionsaitheach a dhéanamh níos atriallaí. Comhlánaíonn an líonra seo deiseanna eile chun comhoibriú ar shábháilteacht IS, lena n-áirítear ár gClár Rochtana do Thaighdeoirí⁠ agus ár meastóireachtaí foinse oscailte⁠(osclaíonn i bhfuinneog nua).

Cén fáth ar cheart dul isteach i Líonra Tástála Ionsaithí OpenAI?

Tugann an líonra seo deis ar leith duit tionchar a imirt ar fhorbairt teicneolaíochtaí agus beartas IS níos sábháilte, agus ar an tionchar a d’fhéadfadh a bheith ag IS ar an gcaoi a mairimid, a n-oibrímid agus a ndéanaimid idirghníomhú. Trí dhul isteach sa líonra seo, beidh tú ar ár bpainéal saineolaithe ábhair, a bhféadfaí iarraidh orthu ár samhlacha agus ár gcórais a mheas ag céimeanna éagsúla dá n-imscaradh.

Saineolas ilghnéitheach á lorg

Chun córais IS a mheas, ní mór tuiscint a bheith agat ar réimse leathan ábhar, ar dhearcthaí éagsúla agus ar thaithí phearsanta saoil. Fáiltímid roimh iarratais ó shaineolaithe ar fud an domhain agus tugaimid tús áite don éagsúlacht gheografach agus don éagsúlacht réimsí saineolais inár bpróiseas roghnúcháin. 

Seo cuid de na réimsí a bhfuil spéis againn iontu, ach níl an liosta seo uileghabhálach:

Eolaíocht Chognaíoch

Ceimic

Bitheolaíocht

Fisic

Ríomheolaíocht

Steganagrafaíocht

Eolaíocht Pholaitiúil

Síceolaíocht

Áitiú

Eacnamaíocht

Antraipeolaíocht

Socheolaíocht

Idirghníomhaíocht Duine–Ríomhaire

Cothroime agus Claonadh

Ailíniú

Oideachas

Cúram Sláinte

Dlí

Sábháilteacht Leanaí

Cibearshlándáil

Airgeadas

Mífhaisnéis/Bréagaisnéis

Úsáid Pholaitiúil

Príobháideachas

Bithmhéadracht

Teangacha agus Teangeolaíocht

Ní gá taithí a bheith agat ar chórais IS ná ar shamhlacha teanga roimh ré, ach d’fhéadfadh sí a bheith úsáideach. Is é an rud is mó a bhfuil meas againn air ná go mbeifeá sásta páirt a ghlacadh agus do dhearcadh féin a chur lenár measúnú ar thionchair na gcóras IS.

Luach saothair agus rúndacht

Íocfar gach ball de Líonra Tástála Ionsaithí OpenAI as a gcuid oibre nuair a ghlacann siad páirt i dtionscadal tástála ionsaithí. Ní chuirfidh ballraíocht sa líonra seo cosc ort do thaighde a fhoilsiú ná deiseanna eile a thapú. Ba cheart duit a chur san áireamh, áfach, gur minic a bhíonn rannpháirtíocht i dtástáil ionsaitheach agus i dtionscadail eile faoi réir Comhaontuithe Neamhnochta (NDAnna), nó go bhfanann sí faoi rún ar feadh tréimhse éiginnte.

Conas iarratas a dhéanamh

Tá iarratais dúnta anois.

Ceisteanna coitianta

C: Cad a bheidh i gceist le ballraíocht sa líonra?

F: Mar bhall den líonra, d’fhéadfaí teagmháil a dhéanamh leat faoi dheiseanna chun samhail nua a thástáil, nó chun réimse spéise a thástáil ar shamhail atá imscartha cheana féin. Déantar obair an líonra faoi chomhaontú neamhnochta (NDA), cé gur fhoilsíomar go leor dár dtorthaí tástála ionsaithí i gCártaí Córais agus i mblagphostálacha roimhe seo. Íocfar thú as an am a chaitheann tú ar thionscadail tástála ionsaithí.

C: Cé mhéad ama a bheifear ag súil liom a thabhairt don líonra? 

F: Is féidir an méid ama a shocraíonn tú a thabhairt a choigeartú de réir do sceidil. Tabhair faoi deara nach ndéanfar teagmháil le gach ball den líonra faoi gach deis. Roghnóidh OpenAI na daoine is oiriúnaí do thionscadal tástála ionsaithí ar leith, agus leagfaidh sé béim ar dhearcthaí nua i bhfeachtais tástála ionsaithí ina dhiaidh sin. Bheadh fiú 5 huaire an chloig in aon bhliain amháin luachmhar dúinn, mar sin ná bíodh drogall ort iarratas a dhéanamh má tá spéis agat ann ach gan mórán ama agat.

C: Cathain a chuirfear iarratasóirí ar an eolas gur glacadh leo?

F: Roghnóidh OpenAI baill an líonra ar bhonn leanúnach agus is féidir iarratas a dhéanamh go dtí an 1 Nollaig 2023. Tar éis na tréimhse iarratais seo, déanfaimid athbhreithniú ar dheiseanna eile a chur ar fáil chun iarratas a dhéanamh amach anseo.

C: Mar bhall den líonra, an n-iarrfar orm tástáil ionsaitheach a dhéanamh ar gach samhail nua?

F: Ní iarrfar. Roghnóidh OpenAI na daoine is oiriúnaí do thionscadal tástála ionsaithí ar leith, agus níor cheart duit a bheith ag súil le gach samhail nua a thástáil.

C: Cad iad cuid de na critéir atá agaibh do bhaill an líonra?

F: Seo cuid de na critéir atá á lorg againn:

  • Saineolas nó taithí léirithe i réimse ar leith a bhaineann le tástáil ionsaitheach

  • Díograis i leith sábháilteacht IS a fheabhsú

  • Gan aon choinbhleachtaí leasa

  • Cúlraí éagsúla agus grúpaí nach raibh ionadaíocht leordhóthanach acu go traidisiúnta

  • Ionadaíocht ó réigiúin gheografacha éagsúla 

  • Líofacht i níos mó ná teanga amháin

  • Cumas teicniúil (níl sé riachtanach)

C: Cad iad na deiseanna eile atá ann chun comhoibriú ar an tsábháilteacht?

F: Seachas dul isteach sa líonra, tá deiseanna comhoibrithe eile ann chun cur le sábháilteacht IS. Mar shampla, d’fhéadfá meastóireachtaí sábháilteachta ar chórais IS a dhearadh nó a dhéanamh agus anailís a dhéanamh ar na torthaí.

Cuireann stór foinse oscailte Evals⁠(osclaíonn i bhfuinneog nua) de chuid OpenAI (a eisíodh mar chuid de sheoladh GPT‑4⁠) teimpléid atá éasca le húsáid agus modhanna samplacha ar fáil chun tús a chur leis an bpróiseas seo.

Is féidir le meastóireachtaí a bheith ina dtástálacha simplí ceisteanna agus freagraí nó ina n-ionsamhlúcháin níos casta. Seo samplaí praiticiúla de mheastóireachtaí a d’fhorbair OpenAI chun iompar IS a mheas ó roinnt uillinneacha:

Áitiú

Steganagrafaíocht (teachtaireachtaí folaithe)

Molaimid cur chuige cruthaitheach agus turgnamhach agus córais IS á meas. Nuair a bheidh do mheastóireacht críochnaithe agat, fáilteoimid romhat í a chur leis an stór foinse oscailte Evals⁠(osclaíonn i bhfuinneog nua) le go mbeidh an pobal IS i gcoitinne in ann í a úsáid.

Is féidir leat iarratas a dhéanamh freisin ar ár gClár Rochtana do Thaighdeoirí⁠. Cuireann sé creidmheasanna ar fáil chun tacú le taighdeoirí a úsáideann ár dtáirgí chun staidéar a dhéanamh ar réimsí a bhaineann le himscaradh freagrach IS agus le maolú na rioscaí a ghabhann leis.

Fonótaí

  1. A

    Baineadh úsáid as an téarma tástáil ionsaitheach chun raon leathan modhanna measúnaithe riosca do chórais IS a chuimsiú. Ina measc tá cumais a aimsiú trí mhodhanna cáilíochtúla, strústástáil ar bhearta maolaithe, tástáil ionsaitheach uathoibrithe le samhlacha teanga, aiseolas ar mhéid an riosca a bhaineann le leochaileacht ar leith, agus araile. Táimid ag obair chun téarmaíocht níos soiléire a ghlacadh, mar a mholtar in Khlaaf, 2023⁠(osclaíonn i bhfuinneog nua). Is é an aidhm atá leis sin an mearbhall a bhaineann leis an téarma “foireann ionsaitheach” a laghdú, cabhrú leo siúd a léann faoinár modhanna iad a thuiscint ina gcomhthéacs, agus, go háirithe, dearbhuithe bréagacha a sheachaint. Ar mhaithe le simplíocht, áfach, agus chun cloí leis an teanga a d’úsáideamar lenár gcomhpháirtithe, úsáidimid an téarma “foireann ionsaitheach”.

  2. B

    Úsáidimid an téarma “saineolaí” chun tagairt do shaineolas atá bunaithe ar réimse eolais ábhair agus taithí phearsanta saoil

  3. C

    Fuaireamar aiseolas ar phróifíl riosca ár gcóras ar bhealaí eile freisin, amhail an Bug Bounty Program⁠ agus an Comórtas Aiseolais ChatGPT⁠.

Údar

OpenAI