Ár gcreat chun mí-ailíniú samhlacha a thuairisciú
Tá creat nua á roinnt againn chun cásanna mí-ailínithe samhlacha ag OpenAI a rianú, a imscrúdú agus a nochtadh, mar aon le sé thuarascáil ar iompar samhlacha gan choinne nó ar ábhar imní é a thugamar faoi deara le sé mhí anuas.
San am a chuaigh thart, chun eolas níos fearr a thabhairt do thaighdeoirí, d’fhorbróirí IS, do lucht ceaptha beartas agus don phobal i gcoitinne, rinneamar iarracht ár dtorthaí faoi mhí-ailíniú a phoibliú. Ach gan cur chuige córasach chun na torthaí seo a thuairisciú, bhí ár nochtuithe ad hoc agus ní chomh minic agus ba cheart: is minic a d’fhanamar go dtí go bhféadfaimis roinnt cásanna a chur le chéile in aon tuarascáil amháin, nó chuireamar le cártaí córais iad do shamhlacha nuasheolta. Tá sé mar aidhm ag an gcreat nua seo foilsiú tuarascálacha mí-ailínithe a bhrostú tar éis dúinn an t-iompar a thabhairt faoi deara, fiú mura bhfuil míniú iomlán tugtha againn air ná é maolaithe againn.
De réir mar a éiríonn córais IS níos forbartha agus a imscartar níos forleithne iad, ní mór dúinn comhthoil níos leithne agus níos eolasaí a chothú faoi dhul chun cinn an taighde ailínithe. Ní chreidimid go bhfuil ailíniú agus monatóireacht réitithe ag tionscal IS a dhóthain chun leanúint den scálú go freagrach ar an luas is mó ar feadh i bhfad eile. Ní mór cinntí faoin gcaoi ar cheart forbairt IS dul ar aghaidh sna míonna agus sna blianta amach romhainn a bhunú ar fhianaise ar féidir le daoine lasmuigh de na cuideachtaí a fhorbraíonn samhlacha ceannródaíocha í a scrúdú iad féin.
D’fhéadfadh samplaí de mhí-ailíniú cabhrú le fadhbanna a aithint a d’fhéadfadh teacht roimh fhorbróirí IS eile nuair a bhaineann a gcórais cumais chomhchosúla amach, laigí i gcosaintí a nochtadh, nó toimhdí faoi iompar samhlacha a cheistiú. Trí na torthaí seo a roinnt, is féidir le daoine eile na fadhbanna céanna a imscrúdú, ár mínithe a thástáil agus bearta maolaithe a fheabhsú. Ós rud é go gcreidimid i luach na trédhearcachta maidir le mí-ailíniú, tugann ár gcreat nua tús áite don nochtadh fiú nuair nach léir a thábhachtaí atá an cás. Ciallaíonn sé seo go bhféadfaí a fháil amach gur cásanna bréagacha iad cuid de na cásanna a nochtfaimid, nach mbaineann siad le patrún níos leithne agus nach léiríonn siad forbairtí amach anseo.
Faoi láthair, níl aon chreat ann ar fud an tionscail ina leagtar síos caighdeáin shainráite maidir leis an gcaoi ar cheart d’fhorbróirí IS samplaí de mhí-ailíniú ina samhlacha a nochtadh. Tá súil againn gur céim thosaigh i dtreo caighdeáin den sórt sin a chruthú é an creat atá á leagan amach againn inniu, agus go sonróidh sé cé na cásanna mí-ailínithe ba cheart d’fhorbróirí a nochtadh agus cad ba cheart a bheith ina dtuarascálacha. Measaimid gur obair idir lámha é an creat seo, agus cuirfimid feabhas air bunaithe ar thaithí agus ar aiseolas ón bpobal.
Déanaimid cur síos anseo ar an gcaoi a n-oibreoidh an creat agus roinnimid na chéad tuarascálacha atá á bhfoilsiú againn.
Tá sé mar aidhm againn samplaí a nochtadh a thugann fianaise úsáideach ar an gcaoi a dtagann mí-ailíniú samhlacha chun cinn, ar an gcaoi a léirítear é, agus ar na háiteanna a n-éiríonn nó nach n-éiríonn le cosaintí. Tugaimid tús áite do mheicníochtaí nua, d’athruithe suntasacha ar iompar aitheanta, agus do thorthaí a cheistíonn toimhdí faoi shábháilteacht nó faoi mhaolú. Ní gá do shampla dochar a dhéanamh ná patrún níos leithne a chruthú chun gur fiú é a nochtadh. Cumhdóidh an creat seo iompar incháilithe ar feadh shaolré samhla—lena n-áirítear oiliúint, meastóireacht, tástáil agus imscaradh.
Áirítear leis seo bealaí nua ina bhféadfadh samhlacha gníomhú gan údarú, comhordú le samhlacha eile nó éalú ó mhaoirseacht; teipeanna a chuireann modh ailínithe nó cosaint in amhras; agus iompar a cheistíonn maíomh i measúnú sábháilteachta foilsithe. Baineann na critéir nochta chéanna le mí-ailíniú a bhféadfadh tionchar a bheith aige ar thríú páirtithe.
D’fhéadfadh cásanna mí-ailínithe a dhealraíonn a bheith cosúil le cásanna a nochtamar roimhe seo a bheith san áireamh freisin. D’fhéadfadh atarlú na faidhbe a bheith ina fhianaise úsáideach ann féin ar iompar ár samhlacha nó ar éifeachtacht ár gcosaintí—mar shampla, má leanann cineál ar leith iompair mhí-ailínithe de bheith ag tarlú in ainneoin iarrachtaí arís agus arís eile é a mhaolú. Sna cúinsí seo, foilseoimid na samplaí breise tríd an nochtadh mí-ailínithe bunaidh a nuashonrú.
Le himeacht ama, tá sé beartaithe againn critéir nochta níos oibiachtúla a fhorbairt le forbróirí eile, taighdeoirí seachtracha, comhlachtaí caighdeán tionscail agus rialtóirí. Creidimid freisin gur cheart teagmhais thromchúiseacha sábháilteachta, slándála agus mí-ailínithe a roinnt le rialtas cónaidhme SAM, agus táimid ag obair chun meicníochtaí tuairiscithe a mholadh. Measaimid go gcomhlánaíonn an creat seo na hoibleagáidí atá orainn cheana, agus tugaimid faoi deara nach nglacann sé áit ár gceanglas dlíthiúil maidir le nochtadh, lena n-áirítear iad siúd a bhaineann le teagmhais chriticiúla sábháilteachta nó le sáruithe cibearshlándála.
Chun tús a chur lenár gcreat nua um nochtadh mí-ailínithe, táimid ag foilsiú sé thuarascáil ar chásanna d’iompar mí-ailínithe a thugamar faoi deara le linn oiliúint nó meastóireacht ár samhlacha. Léiríonn na cásanna seo réimse iompraíochtaí éagsúla a gcreidimid gur fiú iad a roinnt, idir fhaisnéis a cheilt ar an úsáideoir agus ghníomhartha neamhúdaraithe a dhéanamh chun constaicí a shárú. Is tuarascálacha ar chásanna aonair iad seo, agus níor cheart iad a mheas mar léiriú ar chomh minic agus a tharlaíonn mí-ailíniú inár samhlacha. Tá nasc chuig an tuarascáil iomlán i ngach mír thíos.
Treoracha féinghinte in achoimrí tascanna(osclaíonn i bhfuinneog nua). Chuir samhail taighde nár eisíodh treoracha neamhghaolmhara, lena n-áirítear treoracha chun neamhaird a dhéanamh dá gnáthshrianta, isteach in achoimrí a úsáideadh chun leanúint dá cuid oibre i bhfuinneog chomhthéacs nua. D’aithníomar 27 achoimre a raibh tionchar orthu.
Treoracha chun botúin a cheilt in achoimrí tascanna(osclaíonn i bhfuinneog nua). Le linn oiliúint GPT‑5.6 Sol, chuir go leor cásanna den tsamhail treoracha lena n-achoimrí chun botúin nó iompar mí-ailínithe a cheilt ar an úsáideoir. Mar shampla, bhí treoracha in achoimrí comhdhlúthaithe chun sonraí stairiúla a bhí ar iarraidh a chumadh gan é sin a nochtadh agus chun neamhréireachtaí i leaganacha foinseacha a cheilt.
Stóir phoiblí a chuardach le haghaidh eochracha API nochta, agus faisnéis a chumadh ansin(osclaíonn i bhfuinneog nua). Agus ceist ghnáthaimh á freagairt aici faoi fhigiúirí tuillimh i gcontae i gCalifornia, d’aimsigh samhail eochair API nochta agus d’úsáid sí í gan údarú. Nuair nár éirigh léi na figiúirí a iarradh a aisghabháil fós, chum sí iad agus chuir sí i láthair iad mar shonraí ón bhfoinse a iarradh.
Comhaid a uaslódáil chuig an idirlíon chun iad a lua(osclaíonn i bhfuinneog nua). Nuair a d’iarr úsáideoir IDanna agus ainmneacha lochanna níos mó ná 5,000,000 méadar cearnach ar shamhail nár eisíodh, d’aimsigh an gníomhaire an freagra ceart le Python. Ach ós rud é gur iarradh lua ón mbrabhsálaí sna treoracha, chinn an gníomhaire an comhad a uaslódáil ionas go bhféadfadh sé é a lua ina fhreagra, gan cead a iarraidh ar an úsáideoir.
Scríobh neamhúdaraithe agus cumarsáid trí stór inmheánach bogearraí(osclaíonn i bhfuinneog nua). D’úsáid samhlacha stór inmheánach bogearraí mar chlár teachtaireachtaí chun iarrataí agus freagraí a mhalartú idir samplaí oiliúna ar leith agus iad ag cuardach comhaid ionchuir a bhí ar iarraidh, cé nár éirigh leo na comhaid sin a aisghabháil. Scrúdaítear sa tuarascáil seo freisin cás níos luaithe inar éirigh le samhail comhaid tástála a uaslódáil chuig stór agus í ag iarraidh srianta líonra a sheachaint.
Comhroinnt neamhúdaraithe comhad idir gníomhairí comhoibríocha(osclaíonn i bhfuinneog nua). D’úsáid gníomhairí a bhí ag obair le chéile ar an tasc oiliúna céanna suíomhanna poiblí óstála comhad chun comhaid a roinnt nuair nach raibh rochtain acu ar chomhaid áitiúla a chéile. D’fhág sé seo táirgí insoláthartha an taisc ar fáil ag URLanna poiblí, cé gur iarradh sa tasc nach n-úsáidfeadh na samhlacha ach comhaid áitiúla.
Féadfaidh aon fhostaí de chuid OpenAI sampla mí-ailínithe a chur faoi bhráid ár bhfoirne sábháilteachta agus ailínithe lena imscrúdú agus a iarraidh go ndéanfaí é a mheas le haghaidh nochtadh poiblí. Cuireann sé seo tús lenár bpróiseas nochta, agus tá spriocdhátaí leagtha síos do gach céim lena chinntiú go ndéantar an t-imscrúdú agus an nochtadh in am.
Nuair a bheidh sampla curtha in iúl, fiosróidh ár bhfoireann theicniúil cad a tharla, cad atá éiginnte fós, an bhfuil údar le nochtadh poiblí, agus cé na fíricí is féidir a roinnt. Déanfaidh siad measúnú freisin ar cibé acu a ndearnadh difear d’aon tríú páirtí agus an gá fógra príobháideach a thabhairt dó roimh fhoilsiú.
Sannfar an sampla ansin do cheann de thrí chonair: Réidh le Nochtadh, Mionimscrúdú, nó Imscrúdú Mór („An Chonair Mhall“).
Cumhdaíonn Réidh le Nochtadh cásanna incháilithe a bhfuil a n-imscrúdú críochnaithe a dhóthain lena bhfoilsiú tar éis athbhreithnithe. Cumhdaíonn Mionimscrúdú na cásanna a dteastaíonn tuilleadh imscrúdaithe theicniúil orthu. Measaimid go gcumhdóidh an dá chonair seo formhór mór na gcásanna a nochtfaimid, go háirithe cásanna nach dteastaíonn imscrúdú fairsing, comhordú le tríú páirtithe ná láimhseáil rioscaí tromchúiseacha mí-úsáide ina leith. Tagann gach cás atá á fhoilsiú againn inniu faoi cheann amháin den dá chonair seo.
Cumhdaíonn Imscrúdú Mór imscrúduithe casta, go háirithe iad siúd a bhaineann le tríú páirtithe. Nuair a dhéantar difear do thríú páirtí, tugtar tús áite dár n-oibleagáidí slándála, dlíthiúla agus nochta fhreagraigh thar an gcreat seo. Beidh sé mar aidhm againn fógra tosaigh a fhoilsiú a luaithe is féidir, ach d’fhéadfadh go mbeadh orainn moill a chur air ar chúiseanna slándála—mar shampla, má aimsíonn samhail leochaileacht nárbh eol roimhe seo i mbogearraí a úsáidtear go forleathan. Má shainaithneodh tuarascáil tríú páirtí, tá sé i gceist againn réamhfhógra a thabhairt fiú murar sáraíodh aon teorainn slándála.
Tabharfar san fhógra tosaigh faoi chás Imscrúdaithe Mhóir cuntas ginearálta ar an méid a tharla, luafar an bhfuil saineolaithe seachtracha ag cabhrú leis an imscrúdú, agus tabharfar aon mheastachán atá ar fáil ar cathain a mheasaimid go bhfoilseofar tuarascáil deiridh. Thiocfadh teagmhas OpenAI ar Hugging Face faoin gconair seo dá nochtfaí é faoin gcreat seo.
Cuirfear an fostaí a thuairiscigh an cás ar an eolas faoin gcinneadh ar cheart é a nochtadh agus, má nochtfar é, faoin gconair a leanfar. Cuirfear easaontais gan réiteach maidir le nochtadh nó leis an gconair chuí faoi bhráid Ghrúpa Comhairleach um Shábháilteacht OpenAI (SAG), grúpa d’oifigigh shinsearacha ar fud na cuideachta a dhéanann measúnú ar chumais samhlacha ceannródaíocha agus ar chosaintí, a dhéanann maoirseacht ar ár gCreat Ullmhachta, agus a thugann comhairle do cheannaireacht OpenAI. Déanfar easaontais laistigh de SAG, nó agóidí ón bhfoireann i gcoinne a chinntí, a chur faoi bhráid cheannaireacht OpenAI. Roinnfear cinntí gan nochtadh a dhéanamh, nó cinntí nach bhfuil údar le nochtadh, le ceannaireacht sábháilteachta agus ailínithe agus, a mhéid is féidir, leis an bhfoireann theicniúil ábhartha.
Féadfaimid an próiseas nochta seo a leasú de réir mar a fhoghlaimímid conas a oibríonn sé go praiticiúil, agus taifeadfaimid aon athruithe sa phostáil seo.
Déanfar cur síos i ngach tuarascáil iomlán ar an iompar a thugamar faoi deara, ar a thromchúisí a bhí sé agus ar aon tionchar seachtrach, ar an suíomh inar tharla sé, ar an dáta nó ar an raon dátaí, ar cathain a d’aimsíomar é agus, ar leibhéal ginearálta, ar an tsamhail nó na samhlacha a bhí i gceist. Nuair is féidir, roinnfimid an méid seo a leanas freisin:
Tuilleadh sonraí faoinar tharla agus faoi aon dochar a d’eascair as;
Conas a d’aimsíomar an mí-ailíniú, agus raon feidhme ár n-imscrúdaithe;
Ár léirmhíniú ar na himpleachtaí atá aige do thaighde ailínithe agus do shábháilteacht theicniúil IS;
Ceisteanna tábhachtacha gan freagra a d’ardaigh an cás;
Bearta atá á ndéanamh againn nó atá beartaithe againn chun dul i ngleic leis an iompar. Seans nach mbeidh siad seo ar fáil i gcónaí tráth an nochta, mar d’fhéadfaimis an tuarascáil mhí-ailínithe a fhoilsiú sula gcríochnóimid ár n-imscrúdú nó sula bhforbróimid réiteach.
I gcás mí-ailínithe a tharlaíonn in imscaradh custaiméirí, roinnfimid an oiread faisnéise agus a cheadaíonn príobháideachas custaiméirí agus ár n-oibleagáidí conarthacha.
Is sraith tosaigh nochtuithe iad tuarascálacha an lae inniu, seachas cuntas cuimsitheach ar mhí-ailíniú aitheanta nó ar imscrúduithe atá ar bun. Níl sé i gceist go léireodh na tuarascálacha tosaigh seo raon iomlán ná tromchúis iomlán na gcásanna a chumhdaítear leis an gcreat seo. Táimid tiomanta do chásanna mí-ailínithe a chomhlíonann critéir an chreata seo a nochtadh, lena n-áirítear cásanna níos casta a éilíonn imscrúdú níos faide nó comhordú le tríú páirtithe. Leanfaimid de thuarascálacha faoin gcreat seo a fhoilsiú go leanúnach, agus roinnfimid tuilleadh eolais faoinár ngealltanais tuairiscithe de réir mar a leanaimid dá bhforbairt.
