Trácht OpenAI chuig an NTIA ar mheáchain samhail oscailte

Creideann⁠(osclaíonn i bhfuinneog nua) OpenAI gur féidir le tógáil, imscaradh go forleathan, agus úsáid AI saol daoine a fheabú agus beathaatha daoine a fheabú. Braitheann dul chun cinn ar nuálaíocht agus ar iomaíocht saormhargaidh. Laistigh de na treoirlínte leathana sin, tá go leor bealaí éagsúla ann inar féidir le daoine tionchar a chur ar gheallhe do AI. Bhí OpenAI ar cheann de na chéad fhorbróirí AI a rinne machnamh ar an gceist conas tairbh a dháileadh ó shamhlacha bunúis nach bhfacthas a leithéid riamh roimhe seo, agus tosaímid tríd an gcomhthéacs stairiúil seo a sholáthar chun cabhrú le breithniúcháin an NTIA.

In 2019, chruthaíamar GPT‑2, a raibh an cumas nua aige míreanna comhleanúnacha téacs a ghiniúint, agus bhí an cheist romhainn conas é a imscaradh. Ar thaobh amháin, bhí an samhail an-úsáideach; ar an an taobh eile, ní raibh muid cinnte⁠ an bhféadfadh sé a bheith úsáideach chun críocha mailíseachaacha amhail giniúint ríomhphoist fioscaireachta. Roghnaíomar triail a bhaint as “scaoileadh céimnithe”. Mar a scríobhamar⁠ ag an anama, “baineann scaoileadh céimnithe le scaoileadh de réir a chéile teaghlach samhlacha le himeacht ama. Is é cuspóir ár scaoilte céimnithe de GPT‑2 am a thabhairt do dhaoine airíonna na samhlacha seo a mheas, a n-impleachtaí sochaíocha a phlé, agus tionchair an scaoilte a mheas i ndiaidh gach céime.” Nuair nár thugamar faoi deara éifeachtaí suntasacha mí-úsáide, thug sé sin an mhuinín dúinn meáchain na samhla iomláine a scaoileadh go hoscailte⁠.

In 2020, chramar GPT‑3, a bhí i bhfad níos cumasaí ná aon samhail teanga roimhe sin ar gach tagarmharc, agus arís bhí an cheist romhainn conas é a scaoileadh. An uair seo, shocraíomar é a scaoileadh tríd ár gcéad táirge, an OpenAI API (Comhéadan Cláir Feidhmchláir, a ligeann d’fhorbróirí aipeanna a thógáil ar ár teicneolaíochta). Mar a scríobhamar⁠ ag an anama, bhí roinnt spreagthaí againn don strhlaitéis scaoilte nua seo: “cuidíonn tráchtálú na teicneíochta linn íoc as ár-iarrachtaí AI, sábháilteacht, agus iarrachtaí beartais” agus “ligeann an tsamhail API dúinn freagairt níos éasca a thabhairt ar mhí-úsáid na teicneíochta. Ós rud é go bhfuil sé deacair cásanna iartheachtacha árár samhlacha a thuar, is cosúil go bhfuil sé níos sábháilte go bunúsach iad a scaoileadh trí API agus rochtain a leathnú le himeacht ama, seachas samhail foinse oscailte a scaoileadh áit nach féidir rochtain a choigeartú má tharlaíonn sé go bhfuil feidhmchláir dhíobhálacha aici.” Le roinnt blianta, mhúin an scaoileadh API seo dúinnne agus don phobal ceachtanna faoi phatrúin sábháilteachta agus mí-úsáide samhlacha leibhéal GPT- 3⁠.

Sna blianta ó shin, leanamar orainn ag tacú le gealladh in éiceachóras AI foinse oscailte agus ag creidiúint ann, lena n-áirítear trí mheáchain cuid dár samhlacha den scoth a scaoileadh go hoscailte (mar shampla CLIP agus Whisper) agus bonneagar foinse oscailte a fhorbairt d’fhorbróirí AI eile (amhail an teanga ríomhchlárúcháin Triton GPU). Chonaiceamar go dtugann meáchain a scaoiltear go hoscailte éagsúlacht mhór tairbhí suntasacha, lena n-áirítear taighde acadúil ar inmheáin samhlacha AI a éascú, rud a chuireann ar chumas úsáideoirí agus eagraíochtaí samhlacha a reáchtáil go háitiúil ar a bhfeáin imeall, agus modhnuithe cruthaitheacha ar shamhlacha a éascú chun freastal ar chríocha úsáideoirí. Tá go leor cuideachtaí AI tar éis rogha a dhéanamh infheistiú go mór i scaoileadh meáchain samhail oscailte ar chúiseanna éagsúla, lena n-áirítear branda, earcaíocht, agus éiceachóras forbróirí a mhealladh chun tógáil ar agus dlús a chur le hinmheáin teicneolaíochta cuideachta.

Ag an an anama cé, chuir ár gcur chuige maidir lenár samamhlacha AI príomhthheideal a scaoileadh trí APIanna agus táirgí tráchtála cosúil le ChatGPT ar ár gcumas leanúint ar aghaidh ag staidéar ar na rioscaí a d’aimsíomar tar éis an chéad scaoilte agus iad a mhaolú, go minic ar bhealaí nach mbeadh indéanta dá scaoilfí na meáchain féin. Mar shampla, chuaigh muid i gcomhpháirt le Microsoft le déanaí chun oibríochtaí roinnt a bhrath, staidéar a dhéanamh orthu, agus cur isteach orthu⁠ roinnt gníomhaithe bagartha cibear stát-náisiúin a bhí ag mí-úsáid ár samhlacha GPT‑3.5‑Turbo agus GPT‑4 chun cabhrú le hoibríochtaí cibearionsaitheacha. Ní bheadh cur isteach ar na gníomhaithe bagartha seo indéanta dá scaoilfí meáchain na samhlacha teorann sin ag an am go forleathan, mar d’fhéadfadh na gníomhaithe bagartha cibear céanna an samhail a óstáil ar a gcrua-earraí féin, gan idirghníomhú riamh leis an bhforbróir bunaidh. Chuir an cur chuige seo ar ár gcumas leanúint ar aghaidh ag dáileadh tairbhe na buntáistí AI go forleathan, lena n-áirítear trí sheirbhísí saor in aisce agus ar chostas íseal atá ar fáil go forleathan.

Chuir na heispéiris seo ina luí orainn gur uirlisí iad scaoileadh meáchain oscailte agus scaoileadh bunaithe ar API agus ar tháirgí araon chun AI tairbhiúil a bhaint amach, agus creidimid go n-áireoidh éiceachóras AI na Stát Aontaithe an dá cheann.

Arís agus arís eile, ar fud scaoileadh táirgí agus scaoileadh meáchain araon, chonaiceamar tairbh na “himscartha atriallach”: AI atá ag éirí níos cumasaí a chur i lámha daoine de réir a chéile ionas gur féidir leo é a úsáid chun a saolta a fheabú a fheabhsú, agus cuidiú leis an tsoCHOIR o choigeartú leis na teicneolaíochtaí nua seo. Mar a scríobhamar⁠ in 2023: “Oibrímid go dian chun rioscaí intuartha a chosc roimh imscaradh, ach tá teorainn leis an méid is féidir linn foghlaim i saotharlann. In ainneoin taighde agus tástála fairsinge, ní féidir linn na bealaí tairbhiúla go léir a úsáid daoine as ár dteicneolaíocht a thuar, ná na bealaí go léir a bhaineann daoine mí-úsáid aisti. Sin é an fáth go gcreidimid gur comhpháirt ríthábhachtach í foghlaim ó úsáid sa saol fíor chun córais AI atá ag éirí níos sábháilte a chruthhe agus a scaoileadh le himeacht ama.”

De réir mar a éiríonn samhlacha AI níos cumhachtaí fós agus go n-éiríonn tairbh agus rioscaí a n-imscartha nó a scaoilte níos mó, tá sé tábhachtach freisin go mbeimis níos sofaisticiúla i gcónaí chun cinneadh a dhéanamh an gcuirfí samhail i bhfeidhm agus conas. Tá sé seo fíor go háirithe má thagann impleachtaí suntasacha do shábháilteacht phoiblí nó do shlándáil náisiúnta le cumais AI. Tá láithreacht rioscaí “tubaisteacha” den sórt sin ó chórais AI níos forbartha neamhchinnte go bunúsach, agus tá easaontas scolártha ann maidir leis an dóchúlacht agus chomh luath agus a thiocfaidh rioscaí den sórt sin chun cinn. Ní chreidimid go bhfuil go leor fianaise ann fós; ní féidir linn iad a chur as an áireamh, ná a bheith cinnte go bhfuil siad ar tí tarlú. Mar fhorbróirí atá ag cur cumais AI chun cinn chun na tairbhi a uasmhéadú,asmhéid, measaimimid go bhfuil tógáil eolaíocht rioscaí na teicneolaíochta seo ( lena n-áirítear fianaise a bhaineann leis na rioscaí sin a bhailiú) mar chuid lárnach dár gcuid oibre.

Chun na héiginnteachtaí seo a nascleanúint ar bhealach atá tiomáinte go heimpíreach, sheol OpenAI go poiblí ár Creata Ullmhachta⁠(osclaíonn i bhfuinneog nua), cur chuige bunaithe ar an eolaíocht chun aon rioscaí tubaisteacha a d’fhéadfadh a bheith ag ár samhlacha AI a mheas agus a mhaolú go leanúnach. Sainmhíníonn an Creata Ullmhachta conas a dhéanaimid measúnú ar leibh cumais ár samamhlacha AI i roinnt réimsí ardriosca, lena n-áirítear cibearshlándáil, oibriú uathrialach, áitiú aonair, agus bagairtí CBRN (Ceimiceach, Bitheolaíoch, Radaolaíoch, agus Núicléach). Mar shampla den chreat seo i ngníomh, féFeic ár staidéar le déanaí⁠ ag tástáil cumas GPT‑4 chun cabhrú le cruthú bagartha bitheolaíche, a chríochnaigh nach gcuireann sé aon riosca imeallach suntasach.

Bunaithe ar na meastóireachtaí seo, dééanaimid measúnú ar leibh riosiosca samhlacha i ngach catagóir mar Íseal, Meánach, Ard, nó Criticiúil. Go ríthábhachtach, faoinár gCreata Ullmhachta, ní imscarfaidh muid córais AI a chuireann leibhéal riosca “Ard” nó “Criticiúil” inár dtacsanomaíocht (agus ní oileoimid fiú cinn “Criticiúla”, i bhfianaise a leibhéil riosca), mura féidir lenár maoluithe riosca na gcóras seo a thabhairt anuas go leibhéal “Meánach”) ar a mhid. Tá an Creata Ullmhachta tábhachtach mar cuireann sé ar ár gcumas tairbh AI atá ag éirí níos cumasaí a thógáil agus a roinnt go forleathan, agus sinn a ullmhú chun rioscaí tubaisteacha a bhrath agus cosaint ina gcoinne chomh luath agus is féidir má thagann siad chun cinn.

Creidimid gur chóir do dhaoine agus do chomhlachtaí a bheith in ann páirt a ghlacadh in AI mar is rogha leo — rud a d’fhéadfadh forbairt nó úsáid AI a léiríonn a luachanna agus a bhfís a áireamh — chun tairbh AI a bhaint amach. Ag an anama céanna, ba cheart córais AI an-chumasacha a thógáil agus a úsáid go sábháilte, agus aon rioscaí tubaisteacha a aimsítear a mhaolú mar is cuí. D’fhéadfadh teannas a bheith idir na leasanna seo uaireanta, agus caithfear iad a bhainistiú go cúramach ar bhealach sonrach don chás chun na torthe is fearrtha don tsochaí a bhaint amach.

I gcás samhlacha bunúis an-chumasacha a éilíonn acmhainní suntasacha lena gcruthú (na céadta milliún dollar nó níos mó), creimid gur chóir d’fhorbróirí AI measúnú a dhéanamh ar acmhainn a samhla le rioscaí tubaisteacha a chruthú, agus, má fhaightear go bhfuil leibhéal riosca an samhla ard, maoluithe iomchuí a chur i bhfearma sula n-imscartar nó sula scaoiltear í. Buaileann sé seo cothroma oiriúnaigh idir bainistiú riosca agus nuálaíocht: tátear ag súil go mbeidh na cumais is mó acu⁠(osclaíonn i bhfuinneog nua) ag na samhlacha seo, agus níl costas an mheasúnaithe ach codán beag dá gcostas forbartha. Tá ciall ag measúnuithe den sórt sin cibé acu atá sé i gceist meáchain na samhla a scaoileadh go forleathan nó trí API.

Ar an ceann eile den speictream, i gcás samhlacha bunúis nach bhfuil chomh dian ar acmhní, tá cothromaíocht na leas éagsúil. De réir na fianaise reatha, is lú i bhfad an seans go gcuirfidh samhlacha den sórt sin rioscaí tubaisteacha i láthair, fiú le dul chun cinn dóchúla i dteicnící mionchoigeartaithe agus mionathraithe samhla. Idir an dá linn, d’fhéadfadh measúnuithe ar riosiosca tubaisteach cuid shuntasach de bhuiséad ritheanna beaga oiliúna a chosaint, rud a d’fhéadfadh fuarú a chur ar nuálaíocht agus ar iomaíocht. Creidimid nár chóir a bheith ag súil le measúnuithe den sórt sin ar rioscaí tubaisteacha do na samhlacha seo, mar tá luach ollmhór ann i gcumas éagsúlacht d’fhorbróirí a chosaint chun nuáil a dhéanamh ar chumais nua spreagúla AI agus chun ligean do mhargadh smaointe agus táirgí bláthú, agus léiríonn an eolaíocht go bhfuil riosca na samhlacha seo sách íseal.

Is uirlis úsáideach iad prótacail mheasúnaithe cosúil leis an gCreata Ullmhachta chun na rioscaí ex ante a mheas ó aon chineál scaoilte samhla, lena n-áirítear scaoileadh meáchain samhail oscailte. Tá cúpla breithniú ann atá sonrach maidir le conas iad a chur i bhfeidhm ar scithe meáchain oscailte.

Breithniú amháin dá leithéid is ea gur chóir go léireodh coinníollacha tástála, go hidéalach, an raon bealaí inar féidir le gníomhaithe iartheachtacha an samhail a mhodhnú. Ceann de na hairíonna is úsáideacha atá ag samhlacha oscailte ná gur féidir le gníomhaithe iartheachtacha na samhlacha a mhodhnú chun a gcumas tosaigh a leathnú a leathnú agus iad a chur in oiriúint do riaILIÚIR shonracha an fhorbróra. Mar sin féin, ciallaíonn sé seo freisin go bhféadfadh páirtithe mailíseacha cumais dhíobhálachaacha na samhla a fheabhsú. Ba cheart, mar sin, go n-áireofaí le measúnú dian ar rioscaí scaoilte mecaí oscailte tástáil ar raon réasúnach bealaí a bhféadfadh páirtí mailíseach an samhail a mhodhnú go hinfheidhmithe, lena n-áirítear trí mhionchoigeartú. Déanann OpenAI roinnt tástála modhnaithe cheana féin mar chuid dár gCreata Ullmhachta (mar a rinneamar inár measúnú bithriosca⁠).

Breithniú lárnach eile is ea go bhféadfadh forbróirí samhail oscailte gan a bheith in ann brath ar chosaintí ar leibh an chórais chun riosca mí-úsáide a samhla a laghdú, mar is minic gur féidir cosaintí a bhaint ag úsáideoir mailíseach iartheachtach a bhfuil meáchain na samhla aige. Inniu, tá iarmhairtí teoranta ag an difríocht seo i gcumas maolaithe, ós rud é nach bhfuil fiú na samhlacha reatha is cumasaí againn rátáilte mar shamhlacha atá thar a bheith rioscach. Ach má chinntear go heolaíoch go gcuireann samhail amach anseo rioscaí tromchúiseacha nuair a scaoiltear í, d’fhéadfadh an bealach chun riosca scaoilte meáchain oscailte a laghdú brath ar athléimneacht an chomhshaoil sheachtraigh ina scaoiltear an samhail a mhéadú.

Tá an gá le hathléimneacht shochaíoch i gcoinne mí-úsáid AI níos níos leithne ná cinntí scaoilte aon eagraíochta amháin. I bhfianaise dul chun cinn leanúnach in algartaim AI agus a scaipeadh, agus rochtain atá ag éirí níos forleithne ar ríomhaireacht (lena n-áirítear i dtíortha atá ina n-ábhar imní do na Stáit Aontaithe), leathnaíonn cumais AI teorainn — atá inrochtana go minic ag líon beag gníomhaithe amháin tráth an cruthaithe — forleathnú go forleathan sa deireadh. Tá deis ag na Stáit Aontaithe, agus ag tíortha ar fud an domhain, freisin infheistiú i maoluithe agus ceannaireacht a ghlacadh iontu a chuirfidh teorainn le hiarmhairt mí-úsáide, ionas go mbeidh cothromaíocht na dtortha chomh dearfach agus is féidir.

Mar shampla, d’fhéadfadh neartú athléimneachta i gcoinne rioscaí cibearionsaithe luasghéaraithe ag AI a bheith i gceist trí rochtain luath a thabhairt do sholáthraithe bonneagair chriticiúil ar na samhlacha AI céanna sin, ionas gur féidir iad a úsáid chun cosaint chibear a fheabhsú (mar atá sna tionscadail luatha atá maoinithe againn mar chuid den Clár Deontas Cibearshlándála OpenAI⁠). D’fhéadfadh neartú athléimneachta i gcoinne rioscaí cruthaithe bagartha bitheolaíche luasghéaraithe ag AI réitigh a bheith i gceist le réitigh nach mbaineann ar chor ar bith le AI, amhail feabhas a chur ar mheicníochtaí scagtha sintéise aigéid núicléasaigh (mar a iarrtar in Ordú Feidhmiúcháin 14110), nó feabhas a chur ar chumas córais sláinte poiblí scagadh a dhéanamh ar ráigeanna pataiginí nua agus iad a aithint. Má léirítear go dian go gcuireann samhail AI rioscaí tromchúiseacha ar shábháilteacht phoiblí nó ar shlándáil náisiúnta, d d’fhéadfadh ról tábhachtach a bheith ag an bhforbróir freisin maidir le feasacht ar na cumais nua a thógáil roimh scaoileadh forleathan (amhail trí fhógra a thabhairt do sholáthraithe bonneagair nó trí imscaradh API a theorannú), chun an comh céanna de pháirtnéireacht a chruthhe a chruthú d’iarrachtaí athléimneachta atá práinneach. Is scáthán é seo ar an noirm “nochtadh freagrach” ón réimse cibear, áit a gcuirfidh taighdeoirí slándála moill sealadach ar scaoileadh leochaileachtaí a aimsíonn siad chun am a thabhairt do chosantóirí a gcórais a phaisteáil, agus gan moilliú a chur ar a thuilleadh ar thaighde slándála.

Cé go gcreidimid go bhfuil sé tábhachtach rioscaí na samhlacha is cumasaí a mheas, tá eolaíocht na meastóireachtaí riosca AI fós ina naíonán. Tá OpenAI agus an pobal AI níos leithne fós ag tógáil na mbunús chun rioscaí AI a mheas, agus táimid fós ag athdhéanamh i gcónaí ar go leor de na sonraí oibrúcháinúcháin sa Chreata Ullmhachta. Tá ról tábhachtach ag rialtais maidir le cuidiú leis an éiceachóras AI a chleachtais mheasúnaithe riosca agus cumais a aibiú, mar shampla trí shaineolaithe a thabhairt le chéile ó shaolta cibear cibearshlándála ionsaitheacha, bonneagar criticiúil, agus AI chun sraith de shamhlacha bagartha cibear AI tosaíochta a chomhaontú, agus tástlanna diana eimpíreacha a fhorbairt chun iad a mheas. Tacaímid go láidir leis an gcur chuige deonach atá cairdiúil don nuálaíocht agus a chuireann an eolaíocht chun tosaigh atá á shaothrú ag an USAISI.

Ó tháinig OpenAI ar an gceothrom maidir conas GPT‑2 a scaoileadh in 2019 – ag roghnú leagan beag den tsamhail a scaoileadh ar dtús — tá torthaí agus imeachtaí nua ag athrú an raidhse brehe de bhreithniúcháin timpeall ar scaoileadh oscailte meáchain samhail bunúis go leanúnach, uaireanta gach cúpla mí. Táimid ag súil go leanfaidh an treocht seo ar aghaidh. Ba cheart d’aon chur chuige beartais rialtais a bheith solúbtha agus inoiriúnaithe d’athruithe sa todhchaí.