Ag cabhrú le forbróirí eispéiris IS níos sábháilte a chruthú do dhéagóirí

Inniu, táimid ag scaoileadh beartais sábháilteachta⁠(osclaíonn i bhfuinneog nua) bunaithe ar leideanna chun cabhrú le forbróirí cosaintí aois-oiriúnacha a chruthú do dhéagóirí. Tógtha chun oibriú lenár samhail sábháilteachta meáchain oscailte, gpt-oss-safeguard⁠(osclaíonn i bhfuinneog nua), déanann na beartais seo níos simplí d’fhorbróirí ceanglais sábháilteachta a iompú ina n-aicmitheoirí inúsáidte do chórais fhíorshaoil.

Scaoileamar samhlacha meáchain oscailte chun rochtain ar IS chumhachtach a dhaonlathú agus chun tacú le nuálaíocht fhorleathan. Ag an am céanna, creidimid go dtéann sábháilteacht agus nuálaíocht lámh ar lámh, agus gur cheart go mbeadh rochtain ag forbróirí ar shamhlacha cumasacha chomh maith leis na huirlisí agus na beartais chun iad a imscaradh go sábháilte agus go freagrach. D’fhorbraíomar na beartais seo chun tacú le forbróirí ina n-iarrachtaí sábháilteachta úsáideoirí óga a chosaint, le hionchur ó eagraíochtaí seachtracha iontaofa lena n-áirítear Common Sense Media⁠(osclaíonn i bhfuinneog nua) agus everyone.ai⁠(osclaíonn i bhfuinneog nua).

Aithnímid go bhfuil riachtanais éagsúla ag déagóirí agus ag daoine fásta, agus go bhfuil cosaintí breise de dhíth ar dhéagóirí. Tá na beartais seo deartha chun cabhrú le forbróirí na difríochtaí sin a chur san áireamh agus eispéiris a chruthú atá cumasaitheach agus oiriúnach araon d’úsáideoirí níos óige.

Táimid tiomanta le fada do IS a thógáil a leathnaíonn deiseanna do dhaoine óga agus iad a choinneáil sábháilte ag an am céanna. Mar chuid den obair seo, nuashonraíomar ár Model Spec⁠(osclaíonn i bhfuinneog nua)—na treoirlínte a shainíonn iompar beartaithe shamhlacha OpenAI—chun prionsabail Faoi 18 (U18)⁠(osclaíonn i bhfuinneog nua) a chur san áireamh, agus thugamar isteach cosaintí ar leibhéal táirge amhail rialuithe tuismitheoirí⁠ agus tuar aoise⁠ chun úsáideoirí níos óige a chosaint níos fearr. D’iarramar cosaintí ar fud an tionscail freisin trínár Teen Safety Blueprint⁠.

Tógann eisiúint an lae inniu ar an mbunús sin. Táimid ag cur na mbeartas sábháilteachta seo ar fáil d’fhorbróirí chun tacú leo cosaintí sábháilteachta do dhéagóirí a imscaradh agus chun cuidiú le rochtain a dhaonlathú ar fud éiceachóras na meáchan oscailte.

Cé gur féidir le haicmitheoirí sábháilteachta cosúil le gpt-oss-safeguard ábhar díobhálach a bhrath, braitheann siad ar shainmhínithe soiléire ar cad é an t-ábhar sin. Go praiticiúil, is é ceann de na dúshláin is mó a bhíonn roimh fhorbróirí ná beartais a shainiú a ghabhann go cruinn rioscaí sainiúla do dhéagóirí agus ar féidir iad a chur i bhfeidhm go comhsheasmhach i bhfíorchórais.

Is minic a bhíonn deacracht ag foirne a bhfuil taithí acu fiú spriocanna sábháilteachta ardleibhéil a aistriú ina rialacha beachta oibríochtúla, go háirithe toisc go dteastaíonn saineolas ábhair agus eolas domhain ar IS araon. D’fhéadfadh bearnaí cosanta, forfheidhmiú neamhchomhsheasmhach, nó scagadh róléathan a bheith mar thoradh air seo. Is bunús ríthábhachtach iad beartais shoiléire dea-shainithe do chórais shábháilteachta éifeachtacha.

Chun dul i ngleic leis an dúshlán seo, táimid ag scaoileadh sraith beartas sábháilteachta⁠(osclaíonn i bhfuinneog nua), curtha in oiriúint do rioscaí coitianta a bhíonn roimh dhéagóirí agus bunaithe ar athbhreithniú cúramach ar thaighde atá ann cheana faoi na difríochtaí forbartha uathúla atá ag déagóirí. Tá na beartais seo struchtúrtha mar leideanna ar féidir iad a úsáid go díreach le gpt-oss-safeguard⁠(osclaíonn i bhfuinneog nua) agus samhlacha réasúnaíochta eile, rud a chuireann ar chumas forbróirí caighdeáin sábháilteachta chomhsheasmhacha a chur i bhfeidhm níos éasca ar fud a gcóras.

Áirítear leis an gcéad eisiúint beartais a chumhdaíonn:

• Ábhar grafach foréigneach
• Ábhar grafach gnéasach
• Idéil agus iompraíochtaí coirp díobhálacha
• Gníomhaíochtaí agus dúshláin chontúirteacha
• Rólghlacadh rómánsúil nó foréigneach
• Earraí agus seirbhísí srianta de réir aoise

Is féidir na beartais seo a úsáid le haghaidh scagadh ábhair fíor-ama, chomh maith le hanailís as líne ar ábhar a ghineann úsáideoirí.

Trí bheartais a struchtúrú mar leideanna, is féidir le forbróirí iad a chomhtháthú níos éasca i sreafaí oibre atá ann cheana, iad a oiriúnú dá gcásanna úsáide, agus iad a fheabhsú le himeacht ama.

D’oibríomar le heagraíochtaí seachtracha lena n-áirítear Common Sense Media⁠(osclaíonn i bhfuinneog nua) agus everyone.ai⁠(osclaíonn i bhfuinneog nua) chun forbairt na mbeartas seo a threorú. Chabhraigh a saineolas le raon feidhme an ábhair a bhí le clúdach a mhúnlú, struchtúr na leideanna a neartú, agus na cásanna imeallacha a mheas agus iad á n-evaluáil. 

Léiríonn an obair seo iarracht leanúnach chun comhoibriú le saineolaithe agus leis an éiceachóras níos leithne chun feabhas a chur ar an gcaoi a dtacaíonn córais IS le daoine óga.

“Ceann de na bearnaí is mó i sábháilteacht IS do dhéagóirí ná an easpa beartas soiléir oibríochtúil ar féidir le forbróirí tógáil orthu. Go minic, bíonn forbróirí ag tosú ón tús. Cuidíonn na beartais seo bunaithe ar leideanna le bunleibhéal sábháilteachta fiúntach a shocrú ar fud an éiceachórais, agus toisc go scaoiltear mar fhoinse oscailte iad, is féidir iad a oiriúnú agus a fheabhsú le himeacht ama. Is ábhar misnigh dúinn bonneagar den chineál seo a fheiceáil á chur ar fáil go forleathan, agus tá súil againn go spreagfaidh sé níos mó pointí tosaigh comhroinnte do shábháilteacht daoine óga ar fud an tionscail.”

—Robbie Torney, Ceann AI & Measúnuithe Digiteacha, Common Sense Media

“Tá iarrachtaí mar seo a dhéanann beartais sábháilteachta do dhaoine óga níos oibríochtúla luachmhar mar go gcabhraíonn siad eolas saineolach a aistriú ina threoir is féidir a úsáid i bhfíorchórais. Is céad chéim thábhachtach iad beartais ábhair, agus osclaíonn siad an doras freisin d’obair níos leithne ar an gcaoi ar féidir le hiompar samhail rioscaí ábhartha do dhaoine óga a mhúnlú le himeacht ama. Spreagtha ag an obair seo agus ag ár dtaighde féin, everyone.ai⁠(osclaíonn i bhfuinneog nua) tá beartas iompraíochta tosaigh cruthaithe freisin atá dírithe ar rioscaí cosúil le heisiacht agus róspleáchas."

—Dr. Mathilde Cerioli, Príomh-Eolaí ag everyone.AI

Tá na beartais ceaptha mar phointe tosaigh, ní mar shainmhíniú cuimsitheach ná críochnaitheach ná mar ráthaíocht ar shábháilteacht déagóirí. Tá rioscaí, luchtanna féachana agus comhthéacsanna uathúla ag gach feidhmchlár, agus is iad na forbróirí is fearr atá in ann na rioscaí a thuiscint a d’fhéadfadh a gcuid táirgí agus comhtháthuithe IS a chruthú. Molaimid go láidir d’fhorbróirí na beartais seo a oiriúnú agus a leathnú bunaithe ar a riachtanais shonracha agus iad a chomhcheangal le cosaintí eile amhail cinntí deartha táirge, rialuithe úsáideora, trédhearcacht atá oiriúnach do dhéagóirí, córais monatóireachta agus freagairtí machnamhacha aois-oiriúnacha. 

Creidimid go bhfuil cur chuige sraitheach cosanta domhain⁠ riachtanach chun córais IS níos sábháilte a thógáil. Tarraingíonn na beartais seo ar ár dtaithí inmheánach, ach ní léiríonn siad fairsinge iomlán bheartais ná chosaintí inmheánacha OpenAI.

Táimid ag scaoileadh na mbeartas seo mar fhoinse oscailte tríd an ROOST Model Community⁠(osclaíonn i bhfuinneog nua) chun comhoibriú agus atriall a spreagadh. Chun cur leis, aiseolas a thabhairt, nó beartais bhreise sábháilteachta do dhéagóirí a roinnt, tabhair cuairt ar an stór GitHub RMC.⁠(osclaíonn i bhfuinneog nua)

Is féidir le forbróirí agus eagraíochtaí na beartais seo a oiriúnú dá bhfeidhmchláir shonracha, iad a aistriú go teangacha éagsúla, agus iad a leathnú chun réimsí riosca breise a chumhdach. Le himeacht ama, tá súil againn go gcuideoidh sé seo le bunús níos láidre agus níos comhroinnte a chruthú chun beartais sábháilteachta a chur i bhfeidhm i gcórais IS.

Chun tosú le gpt-oss-safeguard, íoslódáil é ó Hugging Face⁠(osclaíonn i bhfuinneog nua).