U bood nuxurka ugu muhiimsan
OpenAI

Agosto 10, 2022

Badeecad

New and improved content moderation tooling

Qalab Cusub oo La Hagaajiyay oo Dhexdhexaadinta Nuxurka ah
Soo kacaya…

Si looga caawiyo horumariyeyaasha inay ka ilaashadaan codsiyadooda isticmaal khaldan oo suurtagal ah, waxaan soo bandhigaynaa bar-dhammaadka Moderation(ku furmaa daaqad cusub) oo ka dhaqso badan kana sax ah. bar-dhammaadkani wuxuu siinayaa horumariyeyaasha OpenAI API marin bilaash ah oo ay ku helaan kala-soocayaal ku saleysan GPT oo ogaada nuxurka aan la rabin—taas oo tusaale u ah adeegsiga nidaamyada AI si ay uga caawiyaan kormeerka bini’aadamka ee nidaamyadan. Waxaan sidoo kale sii deynay labadaba warqad farsamo(ku furmaa daaqad cusub) oo sharxaysa habraaceenna iyo xog-ururinta(ku furmaa daaqad cusub) loo adeegsaday qiimeynta.

Marka la siiyo gelin qoraal ah, bar-dhammaadka Moderation wuxuu qiimeeyaa in nuxurku yahay mid galmo ah, nacayb xanbaarsan, rabshado leh, ama dhiirrigeliya is-dhaawac—nuxur ay mamnuucday siyaasaddeenna nuxurka(ku furmaa daaqad cusub). bar-dhammaadkan waxaa loo tababaray inuu noqdo mid degdeg ah, sax ah, isla markaana si adag uga shaqeeya codsiyo kala duwan. Muhiim ahaan, tani waxay yareynaysaa fursadaha ay badeecooyinku wax khaldan “u sheegaan”, xitaa marka loo geeyo isticmaaleyaal tiro badan. Sidaas darteed, AI waxay furi kartaa faa’iidooyin meelo xasaasi ah, sida waxbarashada, halkaas oo aan si kale loogu adeegsan karin kalsooni.

Soo raraya...

bar-dhammaadka Moderation wuxuu ka caawiyaa horumariyeyaasha inay ka faa’iideystaan maalgashiyadayada kaabayaasha. Halkii ay dhisi lahaayeen oo ay dayactiri lahaayeen kala-soocayaal u gaar ah—hawl ballaaran, sida aan ku diiwaangelinnay warqaddeenna(ku furmaa daaqad cusub)—waxay taa beddelkeeda ku heli karaan kala-soocayaal sax ah hal wicitaan oo API ah.

Iyada oo qayb ka ah ballanqaadka OpenAI ee ku wajahan ka dhigista nidaamka deegaanka ee AI mid ammaan badan, waxaan bixinaynaa bar-dhammaadkan si loo oggolaado dhexdhexaadinta bilaashka ah ee dhammaan nuxurka uu soo saaro OpenAI API. Tusaale ahaan, Inworld(ku furmaa daaqad cusub), oo ah macaamil OpenAI API ah, wuxuu adeegsadaa bar-dhammaadka Moderation si uu uga caawiyo in jilayaashooda dalwaddii ee ku saleysan AI ay ku habboonaadaan dhagaystayaashooda. Iyadoo laga faa’iideysanayo tignoolajiyada OpenAI, Inworld waxay diiradda saari kartaa badeecaddooda aasaasiga ah: abuurista jilayaal xusuus mudan. Hadda ma taageerno la socodka taraafikada cid saddexaad.

Ku bilow bar-dhammaadka Moderation adigoo eegaya dukumeentiga(ku furmaa daaqad cusub). Faahfaahin dheeraad ah oo ku saabsan habka tababarka iyo waxqabadka nooca ayaa laga heli karaa warqaddeenna(ku furmaa daaqad cusub). Waxaan sidoo kale sii deynay xog-ururin qiimeyn(ku furmaa daaqad cusub), oo ay ku jiraan xogta Common Crawl ee lagu calaamadeeyay qaybahan, taas oo aan rajaynayno inay dhiirrigelin doonto cilmi-baaris dheeraad ah oo aaggan ah.

Qorayaal

Todor Markov, Chong Zhang, Sandhini Agarwal, Tyna Eloundou, Teddy Lee, Steven Adler, Angela Jiang, Lilian Weng