Biex ngħinu lill-iżviluppaturi jipproteġu l-applikazzjonijiet tagħhom kontra użu ħażin possibbli, qed nintroduċu l-punt ta' tmiem tal-Moderation(jinfetaħ f’tieqa ġdida) aktar veloċi u aktar preċiż. Dan il-punt ta' tmiem jipprovdi lill-iżviluppaturi tal-OpenAI API b'aċċess bla ħlas għal klassifikaturi ibbażati fuq GPT li jidentifikaw kontenut mhux mixtieq—eżempju ta' użu ta' sistemi tal-IA biex jassistu fis-superviżjoni umana ta' dawn is-sistemi. Ħriġna wkoll kemm paper tekniku(jinfetaħ f’tieqa ġdida) li jiddeskrivi l-metodoloġija tagħna kif ukoll is-sett ta' data(jinfetaħ f’tieqa ġdida) użat għall-evalwazzjoni.
Meta jingħata input ta' test, il-punt ta' tmiem tal-Moderation jevalwa jekk il-kontenut huwiex sesswali, mimli mibegħda, vjolenti, jew jippromwovi l-awtokorriment—kontenut ipprojbit mill-politika tal-kontenut(jinfetaħ f’tieqa ġdida) tagħna. Il-punt ta' tmiem ġie mħarreġ biex ikun veloċi, preċiż, u jaħdem b'mod robust fuq firxa ta' applikazzjonijiet. Importanti, dan inaqqas iċ-ċansijiet li l-prodotti “jgħidu” il-ħaġa ħażina, anke meta jiġu skjerati għall-utenti fuq skala kbira. B'riżultat ta' dan, l-IA tista' tiftaħ benefiċċji f'ambjenti sensittivi, bħall-edukazzjoni, fejn inkella ma setgħetx tintuża b'kunfidenza.
Il-punt ta' tmiem tal-Moderation jgħin lill-iżviluppaturi jibbenefikaw mill-investimenti tagħna fl-infrastruttura. Minflok jibnu u jżommu l-klassifikaturi tagħhom stess—proċess estensiv, kif niddokumentaw fil-paper(jinfetaħ f’tieqa ġdida) tagħna—jistgħu minflok jaċċessaw klassifikaturi preċiżi permezz ta' sejħa waħda tal-API.
Bħala parti mill-impenn ta' OpenAI biex tagħmel l-ekosistema tal-IA aktar sigura, qed nipprovdu dan il-punt ta' tmiem biex nippermettu moderazzjoni bla ħlas tal-kontenut kollu ġġenerat mill-OpenAI API. Pereżempju, Inworld(jinfetaħ f’tieqa ġdida), klijent tal-OpenAI API, juża l-punt ta' tmiem tal-Moderation biex jgħin lill-karattri virtwali tiegħu bbażati fuq l-IA jibqgħu xierqa għall-udjenzi tagħhom. Billi jisfrutta t-teknoloġija ta' OpenAI, Inworld jista' jiffoka fuq il-prodott ewlieni tiegħu: il-ħolqien ta' karattri memorabbli. Bħalissa ma nappoġġawx il-monitoraġġ tat-traffiku ta' partijiet terzi.
Ibda bil-punt ta' tmiem tal-Moderation billi tagħti ħarsa lejn id-dokumentazzjoni(jinfetaħ f’tieqa ġdida). Aktar dettalji dwar il-proċess tat-taħriġ u l-prestazzjoni tal-mudell huma disponibbli fil-paper(jinfetaħ f’tieqa ġdida) tagħna. Ħriġna wkoll sett ta' data għall-evalwazzjoni(jinfetaħ f’tieqa ġdida), li jinkludi data ta' Common Crawl ittikkettata f'dawn il-kategoriji, u nittamaw li dan jagħti spinta għal aktar riċerka f'dan il-qasam.
