ડેવલપર્સને તેમના એપ્લિકેશન્સને સંભવિત દુરુપયોગથી સુરક્ષિત રાખવામાં મદદ કરવા માટે, અમે વધુ ઝડપી અને વધુ ચોક્કસ Moderation એન્ડપોઇન્ટ(નવી વિન્ડોમાં ખૂલે છે) રજૂ કરી રહ્યા છીએ. આ એન્ડપોઇન્ટ OpenAI API ડેવલપર્સને અનિચ્છનીય સામગ્રી શોધતા GPT આધારિત વર્ગીકરણકારોનો મફત ઍક્સેસ આપે છે, જે આ સિસ્ટમોની માનવીય દેખરેખમાં સહાય કરવા માટે AI સિસ્ટમોનો ઉપયોગ કરવાનું એક ઉદાહરણ છે. અમે અમારી પદ્ધતિ સમજાવતું ટેકનિકલ પેપર(નવી વિન્ડોમાં ખૂલે છે) અને મૂલ્યાંકન માટે ઉપયોગમાં લેવાયેલ ડેટાસેટ(નવી વિન્ડોમાં ખૂલે છે) પણ પ્રકાશિત કર્યું છે.
ટેક્સ્ટ ઇનપુટ આપવામાં આવે ત્યારે, Moderation એન્ડપોઇન્ટ સામગ્રી યૌન, દ્વેષપૂર્ણ, હિંસક છે કે આત્મહાનિને પ્રોત્સાહન આપે છે કે નહીં તેનું મૂલ્યાંકન કરે છે, જે અમારી સામગ્રી નીતિ(નવી વિન્ડોમાં ખૂલે છે) દ્વારા પ્રતિબંધિત છે. આ એન્ડપોઇન્ટને ઝડપી, ચોક્કસ અને વિવિધ એપ્લિકેશન્સમાં મજબૂત રીતે કાર્ય કરે તે માટે ટ્રેન કરવામાં આવ્યો છે. મહત્વપૂર્ણ રીતે, આથી મોટા પાયે વપરાશકર્તાઓ માટે તૈનાત કરવામાં આવ્યા પછી પણ ઉત્પાદનો ખોટી વાત “કહે” તેવી શક્યતાઓ ઘટે છે. પરિણામે, શિક્ષણ જેવી સંવેદનશીલ પરિસ્થિતિઓમાં પણ AI લાભો આપી શકે છે, જ્યાં અન્યથા તેનો આત્મવિશ્વાસપૂર્વક ઉપયોગ કરી શકાતો નથી.
Moderation એન્ડપોઇન્ટ ડેવલપર્સને અમારી ઇન્ફ્રાસ્ટ્રક્ચર રોકાણોનો લાભ લેવા મદદ કરે છે. અમારા પેપર(નવી વિન્ડોમાં ખૂલે છે)માં દર્શાવ્યા મુજબ, પોતાના વર્ગીકરણકારો બનાવવાની અને જાળવવાની લાંબી પ્રક્રિયા કરતાં, તેઓ એક જ API કૉલ દ્વારા ચોક્કસ વર્ગીકરણકારોનો ઉપયોગ કરી શકે છે.
AI ઇકોસિસ્ટમને વધુ સુરક્ષિત બનાવવાની OpenAIની પ્રતિબદ્ધતાના ભાગરૂપે, અમે આ એન્ડપોઇન્ટ પ્રદાન કરી રહ્યા છીએ જેથી OpenAI API દ્વારા જનરેટ થયેલી બધી સામગ્રીનું મફત મોડરેશન શક્ય બને. ઉદાહરણ તરીકે, OpenAI APIના ગ્રાહક Inworld(નવી વિન્ડોમાં ખૂલે છે) તેમની AI આધારિત વર્ચ્યુઅલ પાત્રો તેમના દર્શકો માટે યોગ્ય રહે તે માટે Moderation એન્ડપોઇન્ટનો ઉપયોગ કરે છે. OpenAIની ટેક્નોલોજીનો લાભ લઈને, Inworld તેમના મુખ્ય ઉત્પાદન પર ધ્યાન કેન્દ્રિત કરી શકે છે: યાદગાર પાત્રો બનાવવામાં. હાલમાં અમે તૃતીય-પક્ષ ટ્રાફિકના મોનિટરિંગને સમર્થન આપતા નથી.
દસ્તાવેજીકરણ(નવી વિન્ડોમાં ખૂલે છે) જોઈને Moderation એન્ડપોઇન્ટ સાથે શરૂઆત કરો. ટ્રેનિંગ પ્રક્રિયા અને મોડલના પ્રદર્શન વિશે વધુ વિગતો અમારા પેપર(નવી વિન્ડોમાં ખૂલે છે)માં ઉપલબ્ધ છે. અમે આ કેટેગરીઝમાં લેબલ કરાયેલા Common Crawl ડેટા ધરાવતું એક મૂલ્યાંકન ડેટાસેટ(નવી વિન્ડોમાં ખૂલે છે) પણ પ્રકાશિત કર્યું છે, જે આ ક્ષેત્રમાં વધુ સંશોધનને પ્રોત્સાહન આપશે એવી અમને આશા છે.
