ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਆਪਣੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਸੰਭਾਵਿਤ ਦੁਰਵਰਤੋਂ ਤੋਂ ਬਚਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ, ਅਸੀਂ ਹੋਰ ਤੇਜ਼ ਅਤੇ ਹੋਰ ਸਹੀ Moderation ਐਂਡਪੌਇੰਟ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ. ਇਹ ਐਂਡਪੌਇੰਟ OpenAI API ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਅਣਚਾਹੀ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਵਾਲੇ GPT‑ਆਧਾਰਿਤ ਕਲਾਸੀਫਾਇਰਾਂ ਤੱਕ ਮੁਫ਼ਤ ਪਹੁੰਚ ਦਿੰਦਾ ਹੈ—ਇਹ AI ਸਿਸਟਮਾਂ ਦੀ ਵਰਤੋਂ ਦਾ ਇੱਕ ਉਦਾਹਰਨ ਹੈ ਜੋ ਇਨ੍ਹਾਂ ਸਿਸਟਮਾਂ ਦੀ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਦਾ ਹੈ. ਅਸੀਂ ਆਪਣੀ ਵਿਧੀ ਦਾ ਵਰਣਨ ਕਰਨ ਵਾਲਾ ਇੱਕ ਤਕਨੀਕੀ ਪੇਪਰ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਤੇ ਮੁਲਾਂਕਣ ਲਈ ਵਰਤਿਆ ਗਿਆ ਡਾਟਾਸੈੱਟ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੀ ਜਾਰੀ ਕੀਤਾ ਹੈ.
ਜਦੋਂ ਇਸਨੂੰ ਟੈਕਸਟ ਇਨਪੁੱਟ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ, Moderation ਐਂਡਪੌਇੰਟ ਅੰਕਲਨ ਕਰਦਾ ਹੈ ਕਿ ਸਮੱਗਰੀ ਯੌਨ, ਘ੍ਰਿਣਾਪੂਰਣ, ਹਿੰਸਕ ਹੈ ਜਾਂ ਖੁਦ-ਨੁਕਸਾਨ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹੈ—ਅਜਿਹੀ ਸਮੱਗਰੀ ਜੋ ਸਾਡੀ ਕੰਟੈਂਟ ਨੀਤੀ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੁਆਰਾ ਮਨਾਹੀਤ ਹੈ. ਐਂਡਪੌਇੰਟ ਨੂੰ ਤੇਜ਼, ਸਹੀ ਅਤੇ ਵੱਖ-ਵੱਖ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਮਜ਼ਬੂਤੀ ਨਾਲ ਕੰਮ ਕਰਨ ਲਈ ਪ੍ਰਸ਼ਿਕਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਹੈ. ਮਹੱਤਵਪੂਰਣ ਤੌਰ 'ਤੇ, ਇਹ ਉਤਪਾਦਾਂ ਦੇ ਗਲਤ ਗੱਲ "ਕਹਿਣ" ਦੀ ਸੰਭਾਵਨਾ ਘਟਾਉਂਦਾ ਹੈ, ਭਾਵੇਂ ਉਹ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਯੂਜ਼ਰਾਂ ਲਈ ਡਿਪਲੌਇ ਕੀਤੇ ਗਏ ਹੋਣ. ਨਤੀਜੇ ਵਜੋਂ, AI ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਵਿੱਚ, ਜਿਵੇਂ ਕਿ ਸਿੱਖਿਆ, ਲਾਭ ਖੋਲ੍ਹ ਸਕਦਾ ਹੈ, ਜਿੱਥੇ ਨਹੀਂ ਤਾਂ ਇਸਦਾ ਭਰੋਸੇ ਨਾਲ ਉਪਯੋਗ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ.
Moderation ਐਂਡਪੌਇੰਟ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਸਾਡੇ ਇੰਫ੍ਰਾਸਟ੍ਰਕਚਰ ਨਿਵੇਸ਼ਾਂ ਦਾ ਲਾਭ ਲੈਣ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ. ਆਪਣੇ ਹੀ ਕਲਾਸੀਫਾਇਰ ਬਣਾਉਣ ਅਤੇ ਸੰਭਾਲਣ ਦੀ ਬਜਾਏ—ਜੋ ਕਿ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਜਿਵੇਂ ਅਸੀਂ ਆਪਣੇ ਪੇਪਰ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਦਰਜ ਕੀਤਾ ਹੈ—ਉਹ ਇੱਕ ਹੀ API ਕਾਲ ਰਾਹੀਂ ਸਹੀ ਕਲਾਸੀਫਾਇਰਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦੇ ਹਨ.
AI ਇਕੋਸਿਸਟਮ ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਲਈ OpenAI ਦੀ ਵਚਨਬੱਧਤਾ ਦੇ ਹਿੱਸੇ ਵਜੋਂ, ਅਸੀਂ ਇਹ ਐਂਡਪੌਇੰਟ OpenAI API ਦੁਆਰਾ ਬਣਾਈ ਗਈ ਸਾਰੀ ਸਮੱਗਰੀ ਦੀ ਮੁਫ਼ਤ ਮੋਡਰੇਸ਼ਨ ਲਈ ਉਪਲਬਧ ਕਰਵਾ ਰਹੇ ਹਾਂ. ਉਦਾਹਰਨ ਵਜੋਂ, OpenAI API ਦਾ ਗਾਹਕ Inworld(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਆਪਣੀਆਂ AI-ਆਧਾਰਿਤ ਵਰਚੁਅਲ ਕਿਰਦਾਰਾਂ ਨੂੰ ਆਪਣੇ ਦਰਸ਼ਕਾਂ ਲਈ ਉਚਿਤ ਬਣਾਈ ਰੱਖਣ ਵਿੱਚ ਮਦਦ ਲਈ Moderation ਐਂਡਪੌਇੰਟ ਵਰਤਦਾ ਹੈ. OpenAI ਦੀ ਤਕਨਾਲੋਜੀ ਦਾ ਲਾਭ ਲੈਂਦਿਆਂ, Inworld ਆਪਣੇ ਮੁੱਖ ਉਤਪਾਦ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰ ਸਕਦਾ ਹੈ: ਯਾਦਗਾਰ ਕਿਰਦਾਰ ਬਣਾਉਣਾ. ਅਸੀਂ ਇਸ ਵੇਲੇ ਤੀਸਰੇ ਪੱਖ ਦੇ ਟ੍ਰੈਫਿਕ ਦੀ ਨਿਗਰਾਨੀ ਦਾ ਸਮਰਥਨ ਨਹੀਂ ਕਰਦੇ.
ਦਸਤਾਵੇਜ਼(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੇਖ ਕੇ Moderation ਐਂਡਪੌਇੰਟ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ. ਪ੍ਰਸ਼ਿਕਸ਼ਣ ਪ੍ਰਕਿਰਿਆ ਅਤੇ ਮਾਡਲ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਬਾਰੇ ਹੋਰ ਵੇਰਵੇ ਸਾਡੇ ਪੇਪਰ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਉਪਲਬਧ ਹਨ. ਅਸੀਂ ਇੱਕ ਮੁਲਾਂਕਣ ਡਾਟਾਸੈੱਟ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੀ ਜਾਰੀ ਕੀਤਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਇਨ੍ਹਾਂ ਸ਼੍ਰੇਣੀਆਂ ਅੰਦਰ ਲੇਬਲ ਕੀਤਾ ਗਿਆ Common Crawl ਡਾਟਾ ਸ਼ਾਮਲ ਹੈ, ਅਤੇ ਸਾਨੂੰ ਉਮੀਦ ਹੈ ਕਿ ਇਹ ਇਸ ਖੇਤਰ ਵਿੱਚ ਹੋਰ ਖੋਜ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰੇਗਾ.
