Хөгжүүлэгчдэд өөрсдийн аппликейшныг болзошгүй буруугаар ашиглалтаас хамгаалахад нь туслахын тулд бид илүү хурдан, илүү нарийвчлалтай Moderation эцсийн цэг(шинэ цонхонд нээгдэнэ)-ийг танилцуулж байна. Энэ эцсийн цэг нь OpenAI API хөгжүүлэгчдэд хүсээгүй контентыг илрүүлдэг GPT‑д суурилсан ангилагчдад үнэ төлбөргүй хандах боломж олгодог бөгөөд энэ нь эдгээр системүүдэд хүний хяналтыг дэмжихийн тулд AI системийг ашиглах нэг жишээ юм. Мөн бид арга зүйгээ тайлбарласан техникийн өгүүлэл(шинэ цонхонд нээгдэнэ) болон үнэлгээнд ашигласан өгөгдлийн багц(шинэ цонхонд нээгдэнэ)-ыг нийтэлсэн.
Текст оролт өгөхөд Moderation эцсийн цэг нь тухайн контент нь бэлгийн шинжтэй, үзэн ядсан, хүчирхийллийн, эсвэл өөртөө хор хүргэхийг өдөөдөг эсэхийг үнэлдэг—эдгээр нь манай контентын бодлого(шинэ цонхонд нээгдэнэ)-оор хориглосон контент юм. Энэ эцсийн цэгийг хурдан, нарийвчлалтай байхаар, мөн өргөн хүрээний хэрэглээнд тогтвортой ажиллахаар сургасан. Чухал нь, энэ нь бүтээгдэхүүнүүд өргөн цар хүрээтэйгээр хэрэглэгчдэд нэвтрүүлсэн ч буруу зүйл “хэлэх” магадлалыг бууруулдаг. Үүний үр дүнд AI нь боловсрол зэрэг эмзэг орчинд, өөрөөр бол итгэлтэйгээр ашиглах боломжгүй нөхцөлд ч үр өгөөжөө нээж чадна.
Moderation эцсийн цэг нь хөгжүүлэгчдэд манай дэд бүтцийн хөрөнгө оруулалтын үр шимийг хүртэхэд тусалдаг. Өөрсдийн ангилагчийг бүтээж, засварлан ажиллуулахын оронд—энэ нь бидний өгүүлэл(шинэ цонхонд нээгдэнэ)-д баримтжуулсанчлан өргөн хүрээтэй үйл явц юм—тэд нэг API дуудалтаар нарийвчлалтай ангилагчдад хандах боломжтой.
OpenAI-ийн AI экосистемийг илүү аюулгүй болгох амлалт-ын нэг хэсэг болгон бид бүх OpenAI API-аар үүсгэсэн контентыг үнэ төлбөргүй зохицуулах боломж олгохын тулд энэ эцсийн цэгийг санал болгож байна. Жишээлбэл, OpenAI API хэрэглэгч Inworld(шинэ цонхонд нээгдэнэ) нь AI-д суурилсан виртуал дүрүүдээ өөрсдийн үзэгчдэд тохиромжтой байлгахад туслуулахын тулд Moderation эцсийн цэгийг ашигладаг. OpenAI-ийн технологийг ашигласнаар Inworld үндсэн бүтээгдэхүүндээ—мартагдашгүй дүр бүтээхэд—анхаарлаа төвлөрүүлэх боломжтой. Одоогоор бид гуравдагч талын урсгалын хяналтыг дэмждэггүй.
Moderation эцсийн цэгийг ашиглаж эхлэхийн тулд баримт бичгийг(шинэ цонхонд нээгдэнэ) үзнэ үү. Сургалтын үйл явц болон загварын гүйцэтгэлийн талаарх дэлгэрэнгүй мэдээлэл манай өгүүлэл(шинэ цонхонд нээгдэнэ)-д бий. Мөн бид эдгээр ангиллын хүрээнд шошгологдсон Common Crawl өгөгдлийг агуулсан үнэлгээний өгөгдлийн багц(шинэ цонхонд нээгдэнэ)-ыг нийтэлсэн бөгөөд энэ нь энэ чиглэлийн цаашдын судалгааг дэмжинэ гэж найдаж байна.
