実世界における望ましくないコンテンツを検出するための全体的なアプローチ

実世界のコンテンツモデレーションのための堅牢かつ有用な自然言語分類システムを構築するための総合的なアプローチを提示します。このようなシステムの成功は、コンテンツの分類法やラベリング指示の設計、データの品質管理、稀な事象を捕捉するための能動学習パイプライン、モデルをロバストにしオーバーフィッティングを避けるための様々な手法など、注意深く設計され実行される一連のステップに依存しています。当社のモデレーションシステムは、性的なコンテンツ、憎悪的なコンテンツ、暴力、自傷行為、ハラスメントなど、望ましくないコンテンツの幅広いカテゴリを検出するよう学習しています。このアプローチは、様々なコンテンツ分類法に一般化し、既成のモデルを凌駕する高品質のコンテンツ分類器を作成することができます。