Ngurangi bias lan ningkatake keamanan ing DALL·E 2
Dina iki, kita nerapake teknik anyar supaya DALL·E ngasilake gambar wong sing luwih akurat nggambarake keragaman populasi donya.
Dina iki, kita nerapake teknik anyar supaya DALL·E ngasilake gambar wong sing luwih akurat nggambarake keragaman populasi donya. Teknik iki ditrapake ing tingkat sistem nalika DALL·E diwenehi prompt sing njlentrehake wong nanging ora nemtokake ras utawa gender, kaya “petugas pemadam kebakaran.”
Adhedhasar evaluasi internal kita, pangguna 12x luwih mungkin kandha yen gambar DALL·E nyakup wong saka latar mburi sing maneka warna sawise teknik iki ditrapake. Kita ngrancang bakal terus ningkatake teknik iki saka wektu ke wektu nalika nglumpukake data lan umpan balik luwih akeh.
Ing wulan April, kita miwiti pratayang riset DALL·E 2 kanggo sawetara wong kanthi winates, sing ndadekake kita bisa luwih mangerteni kapabilitas lan watesan sistem iki lan ningkatake sistem keamanan kita.
Sajrone fase pratayang iki, pangguna awal wis nandhani gambar sing sensitif lan bias, sing mbantu menehi masukan lan ngevaluasi mitigasi anyar iki.
Kita terus nliti kepiye sistem AI, kaya DALL·E, bisa nggambarake bias ing data latihane lan macem-macem cara sing bisa kita lakoni kanggo ngatasine.
Sajrone pratayang riset, kita uga wis njupuk langkah liya kanggo ningkatake sistem keamanan kita, kalebu:
- Ngurangi risiko DALL·E disalahgunakake kanggo nggawe konten sing ngapusi kanthi nolak unggahan gambar sing ngemot rai realistis lan upaya nggawe pasemon tokoh publik, kalebu selebriti lan tokoh politik sing misuwur.
- Nggawe filter konten kita luwih akurat supaya luwih efektif kanggo mblokir prompt lan unggahan gambar sing nglanggar kabijakan konten(mbukak ing jendhela anyar) kita, nanging isih ngidini ekspresi kreatif.
- Nyempurnakake sistem pemantauan otomatis lan manungsa kanggo nglindhungi saka penyalahgunaan.
Panyempurnaan iki wis mbantu kita saya yakin kanggo ngundang luwih akeh pangguna supaya bisa nyoba DALL·E.
Ngluwasake akses minangka bagean penting saka nyebarake sistem AI kanthi tanggung jawab amarga iki ngidini kita sinau luwih akeh babagan panggunaan ing donya nyata lan terus ngiterasi sistem keamanan kita.
