Tnaqqis tal-preġudizzju u titjib tas-sigurtà f’DALL·E 2
Illum, qed nimplimentaw teknika ġdida biex DALL·E jiġġenera stampi ta’ nies li jirriflettu b’mod aktar preċiż id-diversità tal-popolazzjoni tad-dinja.
Illum, qed nimplimentaw teknika ġdida biex DALL·E jiġġenera stampi ta’ nies li jirriflettu b’mod aktar preċiż id-diversità tal-popolazzjoni tad-dinja. Din it-teknika tiġi applikata fil-livell tas-sistema meta DALL·E jingħata prompt li jiddeskrivi persuna mingħajr ma jispeċifika r-razza jew il-ġeneru, bħal “pumpier”.
Abbażi tal-evalwazzjoni interna tagħna, l-utenti kienu 12-il darba aktar probabbli li jgħidu li l-istampi ta’ DALL·E kienu jinkludu nies minn sfondi diversi wara li ġiet applikata t-teknika. Nippjanaw li ntejbu din it-teknika maż-żmien hekk kif niġbru aktar data u feedback.
F’April, bdejna nagħtu preview tar-riċerka DALL·E 2 lil numru limitat ta’ nies, li ppermettilna nifhmu aħjar il-kapaċitajiet u l-limitazzjonijiet tas-sistema u ntejbu s-sistemi tas-sigurtà tagħna.
Matul din il-fażi ta’ preview, l-ewwel utenti indikaw stampi sensittivi u preġudikati, li għenu biex jinforma u jiġi evalwat dan il-mitigazzjoni ġdida.
Qed inkomplu nirriċerkaw kif sistemi tal-IA, bħal DALL·E, jistgħu jirriflettu preġudizzji fid-data tat-taħriġ tagħhom u modi differenti kif nistgħu nindirizzawhom.
Matul il-preview tar-riċerka ħadna wkoll passi oħra biex intejbu s-sistemi tas-sigurtà tagħna, inkluż:
- Innaqqsu r-riskju li DALL·E jintuża ħażin biex jinħoloq kontenut qarrieqi billi niċħdu uploads ta’ stampi li fihom uċuħ realistiċi u tentattivi biex tinħoloq ix-xbieha ta’ figuri pubbliċi, inklużi ċelebritajiet u figuri politiċi prominenti.
- Intejbu l-preċiżjoni tal-filtri tal-kontenut tagħna biex ikunu aktar effettivi fl-imblukkar ta’ prompts u uploads ta’ stampi li jiksru l-politika tal-kontenut(jinfetaħ f’tieqa ġdida) tagħna filwaqt li xorta jippermettu espressjoni kreattiva.
- Inraffinaw is-sistemi ta’ monitoraġġ awtomatizzati u umani biex nipproteġu kontra użu ħażin.
Dawn it-titjibiet għenuna niksbu aktar fiduċja fil-kapaċità li nistiednu aktar utenti jesperjenzaw DALL·E.
L-espansjoni tal-aċċess hija parti importanti mill-użu responsabbli tas-sistemi tal-IA tagħna għax tippermettilna nitgħallmu aktar dwar l-użu fid-dinja reali u nkomplu ntejbu s-sistemi tas-sigurtà tagħna.
