DALL·E 2-дегі біржақтылықты азайту және қауіпсіздікті жақсарту

Бүгін біз DALL·E әлем халқының алуан түрлілігін дәлірек көрсететін адам бейнелерін жасауы үшін жаңа әдісті енгізіп жатырмыз. Бұл әдіс жүйе деңгейінде, DALL·E-ге нәсіл не жыныс көрсетілмеген адамды сипаттайтын, мысалы, «өрт сөндіруші» сияқты көмексөз берілгенде қолданылады.

Ішкі бағалауымызға сүйенсек, бұл әдіс қолданылғаннан кейін пайдаланушылар DALL·E суреттерінде әртүрлі ортадан шыққан адамдар бар екенін 12 есе жиірек айтқан. Көбірек дерек пен кері байланыс жинаған сайын, бұл әдісті уақыт өте жетілдіруді жоспарлап отырмыз.

Сәуірде біз DALL·E 2 зерттеуін шектеулі адам тобына алдын ала көрсете бастадық, бұл жүйенің мүмкіндіктері мен шектеулерін жақсырақ түсінуге және қауіпсіздік жүйелерімізді жетілдіруге мүмкіндік берді.

Осы алдын ала көрсету кезеңінде алғашқы пайдаланушылар сезімтал және біржақты суреттерді белгілеп отырды, бұл осы жаңа жұмсарту шарасын қалыптастыруға және бағалауға көмектесті.

Біз DALL·E сияқты AI жүйелері жаттығу деректеріндегі біржақтылықты қалай көрсетуі мүмкін екенін және оны шешудің түрлі жолдарын зерттеуді жалғастырып келеміз.

Зерттеудің алдын ала көрсету кезеңінде қауіпсіздік жүйелерімізді жақсарту үшін басқа да қадамдар жасадық, соның ішінде:

• Шынайы жүздері бар сурет жүктемелерін және танымал тұлғалардың, соның ішінде атақты адамдар мен беделді саясаткерлердің келбетін жасау әрекеттерін қабылдамай, DALL·E-нің алдамшы контент жасау үшін теріс пайдаланылу қаупін азайту.
• Контент сүзгілерімізді дәлірек ету, сонда олар біздің контент саясатымызды⁠(жаңа терезеде ашылады) бұзатын көмексөздар мен сурет жүктемелерін бұғаттауда тиімдірек болып, сонымен бірге шығармашылық еркіндікке жол береді.
• Теріс пайдаланудан қорғау үшін автоматтандырылған және адам бақылау жүйелерін жетілдіру.

Бұл жақсартулар бізге DALL·E-ні көруге көбірек пайдаланушыны шақыру мүмкіндігіне сенім ұялатты.

Қолжетімділікті кеңейту — біздің AI жүйелерін жауапкершілікпен енгізуіміздің⁠ маңызды бөлігі, өйткені бұл нақты әлемдегі қолдану туралы көбірек білуге және қауіпсіздік жүйелерімізді жетілдіруді жалғастыруға мүмкіндік береді.