پرش به محتوای اصلی
OpenAI

۶ اسفند ۱۴۰۴

امنیت

مختل کردن استفاده‌های مخرب از AI

جدیدترین گزارش ما که شامل مطالعات موردی درباره نحوه تشخیص و پیشگیری ما از استفاده‌های مخرب از AI است.

در دو سالی که از زمانی که انتشار این گزارش‌های تهدید را آغاز کردیم می‌گذرد، بینش‌های مهمی درباره روش‌هایی که عاملان تهدید تلاش می‌کنند از مدل‌های AI سوءاستفاده کنند به دست آورده‌ایم. به‌طور خاص، مطالعات موردی در این گزارش، همانند گزارش‌های پیشین ما، نشان می‌دهند که عاملان معمولاً چگونه از AI در ترکیب با ابزارهای دیگر و سنتی‌تر مانند وب‌سایت‌ها و حساب‌های شبکه‌های اجتماعی استفاده می‌کنند. فعالیت تهدید به‌ندرت به یک پلتفرم محدود می‌شود؛ همان‌طور که گزارش ما درباره یک اپراتور نفوذ چینی نشان می‌دهد، همیشه به یک مدل AI محدود نیست. در عوض، عامل‌های تهدید ممکن است در نقاط مختلف گردش کار عملیاتی خود از مدل‌های مختلف AI استفاده کنند. ما این بینش‌ها را در گزارش‌های تهدید خود به اشتراک می‌گذاریم تا صنعت ما و جامعه‌ی گسترده‌تر بتوانند در موقعیت بهتری برای شناسایی و اجتناب از چنین تهدیدهایی قرار گیرند. 

نویسنده

OpenAI