گسترش عامل‌های ریسک با مدل‌های پیشرفته OpenAI توسط SafetyKit

SafetyKit⁠(در یک پنجره جدید باز می‌شود) عامل‌های هوش مصنوعی چندوجهی می‌سازد تا به بازارها، پلتفرم‌های پرداخت و فین‌تک‌ها کمک کند تقلب و فعالیت‌های ممنوعه را در متن، تصاویر، تراکنش‌های مالی، فهرست‌های محصولات و موارد دیگر شناسایی کنند و در برابر آن‌ها اقدام کنند. پیشرفت‌های اخیر در استدلال مدل و درک چندرسانه‌ای اکنون این کار را مؤثرتر کرده‌اند و استاندارد جدیدی برای عملیات ریسک، رعایت قوانین و مقررات و ایمنی تعیین می‌کنند.

عامل‌های SafetyKit از GPT‑5، GPT‑4.1، تحقیق عمیق و عامل کامپیوتری (CUA) بهره می‌گیرند تا ۱۰۰٪ محتوای مشتریان را با دقتی بیش از ۹۵٪ بر اساس ارزیابی‌های SafetyKit بررسی کنند. این‌ها می‌توانند به پلتفرم‌ها کمک کنند از کاربران محافظت کنند، از کلاهبرداری جلوگیری کنند، از جریمه‌های قانونی پرهیز کنند و قوانین پیچیده‌ای را که سیستم‌های قدیمی ممکن است از دست بدهند—مثل قوانین منطقه‌ای، شماره‌های تلفن پنهان در تصاویر کلاهبرداری یا محتوای نامناسب—اجرا کنند. اتوماسیون همچنین می‌تواند از قرار گرفتن ناظران انسانی در معرض محتوای توهین‌آمیز محافظت کند و آن‌ها را آزاد بگذارد تا به تصمیم‌گیری‌های ظریفِ سیاست‌گذاری بپردازند.

عامل‌های SafetyKit هر کدام برای رسیدگی به یک دسته ریسک مشخص ساخته شده‌اند، از کلاهبرداری گرفته تا محصولات غیرقانونی. هر بخش از محتوا با استفاده از بهینه‌ترین مدل OpenAI به عاملی هدایت می‌شود که برای آن تخلف مناسب‌تر است:

• GPT‑5 استدلال چندوجهی را بر روی متن، تصاویر و رابط کاربری به کار می‌گیرد تا ریسک‌های پنهان را آشکار کند و از تصمیم‌گیری دقیق و چندلایه پشتیبانی کند
• GPT‑4.1 به‌طور قابل‌اعتمادی از دستورالعمل‌های تفصیلیِ سیاست محتوا پیروی می‌کند و گردش‌کارهای نظارت بر محتوا با حجم بالا را به‌طور کارآمد مدیریت می‌کند
• بهبود تقویتی (RFT) میزان یادآوری و دقت را فراتر از مدل‌های پیش‌فرض افزایش داده و با سیاست‌های ایمنی پیچیده، عملکردی پیشرو ارائه می‌دهد.
• تحقیق عمیق، تحقیق آنلاین بلادرنگ را در بررسی‌ها و تأییدیه‌های تجار ادغام می‌کند
• عامل کامپیوتری (CUA) وظایف پیچیدهٔ مربوط به سیاست‌گذاری را خودکار می‌کند و وابستگی به بازبینی‌های دستیِ پرهزینه را کاهش می‌دهد

این رویکرد تطبیق مدل به SafetyKit امکان می‌دهد بازبینی محتوا را در قالب‌های مختلف با دقت و ظرافت بیشتری نسبت به راهکارهای قدیمی انجام دهد.

عامل تشخیص کلاهبرداری، برای مثال، فراتر از صرفاً اسکن کردن متن عمل می‌کند. این سیستم عناصر بصری مانند کدهای QR یا شماره‌های تلفنِ جاسازی‌شده در تصاویر محصول را تحلیل می‌کند. GPT‑4.1 به آن کمک می‌کند تصویر را تجزیه‌وتحلیل کند، چیدمان را درک کند و تصمیم بگیرد که آیا نقض سیاست رخ داده است یا نه.

عامل افشای سیاست‌ها فهرست‌ها یا صفحات فرود را برای یافتن زبان الزامی، مانند سلب مسئولیت‌های قانونی یا هشدارهای انطباقِ مختص هر منطقه، بررسی می‌کند. GPT‑4.1 بخش‌های مرتبط را استخراج می‌کند، GPT‑5 انطباق را ارزیابی می‌کند، و عامل موارد نقض را علامت‌گذاری می‌کند.

«ما به عامل‌های خود به‌عنوان گردش‌های کاری هدفمند فکر می‌کنیم»، گرائونکه می‌گوید. «برخی وظایف به استدلال عمیق نیاز دارند و برخی دیگر به زمینه چندوجهی. OpenAI تنها پشته‌ای است که در هر دو عملکردی قابل‌اعتماد ارائه می‌دهد.»

تصمیم‌گیری‌های سیاستی اغلب به تمایزهای ظریف بستگی دارند. یک بازار آنلاین را در نظر بگیرید که فروشندگان باید برای محصولات سلامت، یک هشدار درج کنند، با الزاماتی که بسته به ادعاهای محصول و قوانین منطقه‌ای متفاوت است. ارائه‌دهندگان سنتی از محرک‌های کلیدواژه‌ای یا مجموعه‌قواعد سخت‌گیرانه استفاده می‌کنند که ممکن است قضاوت‌های عمیق‌تری را که این تصمیم‌ها نیاز دارند نادیده بگیرند و در نتیجه به اجرای ناقص یا نادرست منجر شوند.

عامل افشای خط‌مشی SafetyKit ابتدا به خط‌مشی‌های کتابخانه داخلی SafetyKit ارجاع می‌دهد و سپس GPT‑5 محتوا را ارزیابی می‌کند: آیا به درمان یا پیشگیری اشاره دارد؟ آیا در منطقه‌ای به فروش می‌رسد که افشا در آن الزامی است؟ و اگر چنین است، آیا زبان موردنیاز واقعاً در فهرست آمده است؟ اگر چیزی ناکافی باشد، GPT‑5 یک خروجی های دارای ساختار برمی‌گرداند که عامل از آن برای علامت‌گذاری مسئله استفاده می‌کند.

Graunke اشاره می‌کند:‌«قدرت GPT‑5 در این است که زمانی که بر سیاست‌های واقعی مبتنی باشد، تا چه اندازه دقیق می‌تواند استدلال کند». «این امکان را به ما می‌دهد که حتی در موارد خاصی که سایر سیستم‌ها شکست می‌خورند، تصمیم‌های دقیق و قابل دفاع بگیریم».

SafetyKit هر مدل جدید OpenAI را در برابر سخت‌ترین موارد خود ارزیابی می‌کند و اغلب بهترین‌ها را همان روز به کار می‌گیرد. ارزیابی‌های داخلیِ دقیق به تیم کمک می‌کند سریع تشخیص دهد مدل‌های جدید چگونه می‌توانند عملکرد را بهبود دهند و به‌صورت یکپارچه در زیرساخت اصلی آن‌ها ادغام شوند.

هنگامی که OpenAI o3 عرضه شد، SafetyKit از آن برای بهبود عملکرد در موارد لبه‌ای در حوزه‌های کلیدی سیاستی استفاده کرد. GPT‑5 پس از آن آمد و ظرف چند روز در پرتقاضاترین عامل‌های آن‌ها مستقر شد و امتیاز ارزیابی را در سخت‌ترین وظایف بینایی کامپیوتری‌شان بیش از ۱۰ واحد بهبود داد.

SafetyKit همچنین بهبودها را به اکوسیستم بازمی‌گرداند و نتایج ارزیابی‌ها، شکست‌ها در موارد مرزی و بینش‌های مرتبط با سیاست‌ها را مستقیماً با OpenAI به اشتراک می‌گذارد تا به شکل‌دهی عملکرد آینده مدل‌ها برای بارهای کاری حساس به ایمنی کمک کند.

معماری SafetyKit سیاست‌ها را در مقیاس اعمال می‌کند و سرعت، دقت و پوشش جامع ریسک را ارائه می‌دهد. در پشت صحنه، اکنون روزانه بیش از ۱۶ میلیارد توکن را پردازش می‌کند، که این رقم شش ماه پیش ۲۰۰ میلیون بود، و محتوای بیشتری را بدون قربانی کردن دقت تحلیل می‌کند.

در همان مدت، SafetyKit دامنه فعالیت خود را به ریسک پرداخت‌ها، کلاهبرداری، مقابله با بهره‌کشی از کودکان، مبارزه با پول‌شویی و مشتریان جدیدی با صدها میلیون کاربر نهایی تحت حفاظت SafetyKit گسترش داده است. این بنیاد به مشتریان این امکان را می‌دهد که به خطرات نوظهور سریع و با اطمینان پاسخ دهند.

Graunke می‌گوید: «ما چرخه‌ای ایجاد کرده‌ایم که در آن هر انتشار OpenAI به‌طور مستقیم توانمندی‌های ما را تقویت می‌کند. به همین دلیل، سیستم به طور مداوم بهبود می‌یابد و همواره از خطرات در حال تحول جلوتر می‌ماند».

• دقت ۹۵٪+ در بازبینیِ ۱۰۰٪ از محتوای مشتری
• روزانه ۱۶ میلیارد توکن پردازش می‌شود که در شش ماه از ۲۰۰ میلیون افزایش یافته است.
• بهبود بیش از ۱۰ امتیاز در معیار سخت‌ترین وظایف بینایی