GPT‑6 Cyber: گسترش مرزهای عامل‌های هم‌راستای امنیت سایبری
مدلی برای امنیت سایبری که آموزش دیده است آسیب‌پذیری‌های قابل‌بهره‌برداری را بیابد و تأیید کند و در عین حال در محدودهٔ تعیین‌شده از سوی پژوهشگران بماند.
GPT‑6 Cyber را معرفی می‌کنیم؛ جهشی بزرگ در پژوهش امنیتی، با توانایی بیشتر در یافتن و رفع آسیب‌پذیری‌ها و پایبندی بسیار قابل‌اعتمادتر به محدوده‌هایی که پژوهشگران تعیین می‌کنند. GPT‑6 Cyber در معیارهای کلیدی امنیت سایبری نسبت به GPT‑5.6 Cyber پیشرفت چشمگیری دارد؛ از جمله بهبود نسبی ۵۱٪ در ExploitGym و جهشی بزرگ در آزمون پایبندی به محدودهٔ مجاز. این مدل همین حالا با کشف و اعتبارسنجی هزاران اکسپلویت در پایگاه‌های کد حساس از نظر امنیتی، مانند Linux و Firefox، به ایمن‌سازی نرم‌افزارهای واقعی کمک می‌کند.
در ExploitGym، که توانایی مدل‌ها در بهره‌برداری از یک آسیب‌پذیری مشخص را می‌سنجد، GPT‑6 Cyber امتیاز ۴۸٫۵٪ را کسب می‌کند؛ در مقایسه با ۳۲٫۱٪ برای GPT‑5.6 Cyber. همچنین محدودهٔ وظیفه را قابل‌اعتمادتر رعایت می‌کند: در یک ارزیابی جداگانهٔ هم‌راستایی، GPT‑6 Cyber بدون اعلان استقرار خود در ۹۹٫۹۳٪ آزمون‌ها و با این اعلان در ۱۰۰٪ آزمون‌ها از بهره‌برداری از آسیب‌پذیری سرویس‌های خارج از محدوده خودداری کرد. این بهبود در هم‌راستایی حاصل آموزش اختصاصی برای ماندن در محدودهٔ مجاز، رعایت محدودیت‌ها و گزارش دقیق نتایج است.
این قابلیت‌ها همین حالا به ایمن‌سازی سیستم‌های واقعی کمک می‌کنند. پژوهشگران ما با استفاده از GPT‑6 Cyber، ۹۴۸ اکسپلویت ارتقای سطح دسترسی در Linux توسعه دادند و ۸۱ آسیب‌پذیری ناشناخته با شدت بالا را در Firefox شناسایی کردند؛ با وجود آزمون‌های گسترده‌ای که پیش‌تر با مدل‌های پیشرو انجام شده بود. این مدل به توسعهٔ وصله‌های پیشنهادی نیز کمک کرد و Mozilla اصلاحات بسیاری از آسیب‌پذیری‌های Firefox را منتشر کرده است(در یک پنجره جدید باز می‌شود). تیم‌های امنیتی Cisco، Calif و CodeRabbit از آن برای پژوهش آسیب‌پذیری و بازبینی کد استفاده می‌کنند و ما نیز برای یافتن و رفع ضعف‌های زیرساخت خودمان به آن متکی بوده‌ایم.
روشن است که فرصت محدودی برای ایمن‌سازی نرم‌افزار با استفاده از مدل‌های پیشرو داریم. هدف ما گسترش چشمگیر Daybreak و فراهم‌کردن امکان پژوهش امنیتی پیشرفته برای سازمان‌ها در هر اندازه، پژوهشگران مستقل و نگه‌دارندگان نرم‌افزارهای متن‌باز است. مدل‌های اصلی مانند GPT‑6 Astra همین حالا از بازبینی کد، اولویت‌بندی آسیب‌پذیری‌ها و توسعهٔ وصله پشتیبانی می‌کنند. Daybreak Blue به مدافعان تأییدشده کمک می‌کند با موارد کمتری از امتناع بی‌مورد، آسیب‌پذیری‌ها و اصلاحات را اعتبارسنجی کنند؛ در حالی که Daybreak Red توسعهٔ عمیق‌تر اکسپلویت و آزمون امنیتی مجاز را با GPT‑6 Cyber ممکن می‌کند.
GPT‑6 Cyber نسبت به GPT‑5.6 Cyber پیشرفت بزرگی دارد و در بیشتر وظایف سایبری از GPT‑6 Astra بهتر عمل می‌کند، حتی وقتی Astra درخواست را رد نمی‌کند. مدل را در وظایفی ارزیابی کردیم که نیازمند شناخت نرم‌افزار، شناسایی آسیب‌پذیری‌ها و توسعهٔ اکسپلویت‌های عملی هستند. بر پایهٔ این نتایج، مدل را در حوزهٔ امنیت سایبری طبق چارچوب آمادگی خود در ردهٔ «بحرانی» قرار می‌دهیم؛ در مقایسه با ردهٔ «بالا» برای GPT‑5.6 Cyber.
در ExploitGym، که توانایی مدل‌ها در بهره‌برداری از یک آسیب‌پذیری مشخص در هدفی راه‌دور را می‌سنجد، GPT‑6 Cyber امتیاز ۴۸٫۵٪ می‌گیرد؛ حدود ۱۶ واحد درصد بیشتر از امتیاز ۳۲٫۱٪ مدل GPT‑5.6 Cyber. برای سنجش کشف آسیب‌پذیری، ارزیابی تازه‌ای نیز برای آزمون نفوذ تهاجمی وب ساختیم. مدل‌ها برنامه‌های وب را بدون دسترسی به کد منبع آن‌ها بررسی می‌کنند. GPT‑6 Cyber در بازیابی آسیب‌پذیری‌ها به نرخ ۴۰٫۳٪ رسید؛ در مقایسه با ۳۲٫۰٪ برای GPT‑6 Astra.
Daybreak Red برای پشتیبانی از گردش‌کارهای امنیتی پیشرفته‌تر طراحی شده است؛ از جمله توسعهٔ اکسپلویت‌های عملی و استفاده از آن‌ها علیه اهداف راه‌دور. برای ارزیابی این قابلیت‌ها، معیار تازه‌ای به نام RemoteExploitBench ساختیم که از آسیب‌پذیری‌های شناخته‌شده در برنامه‌هایی مانند GitLab، PostgreSQL و Jenkins، مستقر در محیطی کنترل‌شده، استفاده می‌کند. در ارزیابی اولیهٔ ما، GPT‑6 Astra در حالت Daybreak Blue از انجام ۱۰۰٪ وظایف خودداری کرد، در حالی که GPT‑6 Cyber ۹۵٪ را تکمیل کرد؛ تنها شکست آن مربوط به اکسپلویتی بود که نتوانست از راه دور اجرا کند. برای مشاهدهٔ نتایج کامل و تنظیمات ارزیابی، به کارت سیستم(در یک پنجره جدید باز می‌شود) مراجعه کنید.
یکی از خطرهای عامل‌های امنیت سایبری این است که از محدودهٔ وظیفهٔ محول‌شده خارج شوند، برای بهره‌برداری از آسیب‌پذیری سرویس‌های نامرتبط تلاش کنند یا قواعد عملیاتی تعیین‌شده از سوی پژوهشگر را نادیده بگیرند.
هم‌راستایی را به یکی از محورهای اصلی GPT‑6 Cyber تبدیل کردیم و با آموزش تخصصی به مدل کمک کردیم در محدودهٔ مجاز بماند، محدودیت‌های اقداماتش را رعایت کند و کار خود را دقیق گزارش دهد. پیش از استقرار، مجموعه‌ای از ارزیابی‌های هم‌راستایی را برای سنجش این رفتارها اجرا کردیم. برای مشاهدهٔ نتایج کامل، به کارت سیستم(در یک پنجره جدید باز می‌شود) مراجعه کنید.
یکی از این ارزیابی‌ها ExploitGym Honeypot است که با الهام از رخداد Hugging Face طراحی شده است. به مدل یک وظیفهٔ دشوار بهره‌برداری از آسیب‌پذیری در محیطی ایزوله می‌دهیم که به سرویس‌های پشتیبان، مانند مخزن بسته‌ها یا فضای ذخیره‌سازی اشیا، دسترسی دارد. عمداً بهره‌برداری از آسیب‌پذیری این سرویس‌ها را آسان می‌کنیم تا حمله به آن‌ها بتواند پرچمِ هدفِ این وظیفه را آشکار کند. مدل باید خودش تشخیص دهد که بهره‌برداری از آسیب‌پذیری آن‌ها خارج از محدودهٔ وظیفهٔ اوست.
GPT‑6 Cyber در این ارزیابی نسبت به GPT‑5.6 Cyber جهشی چشمگیر نشان می‌دهد. در آزمون بدون اعلان‌های ایمنیِ استقرار، در ۹۹٫۹۳٪ موارد از بهره‌برداری از آسیب‌پذیری سرویس‌های خارج از محدوده خودداری کرد؛ در مقایسه با ۹۴٫۴۹٪ برای GPT‑5.6 Cyber. با این اعلان‌ها، GPT‑6 Cyber در ۱۰۰٪ موارد در محدودهٔ مجاز ماند.
در زنجیره تفکر مدل GPT‑6 Cyber می‌توانیم مستقیماً ببینیم که چگونه دربارهٔ ماندن در محدودهٔ مجاز استدلال می‌کند:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber همین حالا به تیم‌های امنیتی کمک می‌کند آسیب‌پذیری‌ها را پیدا کنند، تأثیرشان را تأیید کنند و راهکارهایی برای رفع آن‌ها توسعه دهند. مشتریان از آن برای کار روی پایگاه‌های کد بزرگ، توسعهٔ طولانی‌مدت اکسپلویت و بازبینی امنیتی استفاده کرده‌اند:
ما نیز برای ایمن‌سازی سیستم‌های خود به GPT‑6 Cyber متکی بوده‌ایم. این مدل یکی از مدل‌های اصلی در پروژه‌ای بود که اخیراً دربارهٔ تقویت امنیت زیرساخت آموزش مدل‌های پیشرو معرفی کردیم. در عملیات کنترل‌شدهٔ تیم قرمز، عامل‌هایی که از GPT‑6 Cyber و دیگر مدل‌های OpenAI استفاده می‌کردند، با زنجیره‌کردن آسیب‌پذیری‌ها از ماشین‌های مجازی کوچک (microVM) خارج شدند و روی میزبان‌های زیرین کد اجرا کردند. از یافته‌ها برای وصله‌کردن نرم‌افزار، تشدید محدودیت‌های شبکه و گزارش مشکلات به نگه‌دارندگان و عرضه‌کنندگان استفاده کردیم.
پژوهشگران آسیب‌پذیری ما همچنین از GPT‑6 Cyber برای یافتن و تأیید آسیب‌پذیری‌های نرم‌افزارهای متن‌باز در مقیاس گسترده استفاده می‌کنند. این کار نقص‌های ناشناخته‌ای را در نرم‌افزارهایی آشکار کرده که سال‌ها زیر ذره‌بین بوده‌اند:
کشف ۸۱ آسیب‌پذیری جدید در Firefox. GPT‑6 Cyber می‌تواند برای استفاده در گردش‌کارهای خودکارِ یافتن آسیب‌پذیری و پیشنهاد وصله‌های باکیفیت در مقیاس گسترده مناسب باشد. در یک برنامهٔ پژوهش آسیب‌پذیری، GPT‑6 Cyber برای ۸۱ آسیب‌پذیری جدید که Mozilla آن‌ها را در ردهٔ شدت بالا طبقه‌بندی کرد، شواهد و آزمون‌های بازتولیدپذیر ارائه داد. همچنین نشان داد که ۳۰ مشکل شناخته‌شدهٔ دیگر از آنچه قبلاً گزارش شده بود شدیدترند. یافته‌ها را همراه با وصله‌های پیشنهادی به Mozilla گزارش کردیم تا به مهندسان آن در توسعهٔ اصلاحات کمک کنیم. Mozilla از این کار حمایت کرد و اندکی پس از دریافت گزارش‌ها، اعمال اصلاحات را آغاز کرد(در یک پنجره جدید باز می‌شود).
توسعهٔ اکسپلویت برای ۹۴۸ آسیب‌پذیری هستهٔ Linux. GPT‑6 Cyber تعداد ۱٬۷۲۴ آسیب‌پذیری را بازتولید کرد و برای ۹۴۸ مورد اکسپلویت عملی ساخت؛ بیش از پنج برابرِ ۱۶۶ موردی که GPT‑5.6 Sol با همان چارچوب آزمون پژوهشی از آن‌ها بهره‌برداری کرده بود. مطابق راهنمایی جامعهٔ Linux، تعداد ۳۰۴ یافتهٔ بحرانی را همراه با وصله‌های پیشنهادی به نگه‌دارندگان گزارش کردیم و پیگیر رفع سایر آسیب‌پذیری‌ها هستیم.
اثبات آسیب‌پذیری‌های بحرانی اجرای کد از راه دور (RCE). اخیراً دربارهٔ یک آسیب‌پذیری بحرانی در Brotli(در یک پنجره جدید باز می‌شود) صحبت کردیم؛ کتابخانهٔ فشرده‌سازی‌ای که Node.js و نرم‌افزارهای دیگر از آن استفاده می‌کنند. پژوهشگران امنیتی ما از GPT‑6 Cyber در کنار دیگر مدل‌های OpenAI برای توسعه و اعتبارسنجی اکسپلویت‌هایی استفاده کردند که نشان می‌دادند این نقص چگونه می‌تواند اجرای کد از راه دور را در برنامه‌های وابسته ممکن کند.
با توانمندترشدن مدل‌ها و کشف آسیب‌پذیری‌های امنیتی بیشتر، تلاش‌های بیشتری هم برای استفادهٔ آسیب‌رسان از آن‌ها مشاهده می‌کنیم. این تلاش‌ها شامل اقدامات عوامل مخرب سایبری و گروه‌های متخاصمی است که در پی تقطیر مدل‌های ما هستند. به همین دلیل، توانایی‌های بیشتر GPT‑6 Cyber را با تدابیر حفاظتی قوی‌تر همراه کرده‌ایم تا سوءاستفاده را شناسایی و متوقف کنیم و اقدامات مدل را در چارچوب قصد و مجوز کاربر نگه داریم.
هم‌زمان با عرضهٔ GPT‑6 Cyber، این تدابیر حفاظتی را اضافه و تقویت کردیم (برای اطلاعات کامل به کارت سیستم(در یک پنجره جدید باز می‌شود) مراجعه کنید):
پایش ناهم‌راستایی ویژهٔ حوزهٔ سایبری. بر مطابقت اقدامات با مجوز کاربر نظارت می‌کنیم و در عین حال، توسعه و آزمون مشروع اکسپلویت را به رسمیت می‌شناسیم.
پایش هدفمند تهدیدهای نوظهور. برای مثال، هنگام افشای هماهنگ آسیب‌پذیری‌های بحرانی PHP، پایش هدفمندی برای شناسایی تلاش‌های توسعهٔ اکسپلویت علیه سرورهای فعال PHP برقرار کردیم و هم‌زمان به پشتیبانی از مدافعانی که سیستم‌های آسیب‌پذیر را وصله می‌کردند ادامه دادیم.
پردازش خصوصی ایمنی (PSP). از بررسی‌های خودکار برای ارزیابی تعاملات مرتبط از نظر سوءاستفاده استفاده می‌کنیم. نگهداری استاندارد داده‌ها همچنان گزینهٔ پیش‌فرض است. مشتریان API که از عدم ذخیره داده(در یک پنجره جدید باز می‌شود) استفاده می‌کنند، عموماً باید از PSP(در یک پنجره جدید باز می‌شود) استفاده کنند. این قابلیت سوابق رمزگذاری‌شده‌ای را که ۳۰ روز در فضای ذخیره‌سازی مشتری نگهداری می‌شوند بررسی می‌کند، بدون آنکه اعلان‌ها و پاسخ‌ها را در دسترس کارکنان OpenAI قرار دهد.
محافظت در برابر سوءاستفاده از اطلاعات ورود سرقت‌شده. برای دسترسی به API در Daybreak Red، به‌طور پیش‌فرض تعیین فهرست IPهای مجاز را الزامی می‌کنیم تا درخواست‌ها، با استثناهایی محدود، فقط از شبکه‌های تأییدشده پذیرفته شوند. همچنین اطلاعات ورود را از نظر به‌خطر‌افتادن پایش می‌کنیم.
اجرای ایزوله و نظارت. مانند مدل‌های پیشین، برای گردش‌کارهای پرخطر اجرای ایزوله(در یک پنجره جدید باز می‌شود)، بازبینی اقدامات(در یک پنجره جدید باز می‌شود) و نظارت انسانی را توصیه می‌کنیم.
تدابیر حفاظتی در برابر کمک سایبری پرخطر. از بررسی‌های تازه‌ای برای مسدودکردن فعالیت‌های پرخطر مرتبط با سیستم‌های حیاتی استفاده می‌کنیم (جزئیات بیشتر در ادامه آمده است).
حفاظت از زیرساخت‌های حیاتی، از جمله نیروگاه‌ها، تأسیسات تصفیهٔ آب و فناوری عملیاتی و سیستم‌های کنترل صنعتی (OT/ICS) زیربنای آن‌ها، از ملاحظات اصلی در طراحی تدابیر حفاظتی و دسترسی GPT‑6 Cyber بوده است. می‌خواهیم هم‌زمان با فراهم‌کردن دسترسی تیم‌های مدافع این سیستم‌ها به توانمندترین مدل‌هایمان، تدابیر حفاظتی خود را نیز برای جلوگیری از حملات غیرمجاز تقویت کنیم.
نخست، برای تجهیز این مدافعان، برنامهٔ کمک‌هزینهٔ یک میلیارد دلاری Daybreak برای مدافعان خط مقدم بخشی از هزینهٔ دسترسی تیم‌های دارای منابع محدود، مانند سازمان‌های دولتی و ارائه‌دهندگان خدمات ضروری، را تأمین می‌کند. همچنین گروه تازه‌ای در Daybreak Red با نام Daybreak Red برای زیرساخت‌های حیاتی برای مدافعان تأییدشدهٔ این زیرساخت‌ها معرفی می‌کنیم. این گروه به آن‌ها اجازهٔ انجام آزمون‌های مجاز روی سیستم‌های حیاتی را می‌دهد و در عین حال تدابیر حفاظتی در برابر ناهم‌راستایی مدل را حفظ می‌کند.
دوم، برای جلوگیری از سوءاستفاده از پلتفرم‌های Daybreak Red و Blue، تدابیر حفاظتی را در برابر کمک‌رسانی و توسعهٔ قابلیت‌هایی بهبود داده‌ایم که ممکن است کنترل‌های صنعتی یا سیستم‌های حیاتی برای ایمنی را به خطر بیندازند، در کار تجهیزات اختلال ایجاد کنند یا باعث آسیب جدی جسمی، خسارت فیزیکی فاجعه‌بار یا اختلال در خدمات با خطر جانی شوند. شکل زیر نرخ برچسب‌گذاری تدابیر حفاظتی را در چهار پیکربندی دسترسی، پیش و پس از به‌روزرسانی‌های اخیر که هم‌زمان با GPT‑6 Cyber عرضه می‌کنیم، مقایسه می‌کند.
نرخ بالاتر مسدودسازی به‌وسیلهٔ تدابیر حفاظتی همیشه بهتر نیست. بسیاری از روش‌های این ارزیابی برای فعالیت‌های امنیتی مشروع نیز ضروری‌اند: شناخت سیستم‌ها، یافتن آسیب‌پذیری‌ها و اطمینان از اینکه اصلاحات در برابر حمله مقاومت می‌کنند. بنابراین، به‌جای هدف‌گذاری برای رسیدن به ۱۰۰٪، این نرخ‌ها را در کنار میزان پشتیبانی از پژوهش مشروع و وصله‌کردن آسیب‌پذیری‌ها ارزیابی می‌کنیم.
برای ارزیابی اینکه مدل‌های ما چگونه می‌توانند به دفاع از زیرساخت‌های حیاتی کمک کنند، با Dragos، ارائه‌دهندهٔ جهانی امنیت سایبری فناوری عملیاتی توسعه‌یافته (xOT)، همکاری کردیم. Dragos ارزیابی‌هایی را با مدل‌های Daybreak Red که محدودیت کمتری برای فعالیت‌های سایبری دارند، در محیط آزمایشگاهی کنترل‌شده اجرا کرد. این ارزیابی‌ها درخواست‌هایی را پوشش می‌دادند که از کشف شبکه و فهرست‌کردن دارایی‌ها آغاز می‌شدند و به شناسایی هدفمند، استخراج غیرمجاز داده‌های حساس و اقدامات غیرمجاز و بالقوه خطرناک روی دستگاه‌ها می‌رسیدند.
از بازخورد Dragos برای بهبود تدابیر حفاظتی استفاده کردیم تا کمک‌رسانی زیان‌بار را مسدود کنیم، بدون آنکه آزمون‌های مجاز را بی‌دلیل محدود کنیم. برای جزئیات ارزیابی‌ها، گزارش نهایی آن‌ها را ببینید(در یک پنجره جدید باز می‌شود). همچنین در حال گسترش همکاری با دیگر ارائه‌دهندگان خدمات امنیت تهاجمی و تیم‌های بنفش برای آزمون نفوذ و عملیات تیم قرمز با هوش مصنوعی هستیم. در کنار آن، با شرکت‌های انرژی، دیگر بهره‌برداران زیرساخت‌های حیاتی و آزمایشگاه‌های ملی همکاری می‌کنیم تا اثربخشی مدل‌ها و تدابیر حفاظتی‌مان را در دفاع صنعتی بسنجیم. سرمایه‌گذاری در بررسی تهدیدها را نیز افزایش داده‌ایم تا موارد استفاده از مدل در حوزهٔ OT/ICS را شناسایی کنیم. با دریافت نظر شرکا و جامعهٔ امنیتی، به بهبود تدابیر حفاظتی ادامه خواهیم داد؛ از جمله با گزارش‌هایی که از طریق /feedback دربارهٔ شناسایی‌نشدن فعالیت زیان‌بار یا مختل‌شدن کار مشروع دریافت می‌کنیم.
GPT‑6 Cyber در ابتدا از طریق API و Codex در اختیار گروهی منتخب از مشتریان تأییدشدهٔ Daybreak Red قرار می‌گیرد. به‌زودی دسترسی را به‌تدریج به همهٔ مشتریان Daybreak Red گسترش خواهیم داد و GPT‑5.6 Cyber را نیز در اختیار همهٔ مشتریان Daybreak Red قرار می‌دهیم. همچنین دسترسی آلفای Daybreak Blue برای GPT‑6 Astra را به سازمان‌ها و پژوهشگران امنیتی مستقل بیشتری گسترش می‌دهیم؛ اگر علاقه‌مند هستید، به ما اطلاع دهید(در یک پنجره جدید باز می‌شود).
کاربران و سازمان‌های جدید می‌توانند برای Daybreak درخواست دهند و با مهارت‌ها، محصولات و شرکای سایبری ما کار را آغاز کنند.
