با پیچیدهتر شدن وظایف سیستمهای هوش مصنوعی—بهویژه وظایفی که شامل وب و اپلیکیشنهای متصل میشوند—میزان خطرات امنیتی تغییر میکند.
یک خطر نوظهور بهویژه مهم شده است: تزریق اعلان. در این حملات، یک شخص ثالث سعی میکند سیستم هوش مصنوعی مکالمهای را فریب دهد تا از دستورالعملهای مخرب پیروی کند یا اطلاعات حساس را فاش کند.
امروز، ما دو حفاظت جدید را معرفی میکنیم که برای کمک به کاربران و سازمانها در کاهش حملات تزریق اعلان طراحی شدهاند، با دید واضحتر نسبت به ریسک و کنترلهای قویتر:
- حالت قفل در ChatGPT، یک تنظیم امنیتی پیشرفته و اختیاری برای کاربران با ریسک بالاتر
- برچسبهای «خطر افزایشیافته» برای برخی قابلیتها که ممکن است خطر اضافی در ChatGPT، ChatGPT Atlas و Codex ایجاد کنند
این افزودهها بر حفاظتهای موجود ما در سطوح مدل، محصول و سیستم استوار هستند. این شامل ایزولهسازی، محافظت در برابر استخراج داده مبتنی بر URL، پایش و اعمال، و کنترلهای سازمانی مانند کنترلهای دسترسی مبتنی بر نقش و گزارشهای ممیزی است.
حالت Lockdown یک تنظیم امنیتی پیشرفته و اختیاری است که برای گروه کوچکی از کاربران بسیار حساس به امنیت—مانند مدیران ارشد یا تیمهای امنیتی در سازمانهای برجسته—طراحی شده است که به محافظت بیشتری در برابر تهدیدهای پیشرفته نیاز دارند. این کار برای اکثر کاربران لازم نیست. حالت قفلگذاری بهطور سختگیرانه نحوه تعامل ChatGPT با سیستمهای خارجی را محدود میکند تا خطر استخراج دادهها بر اساس تزریق اعلان را کاهش دهد.
حالت Lockdown بهطور قطعی برخی ابزارها و قابلیتها را در ChatGPT غیرفعال میکند که یک مهاجم ممکن است تلاش کند از آنها برای استخراج دادههای حساس از مکالمات کاربران یا برنامههای متصل، از طریق حملاتی مانند تزریق اعلان، سوء استفاده کند.
برای مثال، مرور وب در حالت قفل به محتوای ذخیرهشده محدود است، بنابراین هیچ درخواست شبکه زندهای از شبکه تحت کنترل OpenAI خارج نمیشود. این محدودیت بهگونهای طراحی شده است که از نشت دادههای حساس بهسوی یک مهاجم از طریق مرور جلوگیری کند. برخی ویژگیها زمانی که نمیتوانیم تضمینهای قطعی و قوی درباره ایمنی داده ارائه کنیم، بهطور کامل غیر فعال میشوند.
حالت Lockdown یک تنظیم قطعی جدید است که با محدود کردن شدید نحوه تعامل ChatGPT با برخی سیستمهای خارجی، به محافظت از دادهها در برابر به اشتراکگذاری ناخواسته با اشخاص ثالث کمک میکند.
طرحهای تجاری ChatGPT از پیش امنیت داده در سطح سازمانی را فراهم میکنند. حالت Lockdown بر اساس آن محافظتها توسعه یافته است و برای ChatGPT Enterprise، ChatGPT Edu، ChatGPT برای مراقبتهای بهداشتی و ChatGPT برای معلمان قابل دسترسی است. ادمینها میتوانند آن را در تنظیمات فضای کاری(در یک پنجره جدید باز میشود) با ایجاد یک نقش جدید(در یک پنجره جدید باز میشود) فعال کنند. هنگامی که فعال شود، حالت Lockdown محدودیتهای اضافی را بر روی تنظیمات موجود مدیر اعمال میکند.
بیشتر درباره حالت Lockdown در مرکز راهنمایی(در یک پنجره جدید باز میشود) ما یاد بگیرید.
زیرا برخی از گردشکارهای حیاتی به برنامهها وابستهاند، مدیران فضای کاری کنترلهای جزئیتری را حفظ میکنند. آنها میتوانند دقیقاً انتخاب کنند که کدام اپلیکیشنها—و کدام اقدامات مشخص درون آن اپلیکیشنها—در حالت قفل برای کاربران در دسترس باشند. علاوه بر این، و جدا از حالت Lockdown، پلتفرم گزارشهای انطباق API(در یک پنجره جدید باز میشود) دیدگاه دقیقی از استفاده از برنامه، دادههای به اشتراک گذاشته شده و منابع متصل ارائه میدهد و به مدیران کمک میکند نظارت را حفظ کنند.
ما قصد داریم حالت Lockdown را در ماههای آینده برای مصرفکنندگان در دسترس قرار دهیم.
محصولات هوش مصنوعی میتوانند هنگام اتصال به اپلیکیشنها و وب مفیدتر باشند، و ما به شدت در حفظ امنیت دادههای متصل سرمایهگذاری کردهایم. در عین حال، برخی از قابلیتهای مرتبط با شبکه ریسکهای جدیدی را معرفی میکنند که هنوز بهطور کامل توسط اقدامات ایمنی و امنیتی صنعت پوشش داده نشدهاند. برخی کاربران ممکن است با پذیرش این ریسکها راحت باشند و ما معتقدیم که مهم است کاربران توانایی تصمیمگیری درباره اینکه آیا و چگونه از آنها استفاده کنند را داشته باشند، بهویژه هنگام کار با دادههای خصوصی خود.
رویکرد ما این بوده است که برای ویژگیهایی که ممکن است ریسک اضافی به همراه داشته باشند، راهنمایی درونمحصولی ارائه کنیم. برای روشنتر و هماهنگتر کردن این موضوع، در حال استاندارد سازی نحوه برچسبگذاری یک فهرست کوتاه از قابلیتهای موجود هستیم. این ویژگیها اکنون در ChatGPT، ChatGPT Atlas و Codex از یک برچسب یکسان «خطر بالا» استفاده خواهند کرد تا کاربران هر جا با آنها مواجه میشوند، همان راهنمایی را دریافت کنند.
برای مثال، در Codex، دستیار کد نویسی ما، توسعهدهندگان میتوانند به Codex دسترسی شبکه بدهند تا بتواند در وب اقداماتی مانند جستجوی مستندات انجام دهد. صفحه تنظیمات مربوطه شامل برچسب «خطر افزایشیافته» است، همراه با توضیحی واضح دربارهٔ اینکه چه تغییراتی رخ میدهد، چه خطراتی ممکن است ایجاد شود، و چه زمانی آن دسترسی مناسب است.
یک اسکرینشات از صفحه تنظیمات Codex که در آن کاربران میتوانند پیکربندی کنند که Codex به چه دسترسی شبکهای داشته باشد.
ما به سرمایهگذاری در تقویت تدابیر ایمنی و امنیتی خود ادامه میدهیم، بهویژه برای خطرات جدید، نوظهور یا در حال رشد. همزمان با تقویت تدابیر حفاظتی برای این ویژگیها، برچسب «خطر افزایشیافته» را پس از آنکه تعیین کنیم پیشرفتهای امنیتی این ریسکها را برای استفاده عمومی به اندازه کافی کاهش دادهاند، حذف خواهیم کرد. ما همچنین بهروزرسانی خواهیم کرد که کدام ویژگیها به مرور زمان این برچسب را دارند تا خطر را به بهترین شکل به کاربران منتقل کنیم.
نویسنده
به خواندن ادامه بده
