Претставување на режим на заклучување и постојани ознаки за зголемен ризик во ChatGPT

Како што системите за вештачка интелигенција преземаат посложени задачи – особено оние што вклучуваат веб и поврзани апликации – се менуваат безбедносните ризици.

Еден нов ризик стана особено важен: вметнување злонамерни инструкции во промпт⁠. Во овие напади, трето лице се обидува да го измами разговорниот систем со вештачка интелигенција да следи злонамерни инструкции или да открие чувствителни информации.

Денес, воведуваме две нови заштити дизајнирани да им помогнат на корисниците и организациите да ги ублажат нападите со вметнување злонамерни инструкции во промпт, со појасна видливост на ризикот и појаки контроли:

• Режим на заклучување во ChatGPT, напредна и опционална безбедносна поставка за корисници со висок ризик
• Етикети „Зголемен ризик“ за одредени функции што може да воведат дополнителен ризик во ChatGPT, ChatGPT Atlas и Codex

Овие дополнувања се надоврзуваат на нашите постојни заштити на ниво на модел, производ и систем. Ова вклучува контролирана средина, заштита од ексфилтрација на податоци базирана на URL⁠, следење и спроведување и контроли на претпријатието⁠ како контроли на пристап врз основа на улоги и дневници за ревизија.

Режимот на заклучување е незадолжителна, напредна безбедносна поставка наменета за мал број корисници со висока свест за безбедност – како што се извршни директори или безбедносни тимови во истакнати организации – кои бараат зголемена заштита од напредни закани. Не е неопходно за повеќето корисници. Режимот на заклуќување строго ограничува како ChatGPT може да комуницира со надворешни системи за да го намали ризикот од ексфилтрација на податоци заснована на вметнување злонамерни инструкции во промпт.

Режимот на заклучување на детерминистички начин оневозможува одредени алатки и функции во ChatGPT што противник би можел да ги искористи за извлекување на чувствителни податоци од разговорите на корисниците или поврзаните апликации преку напади како што се вметнување злонамерни инструкции во промпт.

На пример, прелистувањето на интернет во режимот на заклучување е ограничено на кеширана содржина, така што никакви мрежни барања во живо не ја напуштаат контролираната мрежа на OpenAI. Ова ограничување е наменето да спречи чувствителни податоци да бидат пренесени до напаѓач преку прелистување. Некои функции се целосно оневозможени кога не можеме да обезбедиме сигурни и јасни гаранции за безбедноста на податоците.

Бизнис плановите на ChatGPT веќе нудат безбедност на податоци на ниво на претпријатие⁠. Режимот на заклучување се надоврзува на тие заштити и е достапен за ChatGPT Enterprise, ChatGPT Edu, ChatGPT за здравствени услуги и ChatGPT за наставници. Администраторите можат да го овозможат во „Поставки на работниот простор“⁠(се отвора во нов прозорец) со креирање на нова улога⁠(се отвора во нов прозорец). Кога е овозможен, режимот на заклучување додава дополнителни ограничувања врз постојните администраторски поставки.

Дознајте повеќе за режимот на заклучување во нашиот „Центар за помош“⁠(се отвора во нов прозорец).

Бидејќи некои критични работни текови се потпираат на апликации, администраторите на работниот простор задржуваат подетални контроли. Тие можат да изберат точно кои апликации – и кои конкретни дејства во рамките на тие апликации – се достапни за корисниците во режимот на заклучување. Дополнително, и одделно од режимот на заклучување, „Платформата за евиденција на усогласеност на API“⁠(се отвора во нов прозорец) обезбедува детален увид во употребата на апликациите, споделените податоци и поврзаните извори, помагајќи им на администраторите да одржуваат надзор.

Планираме да го направиме режимот на заклучување достапен за потрошувачите во наредните месеци.

Производите со вештачка интелигенција можат да бидат покорисни кога се поврзани со вашите апликации и вебот, а ние вложивме многу во обезбедување на безбедноста на поврзаните податоци⁠. Во исто време, некои мрежни можности воведуваат нови ризици кои сè уште не се целосно решени од мерките за безбедност и сигурност на индустријата. Некои корисници можеби ќе се чувствуваат удобно да ги преземат овие ризици и веруваме дека е важно корисниците да имаат можност да одлучат дали и како да ги користат, особено кога работат со своите приватни податоци.

Нашиот пристап е да обезбедиме насоки во производот за функции што може да воведат дополнителен ризик. За да биде ова појасно и поконзистентно, стандардизираме како ја означуваме кратката листа на постојни способности. Овие функции сега ќе користат конзистентна етикета „Зголемен ризик“ низ ChatGPT, ChatGPT Atlas и Codex, за корисниците да добиваат исто упатство каде и да ги сретнат.

На пример, во Codex, нашиот асистент за кодирање, програмерите можат да му овозможат мрежен пристап на Codex за да може да презема активности на интернет, како што е пребарување на документација. Екранoт за поставки вклучува ознака „Зголемен ризик“, заедно со јасно објаснување за тоа што се менува, кои ризици може да се воведат и кога е соодветно да се користи тој пристап.

Ние продолжуваме да инвестираме во зајакнување на нашите мерки за безбедност и сигурност, особено за нови, појавувачки или растечки ризици. Додека ги зајакнуваме заштитните мерки за овие функции, ќе ја отстраниме ознаката „Зголемен ризик“ штом утврдиме дека безбедносните подобрувања доволно ги ублажиле тие ризици за општа употреба. Исто така, ќе продолжиме да ажурираме кои функции ја носат оваа ознака со текот на времето, за најдобро да го пренесеме ризикот на корисниците.