Przedstawiamy tryb blokady i spójne etykiety podwyższonego ryzyka w ChatGPT

W miarę jak systemy AI podejmują się coraz bardziej złożonych zadań – zwłaszcza tych, które obejmują internet i połączone aplikacje – zmienia się stawka bezpieczeństwa.

Jedno z pojawiających się zagrożeń stało się szczególnie ważne: wstrzykiwanie poleceń⁠. W tych atakach osoba trzecia próbuje wprowadzić w błąd konwersacyjny system AI, aby skłonić go do wykonania złośliwych poleceń lub ujawnienia poufnych informacji.

Dzisiaj wprowadzamy dwa nowe zabezpieczenia, które mają za zadanie pomóc użytkownikom i organizacjom w ograniczaniu skutków ataków typu wstrzykiwanie poleceń, zapewniając lepszą widoczność ryzyka i silniejsze mechanizmy kontroli:

• Tryb blokady w ChatGPT, zaawansowane, opcjonalne ustawienie zabezpieczeń dla użytkowników o wyższym ryzyku
• Etykiety „Podwyższone ryzyko” dla pewnych funkcji, które mogą wprowadzać dodatkowe ryzyko w ChatGPT, ChatGPT Atlas i Codex

Dodatki te opierają się na naszych istniejących zabezpieczeniach na poziomie modelu, produktu i systemu. Obejmuje to sandboxing, ochronę przed eksfiltracją danych na bazie adresów URL⁠, monitorowanie i egzekwowanie oraz kontrole przedsiębiorstwa⁠, takie jak dostęp oparty na rolach i dzienniki audytu.

Tryb blokady to opcjonalne, zaawansowane ustawienie zabezpieczeń przeznaczone dla niewielkiej grupy użytkowników szczególnie dbających o bezpieczeństwo, takich jak kadra kierownicza lub zespoły ds. bezpieczeństwa w renomowanych organizacjach, którzy wymagają zwiększonej ochrony przed zaawansowanymi zagrożeniami. Nie jest to konieczne dla większości użytkowników. Tryb blokady ściśle ogranicza interakcję ChatGPT z systemami zewnętrznymi, aby zmniejszyć ryzyko eksfiltracji danych opartej na wstrzykiwaniu poleceń.

Tryb blokady deterministycznie wyłącza niektóre narzędzia i możliwości w ChatGPT, które przeciwnik mógłby próbować wykorzystać do eksfiltracji poufnych danych z rozmów użytkowników lub połączonych aplikacji poprzez ataki takie jak wstrzykiwanie poleceń.

Na przykład przeglądanie sieci w trybie blokady jest ograniczone do treści z pamięci podręcznej, więc żadne aktywne żądania sieciowe nie opuszczają kontrolowanej sieci OpenAI. To ograniczenie ma na celu zapobieganie eksfiltracji wrażliwych danych do atakującego podczas przeglądania. Niektóre funkcje są całkowicie wyłączane, gdy nie możemy zapewnić mocnych, deterministycznych gwarancji bezpieczeństwa danych.

Plany biznesowe ChatGPT już teraz zapewniają bezpieczeństwo danych na poziomie korporacyjnym⁠. Tryb blokady opiera się na tych zabezpieczeniach i jest dostępny w ramach planów ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare i ChatGPT for Teachers. Administratorzy mogą włączyć tę funkcję w Ustawieniach przestrzeni roboczej⁠(otwiera nowe okno), tworząc nową rolę⁠(otwiera nowe okno). Po włączeniu trybu blokady nakładane są dodatkowe ograniczenia oprócz istniejących ustawień administratora.

Dowiedz się więcej o trybie blokady w naszym Centrum pomocy⁠(otwiera nowe okno).

Ponieważ niektóre krytyczne przepływy pracy zależą od aplikacji, administratorzy przestrzeni roboczej zachowują bardziej szczegółową kontrolę. Mogą wybrać dokładnie, które aplikacje – i które konkretne działania w ramach tych aplikacji – są dostępne dla użytkowników w trybie blokady. Dodatkowo, i niezależnie od trybu blokady, Platforma dzienników API dla wymogów zgodności⁠(otwiera nowe okno) zapewnia szczegółowy wgląd w korzystanie z aplikacji, udostępniane dane i podłączone źródła, co pomaga administratorom zachować nadzór.

Planujemy udostępnić tryb blokady konsumentom w nadchodzących miesiącach.

Produkty AI mogą być bardziej pomocne, gdy są połączone z aplikacjami i siecią, a my zainwestowaliśmy znaczne środki w bezpieczeństwo połączonych danych⁠. Jednocześnie niektóre możliwości związane z siecią wprowadzają nowe zagrożenia, które nie są jeszcze w pełni uwzględnione w branżowych środkach zaradczych w zakresie bezpieczeństwa i zabezpieczeń. Niektórzy użytkownicy mogą czuć się komfortowo, podejmując to ryzyko, i uważamy, że ważne jest, aby użytkownicy mieli możliwość zdecydowania, czy i w jaki sposób z nich korzystać, zwłaszcza podczas pracy z ich prywatnymi danymi.

Nasze podejście polegało na zapewnieniu wskazówek w produkcie dla funkcji, które mogą wprowadzać dodatkowe ryzyko. Aby było to bardziej przejrzyste i spójne, ujednolicamy sposób, w jaki opisujemy krótką listę istniejących funkcji. Funkcje te będą teraz używać spójnej etykiety „Podwyższone ryzyko” w ChatGPT, ChatGPT Atlas i Codex, dzięki czemu użytkownicy otrzymują te same wskazówki, gdziekolwiek się z nimi spotkają.

Na przykład w Codex, naszym asystencie kodowania, programiści mogą przyznać Codex dostęp do sieci, aby mógł podejmować działania w Internecie, takie jak wyszukiwanie dokumentacji. Odpowiedni ekran ustawień zawiera etykietę „Podwyższone ryzyko” wraz ze zrozumiałym wyjaśnieniem, co się zmienia, jakie zagrożenia mogą zostać wprowadzone oraz kiedy taki dostęp jest odpowiedni.

Nadal inwestujemy we wzmacnianie naszych zabezpieczeń, zwłaszcza w przypadku nowych, pojawiających się lub rosnących zagrożeń. W miarę wzmacniania zabezpieczeń tych funkcji usuniemy etykietę „Podwyższone ryzyko”, gdy uznamy, że postępy w zakresie bezpieczeństwa w wystarczającym stopniu ograniczyły te czynniki ryzyka do ogólnego użytku. Będziemy również nadal aktualizować funkcje oznaczone tą etykietą, aby jak najlepiej informować użytkowników o ryzyku.