Sikkerhedsindsatsen ændrer sig, efterhånden som AI-systemer påtager sig mere komplekse opgaver, især dem, der involverer internettet og forbundne apps.
En ny risiko vokser i stigende grad: prompt injection. I disse angreb forsøger en tredjepart at vildlede et samtale-AI-system til at følge skadelige instruktioner eller afsløre følsomme oplysninger.
I dag introducerer vi to nye beskyttelsesforanstaltninger, der er designet til at hjælpe brugere og organisationer med at afbøde 'prompt injection'-angreb, med klarere indsigt i risici og stærkere kontrolforanstaltninger:
- Lockdown-tilstand i ChatGPT er en avanceret, valgfri sikkerhedsindstilling for brugere med højere risiko
- “Forhøjet risiko”-mærkater for visse funktioner, der kan introducere yderligere risiko i ChatGPT, ChatGPT Atlas og Codex
Disse tilføjelser bygger videre på vores eksisterende beskyttelser på tværs af model-, produkt- og systemniveauer. Dette inkluderer sandboxing, beskyttelse mod URL-baseret dataeksfiltration, overvågning og håndhævelse samt virksomhedskontroller såsom rollebaseret adgang og revisionslogfiler.
Lockdown-tilstand er en valgfri, avanceret sikkerhedsindstilling, der er designet til en lille gruppe meget sikkerhedsbevidste brugere såsom ledere eller sikkerhedsteams i fremtrædende organisationer, der kræver øget beskyttelse mod avancerede trusler. Det er ikke nødvendigt for de fleste brugere. Lockdown-tilstand begrænser strengt, hvordan ChatGPT kan interagere med eksterne systemer for at reducere risikoen for dataeksfiltrering baseret på prompt injection.
Lockdown-tilstand deaktiverer deterministisk visse værktøjer og funktioner i ChatGPT, som en angriber kunne forsøge at udnytte til at eksfiltrere følsomme data fra brugernes samtaler eller tilsluttede apps via angreb såsom "prompt injection"-angreb.
For eksempel er webbrowsing i Lockdown-tilstand begrænset til cachelagret indhold, så ingen live netværksanmodninger forlader OpenAI’s kontrollerede netværk. Denne begrænsning er designet til at forhindre, at følsomme data eksfiltreres til en angriber gennem browsing. Nogle funktioner er helt deaktiverede, hvis vi ikke kan give stærke deterministiske garantier for datasikkerhed.
Lockdown-tilstand er en ny deterministisk indstilling, der hjælper med at beskytte data mod utilsigtet deling med tredjeparter ved stramt at begrænse, hvordan ChatGPT kan interagere med visse eksterne systemer.
ChatGPT Business-abonnementer tilbyder allerede datasikkerhed på virksomhedsniveau. Lockdown-tilstand bygger videre på disse beskyttelsesfunktioner og er tilgængelig for ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare og ChatGPT for Teachers. Administratorer kan aktivere tilstanden i Indstillinger for arbejdsområde(åbner i et nyt vindue) ved at oprette en ny rolle(åbner i et nyt vindue). Når den er aktiveret, tilføjer Lockdown-tilstand yderligere begrænsninger for de eksisterende administratorindstillinger.
Få mere at vide om Lockdown-tilstand i vores Hjælp(åbner i et nyt vindue).
Eftersom nogle kritiske arbejdsgange er afhængige af apps, har administratorer for arbejdsområde mere detaljerede kontroller. De kan vælge præcist, hvilke apps og hvilke specifikke handlinger i disse apps, der er tilgængelige for brugere i Lockdown-tilstand. Derudover, men adskilt fra Lockdown-tilstand, giver Compliance API-logplatformen(åbner i et nyt vindue) detaljeret indsigt i app-brug, delte data og tilsluttede kilder, hvilket hjælper administratorer med at bevare overblikket.
Vi planlægger at gøre Lockdown-tilstand tilgængelig for forbrugerne i de kommende måneder.
AI-produkter kan være mere nyttige, når de er forbundet til dine apps og internettet, og vi har investeret kraftigt i at holde forbundne data sikre. Samtidig introducerer nogle netværksrelaterede funktioner nye risici, som endnu ikke er fuldt ud håndteret af branchens sikkerheds- og beskyttelsesforanstaltninger. Nogle brugere er måske ikke urolige ved at tage disse risici, og vi mener, at det er vigtigt, at brugerne har mulighed for at beslutte, om og hvordan de vil bruge dem, især når de arbejder med deres private data.
Vores tilgang har været at tilbyde vejledning i produktet for funktioner, der kan introducere yderligere risiko. For at gøre dette tydeligere og mere ensartet, standardiserer vi den måde, hvorpå vi betegner en kort liste over eksisterende funktioner. Disse funktioner vil nu anvende en ensartet “Forhøjet risiko”-mærkat på tværs af ChatGPT, ChatGPT Atlas og Codex, så brugerne modtager den samme vejledning, uanset hvor de ser dem.
For eksempel kan udviklere i Codex, vores kodningsassistent, give Codex netværksadgang, så den kan udføre handlinger på nettet, som f.eks. at slå dokumentation op. Den relevante indstillingsskærm inkluderer mærkaten “Forhøjet risiko” samt en klar forklaring på, hvad der ændres, hvilke risici der kan opstå, og hvornår denne adgang er passende.
Et skærmbillede af Codex-indstillingsskærmen, hvor brugerne kan konfigurere, hvilken netværksadgang Codex har.
Vi fortsætter med at investere i at styrke vores sikkerheds- og sikringsforanstaltninger, især overfor nye, fremvoksende eller stigende risici. Efterhånden som vi styrker sikkerhedsforanstaltningerne for disse funktioner, vil vi fjerne mærkaten “Forhøjet risiko”, når vi vurderer, at sikkerhedsforbedringer har reduceret disse risici i tilstrækkelig grad til generel brug. Vi vil også fortsætte med at opdatere, hvilke funktioner der bærer denne mærkat over tid for bedst muligt at kommunikere eventuelle risici til brugere.
Skrevet af
Læs videre
