Hoe we veiligheid, beveiliging en privacy inbouwen in dots

Dots zijn continu actieve agents die doorlopende verantwoordelijkheden op zich nemen, zodat je meer tijd en aandacht hebt voor wat jij belangrijk vindt. Elke dot heeft een eigen computer en werkt met de apps die jij koppelt. Je geeft dots doelen en bepaalt wat ze zelfstandig mogen doen. Ze kunnen de stappen doorlopen, zich aanpassen als er iets verandert en tussen gesprekken door verder werken. Ze kunnen bijvoorbeeld een nieuwsverhaal volgen en een conceptnieuwsbrief opstellen, of helpen een project bij te werken zodra er nieuwe informatie binnenkomt. Ze leggen resultaten aan je voor ter beoordeling en vragen je om beslissingen waarvoor jouw oordeel nodig is.

Als je dots die verantwoordelijkheid geeft, vertrouw je ze meer informatie en werk toe. Het moet duidelijk voor je zijn waar elke dot toegang toe heeft, hoe die toegang wordt gebruikt en wanneer jouw inbreng nodig is. Dat is belangrijk, want fouten van een agent kunnen gevolgen hebben buiten een gesprek. Als een agent een verzoek verkeerd begrijpt, kan die bijvoorbeeld het verkeerde bestand wijzigen of informatie delen die je privé wilde houden.

We bouwen bescherming in rond elk onderdeel van dat werk. We beginnen met GPT‑6 Astra, dat we trainen om je bedoeling te begrijpen en veiligheidsregels te volgen. Daar voegen we waarborgen aan toe rond de informatie die dots gebruiken, de omgevingen waarin ze werken en de acties die ze willen uitvoeren. Een beveiligde cloudwerkruimte helpt de gevolgen van fouten te beperken, veilige inlogprocedures helpen gevoelige inloggegevens te beschermen en afzonderlijke actiecontroles helpen stappen op te sporen die buiten je instructies of de veiligheidseisen vallen. Je kiest wat je koppelt, stelt voorkeuren in en volgt het werk of stuurt het bij terwijl het vordert.

Dots kunnen nog steeds fouten maken. We blijven deze bescherming verbeteren op basis van wat we leren van gebruik in de praktijk. Hier leggen we uit hoe de waarborgen samenwerken, waar jij zeggenschap over hebt en welke beperkingen er nog zijn. Zo kun je weloverwogen beslissen welk werk je aan dots toevertrouwt.

Dots draaien op GPT‑6 Astra, ons meest capabele model en het model dat het best is afgestemd op menselijke intenties en waarden. Astra blinkt uit in het begrijpen van je doel, het werken binnen de grenzen van je verzoek en het stellen van gerichte vragen wanneer de antwoorden bepalend kunnen zijn voor wat het moet doen. Deze vaardigheden helpen dots om taken over langere tijd uit te voeren zonder je bedoeling uit het oog te verliezen.

We hebben Astra getraind om schadelijke verzoeken te weigeren, waaronder verzoeken om misbruik op het gebied van biologie of cyberbeveiliging. We testen hoe dots omgaan met veranderende instructies, dubbelzinnige verzoeken en pogingen om ze buiten de door jou verleende machtigingen te laten handelen. Menselijke en geautomatiseerde red teaming helpen ons zwakke plekken te vinden, het model en de omliggende systemen te verbeteren en die wijzigingen opnieuw te testen.

We vullen die modelwaarborgen aan met de beveiliging van ChatGPT en extra maatregelen voor agents die namens jou kunnen blijven werken.

De ingebouwde bescherming van ChatGPT omvat versleuteling van je content tijdens opslag en tijdens verzending tussen jou, OpenAI en onze dienstverleners. Ook zijn er toegangscontroles die opgeslagen informatie helpen beschermen. Onze systemen voor accountbeveiliging letten ook op verdacht gebruik van je OpenAI-account. Als een sessie lijkt te zijn overgenomen, kunnen ze je verplichten opnieuw in te loggen.

Agents hebben ook bescherming nodig tegen informatie die ze tijdens hun werk tegenkomen. Een webpagina, e-mail of document kan kwaadaardige instructies bevatten die agents proberen bij te sturen of privégegevens te laten delen. Dit probleem heet prompt-injectie. We combineren modelwaarborgen met beperkingen op tools, controles voorafgaand aan acties en monitoring om te helpen voorkomen dat die content tot een ongewenste actie leidt.

We monitoren dots ook terwijl ze acties plannen en uitvoeren. Daarbij letten we op mogelijk schadelijk gedrag, zoals handelen buiten je instructies of proberen waarborgen te omzeilen. Als de veiligheidsmonitoring een mogelijk probleem signaleert in het lopende werk van een dot, kan die het werk onderbreken en je een waarschuwing tonen om te beoordelen. Deze monitoring is ingebouwd en helpt problemen op te sporen terwijl een taak vordert, naast de bescherming die beperkt waartoe dots toegang hebben en wat ze kunnen doen.

Elke dot heeft een eigen cloudcomputer om te browsen, informatie te analyseren, bestanden te maken en tools uit te voeren. Dots kunnen in deze werkruimtes blijven doorwerken, ook als je zelf niet actief betrokken bent.

Je kiest welke accounts dots mogen gebruiken. Dat doe je door apps te koppelen binnen de machtigingen die je aan ChatGPT hebt verleend, of door in de browser van een dot in te loggen op een website, met veilig inloggen waar dat wordt ondersteund. Je kunt ook je eigen computer koppelen, zodat dots je op meer manieren kunnen helpen. Ze kunnen dan bijvoorbeeld een spreadsheet op je bureaublad analyseren of programmeertools gebruiken die op je apparaat zijn geïnstalleerd.

Binnen de beveiligde werkruimte van elke dot beperkt sandboxing tot welke code en tools die dot toegang heeft. Zo worden de gevolgen van schadelijke code of een verkeerd commando beperkt. We isoleren ook de cloudomgevingen van gebruikers van elkaar en onderhouden het onderliggende Linux-besturingssysteem en de Chrome-browser.

Dots voeren code uit in omgevingen die gescheiden zijn van de systemen die hun werk coördineren en belangrijke waarborgen afdwingen. Ze kunnen daar bestanden maken en tools uitvoeren, maar die toegang niet gebruiken om de veiligheidssystemen te wijzigen of verplichte controles uit te schakelen. Deze scheiding helpt de waarborgen in stand te houden, ook als een dot een fout maakt.

De hieronder beschreven actieregels bepalen wat dots met hun toegang mogen doen.

Met veilig inloggen kunnen dots in accounts werken zonder dat wachtwoorden in het gesprek terechtkomen. Bij ondersteunde inlogprocedures wordt het model gepauzeerd terwijl je een beveiligd inlogformulier invult. Dat formulier stuurt je inloggegevens rechtstreeks naar de browseromgeving en dient ze in zonder ze bloot te stellen aan de context van het model. De dot gaat vervolgens verder in het account waarop je bent ingelogd. Door het wachtwoord buiten het gesprek te houden, wordt de kans kleiner dat het in een antwoord verschijnt of per ongeluk wordt gedeeld.

Ondersteunde inlogprocedures met opgeslagen wachtwoorden behouden die scheiding via een aparte versleutelde dienst voor inloggegevens. Deze dienst levert het wachtwoord voor het inloggen zonder het aan het model door te geven. Zo kunnen dots werken in accounts waarvoor jij toestemming hebt gegeven, terwijl wachtwoorden buiten de context van het model blijven. Deze bescherming geldt specifiek voor veilig inloggen en inlogprocedures met opgeslagen wachtwoorden. Geheime gegevens die apart in een leesbaar bericht of document staan, kunnen nog steeds zichtbaar zijn voor het model.

Je beheert welke apps dots mogen gebruiken via je bestaande koppelingen en machtigingen in ChatGPT. Deze worden gedeeld door ChatGPT, ChatGPT Work en Codex. In het onderdeel Plug-ins onder Instellingen kun je gekoppelde accounts bekijken en wijzigen waar dots voortaan toegang toe hebben. Als je een app ontkoppelt, wordt er via die koppeling geen nieuwe informatie meer gedeeld. Informatie die een dot al heeft verkregen, blijft wel in de eigen context bewaard. Deze machtigingen regelen de toegang tot je apps; ze kunnen verplichte veiligheidseisen niet opzijzetten.

Als je wilt dat dots met lokale bestanden of tools werken, kun je ook je computer koppelen. Voor die koppeling blijven de lokale sandbox en de toepasselijke actiecontroles gelden. Voor het gebruik van de microfoon of camera van je computer zijn ook apparaatmachtigingen nodig. Je kunt ervoor kiezen die aan ChatGPT te verlenen.

Met de Activiteitenweergave in de desktop-app kun je lopend werk volgen en bijsturen. Daar zie je lopende en gedelegeerde taken en hun status. Je kunt context toevoegen, een misverstand rechtzetten, een andere richting kiezen of een dot vragen te stoppen.

Dots bouwen gaandeweg context op om je beter te kunnen helpen. Wanneer ze werk delegeren, krijgen de andere agents de instructie om de informatie te bewaren die nodig is voor de taak en onnodige gevoelige details niet te bewaren. Elke dot heeft een eigen context die je op elk moment kunt resetten.

Voor werkruimtes van ChatGPT Business, Enterprise en Edu gebruiken we je gegevens standaard niet om onze modellen te trainen. Bij persoonlijke ChatGPT‑abonnementen bepaal je via de instelling "Het model verbeteren voor iedereen" of de gesprekken van je dots en het werk dat ze uitvoeren worden gebruikt om onze modellen te verbeteren. Als modeltraining is ingeschakeld, kan dit ook acties van dots en door jou ingestelde automatiseringen omvatten, nadat we hebben geprobeerd persoonlijk identificeerbare gegevens te verwijderen. Meer over hoe je gegevens worden gebruikt, lees je in dit artikel⁠(opent in een nieuw venster) in ons helpcentrum.

Naast het werk dat je ze vraagt te doen, kunnen dots onderzoekstaken op de achtergrond starten om andere manieren te vinden om je te helpen. Zo kunnen ze bijvoorbeeld een wijziging in je reisplannen opmerken. We noemen dit proactief onderzoek.

Deze taken worden uitgevoerd in de cloudomgeving van elke dot. Ze gebruiken tools met alleen leestoegang om informatie uit toegestane gekoppelde bronnen te verzamelen en slaan vervolgens privénotities op voor die dot. We dwingen deze beperkingen af in de code: de onderzoekstaken kunnen niet rechtstreeks berichten naar anderen sturen, content in gekoppelde apps wijzigen of een browser of desktop bedienen. Dots kunnen de bevindingen gebruiken om te bepalen hoe ze kunnen helpen, maar voor elke vervolgactie gelden de gebruikelijke regels en controles.

We trainen onze modellen niet rechtstreeks op die onderzoeksthreads op de achtergrond of op de notities die daaruit voortkomen. Een dot kan wel notities ontvangen van een eigen onderzoekstaak op de achtergrond of delen van de eigen onderzoeksthreads lezen. Informatie die op deze manier terechtkomt in een gesprek of taak die in aanmerking komt voor modeltraining, kan daarvoor worden gebruikt, afhankelijk van je instellingen. Een onderzoekstaak op de achtergrond kan bijvoorbeeld informatie verzamelen over verschillende bestemmingen voor een aanstaande reis naar Europa. Die onderzoeksthread en de bijbehorende notities worden niet rechtstreeks voor training gebruikt. Als je je dot later vraagt om een reis naar Lissabon te helpen plannen, kan die een notitie over Lissabon uit de eigen onderzoekstaak op de achtergrond lezen. Die notitie wordt onderdeel van de context van je gesprek over reisplanning en kan vervolgens voor training worden gebruikt, afhankelijk van je instellingen. De rest van het onderzoek op de achtergrond wordt niet voor training gebruikt, tenzij het ook wordt opgenomen in een gesprek of taak die daarvoor in aanmerking komt.

Dots volgen ingebouwde veiligheidskaders die bedoeld zijn om schade te voorkomen en beslissingen met grote gevolgen bij jou te laten. Hun veiligheidsregels verplichten ze om schadelijke verzoeken te weigeren, waaronder verzoeken om misbruik op het gebied van biologie of cyberbeveiliging. Voor taken waarbij ze kunnen helpen, bepalen actieregels wanneer ze mogen doorgaan, wanneer ze om bevestiging moeten vragen en wanneer ze een stap aan jou moeten overlaten.

Binnen die grenzen kunnen dots informatie lezen waartoe ze toegang hebben, die analyseren en concepten voorbereiden in je gesprekken. Ze zijn getraind om voor het versturen van een bericht of het delen van een bestand toestemming te vragen die zowel de informatie als het type ontvanger dekt. Hoe gevoeliger de gegevens, hoe specifieker de ontvangers moeten zijn. Voor gezondheidsgegevens moet de gebruiker bijvoorbeeld altijd een ontvanger bij naam noemen ("deel mijn medische voorgeschiedenis met dokter Thompson"). Voor minder gevoelige persoonsgegevens, zoals een e-mailadres of telefoonnummer, moet de gebruiker standaard categorieën ontvangers opgeven ("elke luchtvaartmaatschappij"). De gebruiker kan de regels voor minder gevoelige persoonsgegevens verder verruimen ("deel via elk onlineformulier") door een aangepaste regel aan te maken. In het volgende onderdeel lees je meer over deze functie. Die toestemming blijft gekoppeld aan je instructies voor de taak. Later verdergaan of werk delegeren verruimt die toestemming niet.

Dots kunnen aankopen doen met betaalkaarten die je al op de website van een verkoper hebt opgeslagen. Voor die aankopen is jouw goedkeuring nodig.

Sommige acties vereisen elke keer jouw bevestiging, zoals het definitief verwijderen van gegevens, het installeren of uitvoeren van software uit een onbekende bron of het verlenen van nieuwe toegang die gevolgen heeft voor de beveiliging. Zo krijg je de kans om wijzigingen te beoordelen die mogelijk moeilijk ongedaan te maken zijn of iemand nieuwe toegang geven.

Bij andere gevoelige stappen, zoals het wijzigen van een wachtwoord of het overboeken van geld tussen financiële rekeningen, kunnen dots helpen met de omliggende taak. De gevoelige stappen zelf moeten ze aan jou overlaten.

Met Aangepaste regels bepaal je hoe dots je binnen deze ingebouwde bescherming helpen. Je kunt ze bijvoorbeeld opdragen om nooit e-mails te versturen. Je kunt ook taakspecifieke instructies geven, zoals een dot vragen om een collega te laten weten dat je afwezig bent zonder de persoonlijke reden te delen. Die instructies blijven gelden wanneer de dot werk delegeert of op de achtergrond werkt.

Dots kunnen je helpen aangepaste regels te schrijven, maar hebben jouw goedkeuring nodig om ze te wijzigen. Deze voorkeuren werken binnen de ingebouwde veiligheidskaders. Ze kunnen verplichte bevestigingen, overdrachten aan jou of fundamentele veiligheidseisen niet wegnemen.

Voordat dots acties uitvoeren, zoals e-mails versturen of bestanden wijzigen, toetst een afzonderlijk veiligheidssysteem, Automatische controle, de geplande stappen aan je instructies, aangepaste regels en veiligheidseisen. Bij een e-mail controleert het de ontvanger en het bericht om een verkeerd adres of informatie die je niet wilde delen te helpen opsporen.

Als Automatische controle een stap toestaat, voert de dot die de stap voorstelde deze uit met de juiste computer- of apptool. De dot gebruikt het resultaat vervolgens om verder te werken aan je taak. Daarbij kan eerder verleende goedkeuring worden gebruikt, zolang die de actie dekt en de regels geen nieuwe bevestiging vereisen.

Als Automatische controle een stap blokkeert, voorkomt het systeem dat de actie wordt uitgevoerd en vertelt het de dot waarom. De dot kan om meer informatie of jouw goedkeuring vragen als dat de blokkade kan opheffen, en de stap vervolgens opnieuw ter beoordeling indienen. Afhankelijk van de reden kan de dot in plaats daarvan een toegestaan alternatief proberen, een gevoelige stap aan jou overlaten of stoppen. Jouw goedkeuring kan fundamentele veiligheidseisen niet opzijzetten.

We houden de mechanismen die Automatische controle afdwingen buiten de omgevingen die dots kunnen wijzigen. Zo kunnen ze een verplichte controle niet aanpassen of uitschakelen. Voor gewone stappen met alleen leestoegang gelden nog steeds appmachtigingen, beperkingen op tools en andere waarborgen, maar deze extra controle is daarvoor niet nodig.

Als je dots doorlopend werk toevertrouwt, moet je weten hoe ze je instructies volgen en reageren wanneer er iets onverwachts gebeurt. Astra helpt ze je bedoeling te begrijpen. Tegelijk helpt de bescherming rond hun gegevens, werkruimtes, inloggegevens en acties de schade door fouten of kwaadaardige content te beperken. Samen geven deze waarborgen dots de ruimte om nuttig werk te doen en verkleinen ze de kans dat een fout leidt tot een ongewenste actie of het onbedoeld delen van informatie.

Je kiest wat dots mogen koppelen en hoe ze je helpen. Je kunt hun voortgang volgen of de koers wijzigen als je behoeften veranderen. Door goedkeuringen en overdrachten aan jou blijven belangrijke beslissingen in jouw handen. Dots kunnen nog steeds fouten maken. Daarom blijven we hun bescherming testen en verbeteren op basis van wat we leren van gebruik in de praktijk. Ons doel is om het makkelijker te maken werk aan dots over te laten en bij terugkomst bruikbare voortgang te zien. Daarbij blijven jouw voorkeuren leidend voor de taak en belangrijke beslissingen in jouw handen.

Lees de systeemkaart⁠(opent in een nieuw venster) voor meer informatie over onze waarborgen, veiligheidsevaluaties en resterende beperkingen.

Meer over de beveiligingsbasis van ChatGPT lees je in Beveiliging en privacy bij OpenAI. Lees Je gegevens beschermen wanneer een AI-agent op een link klikt voor een nadere blik op een van onze maatregelen voor webbeveiliging.