Die Option „Keine Datenaufbewahrung“ (ZDR) für Frontier-Modelle

Keine Datenaufbewahrung bedeutet für berechtigte API-Kund:innen eine klare Zusage: OpenAI bewahrt ihre Prompts oder Modellantworten nach der Verarbeitung einer Anfrage nicht auf. OpenAI-Mitarbeitende können Kundeninhalte nicht zur Prüfung einsehen¹. Daten von Unternehmenskunden werden nicht zum Trainieren unserer Modelle verwendet, sofern die Kundenunternehmen dem nicht ausdrücklich zustimmen.

Wenn Modelle längere und komplexere Aufgaben übernehmen, werden manche ernsthaften Risiken möglicherweise erst über mehrere Interaktionen hinweg sichtbar. Bestehende ZDR-kompatible Sicherheitssysteme bewerten jede Interaktion einzeln. Heute geben wir einen Ausblick auf Private Safety Processing. Das Verfahren soll Muster über zusammenhängende Interaktionen hinweg erkennen, ohne OpenAI-Mitarbeitenden Zugriff auf die zugrunde liegenden Inhalte zu geben.

Bei ZDR-Bereitstellungen verbleiben Kundeninhalte auf einer vom Kundenunternehmen kontrollierten Infrastruktur. Wir entwickeln außerdem eine Option, bei der Inhalte auf der Infrastruktur von OpenAI gespeichert und mit Schlüsseln verschlüsselt werden, die das Kundenunternehmen kontrolliert. In beiden Fällen können automatisierte Systeme möglichen Missbrauch erkennen und begrenzte Sicherheitssignale zurückgeben, ohne OpenAI-Mitarbeitenden die zugrunde liegenden Prompts oder Antworten offenzulegen.

Die schwerwiegendsten Risiken für die KI-Sicherheit sind nicht immer in einer einzelnen Interaktion erkennbar. Potenziell schädliche Absichten werden oft erst deutlich, wenn mehrere Interaktionen gemeinsam betrachtet werden. Ähnliche Risiken können entstehen, wenn böswillige Akteure wiederholt Schutzmaßnahmen ausloten, sich über mehrere Konten hinweg abstimmen oder Bedrohungen als gewöhnliche Forschung tarnen. Risiken können sich auch im Verlauf einer agentenbasierten Aufgabe entwickeln, etwa wenn ein System von der Absicht der nutzenden Person abweicht und weiter agiert, obwohl es zum Anhalten aufgefordert wurde.

Wenn KI-Systeme längere und komplexere Aufgaben übernehmen, wird dieser umfassendere Kontext immer wichtiger, um legitime Aktivitäten von Missbrauch zu unterscheiden und sicherzustellen, dass KI-Agenten innerhalb ihrer vorgesehenen Befugnisse bleiben.

Bei einigen neueren Bereitstellungen von Frontier-Modellen mussten Kundenunternehmen ihrem KI-Anbieter erlauben, sensible Inhalte zur Sicherheitsüberwachung aufzubewahren. Für viele Organisationen stehen solche Anforderungen im Widerspruch zu ihren Sicherheitsverpflichtungen oder ihren Zusagen gegenüber den Menschen, für die sie arbeiten.

Private Safety Processing ist so konzipiert, dass wir auch weiterhin ZDR anbieten können.

Private Safety Processing baut auf den automatisierten Schutzmaßnahmen auf, die bereits bei ZDR und anderen Bereitstellungen eingesetzt werden. Bestehende ZDR-kompatible Sicherheitssysteme bewerten Interaktionen einzeln. Private Safety Processing weitet diese Schutzmaßnahmen auf zusammenhängende Interaktionen aus. So können automatisierte Systeme Muster erkennen, ohne dass OpenAI-Mitarbeitende Zugriff auf aufbewahrte Kundeninhalte erhalten.

Private Safety Processing nutzt Kundeninhalte unabhängig davon, wo sie gespeichert sind: entweder in einer vom Kundenunternehmen kontrollierten Infrastruktur bei ZDR-Bereitstellungen oder in einem von OpenAI bereitgestellten Speicher. Bei einem von OpenAI bereitgestellten Speicher werden Kundeninhalte mit Schlüsseln verschlüsselt, die das Kundenunternehmen kontrolliert. OpenAI-Mitarbeitende besitzen keine Kopie dieser Schlüssel und können daher nicht auf die zugrunde liegenden Inhalte zugreifen.

Wird ein Risiko erkannt, erhält OpenAI ein eng begrenztes Signal zur Art der betreffenden Aktivität, ähnlich wie bei unseren heutigen Sicherheitssystemen. Anhand dieses Signals lässt sich feststellen, ob Maßnahmen zur Durchsetzung unserer Richtlinien erforderlich sind. OpenAI-Mitarbeitende erhalten auch dann keinen Zugriff auf Kundeninhalte, wenn diese gekennzeichnet wurden.

Kundenunternehmen können Warnmeldungen und Entscheidungen über Durchsetzungsmaßnahmen anhand der in ihren eigenen Systemen verfügbaren Informationen untersuchen. Wenn sie Einspruch einlegen, legitime Aktivitäten erläutern oder eine Untersuchung bestätigten Missbrauchs unterstützen möchten, können sie relevante Informationen freiwillig mit OpenAI teilen.

Private Safety Processing wird derzeit mit ersten Kundenunternehmen getestet. Wir geben diesen Ausblick bereits jetzt, weil unsere Kundenunternehmen unmissverständlich deutlich gemacht haben, dass sie Planungssicherheit darüber benötigen, wie ihre Inhalte geschützt werden, wenn KI-Systeme leistungsfähiger werden.

Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Die Zusammenarbeit mit Kunden- und Partnerunternehmen ist entscheidend für die Entwicklung wirksamer Schutzmaßnahmen. Wie unsere Grundsätze deutlich machen, kann kein KI-Labor neu entstehende Risiken allein bewältigen. Private Safety Processing folgt diesem Ansatz und wird von Kundenunternehmen verschiedener Branchen, Regionen und Größen mitgestaltet.

Die Organisationen, mit denen wir zusammenarbeiten, verarbeiten einige der sensibelsten Informationen ihrer Branchen, darunter Finanzunterlagen, Gesundheitsdaten, vertrauliche Geschäftspläne und geschützte Forschungsergebnisse. Der Schutz dieser Informationen ist unerlässlich, um regulatorische Pflichten zu erfüllen, das Vertrauen ihrer Kundschaft zu bewahren und ihre Wettbewerbsvorteile zu sichern.

Ihr Feedback hilft uns, robustere Schutzmaßnahmen zu entwickeln und zugleich sicherzustellen, dass ihre Informationen unter ihrer Kontrolle bleiben.

Wir werden die technischen und betrieblichen Einzelheiten unseres Ansatzes weiterhin gemeinsam mit unseren Kundenunternehmen ausarbeiten. Wir planen, im September mit der Einführung von Private Safety Processing zu beginnen und ein technisches Whitepaper zu veröffentlichen. Wir werden unsere Kundenunternehmen bei jedem Schritt informieren: Wir teilen Neuigkeiten frühzeitig mit, erläutern ihre Bedeutung für bestehende Zusagen und geben ihnen die Zeit und Unterstützung, die sie für ihre Planung benötigen.