OpenAI Red Teaming Network

Wir starten einen offenen Bewerbungsaufruf für das OpenAI Red Teaming Network und laden Fachleute ein, gemeinsam mit uns die Sicherheit der Modelle von OpenAI zu verbessern. Wir suchen Fachleute aus verschiedenen Bereichen, die unsere KI-Modelle gemeinsam mit uns gründlich evaluieren und durch Red Teaming prüfen.

Red Teaming^A ist ein fester Bestandteil unseres iterativen Bereitstellungsprozesses⁠. In den vergangenen Jahren haben wir unser Red Teaming weiterentwickelt: Anfangs lag der Schwerpunkt auf internen adversarialen Tests bei OpenAI. Inzwischen arbeiten wir mit einer Gruppe externer Fachleute^B zusammen, um fachspezifische Risikotaxonomien zu entwickeln und potenziell schädliche Fähigkeiten neuer Systeme zu bewerten. Mehr über unser bisheriges Red Teaming, einschließlich der Zusammenarbeit mit externen Fachleuten, erfährst du in den Veröffentlichungen zu Modellen wie DALL·E 2⁠(wird in einem neuen Fenster geöffnet) und GPT‑4⁠(wird in einem neuen Fenster geöffnet).^C

Heute starten wir eine stärker strukturierte Initiative, die auf diesen Grundlagen aufbaut. Wir wollen die Zusammenarbeit mit externen Fachleuten vertiefen und ausweiten, um unsere Modelle sicherer zu machen. Die Zusammenarbeit mit einzelnen Fachleuten, Forschungseinrichtungen und zivilgesellschaftlichen Organisationen ist ein wichtiger Teil unseres Vorgehens. Wir sehen diese Arbeit als Ergänzung zu extern vorgegebenen Governance-Verfahren, etwa Audits durch Dritte.

Das OpenAI Red Teaming Network ist eine Gemeinschaft vertrauenswürdiger und erfahrener Fachleute, die unsere Risikobewertung und Maßnahmen zur Risikominderung umfassender unterstützen kann. Damit geht die Zusammenarbeit über einmalige Einsätze und Auswahlverfahren vor größeren Modellveröffentlichungen hinaus. Mitglieder des Netzwerks werden entsprechend ihrer Expertise hinzugezogen, um das Red Teaming in verschiedenen Phasen der Modell- und Produktentwicklung zu unterstützen. Nicht jedes Mitglied wird an jedem neuen Modell oder Produkt mitarbeiten. Den zeitlichen Einsatz vereinbaren wir mit jedem Mitglied individuell. Er kann auch nur 5–10 Stunden im Jahr betragen.

Auch außerhalb der von OpenAI beauftragten Red-Teaming-Kampagnen werden die Mitglieder Gelegenheit haben, sich über allgemeine Methoden und Erkenntnisse des Red Teaming auszutauschen. Ziel ist es, vielfältigere und kontinuierliche Beiträge zu ermöglichen und Red Teaming stärker als iterativen Prozess zu gestalten. Dieses Netzwerk ergänzt weitere Möglichkeiten, gemeinsam an der KI-Sicherheit zu arbeiten, darunter unser Researcher Access Program⁠ und Open-Source-Evaluierungen⁠(wird in einem neuen Fenster geöffnet).

Dieses Netzwerk bietet eine einzigartige Gelegenheit, sicherere KI-Technologien und entsprechende Richtlinien mitzuentwickeln. Du kannst mitgestalten, wie KI unser Leben, unsere Arbeit und unseren Umgang miteinander beeinflusst. Als Mitglied dieses Netzwerks gehörst du zu unserem Kreis von Fachleuten, die wir in verschiedenen Phasen der Bereitstellung zur Bewertung unserer Modelle und Systeme hinzuziehen können.

Um KI-Systeme zu bewerten, braucht es ein Verständnis unterschiedlichster Fachgebiete, vielfältige Perspektiven und persönliche Lebenserfahrungen. Wir laden Fachleute aus aller Welt ein, sich zu bewerben, und legen bei der Auswahl besonderen Wert auf geografische und fachliche Vielfalt. 

Zu den Bereichen, die uns interessieren, zählen unter anderem:

Vorerfahrung mit KI-Systemen oder Sprachmodellen ist nicht erforderlich, kann aber hilfreich sein. Am wichtigsten ist uns deine Bereitschaft, dich zu engagieren und deine Perspektive in unsere Bewertung der Auswirkungen von KI-Systemen einzubringen.

Alle Mitglieder des OpenAI Red Teaming Network werden für ihre Beiträge vergütet, wenn sie an einem Red-Teaming-Projekt teilnehmen. Die Mitgliedschaft in diesem Netzwerk hindert dich nicht daran, deine Forschung zu veröffentlichen oder andere Möglichkeiten wahrzunehmen. Beachte jedoch, dass die Mitarbeit am Red Teaming und an anderen Projekten häufig Geheimhaltungsvereinbarungen (NDAs) unterliegt oder auf unbestimmte Zeit vertraulich bleibt.

Die Bewerbungsfrist ist abgelaufen.

F: Was bedeutet es, dem Netzwerk beizutreten?

A: Als Mitglied des Netzwerks können wir dich kontaktieren, um ein neues Modell zu testen oder einen bestimmten Bereich an einem bereits bereitgestellten Modell zu prüfen. Die Arbeit im Netzwerk unterliegt einer Geheimhaltungsvereinbarung (NDA). In der Vergangenheit haben wir jedoch viele unserer Erkenntnisse aus dem Red Teaming in System Cards und Blogbeiträgen veröffentlicht. Die Zeit, die du für Red-Teaming-Projekte aufwendest, wird vergütet.

F: Wie viel Zeit muss ich für die Mitarbeit im Netzwerk einplanen? 

A: Du kannst deinen zeitlichen Einsatz an deine Verfügbarkeit anpassen. Beachte, dass nicht alle Mitglieder für jedes Vorhaben kontaktiert werden. OpenAI wählt die Personen aus, die zum jeweiligen Red-Teaming-Projekt passen, und legt bei späteren Red-Teaming-Kampagnen besonderen Wert auf neue Perspektiven. Schon 5 Stunden im Jahr wären für uns wertvoll. Bewirb dich also gerne, auch wenn du Interesse, aber nur wenig Zeit hast.

F: Wann erfahre ich, ob ich aufgenommen wurde?

A: OpenAI wird fortlaufend Mitglieder für das Netzwerk auswählen. Du kannst dich bis zum 1. Dezember 2023 bewerben. Nach dieser Bewerbungsphase werden wir prüfen, ob wir künftig weitere Bewerbungen ermöglichen.

F: Werde ich als Mitglied des Netzwerks gebeten, jedes neue Modell durch Red Teaming zu prüfen?

A: Nein. OpenAI wählt die Personen aus, die zum jeweiligen Red-Teaming-Projekt passen. Du solltest also nicht davon ausgehen, jedes neue Modell zu testen.

F: Nach welchen Kriterien wählt ihr die Mitglieder des Netzwerks aus?

A: Wir achten unter anderem auf folgende Kriterien:

• Nachgewiesene Expertise oder Erfahrung in einem für Red Teaming relevanten Fachgebiet

• Leidenschaft für die Verbesserung der KI-Sicherheit

• Keine Interessenkonflikte

• Vielfältige Hintergründe und die Beteiligung traditionell unterrepräsentierter Gruppen

• Breite geografische Vertretung 

• Fließende Kenntnisse in mehr als einer Sprache

• Technische Fähigkeiten (nicht erforderlich)

F: Welche weiteren Möglichkeiten gibt es, gemeinsam an der Sicherheit zu arbeiten?

A: Neben der Mitgliedschaft im Netzwerk gibt es weitere Möglichkeiten, gemeinsam zur KI-Sicherheit beizutragen. Du kannst zum Beispiel Sicherheitsevaluierungen für KI-Systeme entwickeln oder durchführen und die Ergebnisse analysieren.

Das Open-Source-Repository Evals⁠(wird in einem neuen Fenster geöffnet) von OpenAI, das zur Einführung von GPT‑4⁠ veröffentlicht wurde, bietet leicht nutzbare Vorlagen und Beispielmethoden für den Einstieg.

Evaluierungen können von einfachen Frage-Antwort-Tests bis hin zu komplexeren Simulationen reichen. Hier sind einige konkrete Beispiele für Evaluierungen, die OpenAI entwickelt hat, um das Verhalten von KI aus verschiedenen Blickwinkeln zu bewerten:

Überzeugungskraft

• MakeMeSay⁠(wird in einem neuen Fenster geöffnet): Wie gut kann ein KI-System ein anderes KI-System durch Täuschung dazu bringen, ein geheimes Wort zu sagen?

• MakeMePay⁠(wird in einem neuen Fenster geöffnet): Wie gut kann ein KI-System ein anderes KI-System davon überzeugen, Geld zu spenden?

• Ballot Proposal⁠(wird in einem neuen Fenster geöffnet): Wie gut kann ein KI-System beeinflussen, ob ein anderes KI-System einen politischen Vorschlag unterstützt?

Steganografie (versteckte Nachrichten)

• Steganography⁠(wird in einem neuen Fenster geöffnet): Wie gut kann ein KI-System geheime Nachrichten übermitteln, ohne dass ein anderes KI-System dies bemerkt?

• Text Compression⁠(wird in einem neuen Fenster geöffnet): Wie gut kann ein KI-System Nachrichten komprimieren und dekomprimieren, um darin geheime Nachrichten zu verstecken?

• Schelling Point⁠(wird in einem neuen Fenster geöffnet): Wie gut kann sich ein KI-System ohne direkte Kommunikation mit einem anderen KI-System abstimmen?

Wir ermutigen dich, bei der Evaluierung von KI-Systemen kreativ zu sein und zu experimentieren. Sobald deine Evaluierung fertig ist, kannst du sie gerne zum Open-Source-Repository Evals⁠(wird in einem neuen Fenster geöffnet) beitragen, damit die gesamte KI-Community sie nutzen kann.

Du kannst dich auch für unser Researcher Access Program⁠ bewerben. Es stellt Credits für Forschende bereit, die mit unseren Produkten den verantwortungsvollen Einsatz von KI und die Minderung der damit verbundenen Risiken untersuchen.