Richtlinie für die Weitergabe und Veröffentlichung

Die folgende Richtlinie in Bezug auf das zulässige Weitergeben und Teilen dient dem Ziel, mögliche Risiken im Zusammenhang mit KI-generierten Inhalten zu mindern.

Grundsätzlich zulässig sind das Veröffentlichen eigener Prompts und Completions in den sozialen Medien, die Live-Übertragung der eigenen Nutzung sowie die Vorführung unserer Produkte gegenüber anderen Personen. Halten Sie sich dabei an die folgenden Vorgaben:

• Prüfen Sie sorgfältig alle generierten Inhalte, bevor Sie sie teilen oder streamen.
• Sorgen Sie dafür, dass die Inhalte Ihrem Namen oder Ihrem Unternehmen eindeutig zuzuordnen sind.
• Machen Sie unübersehbar und unmissverständlich deutlich, dass die Inhalte KI-generiert sind.
• Teilen Sie keine Inhalte, die unserer Inhaltsrichtlinie⁠ widersprechen oder andere Personen beleidigen.
• Seien Sie vorsichtig, wenn Sie Anweisungen zur Generierung von Prompts aus dem Publikum entgegennehmen. Lehnen Sie ab, wenn die Ausgabe zu einer Verletzung unserer Inhaltsrichtlinie⁠ führen könnte.

Wenn Sie das Team von OpenAI auf eine problematische Completion aufmerksam machen möchten, schreiben Sie uns eine E-Mail oder verwenden Sie die Meldeverfahren in Playground.

• Vergessen Sie nie, dass Sie es mit einem Rohdatenmodell zu tun haben: Das bedeutet, dass wir keine Antworten herausfiltern, auch wenn sie noch so negativ oder diskriminierend sind. (Übrigens: Details zur Implementierung unseres kostenlosen Moderation Endpoint⁠(wird in einem neuen Fenster geöffnet) finden Sie hier.)

Creators dürfen eigene schriftliche Werke (z. B. Bücher, Kurzgeschichtensammlungen), die zum Teil unter Verwendung unserer OpenAI API geschaffen wurden, veröffentlichen, sofern sie sich an die folgenden Bedingungen halten:

• Das veröffentlichte Werk kann dem persönlichen oder Unternehmensnamen des Creators zugeordnet werden.
• Die Rolle der KI bei der Erstellung des Werks ist unübersehbar gekennzeichnet und auf eine Art und Weise erklärt, die vom durchschnittlichen Leser nicht missverstanden werden kann.
• Die behandelten Themen stellen keinen Verstoß gegen die Inhaltsrichtlinie⁠ bzw. die Nutzungsbedingungen⁠ von OpenAi dar: Sie dürfen beispielsweise keine nicht jugendfreien Inhalte, Spam, Hassbotschaften, Gewaltaufrufe oder anderen gesellschaftsgefährdenden Inhalte umfassen.
• Wir bitten Sie, keine Ausgaben zu teilen, die andere Personen in irgendeiner Weise beleidigen könnten.

Die Abläufe zum Verfassen, Redigieren usw. der Texte müssen beispielsweise in einem Vorwort, einer Einleitung oder an vergleichbarer Stelle detailliert beschrieben werden. Über die API generierte Inhalte dürfen weder als vollständig von Menschen geschaffen noch als vollständig von der KI generiert dargestellt werden, da die letztgültige Verantwortung für den veröffentlichen Inhalt bei einem Menschen liegt.

Im folgenden finden Sie eine Standardformulierung, die Sie, falls zutreffend, zur Beschreibung Ihres kreativen Prozesses verwenden können:

Wir halten es für wichtig, unsere Produkte und Forschungsarbeit einer eingehenden Prüfung durch die breite Öffentlichkeit zu unterziehen, damit wir mögliche Schwächen, Sicherheitsprobleme und Verzerrungen in unseren Modellen besser erkennen und beheben können. Daher laden wir aktiv zur Veröffentlichung von Forschungsarbeiten über die OpenAI API ein.

• Es kann sein, dass wir Ihre Forschungsarbeit intern oder extern sichtbar machen.
• In anderen Fällen, besonders wenn es um die Sicherheit oder einen Missbrauch unser API geht, können wir entsprechende Reaktionsmaßnahmen zum Schutz unserer Benutzer ergreifen.
• Sollten Sie im Rahmen Ihrer Forschungsarbeit Probleme mit der Sicherheit unserer API feststellen, bitten wir Sie, uns diese umgehend über unser Coordinated Vulnerability Disclosure Program⁠⁠ zur Kenntnis zu bringen.

Es gibt eine Reihe von Forschungsthemen im Zusammenhang mit der OpenAI API, die wir gern weiter erkunden möchten. Wenn Sie Interesse an einem geförderten Zugang haben, füllen Sie bitte den Antrag für das Researcher Access Program⁠ aus und beschreiben Sie Ihr Forschungsvorhaben.

Auch wenn es Ihnen frei steht, Ihr Forschungsthema zu wählen, gilt unser Interesse im Besonderen den folgenden Bereichen:

• Ausrichtung: Wie können wir die eventuelle Zielsetzung verstehen, die ein Modell zu verfolgen scheint? Wie können wir dafür sorgen, dass diese Ziele mit den menschlichen Präferenzen übereinstimmen, beispielsweise durch Prompt-Design oder Feinabstimmung?
• Fairness und Repräsentation: Wie können wir Leistungskriterien für Sprachmodelle festlegen, die Fairness und Repräsentation berücksichtigen? Wie können Sprachmodelle dahingehend verbessert werden, um mehr Fairness und Repräsentation in spezifischen Ausgabekontexten zu erreichen?
• Interdisziplinäre Forschung: Wie können wir erreichen, dass Forschungsergebnisse aus anderen Disziplinen wie Philosophie, Kognitionswissenschaft oder Soziolinguistik in die KI-Entwicklung einfließen?
• Interpretierbarkeit und Transparenz: Wie funktionieren diese Modelle auf mechanistischer Ebene? Sind wir in der Lage, die verwendeten Konzepte zu erkennen oder latentes Wissen aus dem Modell zu extrahieren, Rückschlüsse über das Trainingsverfahren zu ziehen oder überraschendes zukünftiges Verhalten vorherzusagen?
• Potenzial für Missbrauch: Wie können Systeme wie unsere API missbraucht werden? Welche Red-Teaming-Verfahren können wir entwickeln, um uns und andere KI-Entwickler bei der verantwortungsvollen Bereitstellung von Technologien wie dieser zu unterstützen?
• Erforschung von Modellen: Modelle wie jene, die über die API bereitgestellt werden, haben Funktionen, Merkmale und Fähigkeiten, die es noch zu erforschen gilt. Wir freuen uns über diesbezügliche Arbeiten zu Themen wie Modellbeschränkungen, linguistische Eigenschaften, Commonsense Reasoning und andere Aspekte der KI-Nutzung.
• Robustheit: Generative Modelle zeichnen sich durch extrem unausgeglichene Fähigkeitsniveaus aus, gekennzeichnet durch überraschend starke Fähigkeiten in einigen Bereichen und überraschend schwache in anderen. Wie widerstandsfähig sind große generative Sprachmodelle gegenüber „natürlichen“ Abweichungen in den Prompts, beispielsweise bedingt durch Formulierungsunterschiede oder Rechtschreibfehler? Können wir vorhersagen, bei welchen Themen oder Aufgabenbereichen große generative Modelle robuster sind als bei anderen? Und können wir ermitteln, wie dies mit den Trainingsdaten zusammenhängt? Gibt es Techniken, um besonders schlechte Leistungen vorherzusagen und abzuschwächen? Welche Möglichkeiten haben wir, die Robustheit im Zusammenhang mit Few-Shot-Learning (z. B. im Hinblick auf Abweichungen in den Prompts) zu messen? Können wir Modelle so trainieren, dass sie auch bei sehr schlechter Eingabequalität zuverlässige und sichere Antworten liefern?

Bitte beachten Sie, dass es aufgrund der hohen Anzahl von Anfragen einige Zeit dauern kann, bis wir Ihren Antrag prüfen können. Wir bitten Sie auch, zur Kenntnis zu nehmen, dass nicht alle Forschungsvorhaben für eine Förderung infrage kommen können. Wir werden Sie nur kontaktieren, wenn Ihr Antrag angenommen wurde.