OpenAI API

Wir stellen eine API zum Zugriff auf neue KI-Modelle bereit, die von OpenAI entwickelt wurden. Im Gegensatz zu den meisten KI-Systemen, die für einen bestimmten Anwendungsfall konzipiert wurden, bietet die API eine universelle Schnittstelle für Ein- und Ausgaben in Textform. Somit können Benutzer sie für praktisch jede Aufgabe in englischer Sprache einsetzen. Ab sofort kannst du den Zugriff auf die API beantragen, um sie in ein bestehendes Produkt zu integrieren, eine völlig neue Anwendung zu entwickeln oder uns dabei zu helfen, die Stärken und Grenzen dieser Technologie zu erkunden.

Für jeden Prompt in Textform gibt die API eine Vervollständigung zurück, die dem von dir angegebenen Muster zu entsprechen versucht. Du kannst die API „programmieren“, indem du ihr in einigen wenigen Beispielen zeigst, was sie tun soll. Der Erfolg einer Bearbeitung hängt im Allgemeinen davon ab, wie komplex die Aufgabe ist. Außerdem kannst du die API-Leistung bei bestimmten Aufgaben verbessern, indem du zuvor ein Training mit einem (kleinen oder großen) Datensatz von Beispielen durchführst. Du kannst diesen Datensatz selbst bereitstellen oder die API durch menschliches Feedback von Benutzern oder Testern lernen lassen.

Wir haben die API so konzipiert, dass sie für jedermann einfach zu verwenden ist. Gleichzeitig ist sie aber auch flexibel genug, um Teams im Bereich maschinelles Lernen produktiver zu machen. Tatsächlich nutzen viele unserer Teams die API bereits, um sich auf die Forschung im Bereich maschinelles Lernen konzentrieren zu können, anstatt sich mit den Problemen verteilter Systeme zu beschäftigen. Zum gegenwärtigen Zeitpunkt führt die API Modelle der GPT‑3⁠(wird in einem neuen Fenster geöffnet)-Reihe aus, wobei sie deren Geschwindigkeiten und Durchsatz verbessert. Maschinelles Lernen entwickelt sich sehr schnell, und wir aktualisieren unsere Technologie fortlaufend, damit deren Benutzer jederzeit auf dem neuesten Stand bleiben.

Angesichts der Geschwindigkeit, mit der in diesem Bereich Fortschritte erzielt werden, gibt es immer wieder überraschende neue KI-Anwendungen – sowohl positive als auch negative. Bei offensichtlich schädlichen Verwendungszwecken wie Belästigung, Spam, Radikalisierung oder Astroturfing werden wir den API-Zugriff sperren. Wir sind uns aber auch darüber im Klaren, dass wir nicht alle möglichen Folgen dieser Technologie vorhersehen können. Deshalb starten wir heute mit einer privaten Beta-Phase, anstatt die API allgemein verfügbar zu machen. Wir entwickeln Tools, mit denen Benutzer den API-Output besser kontrollieren können, und erforschen sicherheitsrelevante Aspekte der Sprachtechnologie (z. B. bezüglich Analysen, Risikominderungen und Abhilfemaßnahmen bei schädlichen Verzerrungen). Wir leiten unsere Erkenntnisse an unsere Benutzer und die breite Öffentlichkeit weiter, damit alle Beteiligten KI-Systeme zum Wohle der Menschheit entwickeln können.

Die API ist jedoch nicht nur eine Einnahmequelle, die uns dabei hilft, laufende Kosten zu decken⁠ und unsere Mission⁠ zu erfüllen. Sie hat uns auch dazu veranlasst, unseren Fokus auf die KI-Technologie für allgemeine Zwecke zu schärfen, indem wir sie weiterentwickeln, sie nutzbar machen und ihre Auswirkungen auf die reale Welt berücksichtigen. Wir hoffen, dass die API die Hürden⁠(wird in einem neuen Fenster geöffnet) zur Herstellung nützlicher KI-gestützter Produkte erheblich senken wird, damit heute nur schwer vorstellbare Tools und Dienstleistungen entstehen können.

Möchtest du die Möglichkeiten der API kennenlernen? Dann schließe dich Unternehmen wie Algolia⁠(wird in einem neuen Fenster geöffnet), Quizlet⁠(wird in einem neuen Fenster geöffnet) und Reddit⁠(wird in einem neuen Fenster geöffnet) sowie Forschenden und Institutionen wie dem Middlebury Institute⁠(wird in einem neuen Fenster geöffnet) an und registriere dich für unseren privaten Beta-Test⁠(wird in einem neuen Fenster geöffnet).

Letztlich geht es uns vor allem darum⁠, dass künstliche allgemeine Intelligenz allen zugute kommt. Wir sehen die Entwicklung kommerzieller Produkte als eine der Möglichkeiten, ausreichende finanzielle Mittel zu beschaffen, um erfolgreiche Arbeit leisten zu können.

Außerdem glauben wir, dass eine sichere weltweite Bereitstellung leistungsstarker KI-Systeme schwer zu bewerkstelligen sein wird. Bei der Veröffentlichung der API arbeiten wir eng mit unseren Partnern zusammen, um die Herausforderungen zu ermitteln, die beim Einsatz von KI-Systemen in der realen Welt auftreten. Dies wird uns helfen, zu verstehen, wie die Bereitstellung künftiger KI-Systeme ablaufen wird und was wir tun müssen, um deren Sicherheit und Nutzen für alle sicherzustellen.

Dafür gibt es drei Hauptgründe. Erstens hilft uns die Kommerzialisierung der Technologie, unsere fortlaufende Arbeit in den Bereichen KI-Forschung, Sicherheit und Richtlinien zu finanzieren.

Zweitens sind viele der Modelle, die der API zugrunde liegen, sehr umfangreich. Ihre Entwicklung und ihr Einsatz erfordern viel Fachwissen und ihre Ausführung ist sehr teuer. Somit wird es für alle Nutzer außer größeren Unternehmen schwierig, von der zugrunde liegenden Technologie zu profitieren. Wir hoffen jedoch, dass die API auch kleineren Unternehmen und Organisationen den Zugriff auf leistungsstarke KI-Systeme erleichtern wird.

Drittens ermöglicht uns das API-Modell, leichter auf einen Missbrauch der Technologie zu reagieren. Da es sehr schwierig ist, alle nachgelagerten Anwendungsfälle unserer Modelle vorherzusagen, erscheint es uns sicherer, sie über eine API bereitzustellen. Dabei können wir den Zugang nach und nach ausweiten. Würden wir ein Open-Source-Modell veröffentlichen, könnten wir den Zugriff im Nachhinein nicht mehr einschränken, sollte es für schädliche Anwendungen eingesetzt werden.

Bei GPT‑2 lag eine unsere Hauptsorgen in der böswilligen Nutzung des Modells (z. B. für Desinformation). Diese ist nur noch schwer zu verhindern, sobald ein Modell als Open Source zur Verfügung steht. Bei der API können wir Missbrauch besser verhindern, indem wir den Zugriff auf zugelassene Kunden und Anwendungsfälle beschränken. Wir haben ein obligatorisches Produktionsprüfungsverfahren eingerichtet, das vorgeschlagene Anwendungen durchlaufen müssen, bevor sie veröffentlicht werden können. Im Rahmen der Produktionsprüfungen bewerten wir Anwendungen anhand einiger Kriterien und stellen unter anderem folgende Fragen: Handelt es sich um einen derzeit unterstützten Anwendungsfall? Wie ergebnisoffen ist die Anwendung? Wie riskant ist die Anwendung? Welche Vorkehrungen werden gegen möglichen Missbrauch getroffen? Wer sind die Endnutzer der Anwendung?

Wir sperren den API-Zugang für Anwendungsfälle, die physischen, emotionalen oder psychischen Schaden für Menschen verursachen (oder verursachen sollen), einschließlich, aber nicht beschränkt auf Belästigung, vorsätzliche Täuschung, Radikalisierung, Astroturfing und Spam. Darüber hinaus unterbinden wir Anwendungen, die keine ausreichenden Sicherheitsvorkehrungen zur Begrenzung des Missbrauchs durch Endnutzer aufweisen. Mit zunehmender Erfahrung im praktischen Betrieb der API werden wir die von uns unterstützten Nutzungskategorien kontinuierlich weiterentwickeln. Dies wird sowohl die Palette der unterstützten Anwendungen erweitern als auch feiner abgestufte Kategorien für diejenigen Anwendungen schaffen, bei denen wir Bedenken bezüglich möglichen Missbrauchs haben.

Ein Schlüsselfaktor, den wir bei der Genehmigung der API-Nutzung berücksichtigen, ist das Ausmaß, in dem eine Anwendung ein ergebnisoffenes oder eingeschränktes Verhalten in Bezug auf die zugrunde liegenden generativen Fähigkeiten des Systems zeigt. Ergebnisoffene API-Anwendungen (d. h. solche, die eine reibungslose Generierung großer Mengen anpassbarer Texte über beliebige Prompts ermöglichen) sind besonders anfällig für Missbrauch. Zu den Einschränkungen, die generative Anwendungsfälle sicherer machen können, gehören ein Systemdesign mit Einbeziehung eines Menschen, Zugriffsbeschränkungen für Endbenutzer, Nachbearbeitung von Outputs, Inhaltsfilterung, Längenbeschränkungen für Eingaben und Ausgaben, aktive Überwachung und thematische Einschränkungen.

Zudem führen wir weiterhin Forschungsprojekte über den möglichen Missbrauch von Modellen durch, die von der API bedient werden. Über unser akademisches Zugriffsprogramm⁠(wird in einem neuen Fenster geöffnet) sind daran auch externe Fachleute beteiligt. Derzeit beginnen wir mit einer sehr begrenzten Anzahl von Forschenden und haben bereits einige Ergebnisse von unseren akademischen Partnern vom Middlebury Institute⁠(wird in einem neuen Fenster geöffnet), der University of Washington und dem Allen Institute for AI⁠(wird in einem neuen Fenster geöffnet) erhalten. Es sind bereits Zehntausende von Bewerbungen für dieses Programm bei uns eingegangen, und wir priorisieren derzeit Bewerber, die sich auf Fairness und Repräsentationsforschung konzentrieren.

Die Eindämmung negativer Auswirkungen wie schädlicher Voreingenommenheit ist ein schwieriges, branchenweites und äußerst wichtiges Thema. Wie wir in unserer Abhandlung über GPT‑3⁠(wird in einem neuen Fenster geöffnet) und auf der Modellkarte⁠(wird in einem neuen Fenster geöffnet) erörtern, weisen unsere API-Modelle gewisse Voreingenommenheiten auf, die sich in generiertem Text widerspiegeln. Wir ergreifen unter anderem folgende Maßnahmen, um diese Probleme zu lösen:

• Wir haben Nutzungsrichtlinien entwickelt, die Entwicklern beim Verstehen und Beseitigen potenzieller Sicherheitsprobleme helfen sollen.
• Wir arbeiten eng mit Benutzern zusammen, um ihre Anwendungsfälle zu verstehen und Tools zu entwickeln, mit denen wir schädliche Voreingenommenheit aufdecken und abmildern können.
• Wir führen eigene Forschungsarbeiten zu den Erscheinungsformen schädlicher Voreingenommenheit und zu allgemeineren Fragen der Fairness und Repräsentation durch. Auf deren Grundlage werden wir in der Lage sein, unsere Arbeit durch eine verbesserte Dokumentation bestehender Modelle sowie verschiedene Verbesserungen an zukünftigen Modellen zu unterstützen.
• Wir sind uns darüber im Klaren, dass Voreingenommenheit ein Problem darstellt, das an der Schnittstelle zwischen einem System und einem Einsatzkontext in Erscheinung tritt. Bei den mit unserer Technologie erstellten Anwendungen handelt es sich um soziotechnische Systeme. Daher halten wir unsere Entwickler an, geeignete Verfahren und menschliche Beteiligung an den Systemen zur Überwachung von unerwünschtem Verhalten zu implementieren.

Unser Ziel besteht darin, unser Verständnis für die potenziellen Schäden der API in jedem Anwendungskontext zu erweitern und unsere Tools und Prozesse kontinuierlich zu verbessern, um diese Schäden zu minimieren.

Zuletzt aktualisiert am 18. September 2020