OpenAI-API

We brengen een API uit voor toegang tot nieuwe AI-modellen ontwikkeld door OpenAI. In tegenstelling tot de meeste AI-systemen die zijn ontworpen voor één specifieke toepassing, biedt de API vandaag de dag een algemene 'tekst in, tekst uit'-interface, waardoor gebruikers het kunnen uitproberen op vrijwel elke taak in de Engelse taal. Je kunt nu toegang aanvragen om de API in je product te integreren, een geheel nieuwe app te ontwikkelen of ons te helpen de sterke punten en beperkingen van deze technologie te verkennen.

Met een willekeurige tekstprompt zal de API een tekstaanvulling terugsturen, die probeert overeen te komen met het patroon dat je hebt opgegeven. Je kunt het 'programmeren' door het slechts een paar voorbeelden te laten zien van wat je wilt dat het doet; het succes varieert over het algemeen afhankelijk van hoe complex de taak is. Met de API kun je ook de prestaties op specifieke taken verbeteren door te trainen op een gegevensset (klein of groot) van voorbeelden die je zelf aanlevert, of door te leren van menselijke feedback van gebruikers of labelaars.

We hebben de API zo ontworpen dat hij voor iedereen eenvoudig te gebruiken is, maar ook flexibel genoeg om teams door machinaal leren productiever te maken. Het is zelfs zo dat veel van onze teams nu de API gebruiken, zodat ze zich kunnen richten op onderzoek naar machinaal leren in plaats van op problemen met gedistribueerde systemen. Vandaag de dag werkt de API met modellen met wegingen uit de GPT‑3⁠(opent in een nieuw venster)-familie met veel snelheids- en verwerkingsverbeteringen. Machinaal leren gaat super snel en we werken steeds aan onze technologie zodat onze gebruikers up-to-date blijven.

De snelheid waarmee het veld zich ontwikkelt, betekent dat er regelmatig verrassende nieuwe toepassingen van AI zijn, zowel positieve als negatieve. We zullen API-toegang beëindigen in geval van duidelijk schadelijk gebruik, zoals intimidatie, spam, radicalisering of astroturfing. Maar we weten ook dat we niet alle mogelijke gevolgen van deze technologie kunnen voorzien. Daarom introduceren we vandaag een besloten bètaversie in plaats van een algemene versie, ontwikkelen we tools waarmee gebruikers de door onze API geretourneerde inhoud beter kunnen beheren en bestuderen we veiligheidsaspecten van taaltechnologie (zoals het analyseren, beperken en corrigeren van schadelijke vooringenomenheid). We delen wat we ontdekken, zodat onze gebruikers en de bredere gemeenschap AI-systemen kunnen bouwen die mensvriendelijker zijn.

Naast het feit dat de API een bron van inkomsten is om ons te helpen de kosten te dekken⁠ voor het nastreven van onze missie⁠, heeft het ons gestimuleerd om onze focus op AI-technologie voor algemeen gebruik aan te scherpen - door de technologie verder te ontwikkelen, deze gebruiksvriendelijk te maken en te kijken wat het effect is in de praktijk. We hopen dat de API de drempel⁠(opent in een nieuw venster) voor het maken van handige AI-producten flink verlaagt, met als gevolg tools en diensten die we ons nu nog niet kunnen voorstellen.

Zin om de API te verkennen? Sluit je aan bij bedrijven zoals Algolia⁠(opent in een nieuw venster), Quizlet⁠(opent in een nieuw venster), en Reddit⁠(opent in een nieuw venster), en onderzoekers van instellingen zoals de Middlebury Institute⁠(opent in een nieuw venster) in onze besloten bètaversie⁠(opent in een nieuw venster).

Uiteindelijk gaat het ons erom⁠ dat kunstmatige algemene intelligentie iedereen ten goede komt. We zien het ontwikkelen van commerciële producten als een van de manieren om ervoor te zorgen dat we genoeg financiering hebben om succesvol te zijn.

We geloven ook dat het lastig zal blijken om krachtige AI-systemen globaal veilig te implementeren. Bij het uitbrengen van de API werken we nauw samen met onze partners om te zien welke uitdagingen zich voordoen wanneer AI-systemen in de praktijk worden gebruikt. Dit zal helpen bij onze inspanningen om te begrijpen hoe het inzetten van toekomstige AI-systemen zal gaan en wat we moeten doen om ervoor te zorgen dat ze veilig en nuttig zijn voor iedereen.

Er zijn drie belangrijke redenen waarom we dit hebben gedaan. Ten eerste helpt het op de markt brengen van de technologie ons bij het financieren van onze voortdurende inspanningen op het gebied van AI-onderzoek, veiligheid en beleid.

Ten tweede zijn veel van de modellen die aan de API ten grondslag liggen erg omvangrijk, waardoor er veel expertise nodig is om ze te ontwikkelen en in te zetten en waardoor het erg duur is om ze uit te voeren. Dit maakt het moeilijk voor iedereen behalve grotere bedrijven om te profiteren van de onderliggende technologie. We hopen dat de API krachtige AI-systemen toegankelijker zal maken voor kleinere ondernemingen en organisaties.

Ten derde kunnen we dankzij het API-model eenvoudig reageren op misbruik van de technologie. Aangezien het moeilijk is om de downstream gebruikssituaties van onze modellen te voorspellen, voelt het inherent veiliger om ze vrij te geven via een API en de toegang na verloop van tijd te verbreden, in plaats van een open-source-model vrij te geven waar de toegang niet kan worden aangepast als blijkt dat het schadelijke toepassingen heeft.

Bij GPT‑2 was een van onze belangrijkste zorgen kwaadwillig gebruik van het model (bijvoorbeeld voor desinformatie), wat moeilijk te voorkomen is zodra een model open-source is. Voor de API kunnen we misbruik beter voorkomen door de toegang te beperken tot goedgekeurde klanten en gebruikssituaties. We hebben een verplicht productiebeoordelingsproces voordat voorgestelde toepassingen live kunnen gaan. In productiebeoordelingen evalueren we toepassingen op een aantal aspecten, waarbij we vragen stellen als: Wordt dit gebruik momenteel ondersteund?, Hoe open is de toepassing?, Hoe riskant is de toepassing?, Hoe wil je mogelijk misbruik aanpakken?, en Wie zijn de eindgebruikers van je toepassing?.

We beëindigen API-toegang voor gebruikssituaties waarvan is vastgesteld dat ze fysieke, emotionele of psychologische schade toebrengen (of bedoeld zijn om die te veroorzaken) aan mensen, met inbegrip van maar niet beperkt tot intimidatie, opzettelijke misleiding, radicalisering, astroturfing of spam, evenals toepassingen die onvoldoende bescherming bieden om misbruik door eindgebruikers te beperken. Naarmate we meer ervaring opdoen met het gebruik van de API in de praktijk, zullen we de gebruikscategorieën die we kunnen ondersteunen steeds verder verfijnen, zowel om het aantal toepassingen dat we kunnen ondersteunen te vergroten als om fijnmazigere categorieën te maken voor toepassingen waarover we ons zorgen maken bij misbruik.

Een belangrijke factor die we in overweging nemen bij het goedkeuren van het gebruik van de API is de mate waarin een toepassing open-ended versus beperkt gedrag vertoont, met betrekking tot de onderliggende generatieve mogelijkheden van het systeem. Open-ended toepassingen van de API (bijv. toepassingen waarbij grote hoeveelheden aanpasbare tekst via willekeurige prompts kunnen worden gegenereerd) zijn bijzonder gevoelig voor misbruik. Beperkingen die generatieve gebruikssituaties veiliger kunnen maken zijn onder andere systeemontwerp waarbij de mens betrokken blijft, toegangsbeperkingen voor eindgebruikers, post-processing van uitvoer, filtratie van inhoud, lengtebeperkingen voor invoer/uitvoer, actieve bewaking en beperkingen in actualiteit.

We blijven ook onderzoek doen naar mogelijk misbruik van modellen die door de API worden bediend, onder andere met externe onderzoekers via ons academische toegangsprogramma.⁠(opent in een nieuw venster). We beginnen op dit moment met een zeer beperkt aantal onderzoekers en hebben al enkele resultaten van onze academische partners aan het Middlebury Institute⁠(opent in een nieuw venster) , de Universiteit van Washington en het Allen Institute for AI.⁠(opent in een nieuw venster). We hebben al tienduizenden aanvragen voor dit programma en geven momenteel voorrang aan aanvragen die gericht zijn op onderzoek naar eerlijkheid en vertegenwoordiging.

Het beperken van negatieve effecten zoals schadelijke vooringenomenheid is een moeilijke, branchebrede kwestie die uiterst belangrijk is. Zoals we bespreken in het GPT‑3‑artikel⁠(opent in een nieuw venster) en de modelkaart⁠(opent in een nieuw venster) , vertonen onze API-modellen vertekeningen die tot uiting komen in de gegenereerde tekst. Dit zijn de stappen die we nemen om deze problemen aan te pakken:

• We hebben gebruiksrichtlijnen ontwikkeld die ontwikkelaars helpen potentiële veiligheidsproblemen te begrijpen en aan te pakken.
• We werken nauw samen met gebruikers om hun gebruikssituaties te begrijpen en tools te ontwikkelen om schadelijke vooringenomenheid aan het licht te brengen en in te grijpen.
• We voeren ons eigen onderzoek uit naar uitingen van schadelijke vooringenomenheid en bredere kwesties op het gebied van eerlijkheid en vertegenwoordiging, die ons zullen helpen bij ons werk via verbeterde documentatie van bestaande modellen en diverse verbeteringen aan toekomstige modellen.
• We erkennen dat vooringenomenheid een probleem is dat zich manifesteert op het kruispunt van een systeem en een ingezette context; toepassingen die met onze technologie zijn gebouwd zijn sociotechnische systemen, dus we werken samen met onze ontwikkelaars om ervoor te zorgen dat ze de juiste processen en menselijke betrokkenheid in systemen inbouwen om te controleren op ongewenst gedrag.

Ons doel is om ons begrip van de mogelijke schade van de API in elke gebruikscontext te blijven ontwikkelen en onze hulpmiddelen en processen voortdurend te verbeteren om zulke schade te helpen minimaliseren.

Bijgewerkt op 18 september 2020