OpenAI API

Vi lanserar ett API för åtkomst till nya AI-modeller som utvecklats av OpenAI. Till skillnad från de flesta AI-system som är utformade för ett specifikt användningsområde, erbjuder API:et idag ett allmänt gränssnitt för ”text in, text ut”, vilket gör det möjligt för användare att testa det på i princip vilken uppgift som helst på engelska. Du kan nu begära åtkomst för att integrera API:et i din produkt, utveckla en helt ny applikation eller hjälpa oss att utforska styrkorna och begränsningarna med den här tekniken.

Utifrån en textprompt returnerar API:et en textkomplettering som försöker efterlikna det mönster som du gav det. Du kan ”programmera” det genom att visa några exempel på vad du vill att det ska göra. Hur väl det lyckas beror vanligtvis på hur komplex uppgiften är. API:et gör det också möjligt att finslipa prestandan för specifika uppgifter genom att träna på ett dataset (litet eller stort) med exempel som du tillhandahåller, eller genom att lära av mänsklig feedback från användare eller annoterare.

Vi har utformat API:et så att det ska vara enkelt för alla att använda, men också tillräckligt flexibelt för att göra team som arbetar med maskininlärning mer produktiva. Faktum är att många av våra team nu använder API:et så att de kan fokusera på forskning inom maskininlärning i stället för problem kopplade till distribuerade system. Idag kör API:et modeller med vikter från GPT‑3⁠(öppnas i ett nytt fönster)-familjen med många förbättringar vad gäller hastighet och kapacitet. Maskininlärning utvecklas mycket snabbt och vi uppgraderar ständigt vår teknik så att våra användare kan hålla sig uppdaterade.

Den snabba utvecklingen inom området innebär att det ofta kommer nya överraskande tillämpningar av AI, både positiva och negativa. Vi avslutar API-åtkomst för uppenbart skadlig användning, såsom trakasserier, spam, radikalisering eller astroturfing. Men vi är också medvetna om att vi inte kan förutse alla möjliga konsekvenser av denna teknik. Därför lanserar vi idag en privat betaversion istället för att göra den allmänt tillgänglig, samtidigt som vi utvecklar verktyg för att hjälpa användare att bättre kontrollera det innehåll som vårt API returnerar. Vi bedriver även forskning kring säkerhetsrelaterade aspekter av språkteknologi (såsom att analysera, mildra och ingripa vid skadlig bias). Vi delar med oss av det vi lär oss så att våra användare och samhället i stort kan bygga AI-system som är mer förenliga med människans bästa.

Utöver att vara en inkomstkälla som hjälper oss att täcka kostnader⁠för att fullfölja vårt uppdrag⁠, har API:et drivit oss att stärka vårt fokus på AI-teknik för allmänna ändamål – att utveckla tekniken, göra den användbar och ta hänsyn till dess påverkan i den verkliga världen. Vi hoppas att API:et kommer att sänka tröskeln⁠(öppnas i ett nytt fönster) för att producera fördelaktiga AI-drivna produkter, vilket resulterar i verktyg och tjänster som är svåra att föreställa sig idag.

Intresserad av att utforska API:et? Gör som företag som Algolia⁠(öppnas i ett nytt fönster), Quizlet⁠(öppnas i ett nytt fönster) och Reddit⁠(öppnas i ett nytt fönster), samt forskare vid institutioner som Middlebury Institute⁠(öppnas i ett nytt fönster) och prova vår privata betaversion⁠(öppnas i ett nytt fönster).

I slutändan är det vi bryr oss mest om⁠ att se till att artificiell generell intelligens gynnar alla. Vi ser utvecklingen av kommersiella produkter som ett av sätten att säkerställa att vi har tillräckligt med finansiering för att lyckas.

Vi tror också att det kommer att bli svårt att få till en säker implementering av kraftfulla AI-system i världen. I samband med lanseringen av API:et arbetar vi nära våra partners för att se vilka utmaningar som uppstår när AI-system används i den riktiga världen. Detta hjälper oss att förstå hur framtida AI-system kommer att implementeras och vad vi behöver göra för att se till att de är säkra och till nytta för alla.

Det finns tre huvudsakliga skäl till att vi gjorde detta. För det första hjälper kommersialiseringen av teknologin oss att finansiera vår pågående AI-forskning, säkerheten och vår policyutveckling.

För det andra är många av modellerna som ligger till grund för API:et mycket stora, kräver omfattande expertis för att utveckla och distribuera, vilket gör dem mycket dyra att köra. Detta gör det svårt för alla utom större företag att dra nytta av den underliggande tekniken. Vi hoppas att API:et ska göra kraftfulla AI-system mer tillgängliga för mindre företag och organisationer.

För det tredje gör API-modellen att vi lättare kan reagera på missbruk av tekniken. Eftersom det är svårt att förutse hur våra modeller kommer att användas i senare led känns det i sig säkrare att släppa dem via ett API och gradvis utöka åtkomsten, istället för att publicera en open source-modell där åtkomsten inte kan begränsas om det skulle visa sig att den används på skadliga sätt.

Med GPT‑2 var en av våra största farhågor att modellen skulle användas på ett skadligt sätt (t.ex. för desinformation), vilket är svårt att förhindra när en modell har släppts som open source. Med API:et kan vi bättre förhindra missbruk genom att begränsa åtkomsten till godkända kunder och användningsområden. Vi har en obligatorisk produktionsgranskning innan föreslagna applikationer kan gå live. Vid produktionsgranskningar utvärderar vi ansökningar utifrån ett antal kriterier och ställer frågor som t.ex: Är detta ett användningsområde som för närvarande stöds?, Hur öppen är ansökan?, Hur riskfylld är ansökan?, Hur planerar ni att hantera potentiellt missbruk? och Vilka är slutanvändarna av er applikation?.

Vi avslutar API-åtkomst för användningsområden som visar sig orsaka (eller är avsedda att orsaka) fysisk, känslomässig eller psykologisk skada på människor, inklusive men inte begränsat till trakasserier, avsiktlig vilseledning, radikalisering, astroturfing eller spam, samt applikationer som har otillräckliga skyddsmekanismer för att begränsa missbruk av slutanvändare. I takt med att vi får mer erfarenhet av att driva API:et i praktiken kommer vi kontinuerligt att förfina de användningskategorier vi kan stödja – både för att öka utbudet av applikationer som vi kan stödja och för att skapa mer detaljerade kategorier där vi är oroliga för missbruk.

En viktig faktor som vi tar hänsyn till när vi godkänner användningen av API:et är i vilken utsträckning en applikation uppvisar ett öppet eller begränsat beteende med avseende på systemets underliggande generativa kapacitet. Öppna applikationer av API:et (dvs. sådana som möjliggör friktionsfri generering av stora mängder anpassningsbar text via godtyckliga promptar) är särskilt benägna att missbrukas. Begränsningar som kan göra generativa användningsområden säkrare inkluderar systemdesign där en människa hålls uppdaterad, åtkomstbegränsningar för slutanvändare, efterbehandling av utdata, innehållsfiltrering, begränsningar av längden på in- och utdata, aktiv övervakning och ämnesmässiga begränsningar.

Vi fortsätter också att bedriva forskning kring potentiellt missbruk av modeller som tillhandahålls via API:et, bland annat i samarbete med externa forskare genom vårt akademiska åtkomstprogram⁠(öppnas i ett nytt fönster). Vi börjar med ett mycket begränsat antal forskare just nu och har redan fått en del resultat från våra akademiska partner vid Middlebury Institute⁠(öppnas i ett nytt fönster), University of Washington och Allen Institute for AI⁠(öppnas i ett nytt fönster). Vi har redan tiotusentals sökande till detta program och prioriterar för närvarande ansökningar med fokus på forskning om rättvisa och representation.

Att mildra negativa effekter som skadlig bias är en svår, branschövergripande fråga som är oerhört viktig. Som vi diskuterar i GPT‑3‑artikeln⁠(öppnas i ett nytt fönster) och modellkortet⁠(öppnas i ett nytt fönster) uppvisar våra API-modeller bias som återspeglas i genererad text. Här är de åtgärder vi vidtar för att hantera dessa problem:

• Vi har tagit fram riktlinjer för användning som hjälper utvecklare att förstå och hantera potentiella säkerhetsproblem.
• Vi arbetar nära användare för att förstå deras användningsområden och utveckla verktyg för att upptäcka och hantera skadlig bias.
• Vi bedriver egen forskning kring hur skadlig bias yttrar sig samt bredare frågor om rättvisa och representation, vilket vägleder vårt arbete genom förbättrad dokumentation av befintliga modeller och olika förbättringar av framtida modeller.
• Vi är medvetna om att bias är ett problem som uppstår i skärningspunkten mellan ett system och ett sammanhang. Applikationer som byggs med vår teknik är sociotekniska system, så vi arbetar med våra utvecklare för att säkerställa att de inför lämpliga processer och mänskliga system för att övervaka oönskade beteenden.

Vårt mål är att fortsätta utveckla vår förståelse för API:ets potentiella skadeverkningar i varje användningsområde och att kontinuerligt förbättra våra verktyg och processer för att minimera dem.

Uppdaterad 18 september 2020