OpenAI API

Vi lancerer en API, der giver adgang til nye AI-modeller udviklet af OpenAI. I modsætning til de fleste AI-systemer, som er designet til én bestemt opgave, tilbyder API'en i dag en generel “tekst ind, tekst ud”-brugerflade, så brugerne kan afprøve den på stort set alle opgaver på engelsk. Du kan nu ansøge om adgang, så du kan integrere API'en i dit produkt, udvikle en helt ny applikation eller hjælpe os med at udforske teknologiens styrker og begrænsninger.

Når den får en tekstforespørgsel, vil API'en returnere en tekstfærdiggørelse, der forsøger at matche det mønster, du har givet den. Du kan “programmere” den ved at vise den nogle eksempler på det, du gerne vil have den til. Dens succes varierer generelt afhængigt af, hvor kompleks opgaven er. API'en giver dig også mulighed for at forbedre præstationen på specifikke opgaver ved at træne modellen på et datasæt (stort eller lille) med eksempler, som du selv leverer, eller ved at lære af menneskelig feedback fra brugere eller labelere.

Vi har designet API'en, så den både er enkel at bruge for alle, men også fleksibel nok til at gøre teams, der arbejder med maskinlæring, mere produktive. Faktisk bruger mange af vores teams nu API'en, så de kan fokusere på forskning i maskinlæring i stedet for problemer med distribuerede systemer. I dag kører API'en modeller med vægte fra GPT‑3⁠(åbner i et nyt vindue)-familien med mange forbedringer i hastighed og kapacitet. Maskinlæring udvikler sig meget hurtigt, og vi opgraderer løbende vores teknologi, så vores brugere altid er opdaterede.

Den hurtige udvikling på området betyder, at der ofte kommer nye overraskende anvendelser af AI, både positive og negative. I tilfælde af åbenlyst skadelige anvendelser, som f.eks. chikane, spam, radikalisering eller astroturfing, vil vi lukke for API-adgangen. Samtidig er vi også klar over, at vi ikke kan forudse alle de mulige konsekvenser af teknologien. Derfor lancerer vi i dag en privat beta i stedet for generel tilgængelighed, mens vi fortsat bygger værktøjer til at hjælpe brugerne med at kontrollere det indhold, vores API returnerer, og forsker i sikkerhedsrelevante aspekter af sprogteknologien (som f.eks. at analysere, afbøde og gribe ind over for skadelig bias). Vi deler, hvad vi lærer, så vores brugere og det bredere samfund kan opbygge mere menneskevenlige AI-systemer.

Ud over at være en indtægtskilde, der hjælper os med at dække omkostningerne⁠ i forbindelse med vores mission⁠, har API'en presset os til at skærpe vores fokus på AI-teknologi til generelle formål – at udvikle teknologien, gøre den brugbar og overveje dens indvirkning i den virkelige verden. Vi håber, at API'en i høj grad vil mindske barrieren⁠(åbner i et nyt vindue) for at producere gavnlige AI-drevne produkter, hvilket vil resultere i værktøjer og tjenester, som er svære at forestille sig i dag.

Er du interesseret i at udforske API'en? Gør som virksomhederne Algolia⁠(åbner i et nyt vindue), Quizlet⁠(åbner i et nyt vindue) og Reddit⁠(åbner i et nyt vindue), og som forskere på institutioner som Middlebury Institute⁠(åbner i et nyt vindue) med vores private beta⁠(åbner i et nyt vindue).

I sidste ende er det vigtigste for os⁠ at sikre, at kunstig general intelligens kommer alle til gode. Vi ser udviklingen af kommercielle produkter som en af måderne til at sikre den nødvendige finansiering for at det lykkes.

Vi tror også, at det bliver en udfordring at implementere avancerede AI-systemer i verden på en sikker måde. Ved at lancere API'en arbejder vi tæt sammen med vores partnere for at identificere de udfordringer, der opstår, når AI-systemer tages i brug i den virkelige verden. Det vil hjælpe os med at forstå, hvordan lanceringen af fremtidige AI-systemer bedst kan ske, og hvad vi skal gøre for at sikre, at de er sikre og gavnlige for alle.

Der er der tre hovedårsager til, at vi gjorde. For det første hjælper kommercialiseringen af teknologien os med at finansiere vores fortsatte AI-forskning, sikkerhedsarbejde og politiske indsats.

For det andet er mange af modellerne bag API'en meget store, de kræver stor ekspertise at udvikle og implementere, og er dyre at køre. Det gør det svært for andre end større virksomheder at drage fordel af teknologien. Vi håber, at API'en vil gøre avancerede AI-systemer mere tilgængelige for mindre virksomheder og organisationer.

For det tredje giver API-modellen os bedre mulighed for at reagere på misbrug af teknologien. Da det er svært at forudsige, hvordan vores modeller vil blive brugt, føles det mere sikkert at lancere dem via en API og gradvist udvide adgangen, frem for at lancere en open source-model, hvor adgangen ikke kan justeres, hvis den viser sig at have skadelige anvendelser.

Med GPT‑2 var en af vores største bekymringer, at modellen kunne blive brugt på ondsindede måder (f.eks. fejlinformation), hvilket er svært at forhindre, når en model er open source. Med API'en kan vi bedre forhindre misbrug ved at begrænse adgangen til godkendte kunder og specifikke use cases. Der er et obligatorisk produktionsgennemsyn, inden foreslåede applikationer kan gå live. I disse gennemsyn vurderer vi applikationerne ud fra flere parametre og stiller spørgsmål som: Er dette en understøttet use case?, Hvor åben eller lukket er applikationen?, Hvor risikabel er applikationen?, Hvordan planlægger man at håndtere potentielt misbrug?, og Hvem er applikationens slutbrugere?

Vi lukker for API-adgang i tilfælde af use cases, der forårsager (eller har til hensigt at forårsage) fysisk, følelsesmæssig eller psykologisk skade på mennesker, herunder men ikke begrænset til chikane, bevidst vildledning, radikalisering, falsk græsrodsbevægelse (astroturfing) eller spam, samt applikationer uden tilstrækkelige sikkerhedsforanstaltninger mod misbrug fra slutbrugere. Efterhånden som vi får mere erfaring med at drive API'en i praksis, vil vi løbende finjustere de kategorier af brug, vi kan støtte – både for at udvide det mulige anvendelsesområde og for at indføre mere detaljerede kategorier for dem, hvor vi ser risiko for misbrug.

En vigtig faktor i godkendelsen af API-brug er, hvorvidt applikationen har åben eller begrænset adfærd i forhold til systemets generative muligheder. Åbne API-applikationer (dvs. dem der tillader uhindret generering af store mængder tekst via vilkårlige forespørgsler) er særligt udsatte for misbrug. Begrænsninger, som kan gøre generative use cases mere sikre, omfatter blandt andet systemdesign, der sikrer, at et menneske altid er involveret i processen, begrænsninger på slutbrugernes adgang, efterbehandling af genererede svar, indholdsfiltrering, begrænsninger på længden af input og output, aktiv monitorering samt afgrænsning af emneområder.

Vi fortsætter også vores forskning i potentielt misbrug af de modeller, der stilles til rådighed via API'en, herunder i samarbejde med eksterne forskere gennem vores akademiske adgangsprogram⁠(åbner i et nyt vindue). På nuværende tidspunkt samarbejder vi med et meget begrænset antal forskere og har allerede modtaget resultater fra vores akademiske partnere ved Middlebury Institute⁠(åbner i et nyt vindue), University of Washington og Allen Institute for AI⁠(åbner i et nyt vindue). Vi har allerede modtaget titusindvis af ansøgninger til programmet og prioriterer i øjeblikket særligt forskningsprojekter, der fokuserer på retfærdighed og repræsentation.

At mindske negative effekter som skadelig bias er en kompleks og brancheomfattende udfordring, som vi tager meget alvorligt. Som vi nævner i GPT‑3‑artiklen⁠(åbner i et nyt vindue) og modelkortet⁠(åbner i et nyt vindue), viser vores API-modeller stadig bias, som afspejles i den genererede tekst. Her er de tiltag, vi arbejder med for at imødegå disse problemer:

• Vi har udarbejdet retningslinjer for brug, der hjælper udviklerne med at forstå og håndtere potentielle sikkerhedsproblemer.
• Vi arbejder tæt sammen med brugerne for at forstå deres use cases og udvikle værktøjer, der kan opdage og aktivt modvirke skadelig bias.
• Vi gennemfører vores egen forskning i, hvordan skadelig bias kan manifestere sig, samt bredere spørgsmål om retfærdighed og repræsentation. Denne viden hjælper os med at forbedre dokumentationen af de eksisterende modeller og udvikle forbedringer til fremtidige modeller.
• Vi anerkender, at bias er et problem, der opstår i spændingsfeltet mellem systemet og dets anvendelseskontekst. Applikationer, der bygger på vores teknologi, er sociotekniske systemer. Derfor arbejder vi sammen med udviklerne om at sikre, at de implementerer passende processer og menneskelig monitorering for at opdage og håndtere uønsket adfærd.

Vores mål er løbende at udvide vores forståelse af API'ens potentielt skadelige virkninger i forskellige brugssammenhænge og hele tiden forbedre vores værktøjer og processer for bedst muligt at minimere dem.

Opdateret 18. september 2020