OpenAI API

Vi lanserer et API for å bruke nye KI-modeller utviklet av OpenAI. I motsetning til de fleste KI-systemer som er utviklet for ett brukstilfelle, gir API-et i dag et «tekst inn, tekst ut»-grensesnitt for generelle formål, noe som lar brukere prøve det på praktisk talt hvilken som helst oppgave på engelsk. Nå kan du be om tilgang for å integrere API-et i produktet ditt, utvikle en helt ny applikasjon eller hjelpe oss med å utforske styrkene og begrensningene til denne nye teknologien.

Gitt hvilken som helst tekstmelding returnerer API-et en tekstfullførelse og forsøker å matche mønsteret du ga det. Du kan «programmere» det ved å vise det noen få eksempler på det du vil at det skal gjøre. Suksessen varierer generelt sett avhengig av hvor kompleks oppgaven er. API-et lar deg også finpusse ytelsen for spesifikke oppgaver ved å lære det opp på et datasett (lite eller stort) med eksempler du oppgir, eller ved å lære fra menneskelige tilbakemeldinger gitt av brukere eller datamerkere.

Vi har designet API-et til å være både enkelt å bruke for hvem som helst, men også fleksibelt nok til å gjøre maskinlæringsteam mer produktive. Mange av teamene våre bruker faktisk API-et slik at de kan fokusere på forskning innen maskinlæring i stedet for problemer med distribuerte systemer. Nå kjører API-et modeller med vekter fra GPT‑3⁠(åpnes i et nytt vindu)-familien med mange forbedringer for hastighet og gjennomstrømming. Maskinlæring utvikles veldig raskt, og vi oppgraderer teknologien vår konstant, slik at brukere kan holde seg oppdatert.

Fremdriften i fagområdet betyr at det ofte dukker opp overraskende nye bruksområder for KI, både positive og negative. Vi stopper API-tilgang for åpenbart skadelige brukstilfeller, for eksempel trakassering, søppelpost, radikalisering eller kunstig grasrotbevegelse. Men vi vet også at vi ikke kan forutse alle de mulige konsekvensene av denne teknologien, så vi lanserer i dag i en privat beta i stedet for generell tilgjengelighet, lager verktøy for å hjelpe brukere med å få bedre kontroll over innholdet API-et returnerer, og forsker på sikkerhetsrelevante aspekter av språkteknologi (for eksempel analysering, redusering og intervenering for skadelig bias). Vi deler det vi lærer, slik at brukerne våre og det bredere samfunnet kan bygge KI-systemer som er mer positive for mennesker.

I tillegg til å være en inntektskilde som hjelper oss med å dekke kostnader⁠ i arbeidet mot målet vårt⁠, har API-et gitt oss mer fokus på KI-teknologi med generelt formål, ved å forbedre teknologien, gjøre den brukbar og ta hensyn til innvirkningen den har på den virkelige verdenen. Vi håper at API-et i stor grad senker barrieren⁠(åpnes i et nytt vindu) for å produsere gunstige KI-baserte produkter, noe som resulterer i verktøy og tjenester som er vanskelige å se for seg i dag.

Er du interessert i å utforske API-et? Bli med bedrifter som Algolia⁠(åpnes i et nytt vindu), Quizlet⁠(åpnes i et nytt vindu) og Reddit⁠(åpnes i et nytt vindu), og forskere fra institusjoner som Middlebury Institute⁠(åpnes i et nytt vindu) i den private betaen⁠(åpnes i et nytt vindu).

Til syvende og sist er det vi bryr oss mest om⁠ å sikre at kunstig generell intelligens er til nytte for alle. Vi anser utvikling av kommersielle produkter som en av måtene vi kan sikre at vi har nok finansiering til å lykkes på.

Vi mener også at trygg utrulling av kraftige KI-systemer i verden blir vanskelig å gjøre på riktig måte. Ved å lansere API-et jobber vi tett med partnerne våre for å se hvilke utfordringer som oppstår når KI-systemer brukes i den virkelige verden. Dette bidrar til å veilede arbeidet vårt med å forstå hvordan utrulling av fremtidige KI-systemer kan gjøres, og hva vi trenger for å sikre at de er sikre og nyttige for alle.

Det er tre hovedgrunner til at vi gjorde dette. For det første bidrar kommersialisering av teknologien til at vi kan betale for pågående KI-forskning, sikkerhetsarbeid og arbeid med retningslinjer.

For det andre er mange av modellene som underbygger API-et veldig store og krever mye ekspertise for å utvikle og utrulle, noe som gjør det veldig dyrt å drive dem. Dette gjør det vanskelig for alle andre enn større bedrifter å dra nytte av den underliggende teknologien. Vi håper at API-et gjør kraftige KI-systemer mer tilgjengelige for mindre bedrifter og organisasjoner.

For det tredje gjør API-modeller det enklere for oss å respondere på feilaktig bruk av teknologien. Siden det er vanskelig å forutsi bruksområdene til modellene, føles det tryggere å lansere dem via et API og utvide tilgang over tid, i stedet for å lansere en modell med åpen kildekode der tilgang ikke kan justeres hvis det viser seg at det har skadelige bruksområder.

Med GPT‑2 var en av de største bekymringene skadelig bruk av modellen (f.eks. desinformasjon), som er vanskelig å unngå når en modell har åpen kildekode. For API-et er det enklere å forhindre feilaktig bruk ved å begrense tilgang til godkjente kunder og bruksområder. Vi har en obligatorisk prosess for produktgjennomgang før applikasjoner kan aktiveres. I produktgjennomganger evaluerer vi applikasjoner på noen akser og stiller spørsmål som: Er dette et bruksområde som støttes nå?, Hvor åpen er applikasjonen?, Hvor risikabel er applikasjonen?, Hvordan planlegger dere å takle potensiell uriktig bruk? og Hvem er applikasjonens sluttbrukere?.

Vi stopper API-tilgang for bruksområder som forårsaker (eller har til hensikt å forårsake) fysisk, emosjonell eller psykologisk skade for personer, inkludert, men ikke begrenset til, trakassering, villedelse, radikalisering, kunstig grasrotbevegelse eller søppelpost, samt bruksområder som har utilstrekkelig beskyttelse til å begrense feilaktig bruk av sluttbrukere. Når vi får mer erfaring med operasjon av API-et i praksis, kommer vi til å kontinuerlig forbedre brukskategoriene vi kan støtte, både for å utvide omfanget av bruksområder, og for å skape mer fininnstilte kategorier hvor vi er bekymret for misbruk.

Én nøkkelfaktor vi vurderer ved godkjennelse av bruk av API-et er i hvor stor grad et bruksområde viser åpen kontra begrenset atferd med hensyn til de underliggende generative funksjonalitetene til systemet. Åpne bruksområder for API-et (dvs. som muliggjør problemfri generering av store mengder tilpassbar tekst via vilkårlige meldinger) er spesielt utsatt for feilaktig bruk. Begrensninger som kan gjøre generative bruksområder sikrere inkluderer systemdesign som holder en person oppdatert, begrenset tilgang for sluttbrukere, etterbehandling av utdata, innholdsfiltrering, lengdebegrensninger for inndata/utdata, aktiv overvåkning og emnebegrensninger.

Vi fortsetter også å forske på potensiell feilaktig bruk av modellene som leveres av API-et, inkludert med tredjepartsforskere via programmet vårt for akademisk tilgang⁠(åpnes i et nytt vindu). Vi begynner med et veldig begrenset antall forskere og har allerede fått noen resultater fra de akademiske partnerne våre ved Middlebury Institute⁠(åpnes i et nytt vindu), University of Washington og Allen Institute for AI⁠(åpnes i et nytt vindu). Vi har allerede titusensvis av søkere for dette programmet og prioriterer nå applikasjoner som er fokusert på rettferdighet og representasjonsforskning.

Begrensning av negative effekter som skadelig bias er et bransjeomfattende problem som er ekstremt viktig. Som vi diskuterte i GPT‑3‑artikkelen⁠(åpnes i et nytt vindu) og modellkortet⁠(åpnes i et nytt vindu), fremviser API-modellene våre bias som gjenspeiles i generert tekst. Her er tiltakene vi tar for å takle disse problemene:

• Vi har utviklet retningslinjer som hjelper utviklere med å forstå og takle potensielle sikkerhetsproblemer.
• Vi jobber tett med brukere for å forstå bruksområdene deres og utvikle verktøy for å oppdage og hindre skadelig bias.
• Vi utfører egen forskning på skadelig bias og bredere problemer innen rettferdighet og representasjon, noe som bidrar til å informere arbeidet vårt via forbedret dokumentasjon av eksisterende modeller og ulike forbedringer av fremtidige modeller.
• Vi anerkjenner at bias er et problem som uttrykkes i skjæringspunktet til et system og en utrullet kontekst. Applikasjoner bygget med teknologien vår er sosiotekniske systemer, så vi jobber med utviklerne for å sikre at de setter inn passende prosesser og systemer med oppdatering av mennesker for å overvåke for ugunstig atferd.

Målet vårt er å fortsette å utvikle forståelsen av API-ets potensielle skade i hver brukskontekst og kontinuerlig forbedre verktøy og prosesser for å bidra til å minimere den.

Oppdatert 18. september 2020