OpenAI API

Julkaisemme API:n, jolla pääsee käyttämään OpenAI:n kehittämiä uusia tekoälymalleja. Toisin kuin useimmat tekoälyjärjestelmät, jotka on suunniteltu yhtä käyttötarkoitusta varten, API tarjoaa nykyään yleiskäyttöisen ”teksti sisään, teksti ulos” -käyttöliittymän, jota käyttäjät voivat kokeilla lähes missä tahansa englanninkielisessä tehtävässä. Voit nyt pyytää käyttöoikeutta, jos haluat integroida API:n omaan tuotteeseesi, kehittää aivan uuden sovelluksen tai auttaa meitä tutkimaan tämän teknologian vahvuuksia ja rajoja.

Saatuaan mikä tahansa tekstikehotteen API tuottaa tekstin täydennyksen ja pyrkii vastaamaan annettuun malliin. Voit ”ohjelmoida” sen näyttämällä sille muutaman esimerkin siitä, mitä haluat sen tekevän; sen onnistuminen vaihtelee yleensä tehtävän monimutkaisuuden mukaan. API mahdollistaa suorituskyvyn hiomisen tietyissä tehtävissä joko kouluttamalla antamiesi esimerkkitietojen avulla (riippumatta niiden koosta) tai hyödyntämällä käyttäjien ja merkitsijöiden antamaa palautetta.

Olemme suunnitelleet API:n helppokäyttöiseksi mutta myös tarpeeksi joustavaksi, jotta koneoppimistiimit voivat olla tuottavampia. Monet tiimimme käyttävätkin nyt API:ta, jotta ne voivat keskittyä koneoppimisen tutkimukseen hajautettujen järjestelmien ongelmien sijaan. Nykyään API käyttää malleja, joissa on GPT‑3⁠(avautuu uudessa ikkunassa)-tuoteperheen painot, ja siinä on monia nopeus- ja läpimenokapasiteetin parannuksia. Koneoppiminen kehittyy vauhdilla, ja päivitämme teknologiaamme jatkuvasti, jotta käyttäjät pysyvät ajan tasalla.

Alan nopean kehityksen ansiosta tekoälylle syntyy usein yllättäviä uusia sovelluksia, sekä myönteisiä että kielteisiä. Suljemme API:n käytön selvästi haitallisissa käyttötapauksissa, kuten häirinnässä, roskapostissa, radikalisoitumisessa tai astroturfingissa (harhaanjohtava vaikuttaminen). Tiedämme kuitenkin, ettemme voi ennakoida kaikkia teknologian mahdollisia seurauksia. Siksi käynnistämme nyt yksityisen beta-version yleisen saatavuuden sijaan, kehitämme työkaluja, joiden avulla käyttäjät voivat paremmin hallita API:n tuottamaa sisältöä, ja tutkimme kieliteknologian turvallisuuteen liittyviä näkökohtia (kuten haitallisten ennakkoluulojen analysointi, lieventäminen ja niihin puuttuminen). Jaamme oppimamme, jotta käyttäjämme ja laajempi yhteisö voivat rakentaa entistä ihmisläheisempiä tekoälyjärjestelmiä.

Sen lisäksi, että API toimii tulonlähteenä, joka auttaa kattamaan kustannukset⁠ tehtävämme⁠ toteuttamiseksi, se on vauhdittanut keskittymistä yleiskäyttöiseen tekoälyteknologiaan – sen kehittämiseen, käyttökelpoiseksi tekemiseen ja sen vaikutusten arvioimiseen tosielämässä. Toivomme, että sovellusrajapinta alentaa huomattavasti kynnystä⁠(avautuu uudessa ikkunassa) tuottaa hyödyllisiä tekoälyllä toimivia tuotteita ja että tuloksena on työkaluja ja palveluja, joita on nyt vaikea edes kuvitella.

Kiinnostaako tutustuminen API:hin? Liity Algolian⁠(avautuu uudessa ikkunassa), Quizletin⁠(avautuu uudessa ikkunassa) ja Redditin⁠(avautuu uudessa ikkunassa) kaltaisten yritysten ja Middlebury-Instituten⁠(avautuu uudessa ikkunassa) kaltaisten laitosten tutkijoiden joukkoon yksityisessä beta-versiossamme⁠(avautuu uudessa ikkunassa).

Meille on kaikkein tärkeintä⁠ varmistaa, että yleinen tekoäly hyödyttää jokaista. Pidämme kaupallisten tuotteiden kehittämistä yhtenä keinona varmistaa, että meillä on riittävä rahoitus onnistuaksemme.

Uskomme myös, että tehokkaiden tekoälyjärjestelmien turvallinen käyttöönotto globaalisti on vaikeaa saada onnistumaan. Kun julkaisemme API:n, teemme tiivistä yhteistyötä kumppaneiden kanssa selvittääksemme, mitä haasteita syntyy, kun tekoälyjärjestelmiä käytetään tosielämässä. Tämä auttaa meitä ymmärtämään, miten tulevien tekoälyjärjestelmien käyttöönotto sujuu ja mitä meidän on tehtävä niiden turvallisuuden ja hyödyllisyyden varmistamiseksi kaikille.

Tähän on kolme pääsyytä. Tekniikan kaupallistaminen auttaa meitä ensinnäkin rahoittamaan tekoälyn tutkimuksen, turvallisuuden ja käytäntöjen kehitystyötä.

Toiseksi monet API:n taustalla olevista malleista ovat hyvin laajoja, joten niiden kehittäminen ja käyttöönotto vaatii paljon asiantuntemusta ja niiden käyttäminen on varsin kallista. Tämän vuoksi muiden kuin suurten yritysten on vaikea hyötyä taustalla olevasta teknologiasta. Toivomme, että API tekee tehokkaista tekoälyjärjestelmistä helpommin saavutettavia pienille yrityksille ja organisaatioille.

Kolmanneksi API-mallin avulla voimme helpommin reagoida teknologian väärinkäyttöön. Koska on vaikea ennustaa mallien myöhempiä käyttötapauksia, tuntuu lähtökohtaisesti turvallisemmalta julkaista ne API:n kautta ja laajentaa käyttöoikeuksia ajan mittaan kuin julkaista avoimen lähdekoodin malli, jonka käyttöoikeuksia ei voi muokata, jos osoittautuu, että sillä on haitallisia sovelluksia.

GPT‑2:n kohdalla yksi tärkeimmistä huolenaiheistamme oli mallin haitallinen käyttö (esim. disinformaatio), jota on vaikea estää, kun malli on avattu. API:n kohdalla pystymme paremmin estämään väärinkäytön rajoittamalla pääsyn hyväksyttyihin asiakkaisiin ja käyttötapauksiin. Meillä on käytössä pakollinen tuotannon tarkastusprosessi ennen kuin ehdotetut sovellukset voidaan ottaa käyttöön. Tuotantotarkastuksissa arvioimme sovelluksia muutamilla akseleilla ja kysymme mm. seuraavanlaisia kysymyksiä: Onko tämä tällä hetkellä tuettu käyttötapaus?, Kuinka avoin sovellus on?, Kuinka riskialtis sovellus on?, Miten aiotte puuttua mahdolliseen väärinkäyttöön?, ja Keitä ovat sovelluksen loppukäyttäjät?.

Suljemme API-käytön käyttötapauksista, joiden todetaan aiheuttavan (tai on tarkoitus aiheuttaa) fyysistä, emotionaalista tai psykologista haittaa ihmisille, mukaan lukien, mutta ei näihin rajoittuen, häirintä, tahallinen harhauttaminen, radikalisoituminen, astroturfing tai roskaposti, sekä sovelluksista, joissa ei ole riittäviä turvasääntöjä loppukäyttäjien väärinkäytön rajoittamiseksi. Kun saamme lisäkokemusta API:n käyttämisestä, tarkennamme jatkuvasti tukemiamme käyttöluokkia sekä voidaksemme laajentaa tukemiemme sovellusten valikoimaa että luodaksemme yksityiskohtaisempia luokkia niille sovelluksille, joiden väärinkäytöstä olemme huolissamme.

Yksi keskeinen tekijä, jonka otamme huomioon arvioidessamme API:n käyttöä, on se, missä määrin sovellus käyttäytyy avoimesti vai rajoitetusti järjestelmän taustalla olevien generatiivisten ominaisuuksien suhteen. API:n avoimet sovellukset (eli ne, jotka mahdollistavat suurten tekstimäärien kitkattoman tuottamisen satunnaisten kehotusten avulla) ovat erityisen alttiita väärinkäytöksille. Generatiivisten käyttötapausten turvallisuutta lisääviä rajoitteita ovat mm. järjestelmäsuunnittelu, joka pitää ihmisen mukana prosessissa, loppukäyttäjän käyttöoikeusrajoitukset, tuotosten jälkikäsittely, sisällön suodatus, syötteen ja tulosteen pituusrajoitukset, aktiivinen seuranta ja aihepiirin rajaukset.

Jatkamme myös API:n tarjoamien mallien mahdollisia väärinkäytöksiä koskevaa tutkimusta, myös yhdessä kolmansien osapuolten tutkijoiden kanssa akateemisen käyttöoikeusohjelmamme⁠(avautuu uudessa ikkunassa) kautta. Aloitamme toistaiseksi hyvin rajoitetulla tutkijamäärällä, ja meillä on jo joitakin tuloksia akateemisilta yhteistyökumppaneilta Middlebury Institutesta⁠(avautuu uudessa ikkunassa), Washingtonin yliopistosta ja Allen Institute for AI:sta⁠(avautuu uudessa ikkunassa). Ohjelmaan on jo kymmeniä tuhansia hakijoita, ja tällä hetkellä priorisoimme oikeudenmukaisuuden ja edustuksen tutkimukseen keskittyviä hakemuksia.

Haitallisten ennakkoluulojen kaltaisten kielteisten vaikutusten lieventäminen on vaikea, koko alaa koskeva kysymys, ja se on äärimmäisen tärkeä. Kuten GPT‑3‑artikkelissa⁠(avautuu uudessa ikkunassa) ja mallikortissa⁠(avautuu uudessa ikkunassa) käsitellään, API-mallimme sisältävät ennakkoluuloja, jotka näkyvät tuotetussa tekstissä. Seuraavassa on lueteltu toimia, joita olemme toteuttaneet ongelmien ratkaisemiseksi:

• Olemme kehittäneet käyttöohjeita, jotka auttavat kehittäjiä ymmärtämään ja käsittelemään mahdollisia turvallisuusongelmia.
• Teemme tiivistä yhteistyötä käyttäjien kanssa, jotta voimme ymmärtää heidän käyttötapauksiaan ja kehittää työkaluja haitallisten ennakkoluulojen havaitsemiseksi ja niihin puuttumiseksi.
• Tutkimme haitallisten ennakkoluulojen ilmenemistä ja laajempia oikeudenmukaisuuteen ja edustukseen liittyviä kysymyksiä, mikä auttaa meitä parantamaan nykyisten mallien dokumentaatiota ja kehittämään tulevia malleja.
• Myönnämme, että ennakkoluulot ovat ongelma, joka ilmenee järjestelmän ja sen käyttöympäristön yhtymäkohdassa. Teknologiallamme rakennetut sovellukset ovat sosioteknisiä järjestelmiä, joten työskentelemme kehittäjiemme kanssa varmistaaksemme, että he käyttävät asianmukaisia prosesseja ja ihmisen mukana pitäviä järjestelmiä haitallisen toiminnan valvomiseksi.

Tavoitteenamme on jatkuvasti kehittää ymmärrystämme API:n mahdollisista haitoista eri käyttöyhteyksissä ja parantaa työkaluja ja prosesseja niiden minimoimiseksi.

Päivitetty 18. syyskuuta 2020