OpenAI API

Predstavljamo API za dostop do novih modelov umetne inteligence, ki jih je razvilo podjetje OpenAI. Za razliko od večine sistemov umetne inteligence, ki so zasnovani za en sam primer uporabe, API danes ponuja splošni vmesnik za »vnos in izpis besedila«, ki uporabnikom omogoča, da ga preizkusijo pri praktično kateri koli nalogi v angleščini. Zdaj lahko zahtevate dostop za integracijo API-ja v svoj izdelek, razvoj popolnoma nove aplikacije ali pomoč pri raziskovanju prednosti in omejitev te tehnologije.

Ob vnosu katerega koli besedilnega poziva bo API vrnil dopolnjevanje besedila, ki bo poskušalo ujemati vzorec, ki ste mu ga dali. Lahko ga 'programirate' tako, da mu pokažete le nekaj primerov, kaj želite, da naredi; njegov uspeh se običajno razlikuje glede na to, kako zapletena je naloga. API vam prav tako omogoča izpopolnjevanje učinkovitosti pri specifičnih nalogah z usposabljanjem na naboru podatkov (majhnem ali velikem) iz primerov, ki jih zagotovite, ali z učenjem iz povratnih informacij, ki jih posredujejo uporabniki ali označevalci.

API smo zasnovali tako, da je njegova uporaba preprosta za vsakogar, hkrati pa dovolj prilagodljiv, da ekipe za strojno učenje postanejo bolj produktivne. Pravzaprav številne naše ekipe zdaj uporabljajo API, da se lahko osredotočijo na raziskave strojnega učenja namesto na težave s porazdeljenimi sistemi. Danes API izvaja modele z utežmi iz družine GPT‑3⁠(odpre se v novem oknu) z mnogimi izboljšavami hitrosti in zmogljivosti. Strojno učenje se zelo hitro razvija in zato našo tehnologijo nenehno nagrajujemo, da naši uporabniki ostanejo na tekočem.

Hitrost napredka na tem področju pomeni, da se pogosto pojavljajo presenetljive nove aplikacije umetne inteligence, tako pozitivne kot negativne. Dostop do API-ja bomo prekinili za očitno škodljive primere uporabe, kot so nadlegovanje, neželena pošta, radikalizacija ali astroturfing. Vemo pa tudi, da ne moremo predvideti vseh možnih posledic te tehnologije, zato jo danes začenjamo uporabljati v zasebni beta različici in ne v splošni dostopnosti. Gradimo orodja, ki bodo uporabnikom pomagala bolje nadzorovati vsebino, ki jo naš API vrne, in raziskujemo varnostne vidike jezikovne tehnologije (kot so analiziranje, blaženje in posredovanje pri škodljivih pristranskostih). Kar se bomo naučili, bomo tudi delili, tako da bodo naši uporabniki in širša skupnost lahko zgradili bolj človeško prijazne sisteme umetne inteligence.

Poleg tega, da API predstavlja vir prihodkov, ki nam pomaga kriti stroške⁠ pri uresničevanju našega poslanstva⁠, nas je tudi spodbudil, da izostri našo osredotočenost na splošno tehnologijo umetne inteligence – napredovanje tehnologije, njeno uporabnost in preučevanje njenih vplivov v resničnem svetu. Upamo, da bo API močno zmanjšal oviro⁠(odpre se v novem oknu) za proizvodnjo koristnih izdelkov, ki jih poganja umetna inteligenca, kar bo privedlo do orodij in storitev, ki si jih danes težko predstavljamo.

Vas zanima raziskovanje API-ja? Pridružite se podjetjem, kot so Algolia⁠(odpre se v novem oknu), Quizlet⁠(odpre se v novem oknu) in Reddit⁠(odpre se v novem oknu), ter raziskovalcem na institucijah, kot je Middlebury Institute⁠(odpre se v novem oknu), v naši zasebni beta različici⁠(odpre se v novem oknu).

Navsezadnje nas najbolj skrbi⁠, da splošna umetna inteligenca koristi vsem. Razvoj komercialnih izdelkov vidimo kot enega od načinov, kako zagotoviti dovolj sredstev za uspeh.

Prav tako verjamemo, da bo varno uvajanje zmogljivih sistemov umetne inteligence po svetu težko pravilno izvesti. Pri izdaji API-ja tesno sodelujemo z našimi partnerji, da bi ugotovili, kakšni izzivi se pojavijo, ko se sistemi umetne inteligence uporabljajo v resničnem svetu. To nam bo pomagalo usmerjati naša prizadevanja za razumevanje, kako bo potekala uvedba prihodnjih sistemov umetne inteligence, in kaj moramo storiti, da zagotovimo njihovo varnost in korist za vse.

To smo storili na podlagi treh glavnih razlogov. Najprej, komercializacija tehnologije nam pomaga financirati naša stalna prizadevanja na področju raziskav, varnosti in politike umetne inteligence.

Drugič, mnogi modeli, na katerih temelji API, so zelo obsežni, kar zahteva veliko strokovnega znanja za njihov razvoj in uvajanje, zaradi česar je njihovo delovanje zelo drago. To otežuje, da bi kdorkoli, razen večjih podjetij, lahko izkoristil osnovno tehnologijo. Upamo, da bo API zmogljive sisteme umetne inteligence naredil dostopnejše manjšim podjetjem in organizacijam.

Tretjič, model API nam omogoča, da se lažje odzovemo na zlorabo tehnologije. Ker je težko predvideti nadaljnje primere uporabe naših modelov, se nam zdi varneje, da jih objavimo prek API-ja in sčasoma razširimo dostop, kot da objavimo odprtokodni model, pri katerem dostopa ni mogoče prilagoditi, če se izkaže, da ima škodljive aplikacije.

Pri GPT‑2 je bila ena naših ključnih skrbi zlonamerna uporaba modela (npr. za dezinformacije), kar je težko preprečiti, ko je model enkrat odprtokoden. Pri API lahko bolje preprečimo zlorabo z omejitvijo dostopa na odobrene stranke in primere uporabe. Imamo obvezen postopek pregleda produkcije, preden lahko predlagane aplikacije zaženemo v živo. Pri produkcijskih pregledih aplikacije ocenjujemo po nekaj oseh in postavljamo vprašanja, kot so: Ali je to trenutno podprt primer uporabe?, Kako odprta je aplikacija?, Kako tvegana je aplikacija?, Kako nameravate obravnavati morebitno zlorabo? in Kdo so končni uporabniki vaše aplikacije?.

Dostop do API-ja prekinemo za primere uporabe, za katere se ugotovi, da povzročajo (ali so namenjeni povzročitvi) fizično, čustveno ali psihološko škodo ljudem, vključno z, vendar ne omejeno na, nadlegovanje, namerno zavajanje, radikalizacijo, astroturfing ali neželeno pošto, ter za aplikacije, ki nimajo zadostnih varoval za omejevanje zlorabe s strani končnih uporabnikov. Ko bomo pridobili več izkušenj z upravljanjem API-ja v praksi, bomo nenehno izpopolnjevali kategorije uporabe, ki jih lahko podpiramo, tako za razširitev obsega aplikacij, ki jih lahko podpiramo, kot tudi za ustvarjanje natančnejših kategorij za tiste, glede katerih imamo pomisleke o zlorabi.

Eden ključnih dejavnikov, ki jih upoštevamo pri odobritvi uporabe API-ja, je obseg, v katerem aplikacija kaže odprto ali omejeno vedenje glede na osnovne generativne zmogljivosti sistema. Odprte aplikacije API (tj. tiste, ki omogočajo nemoteno ustvarjanje velikih količin prilagodljivega besedila s poljubnimi pozivi) so še posebej dovzetne za zlorabo. Omejitve, ki lahko naredijo generativne primere uporabe varnejše, vključujejo zasnovo sistemov, ki ohranjajo človeka v procesu, omejitve dostopa končnega uporabnika, naknadno obdelavo rezultatov, filtriranje vsebine, omejitve dolžine vnosa/rezultata, aktivno spremljanje in omejitve aktualnosti.

Prav tako nadaljujemo z raziskavami o morebitnih zlorabah modelov, ki jih ponuja API, vključno z raziskovalci tretjih oseb prek našega programa akademskega dostopa⁠(odpre se v novem oknu). Trenutno začenjamo z zelo omejenim številom raziskovalcev in že imamo nekaj rezultatov naših akademskih partnerjev na Middlebury Institute⁠(odpre se v novem oknu), University of Washington in Allen Institute for AI⁠(odpre se v novem oknu). Za ta program imamo že več deset tisoč prijaviteljev in trenutno dajemo prednost aplikacijam, osredotočenim na raziskave pravičnosti in zastopanosti.

Blaženje negativnih učinkov, kot je škodljiva pristranskost, je težavna ter izjemno pomembna naloga za celotno industrijo. Kot razpravljamo v dokumentu GPT‑3⁠(odpre se v novem oknu) in kartici modela⁠(odpre se v novem oknu), naši API modeli izkazujejo pristranskosti, ki se bodo odražale v ustvarjenem besedilu. Tukaj so koraki, ki jih izvajamo za reševanje teh težav:

• Razvili smo smernice za uporabo, ki razvijalcem pomagajo razumeti in odpraviti morebitne varnostne težave.
• Tesno sodelujemo z uporabniki, da bi razumeli njihove primere uporabe in razvili orodja za odkrivanje in posredovanje pri zmanjševanju škodljivih pristranskosti.
• Izvajamo lastne raziskave o pojavih škodljive pristranskosti in širših vprašanjih pravičnosti ter zastopanosti, kar bo pomagalo naše delo usmerjati z izboljšano dokumentacijo obstoječih modelov in različnimi izboljšavami prihodnjih modelov.
• Zavedamo se, da je pristranskost problem, ki se pojavlja na presečišču sistema in sobesedila uporabe; aplikacije, zgrajene z našo tehnologijo, so sociotehnični sistemi, zato sodelujemo z našimi razvijalci, da zagotovimo, da uvajajo ustrezne procese in sisteme s človekom v zanki za spremljanje neželenega vedenja.

Naš cilj je, da bi nadaljevali z razvojem našega razumevanja potencialnih škod API-ja v vsakem sobesedilu uporabe in nenehno izboljševali naša orodja in procese, da bi jih zmanjšali.

Posodobljeno 18. septembra 2020