OpenAI API

Objavljujemo API za pristup novim AI modelima koje je razvio OpenAI. Za razliku od većine AI sustava koji su dizajnirani za jednu svrhu, API danas pruža opće sučelje za „unos teksta, izlaz teksta“, omogućujući korisnicima isprobavanje na gotovo svakom zadatku na engleskom jeziku. Sada možete zatražiti pristup kako biste integrirali API u svoj proizvod, razvili potpuno novu aplikaciju ili nam pomogli istražiti prednosti i ograničenja te tehnologije.

Za bilo koji tekstualni odzivnik, API će vratiti dovršetak teksta, pokušavajući ga uskladiti s uzorkom koji ste mu dali. Možete ga „programirati“ tako da mu pokažete samo nekoliko primjera onoga što biste željeli da radi; njegov uspjeh općenito varira ovisno o tome koliko je zadatak složen. API vam omogućuje i usavršavanje performansi na specifičnim zadacima obukom na skupu podataka (malom ili velikom) primjera koje pružite ili učenjem iz povratne informacije koje daju korisnici ili označivači.

Dizajnirali smo API jednostavnim za upotrebu za svakoga, ali i dovoljno fleksibilnim da timovima za strojno učenje poboljša produktivnost. Zapravo, mnogi naši timovi sada rabe API kako bi se usredotočili na istraživanje strojnog učenja, a ne na probleme distribuiranih sustava. Danas API pokreće modele s težinama iz obitelji GPT‑3⁠(otvara se u novom prozoru) uz mnoga poboljšanja brzine i propusnosti. Strojno učenje vrlo brzo napreduje, a mi neprestano nadograđujemo našu tehnologiju kako bi naši korisnici uvijek bili u tijeku.

Brzina napretka u ovom području znači da se često pojavljuju iznenađujuće nove aplikacije umjetne inteligencije, i pozitivne i negativne. Ukinut ćemo pristup API-ju za očito štetne slučajeve upotrebe, kao što su uznemiravanje, neželjena pošta, radikalizacija ili astroturfing. Ali znamo i da ne možemo predvidjeti sve moguće posljedice ove tehnologije, pa je danas pokrećemo u privatnoj beta verziji umjesto u općoj dostupnosti, gradimo alate koji će korisnicima omogućiti bolju kontrolu sadržaja koji naš API vraća i istražujemo aspekte jezične tehnologije relevantne za sigurnost (kao što su analiza, ublažavanje i intervencija kod štetnih pristranosti). Podijelit ćemo ono što naučimo kako bi naši korisnici i šira zajednica mogli izgraditi više sustava umjetne inteligencije koji su pozitivniji prema ljudima.

Osim što je izvor prihoda koji nam pomaže pokriti troškove⁠ u ostvarivanju naše misije⁠, API nas je potaknuo da izoštrimo fokus na opću umjetnu inteligenciju – unaprjeđujući tehnologiju, čineći je upotrebljivom i razmatrajući njezine učinke u stvarnom svijetu. Nadamo se da će API uvelike smanjiti barijeru⁠(otvara se u novom prozoru) za proizvodnju korisnih proizvoda temeljenih na umjetnoj inteligenciji, što će rezultirati alatima i uslugama koje je danas teško zamisliti.

Zanima li vas istraživanje API-ja? Pridružite se poduzećima kao što su Algolia⁠(otvara se u novom prozoru), Quizlet⁠(otvara se u novom prozoru) i Reddit⁠(otvara se u novom prozoru) te istraživačima u institucijama poput Middlebury Institute⁠(otvara se u novom prozoru) u našoj privatnoj beta verziji⁠(otvara se u novom prozoru).

U konačnici, ono što nam je najvažnije⁠ jest osigurati da opća umjetna inteligencija koristi svima. Razvoj komercijalnih proizvoda vidimo kao jedan od načina da osiguramo dovoljno sredstava za uspjeh.

Vjerujemo i da će sigurno uvođenje moćnih AI sustava u svijetu biti teško ispravno provesti. Prilikom objavljivanja API-ja, blisko surađujemo s partnerima kako bismo uočili izazove koji se pojavljuju kada se AI sustavi primjenjuju u stvarnom svijetu. To će nam pomoći u usmjeravanju naših napora prema razumijevanju primjene budućih sustava umjetne inteligencije i onoga što trebamo učiniti kako bismo osigurali sigurnost i korisnost za sve.

Tri su glavna razloga zbog kojih smo to učinili. Prvo, komercijalizacija tehnologije pomaže nam financirati naša tekuća istraživanja, sigurnost i napore u području pravila umjetne inteligencije.

Drugo, mnogi modeli koji su temelj API-ja vrlo su veliki, zahtijevaju puno stručnosti za razvoj i implementaciju što ih čini vrlo skupima za rad. To svima osim većim poduzećima otežava iskorištavanje temeljne tehnologije. Nadamo se da će API učiniti moćne AI sustave dostupnijima manjim poduzećima i organizacijama.

Treće, API model nam omogućuje lakše reagirati na zlouporabu tehnologije. Budući da je teško predvidjeti slučajeve daljnje upotrebe naših modela, čini se inherentno sigurnijim objaviti ih putem API-ja i postupno proširivati pristup, umjesto objavljivanja modela otvorenog koda gdje se pristup ne može prilagoditi ako se pokaže da ima štetne aplikacije.

Kod GPT‑2, jedna od naših ključnih briga bila je zlonamjerna upotreba modela (npr. za dezinformacije), što je teško spriječiti nakon što model postane otvorenog koda. Za API možemo bolje spriječiti zlouporabu ograničavanjem pristupa odobrenim korisnicima i slučajevima upotrebe. Imamo obavezan proces pregleda produkcije prije nego što se predložene aplikacije puste u rad. U pregledima proizvodnje procjenjujemo aplikacije kroz nekoliko osi, postavljajući pitanja poput: Radi li se o trenutačno podržanom slučaju upotrebe?, Koliko je aplikacija otvorena?, Koliko je aplikacija rizična?, Kako planirate riješiti potencijalnu zlouporabu? i Tko su krajnji korisnici vaše aplikacije?.

Prekidamo API pristup za slučajeve upotrebe za koje se utvrdi da uzrokuju (ili su namijenjeni uzrokovanju) fizičke, emocionalne ili psihološke štete ljudima, uključujući, ali ne ograničavajući se na uznemiravanje, namjernu obmanu, radikalizaciju, astroturfing ili neželjenu poštu, kao i za aplikacije koje nemaju dovoljno zaštitnih mjera za ograničavanje zlouporabe za krajnje korisnike. Kako stječemo više iskustva u radu s API-jem u praksi, kontinuirano ćemo usavršavati kategorije upotrebe koje možemo podržati, kako bismo proširili raspon aplikacija koje možemo podržati i kako bismo stvorili preciznije kategorije za one za koje smo zabrinuti u vezi sa zlouporabom.

Ključni faktor koji uzimamo u obzir pri odobravanju korištenja API-ja jest stupanj u kojem aplikacija pokazuje otvoreno naspram ograničenog ponašanja u odnosu na temeljne generativne mogućnosti sustava. Otvorene aplikacije API-ja (tj. one koje omogućuju neometano generiranje velikih količina prilagodljivog teksta putem proizvoljnih odzivnika) posebno su podložne zlouporabi. Ograničenja koja mogu učiniti generativne slučajeve upotrebe sigurnijima uključuju dizajn sustava koji drži čovjeka u petlji, ograničenja pristupa krajnjim korisnicima, naknadnu obradu rezultata, filtriranje sadržaja, ograničenja duljine upisa/izlaza, aktivno praćenje i ograničenja tematske relevantnosti.

Nastavljamo i provoditi istraživanja o potencijalnim zlouporabama modela koje poslužuje API, uključujući i s istraživačima trećih strana putem našeg programa akademskog pristupa⁠(otvara se u novom prozoru). Započinjemo s vrlo ograničenim brojem istraživača i već imamo neke rezultate naših akademskih partnera s ustanova Middlebury Institute⁠(otvara se u novom prozoru), University of Washington i Allen Institute for AI⁠(otvara se u novom prozoru). Već imamo desetke tisuća prijava za taj program i trenutačno dajemo prioritet aplikacijama usmjerenima na istraživanje pravednosti i zastupljenosti.

Ublažavanje negativnih učinaka kao što je štetna pristranost predstavlja ozbiljan problem na razini cijele industrije koji je iznimno važan. Kao što raspravljamo u radu o GPT‑3⁠(otvara se u novom prozoru) i kartici modela⁠(otvara se u novom prozoru), naši API modeli pokazuju pristranosti koje će se odraziti u smišljenom tekstu. Kako bismo odgovorili na te probleme poduzimamo sljedeće korake:

• Razvili smo smjernice za upotrebu koje pomažu razvojnim inženjerima da razumiju i riješe potencijalne sigurnosne probleme.
• Blisko surađujemo s korisnicima kako bismo razumjeli njihove slučajeve upotrebe i razvili alate za otkrivanje i intervenciju s ciljem ublažavanja štetnih pristranosti.
• Provodimo vlastito istraživanje manifestacija štetnih pristranosti i širih pitanja u pravednosti i zastupljenosti, što će nam pomoći u oblikovanju našeg rada kroz poboljšanu dokumentaciju postojećih modela, kao i razna poboljšanja budućih modela.
• Prepoznajemo da je pristranost problem koji se manifestira na sjecištu sustava i implementiranog konteksta. Aplikacije izgrađene našom tehnologijom sociotehnički su sustavi, stoga surađujemo s razvojnim inženjerima kako bismo osigurali uvođenje odgovarajućih procesa i sustava s ljudskim uplitanjem za praćenje štetnog ponašanja.

Naš je cilj nastaviti razvijati razumijevanje potencijalnih šteta API-ja u svakom kontekstu upotrebe te kontinuirano poboljšavati naše alate i procese kako bismo ih sveli na najmanju moguću mjeru.

Ažurirano 18. rujna 2020.