OpenAI API

Objavljujemo API za pristup novim AI modelima koje je razvio OpenAI. Za razliku od većine AI sistema, koji su osmišljeni za jedan slučaj upotrebe, API danas nudi interfejs opšte namene „tekst na ulazu, tekst na izlazu“, omogućavajući korisnicima da ga isprobaju na praktično bilo kom zadatku na engleskom jeziku. Sada možete da zatražite pristup kako biste integrisali API u svoj proizvod, razvili potpuno novu aplikaciju ili nam pomogli da istražimo prednosti i ograničenja ove tehnologije.

Za bilo koju tekstualnu instrukciju, API će vratiti dopunjeni tekst, nastojeći da prati obrazac koji ste mu zadali. Možete ga „programirati“ tako što ćete mu pokazati samo nekoliko primera onoga što želite da radi; njegov uspeh uglavnom varira u zavisnosti od složenosti zadatka. API vam takođe omogućava da unapredite performanse na specifičnim zadacima obučavanjem na skupu podataka (malom ili velikom) sastavljenom od primera koje obezbedite ili učenjem iz ljudskih povratnih informacija koje daju korisnici ili označivači.

Osmislili smo API tako da bude jednostavan za korišćenje svima, ali i dovoljno fleksibilan da timove za mašinsko učenje učini produktivnijim. Mnogi naši timovi sada zapravo koriste API kako bi mogli da se usredsrede na istraživanje mašinskog učenja, a ne na probleme distribuiranih sistema. Danas API pokreće modele sa težinama iz porodice GPT‑3⁠(отвара се у новом прозору), uz mnoga poboljšanja brzine i propusne moći. Mašinsko učenje se razvija veoma brzo i neprestano unapređujemo našu tehnologiju kako bi naši korisnici ostali u toku.

Tempo napretka u ovoj oblasti znači da se često pojavljuju iznenađujuće nove primene AI-ja, i pozitivne i negativne. Ukinućemo API pristup za očigledno štetne slučajeve upotrebe, kao što su uznemiravanje, spam, radikalizacija ili astroturfing. Ali takođe znamo da ne možemo unapred da predvidimo sve moguće posledice ove tehnologije, pa danas pokrećemo privatnu beta verziju umesto opšte dostupnosti, gradimo alate koji korisnicima pomažu da bolje kontrolišu sadržaj koji naš API vraća i istražujemo bezbednosno relevantne aspekte jezičke tehnologije (kao što su analiza, ublažavanje i intervencija kod štetne pristrasnosti). Podelićemo ono što naučimo kako bi naši korisnici i šira zajednica mogli da grade AI sisteme pozitivnije za ljude.

Pored toga što predstavlja izvor prihoda koji nam pomaže da pokrijemo troškove⁠ u ostvarivanju naše misije⁠, API nas je podstakao da dodatno izoštrimo fokus na AI tehnologiju opšte namene — da unapređujemo tehnologiju, činimo je upotrebljivom i razmatramo njen uticaj u stvarnom svetu. Nadamo se da će API značajno sniziti prepreku⁠(отвара се у новом прозору) za stvaranje korisnih proizvoda pokretanih AI-jem, što će dovesti do alata i usluga koje je danas teško i zamisliti.

Zanima vas istraživanje API-ja? Pridružite se kompanijama kao što su Algolia⁠(отвара се у новом прозору), Quizlet⁠(отвара се у новом прозору) i Reddit⁠(отвара се у новом прозору), kao i istraživačima iz institucija kao što je Middlebury Institute⁠(отвара се у новом прозору), u našoj privatnoj beta verziji⁠(отвара се у новом прозору).

Na kraju, ono do čega nam je najviše stalo⁠ jeste da opšta veštačka inteligencija koristi svima. Razvoj komercijalnih proizvoda vidimo kao jedan od načina da obezbedimo dovoljno finansiranja za uspeh.

Takođe verujemo da će biti teško bezbedno uvesti moćne AI sisteme u svet kako treba. Objavljivanjem API-ja blisko sarađujemo sa partnerima kako bismo videli koji se izazovi javljaju kada se AI sistemi koriste u stvarnom svetu. To će nam pomoći da usmerimo napore ka razumevanju kako će izgledati primena budućih AI sistema i šta treba da uradimo da bismo bili sigurni da su bezbedni i korisni za sve.

Postoje tri glavna razloga zašto smo to uradili. Prvo, komercijalizacija tehnologije nam pomaže da finansiramo naša tekuća istraživanja AI-ja, bezbednosti i rada na politikama.

Drugo, mnogi modeli na kojima se API zasniva veoma su veliki, zahtevaju mnogo stručnosti za razvoj i primenu i veoma su skupi za pokretanje. To otežava da bilo ko osim većih kompanija ima koristi od osnovne tehnologije. Nadamo se da će API učiniti moćne AI sisteme dostupnijim manjim preduzećima i organizacijama.

Treće, model API-ja nam omogućava da lakše odgovorimo na zloupotrebu tehnologije. Pošto je teško predvideti dalje slučajeve upotrebe naših modela, čini se suštinski bezbednijim da ih objavimo putem API-ja i vremenom proširujemo pristup, nego da objavimo model otvorenog koda kod kog se pristup ne može prilagoditi ako se ispostavi da ima štetne primene.

Kod GPT‑2, jedna od naših ključnih briga bila je zlonamerna upotreba modela (npr. za dezinformacije), što je teško sprečiti kada je model otvorenog koda. Sa API-jem možemo bolje da sprečimo zloupotrebu tako što ograničavamo pristup na odobrene klijente i slučajeve upotrebe. Imamo obavezan proces revizije produkcije pre nego što predložene aplikacije mogu da budu puštene u rad. U tim revizijama procenjujemo aplikacije kroz nekoliko dimenzija, postavljajući pitanja kao što su: Da li je ovo trenutno podržan slučaj upotrebe?, Koliko je aplikacija otvorenog tipa?, Koliko je aplikacija rizična?, Kako planirate da se bavite mogućom zloupotrebom? i Ko su krajnji korisnici vaše aplikacije?.

Ukinućemo API pristup za slučajeve upotrebe za koje se utvrdi da nanose (ili su namenjeni da nanesu) fizičku, emocionalnu ili psihološku štetu ljudima, uključujući, ali ne ograničavajući se na uznemiravanje, namernu obmanu, radikalizaciju, astroturfing ili spam, kao i za aplikacije koje nemaju dovoljno zaštitnih mehanizama da ograniče zloupotrebu od strane krajnjih korisnika. Kako budemo sticali više iskustva u praktičnom radu API-ja, neprestano ćemo usavršavati kategorije upotrebe koje možemo da podržimo, kako bismo proširili opseg aplikacija koje možemo da podržimo, ali i stvorili finije kategorije za one u vezi sa kojima imamo zabrinutost zbog zloupotrebe.

Jedan ključni faktor koji razmatramo pri odobravanju upotrebe API-ja jeste stepen u kojem aplikacija ispoljava otvoreno naspram ograničenog ponašanja u pogledu osnovnih generativnih sposobnosti sistema. Aplikacije API-ja otvorenog tipa (tj. one koje omogućavaju neometano generisanje velikih količina prilagodljivog teksta putem proizvoljnih instrukcija) posebno su podložne zloupotrebi. Ograničenja koja mogu učiniti generativne slučajeve upotrebe bezbednijim uključuju dizajn sistema koji zadržava čoveka u petlji, ograničenja pristupa krajnjih korisnika, naknadnu obradu izlaza, filtriranje sadržaja, ograničenja dužine ulaza/izlaza, aktivno praćenje i tematska ograničenja.

Takođe nastavljamo da sprovodimo istraživanja o mogućim zloupotrebama modela dostupnih putem API-ja, uključujući i sa istraživačima trećih strana kroz naš program akademskog pristupa⁠(отвара се у новом прозору). Trenutno počinjemo sa veoma ograničenim brojem istraživača i već imamo neke rezultate naših akademskih partnera iz Middlebury Institute⁠(отвара се у новом прозору), Univerziteta u Vašingtonu i Allen Institute for AI⁠(отвара се у новом прозору). Već imamo desetine hiljada prijava za ovaj program i trenutno dajemo prioritet prijavama usmerenim na istraživanja pravičnosti i zastupljenosti.

Ublažavanje negativnih efekata, kao što je štetna pristrasnost, teško je pitanje za celu industriju i izuzetno je važno. Kao što navodimo u radu o GPT‑3⁠(отвара се у новом прозору) i kartici modela⁠(отвара се у новом прозору), naši API modeli zaista ispoljavaju pristrasnosti koje će se odraziti u generisanom tekstu. Evo koraka koje preduzimamo da bismo rešili ove probleme:

• Razvili smo smernice za upotrebu koje pomažu programerima da razumeju i reše potencijalna bezbednosna pitanja.
• Blisko sarađujemo sa korisnicima kako bismo razumeli njihove slučajeve upotrebe i razvili alate za otkrivanje i ublažavanje štetne pristrasnosti.
• Sprovodimo i sopstvena istraživanja o ispoljavanjima štetne pristrasnosti i širim pitanjima pravičnosti i zastupljenosti, što će pomoći da usmerimo naš rad kroz bolju dokumentaciju postojećih modela, kao i kroz različita unapređenja budućih modela.
• Prepoznajemo da je pristrasnost problem koji se ispoljava na preseku sistema i konteksta u kojem je primenjen; aplikacije izgrađene našom tehnologijom su sociotehnički sistemi, pa sa našim programerima radimo na tome da uvedu odgovarajuće procese i sisteme sa čovekom u petlji kako bi pratili neželjeno ponašanje.

Naš cilj je da nastavimo da razvijamo razumevanje potencijalnih šteta API-ja u svakom kontekstu upotrebe i da stalno unapređujemo naše alate i procese kako bismo ih sveli na minimum.

Ažurirano 18. septembra 2020.