OpenAI API

Objavljujemo API za pristup novim AI modelima koje je razvio OpenAI. Za razliku od većine AI sistema koji su dizajnirani za jednu svrhu, API danas pruža opći interfejs za „unos teksta, ispis teksta“, omogućavajući korisnicima da ga isprobaju na gotovo svakim zadacima na engleskom jeziku. Sada možete zatražiti pristup kako biste integrirali API u svoj proizvod, razvili potpuno novu aplikaciju ili nam pomogli istražiti prednosti i granice ove tehnologije.

Za bilo koji tekstualni upit, API će vratiti dovršetak teksta, pokušavajući da se podudara s uzorkom koji ste mu dali. Možete ga 'programirati' tako što ćete mu pokazati samo nekoliko primjera onoga što biste željeli da uradi; njegov uspjeh uglavnom varira ovisno o tome koliko je zadatak složen. API vam također omogućava da poboljšate performanse na određenim zadacima obukom na skupu podataka (malom ili velikom) primjera koje vi pružite ili učenjem iz povratnih odgovora koje daju korisnici ili osobe koje vrše označavanje.

Dizajnirali smo API da bude jednostavan za svakoga za korištenje, ali i dovoljno fleksibilan da timove za mašinsko učenje učini produktivnijim. Zapravo, mnogi naši timovi sada koriste API kako bi se mogli fokusirati na istraživanje mašinskog učenja umjesto na probleme distribuiranih sistema. Danas API pokreće modele s težinama iz porodice GPT‑3⁠(otvara se u novom prozoru) uz mnoga poboljšanja brzine i protoka. Mašinsko učenje se kreće vrlo brzo, a mi stalno nadograđujemo našu tehnologiju kako bi naši korisnici ostali u toku.

Brzina napretka u ovom području znači da se često pojavljuju iznenađujuće nove aplikacije umjetne inteligencije, i pozitivne i negativne. Ukinut ćemo pristup API-ju za očigledno štetne slučajeve upotrebe, kao što su uznemiravanje, spam, radikalizacija ili astroturfing. Ali također znamo da ne možemo predvidjeti sve moguće posljedice ove tehnologije, pa je danas pokrećemo u privatnoj beta verziji umjesto u općoj dostupnosti, gradimo alate koji će pomoći korisnicima da bolje kontroliraju sadržaj koji naš API vraća i istražujemo aspekte jezičke tehnologije relevantne za sigurnost (kao što su analiziranje, ublažavanje i intervencija na štetne pristranosti). Podijelit ćemo ono što naučimo kako bi naši korisnici i šira zajednica mogli izgraditi više sistema umjetne inteligencije koji su pozitivniji za ljude.

Pored toga što je izvor prihoda koji nam pomaže da pokrijemo troškove⁠ u ostvarivanju naše misije⁠, API nas je podstakao da izoštrimo fokus na opštu AI tehnologiju – unapređujući tehnologiju, čineći je upotrebljivom i razmatrajući njen uticaj u stvarnom svijetu. Nadamo se da će API uveliko smanjiti barijeru⁠(otvara se u novom prozoru) za proizvodnju korisnih proizvoda zasnovanih na vještačkoj inteligenciji, što će rezultirati alatima i uslugama koje je danas teško zamisliti.

Jeste li zainteresirani da istražite API? Pridružite se kompanijama poput Algolia⁠(otvara se u novom prozoru), Quizlet⁠(otvara se u novom prozoru) i Reddit⁠(otvara se u novom prozoru), te istraživačima u institucijama poput Middlebury Institute⁠(otvara se u novom prozoru) u našoj privatnoj beta⁠(otvara se u novom prozoru).

U konačnici, ono što nam je najvažnije⁠ jeste da osiguramo da opća umjetna inteligencija koristi svima. Razvoj komercijalnih proizvoda vidimo kao jedan od načina da osiguramo dovoljno sredstava za uspjeh.

Također vjerujemo da će sigurno postavljanje moćnih AI sistema u svijetu biti teško pravilno izvesti. Prilikom objavljivanja API-ja, blisko sarađujemo s našim partnerima kako bismo uočili izazove koji se javljaju kada se AI sistemi koriste u stvarnom svijetu. Ovo će nam pomoći da usmjerimo naše napore u razumijevanju kako će se Go budućih AI sistema odvijati i šta trebamo učiniti kako bismo osigurali da su sigurni i korisni za sve.

Postoje tri glavna razloga zašto smo to učinili. Prvo, komercijalizacija tehnologije nam pomaže da platimo naša tekuća istraživanja, sigurnost i napore u oblasti politike vezane za umjetnu inteligenciju.

Drugo, mnogi modeli koji čine osnovu API-ja su vrlo veliki, što zahtijeva mnogo stručnosti za razvoj i implementaciju, te ih čini vrlo skupim za korištenje. Ovo otežava bilo kome osim većim kompanijama da iskoriste osnovnu tehnologiju. Nadamo se da će API učiniti moćne AI sisteme pristupačnijim manjim preduzećima i organizacijama.

Treće, API model nam omogućava da lakše reagujemo na zloupotrebu tehnologije. Budući da je teško predvidjeti slučajeve nizvodne upotrebe naših modela, čini se inherentno sigurnijim objaviti ih putem API-ja i s vremenom proširiti pristup, umjesto da se pusti model otvorenog koda gdje se pristup ne može prilagoditi ako se ispostavi da ima štetne aplikacije.

Sa GPT‑2, jedna od naših ključnih briga bila je zlonamjerna upotreba modela (npr. za dezinformacije), što je teško spriječiti kada je model otvorenog koda. Što se tiče API-ja, možemo bolje spriječiti zloupotrebu ograničavanjem pristupa odobrenim korisnicima i slučajevima upotrebe. Imamo obavezan proces pregleda produkcije prije nego što predložene aplikacije mogu biti puštene u rad. U produkcijskim pregledima procjenjujemo aplikacije prema nekoliko kriterija, postavljajući pitanja poput: Da li je ovo trenutno podržani slučaj upotrebe?, Koliko je aplikacija otvorena za različite scenarije?, Koliko je aplikacija rizična?, Kako planirate riješiti potencijalnu zloupotrebu? i Ko su krajnji korisnici vaše aplikacije?.

Ukidamo pristup API-ju za slučajeve upotrebe za koje se utvrdi da uzrokuju (ili su namijenjeni da uzrokuju) fizičku, emocionalnu ili psihološku štetu ljudima, uključujući, ali ne ograničavajući se na uznemiravanje, namjernu obmanu, radikalizaciju, astroturfing ili spam, kao i za aplikacije koje nemaju dovoljne zaštitne mjere za ograničavanje zloupotrebe od strane krajnjih korisnika. Kako stičemo više iskustva u radu s API-jem u praksi, kontinuirano ćemo usavršavati kategorije upotrebe koje možemo podržati, kako bismo proširili raspon aplikacija koje možemo podržati, tako i kako bismo kreirali finije kategorije za one za koje imamo zabrinutost zbog zloupotrebe.

Jedan ključni faktor koji uzimamo u obzir prilikom odobravanja korištenja API-ja je stepen u kojem aplikacija pokazuje otvoreno naspram ograničenog ponašanja u odnosu na osnovne generativne sposobnosti sistema. Otvorene aplikacije API-ja (tj. one koje omogućavaju besprijekorno generiranje velikih količina prilagodljivog teksta putem proizvoljnih upita) posebno su osjetljive na zloupotrebu. Ograničenja koja mogu učiniti generativne slučajeve upotrebe sigurnijim uključuju dizajn sistema koji drži čovjeka u petlji, ograničenja pristupa krajnjim korisnicima, naknadnu obradu izlaza, filtriranje sadržaja, ograničenja dužine unosa/izlaza, aktivno praćenje i ograničenja tematske relevantnosti.

Također nastavljamo provoditi istraživanja o potencijalnim zloupotrebama modela koje pruža API, uključujući i s istraživačima trećih strana putem našeg programa akademskog pristupa⁠(otvara se u novom prozoru). Trenutno započinjemo s vrlo ograničenim brojem istraživača i već imamo neke rezultate od naših akademskih partnera s \ Middlebury Instituta⁠(otvara se u novom prozoru), Univerziteta u Washingtonu i Allen Instituta za AI⁠(otvara se u novom prozoru). Već imamo desetine hiljada aplikacija za ovaj program i trenutno dajemo prioritet aplikacijama usmjerenim na istraživanje pravičnosti i zastupljenosti.

Ublažavanje negativnih efekata kao što su štetne pristranosti je težak, industrijski problem koji je izuzetno važan. Kao što smo raspravljali u GPT‑3 radu⁠(otvara se u novom prozoru) i model kartici⁠(otvara se u novom prozoru), naši API modeli pokazuju pristranosti koje će se odraziti u generiranom tekstu. Evo koraka koje poduzimamo kako bismo riješili ove probleme:

• Razvili smo smjernice za korištenje koje pomažu programerima da razumiju i riješe potencijalne sigurnosne probleme.
• Blisko sarađujemo s korisnicima kako bismo razumjeli njihove slučajeve upotrebe i razvili alate za otkrivanje i intervenciju radi ublažavanja štetne pristranosti.
• Provodimo vlastito istraživanje manifestacija štetnih pristranosti i širih pitanja u pravičnosti i zastupljenosti, što će nam pomoći da unaprijedimo naš rad kroz poboljšanu dokumentaciju postojećih modela, kao i razna poboljšanja budućih modela.
• Prepoznajemo da je pristranost problem koji se manifestira na presjeku sistema i primijenjenog konteksta; aplikacije izgrađene našom tehnologijom su sociotehnički sistemi, tako da sarađujemo s našim programerima kako bismo osigurali da uvode odgovarajuće procese i sisteme s ljudskim učešćem za praćenje štetnog ponašanja.

Naš cilj je da nastavimo razvijati naše razumijevanje potencijalnih šteta API-ja u svakom kontekstu upotrebe i kontinuirano poboljšavamo naše alate i procese kako bismo ih sveli na najmanju moguću mjeru.

Ažurirano 18. septembra, 2020.