OpenAI API

Qed noħorġu API biex ikollok aċċess għal mudelli ġodda tal-IA żviluppati minn OpenAI. B’differenza mill-biċċa l-kbira tas-sistemi tal-IA li huma mfassla għal każ ta’ użu wieħed, l-API llum tipprovdi interface ġenerali ta’ “test jidħol, test joħroġ”, li tippermetti lill-utenti jippruvawha fuq kważi kull kompitu bil-lingwa Ingliża. Issa tista’ titlob aċċess biex tintegra l-API fil-prodott tiegħek, tiżviluppa applikazzjoni kompletament ġdida, jew tgħinna nesploraw il-qawwiet u l-limiti ta’ din it-teknoloġija.

Għal kwalunkwe prompt ta’ test, l-API tirritorna test komplut, billi tipprova taqbel mal-mudell li tagħtiha. Tista’ “tipprogrammaha” billi turiha biss ftit eżempji ta’ x’tixtieq li tagħmel; is-suċċess tagħha ġeneralment ivarja skont kemm tkun kumplessa l-kompitu. L-API tippermettilek ukoll ittejjeb il-prestazzjoni fuq kompiti speċifiċi billi tħarreġ fuq sett ta’ data (żgħir jew kbir) ta’ eżempji li tipprovdi, jew billi titgħallem minn feedback uman ipprovdut mill-utenti jew mit-tikkettaturi.

Iddisinjajna l-API biex tkun kemm sempliċi għal kulħadd biex jużaha iżda wkoll flessibbli biżżejjed biex tagħmel timijiet tat-tagħlim awtomatiku aktar produttivi. Fil-fatt, ħafna mit-timijiet tagħna issa qed jużaw l-API sabiex ikunu jistgħu jiffukaw fuq riċerka fit-tagħlim awtomatiku aktar milli fuq problemi ta’ sistemi distribwiti. Illum l-API tħaddem mudelli b’piżijiet mill-familja GPT‑3⁠(jinfetaħ f’tieqa ġdida) b’ħafna titjib fil-veloċità u throughput. It-tagħlim awtomatiku qed jimxi malajr ħafna, u aħna kontinwament intejbu t-teknoloġija tagħna biex l-utenti tagħna jibqgħu aġġornati.

Il-pass tal-progress f’dan il-qasam ifisser li spiss ikun hemm applikazzjonijiet ġodda sorprendenti tal-IA, kemm pożittivi kif ukoll negattivi. Se nwaqqfu l-aċċess għall-API għal każijiet ta’ użu ovvjament dannużi, bħal fastidju, spam, radikalizzazzjoni, jew astroturfing. Iżda nafu wkoll li ma nistgħux nantiċipaw il-konsegwenzi kollha possibbli ta’ din it-teknoloġija, għalhekk illum qed inniedu f’beta privata aktar milli b’disponibbiltà ġenerali, nibnu għodod biex ngħinu lill-utenti jikkontrollaw aħjar il-kontenut li l-API tagħna tirritorna, u nagħmlu riċerka dwar aspetti tat-teknoloġija tal-lingwa rilevanti għas-sigurtà (bħall-analiżi, it-tnaqqis, u l-intervent fuq preġudizzju dannuż). Se naqsmu dak li nitgħallmu biex l-utenti tagħna u l-komunità usa’ jkunu jistgħu jibnu sistemi tal-IA aktar pożittivi għall-bniedem.

Minbarra li huwa sors ta’ dħul biex jgħinna inkopru l-ispejjeż⁠ fit-tfittxija tal-missjoni tagħna⁠, l-API wasslitna biex niffukaw aktar fuq teknoloġija tal-IA għal skop ġenerali—navvanzaw it-teknoloġija, nagħmluha użabbli, u nqisu l-impatti tagħha fid-dinja reali. Nittamaw li l-API tnaqqas ħafna l-ostaklu⁠(jinfetaħ f’tieqa ġdida) għall-produzzjoni ta’ prodotti ta’ benefiċċju mħaddma bl-IA, u b’hekk twassal għal għodod u servizzi li llum diffiċli timmaġinahom.

Interessat tesplora l-API? Ingħaqad ma’ kumpaniji bħal Algolia⁠(jinfetaħ f’tieqa ġdida), Quizlet⁠(jinfetaħ f’tieqa ġdida), u Reddit⁠(jinfetaħ f’tieqa ġdida), u ma’ riċerkaturi f’istituzzjonijiet bħall-Middlebury Institute⁠(jinfetaħ f’tieqa ġdida) fil-beta privata⁠(jinfetaħ f’tieqa ġdida) tagħna.

Fl-aħħar mill-aħħar, dak li jimpurtana l-aktar⁠ minnu huwa li niżguraw li l-intelliġenza artifiċjali ġenerali tkun ta’ benefiċċju għal kulħadd. Naraw l-iżvilupp ta’ prodotti kummerċjali bħala wieħed mill-modi biex niżguraw li jkollna biżżejjed finanzjament biex nirnexxu.

Nemmnu wkoll li l-implimentazzjoni sigura ta’ sistemi qawwija tal-IA fid-dinja se tkun diffiċli biex issir sewwa. Meta noħorġu l-API, qed naħdmu mill-qrib mas-sħab tagħna biex naraw liema sfidi jinqalgħu meta sistemi tal-IA jintużaw fid-dinja reali. Dan se jgħin jiggwida l-isforzi tagħna biex nifhmu kif se timxi l-implimentazzjoni ta’ sistemi futuri tal-IA, u x’għandna nagħmlu biex niżguraw li jkunu siguri u ta’ benefiċċju għal kulħadd.

Hemm tliet raġunijiet ewlenin għaliex għamilna dan. L-ewwel, il-kummerċjalizzazzjoni tat-teknoloġija tgħinna nħallsu għar-riċerka kontinwa tagħna fl-IA, is-sigurtà, u l-isforzi ta’ politika.

It-tieni, ħafna mill-mudelli li fuqhom hija bbażata l-API huma kbar ħafna, u jeħtieġu ħafna għarfien espert biex jiġu żviluppati u implimentati, u dan jagħmilhom għaljin ħafna biex jitħaddmu. Dan jagħmilha diffiċli għal kulħadd ħlief kumpaniji akbar biex jibbenefikaw mit-teknoloġija sottostanti. Aħna nittamaw li l-API tagħmel sistemi qawwija tal-IA aktar aċċessibbli għal negozji u organizzazzjonijiet iżgħar.

It-tielet, il-mudell tal-API jippermettilna nirreaġixxu aktar faċilment għall-użu ħażin tat-teknoloġija. Peress li huwa diffiċli li wieħed ibassar il-każijiet ta’ użu downstream tal-mudelli tagħna, jidher intrinsikament aktar sigur li noħorġuhom permezz ta’ API u nespandu l-aċċess maż-żmien, minflok noħorġu mudell open source fejn l-aċċess ma jistax jiġi aġġustat jekk jirriżulta li għandu applikazzjonijiet dannużi.

Ma’ GPT‑2, waħda mit-tħassib ewlieni tagħna kienet l-użu malizzjuż tal-mudell (eż. għad-diżinformazzjoni), li huwa diffiċli biex jiġi evitat ladarba mudell isir open source. Għall-API, nistgħu nipprevjenu aħjar l-użu ħażin billi nillimitaw l-aċċess għal klijenti u każijiet ta’ użu approvati. Għandna proċess obbligatorju ta’ reviżjoni tal-produzzjoni qabel ma l-applikazzjonijiet proposti jkunu jistgħu jitnedew. Fir-reviżjonijiet tal-produzzjoni, nivvalutaw l-applikazzjonijiet fuq ftit assi, billi nistaqsu mistoqsijiet bħal: Dan huwa każ ta’ użu appoġġjat bħalissa?, Kemm hi miftuħa l-applikazzjoni?, Kemm hi riskjuża l-applikazzjoni?, Kif qed tippjana tindirizza użu ħażin potenzjali?, u Min huma l-utenti finali tal-applikazzjoni tiegħek?.

Inwaqqfu l-aċċess għall-API għal każijiet ta’ użu li jinstabu li jikkawżaw (jew huma maħsuba biex jikkawżaw) ħsara fiżika, emozzjonali jew psikoloġika lin-nies, inkluż iżda mhux limitat għal fastidju, qerq intenzjonat, radikalizzazzjoni, astroturfing, jew spam, kif ukoll applikazzjonijiet li m’għandhomx biżżejjed guardrails biex jillimitaw l-użu ħażin mill-utenti finali. Hekk kif niksbu aktar esperjenza fit-tħaddim tal-API fil-prattika, se nkomplu nirfinaw il-kategoriji ta’ użu li nistgħu nappoġġjaw, kemm biex inwessgħu l-firxa ta’ applikazzjonijiet li nistgħu nappoġġjaw, kif ukoll biex noħolqu kategoriji aktar preċiżi għal dawk li dwarhom għandna tħassib ta’ użu ħażin.

Fattur ewlieni li nqisu meta napprovaw l-użi tal-API huwa sa liema punt applikazzjoni turi mġiba miftuħa kontra waħda ristretta fir-rigward tal-kapaċitajiet ġenerattivi sottostanti tas-sistema. Applikazzjonijiet miftuħa tal-API (jiġifieri, dawk li jippermettu ġenerazzjoni bla frizzjoni ta’ ammonti kbar ta’ test personalizzabbli permezz ta’ prompts arbitrarji) huma partikolarment suxxettibbli għall-użu ħażin. Restrizzjonijiet li jistgħu jagħmlu l-każijiet ta’ użu ġenerattivi aktar siguri jinkludu disinn ta’ sistemi li jżomm bniedem fiċ-ċirku, restrizzjonijiet fuq l-aċċess tal-utent finali, post-processing tal-outputs, filtrazzjoni tal-kontenut, limitazzjonijiet fuq it-tul tal-input/output, monitoraġġ attiv, u limitazzjonijiet tematiki.

Qed inkomplu wkoll nagħmlu riċerka dwar l-użi ħżiena potenzjali tal-mudelli servuti mill-API, inkluż ma’ riċerkaturi ta’ partijiet terzi permezz tal-programm tagħna ta’ aċċess akkademiku⁠(jinfetaħ f’tieqa ġdida). Bħalissa qed nibdew b’numru limitat ħafna ta’ riċerkaturi u diġà għandna xi riżultati mis-sħab akkademiċi tagħna fil-Middlebury Institute⁠(jinfetaħ f’tieqa ġdida), University of Washington, and Allen Institute for AI⁠(jinfetaħ f’tieqa ġdida). Diġà għandna għexieren ta’ eluf ta’ applikanti għal dan il-programm u bħalissa qed nagħtu prijorità lill-applikazzjonijiet iffukati fuq riċerka dwar il-ġustizzja u r-rappreżentazzjoni.

It-tnaqqis tal-effetti negattivi bħal preġudizzju dannuż huwa kwistjoni diffiċli fl-industrija kollha u importanti ħafna. Kif niddiskutu fid-dokument GPT‑3⁠(jinfetaħ f’tieqa ġdida) u fl-iskeda -mudell⁠(jinfetaħ f’tieqa ġdida), il-mudelli tal-API tagħna tassew juru preġudizzji li jkunu riflessi fit-test iġġenerat. Hawn huma l-passi li qed nieħdu biex nindirizzaw dawn il-kwistjonijiet:

• Żviluppajna linji gwida għall-użu li jgħinu lill-iżviluppaturi jifhmu u jindirizzaw kwistjonijiet potenzjali tas-sigurtà.
• Qed naħdmu mill-qrib mal-utenti biex nifhmu l-każijiet tal-użu tagħhom u niżviluppaw għodod biex nidentifikaw u nintervjenu biex innaqqsu l-preġudizzju dannuż.
• Qed nagħmlu r-riċerka tagħna stess dwar il-manifestazzjonijiet tal-preġudizzju dannuż u kwistjonijiet usa’ ta’ ġustizzja u rappreżentazzjoni, li se jgħinu jiggwidaw ix-xogħol tagħna permezz ta’ dokumentazzjoni aħjar tal-mudelli eżistenti kif ukoll diversi titjib fil-mudelli futuri.
• Nirrikonoxxu li l-preġudizzju huwa problema li tidher fl-intersezzjoni ta’ sistema u kuntest ta’ implimentazzjoni; applikazzjonijiet mibnija bit-teknoloġija tagħna huma sistemi soċjotekniċi, għalhekk naħdmu mal-iżviluppaturi tagħna biex niżguraw li qed idaħħlu proċessi xierqa u sistemi human-in-the-loop biex jimmonitorjaw imġiba avversa.

L-għan tagħna huwa li nkomplu niżviluppaw il-fehim tagħna tad-danni potenzjali tal-API f’kull kuntest ta’ użu, u ntejbu kontinwament l-għodod u l-proċessi tagħna biex ngħinu nimminimizzawhom.

Aġġornat fit-18 ta’ Settembru, 2020