OpenAI API

Po qarkullojmë një API për akses në modelet e reja të AI të zhvilluara nga OpenAI. Ndryshe nga shumica e sistemeve të AI që janë projektuar për një përdorim të vetëm, API sot ofron një ndërfaqe të përgjithshme "hyn teksti, del tekst", duke u lejuar përdoruesve ta provojnë në çdo detyrë në gjuhën angleze. Tani mund të kërkosh akses për të integruar API në produktin tënd, për të zhvilluar një aplikacion krejtësisht të ri ose për të na ndihmuar të eksplorojmë pikat e forta dhe kufijtë e kësaj teknologjie.

Duke marrë parasysh çdo kërkesë teksti, API do të kthejë një plotësim teksti, duke u përpjekur të përputhet me modelin që i ke dhënë. Mund ta “programosh” duke i treguar vetëm disa shembuj të asaj që dëshiron të bëjë; suksesi i tij zakonisht ndryshon në varësi të sa komplekse është detyra. API gjithashtu të lejon të përmirësosh performancën në detyra specifike duke bërë trajnim në një dataset (të vogël ose të madh) të shembujve që ofron ose duke mësuar nga përshtypjet njerëzore të ofruara nga përdoruesit ose etiketuesit.

Ne kemi dizajnuar API që të jetë e thjeshtë për këdo për ta përdorur, por gjithashtu mjaft fleksibël për të bërë ekipet e mësimit automatik më produktive. Në fakt, shumë nga ekipet tona tani po përdorin API në mënyrë që të përqendrohen në kërkimin e mësimit automatik në vend të problemeve të sistemeve të shpërndara. Sot API ekzekuton modele të ponderuara nga familja GPT‑3⁠(hapet në një dritare të re) me shumë përmirësime në shpejtësi dhe kapacitet përpunimi. Mësimi automatik po zhvillohet me shpejtësi dhe ne po përmirësojmë vazhdimisht teknologjinë tonë që përdoruesit tanë të jenë gjithmonë të përditësuar.

Ritmi i përparimit të fushës nënkupton se shpesh ka aplikacione të reja befasuese të AI, si pozitive ashtu edhe negative. Ne do të ndërpresim aksesin në API për raste përdorimi padyshim të dëmshme, siç janë ngacmimi, spami, radikalizimi ose astroturfing. Por ne gjithashtu e dimë se nuk mund të parashikojmë të gjitha pasojat e mundshme të kësaj teknologjie, kështu që po qarkullojmë sot në një version beta privat në vend të disponueshmërisë së përgjithshme, duke ndërtuar mjete për të ndihmuar përdoruesit të kontrollojnë më mirë përmbajtjen që kthen API jonë dhe duke hulumtuar aspekte të teknologjisë gjuhësore që lidhen me sigurinë (siç janë analizimi, zbutja dhe ndërhyrja në paragjykimet e dëmshme). Do të ndajmë atë që mësojmë në mënyrë që përdoruesit tanë dhe komuniteti më i gjerë të mund të ndërtojnë sisteme AI më pozitive për njeriun.

Përveçse është një burim të ardhurash për të na ndihmuar të mbulojmë kostot⁠ në ndjekje të misionit tonë⁠, API na ka shtyrë të mprehim fokusin tonë në teknologjinë e AI për qëllime të përgjithshme - duke avancuar teknologjinë, duke e bërë atë të përdorshme dhe duke marrë parasysh ndikimet e saj në botën reale. Shpresojmë që API do të ulë ndjeshëm barrierën⁠(hapet në një dritare të re) për prodhimin e produkteve të dobishme të fuqizuara nga IA, duke rezultuar në mjete dhe shërbime që janë të vështira për t'u imagjinuar sot.

Të interesuar të eksploroni API? Bashkohuni me kompani si Algolia⁠(hapet në një dritare të re), Quizlet⁠(hapet në një dritare të re) dhe Reddit⁠(hapet në një dritare të re), dhe studiues në institucione si Middlebury Institute⁠(hapet në një dritare të re) në variantin tonë beta privat⁠(hapet në një dritare të re).

Në fund të fundit, ajo që na intereson më shumë⁠ është të sigurohemi që inteligjenca artificiale e përgjithshme t'u sjellë dobi të gjithëve. Ne e shohim zhvillimin e produkteve komerciale si një nga mënyrat për t'u siguruar që kemi fonde të mjaftueshme për të pasur sukses.

Ne gjithashtu besojmë se ngritja e sigurt e sistemeve të fuqishme AI në botë do të jetë e vështirë për t'u realizuar siç duhet. Duke publikuar API, ne po bashkëpunojmë ngushtë me partnerët tanë për të parë se cilat sfida shfaqen kur sistemet e inteligjencës artificiale përdoren në botën reale. Kjo do të na ndihmojë të drejtojmë përpjekjet tona për të kuptuar se si do të shkojë vendosja e sistemeve të ardhshme të inteligjencës artificiale dhe çfarë duhet të bëjmë për t'u siguruar që ato janë të sigurta dhe të dobishme për të gjithë.

Ka tre arsye kryesore pse e bëmë këtë. Së pari, komercializimi i teknologjisë na ndihmon të paguajmë për kërkimet tona të vazhdueshme, sigurinë dhe përpjekjet e politikave në fushën e AI-së.

Së dyti, shumë nga modelet që mbështesin API janë shumë të mëdha, duke kërkuar shumë ekspertizë për t'u zhvilluar dhe vendosur, dhe duke i bërë ato shumë të shtrenjta për t'u ekzekutuar. Kjo e bën të vështirë për këdo, përveç kompanive më të mëdha, që të përfitojnë nga teknologjia themelore. Ne shpresojmë që API do t'i bëjë sistemet e fuqishme të inteligjencës artificiale më të arritshme për bizneset dhe organizatat më të vogla.

Së treti, modeli API na lejon të reagojmë më lehtë ndaj keqpërdorimit të teknologjisë. Meqenëse është e vështirë të parashikohen rastet e përdorimit të mëvonshëm të modeleve tona, duket më e sigurt t'i qarkullojmë ato përmes një API dhe të zgjerojmë aksesin me kalimin e kohës, sesa të qarkullojmë një model me burim të hapur ku aksesi nuk mund të rregullohet nëse rezulton të ketë aplikacione të dëmshme.

Me GPT‑2, një nga shqetësimet tona kryesore ishte përdorimi i keq i modelit (p.sh. për dezinformim), që është e vështirë të parandalohet pasi një model është me burim të hapur. Për API, ne mund të parandalojmë më mirë keqpërdorimin duke kufizuar aksesin te klientët e miratuar dhe rastet e përdorimit. Ne kemi një proces të detyrueshëm shqyrtimi të prodhimit përpara se aplikacionet e propozuara të mund të bëhen publike. Në shqyrtimet e prodhimit, ne vlerësojmë aplikacionet në disa aspekte, duke bërë pyetje si: A është ky një rast përdorimi i mbështetur aktualisht?, Sa i hapur është aplikacioni?, Sa i rrezikshëm është aplikacioni?, Si planifikoni të adresoni keqpërdorimin e mundshëm?, dhe Kush janë përdoruesit fundorë të aplikacionit tuaj?.

Ne ndërpresim aksesin në API për rastet e përdorimit që zbulohen se shkaktojnë (ose synojnë të shkaktojnë) dëm fizik, emocional ose psikologjik te njerëzit, duke përfshirë, mes të tjerash ngacmim, mashtrim të qëllimshëm, radikalizim, astroturfing ose spam, si dhe aplikacione që nuk kanë mbrojtje të mjaftueshme për të kufizuar keqpërdorimin nga përdoruesit fundorë. Ndërsa fitojmë më shumë përvojë në operimin e API në praktikë, do të rafinojmë vazhdimisht kategoritë e përdorimit që mund të mbështesim, si për të zgjeruar gamën e aplikacioneve që mund të mbështesim, ashtu edhe për të krijuar kategori më të detajuara për ato për të cilat kemi shqetësime për keqpërdorim.

Një faktor kyç që marrim parasysh kur miratojmë përdorimet e API është shkalla në të cilën një aplikacion shfaq sjellje të hapura kundrejt sjelljes së kufizuar në lidhje me aftësitë gjeneruese themelore të sistemit. Aplikacionet e hapura të API (p.sh. ato që aktivizojnë gjenerimin pa pengesa të sasive të mëdha të tekstit të personalizueshëm përmes kërkesave arbitrare) janë veçanërisht të ndjeshme ndaj keqpërdorimit. Kufizimet që mund t'i bëjnë rastet e përdorimit gjenerues më të sigurta përfshijnë dizajnin e sistemeve që mban një njeri në proces, kufizimet e aksesit të përdoruesit fundor, përpunimin pas daljes, filtrimin e përmbajtjes, kufizimet e gjatësisë së hyrjes/daljes, monitorimin aktiv dhe kufizimet tematike.

Ne gjithashtu po vazhdojmë të kryejmë kërkime mbi keqpërdorimet e mundshme të modeleve të ofruara nga API, duke përfshirë edhe me studiues të palëve të treta përmes programit tonë të aksesit akademik⁠(hapet në një dritare të re). Po fillojmë me një numër shumë të kufizuar studiuesish për momentin dhe tashmë kemi disa rezultate nga partnerët tanë akademikë në Middlebury Institute⁠(hapet në një dritare të re), University of Washington dhe Allen Institute for AI⁠(hapet në një dritare të re). Ne kemi dhjetëra mijëra aplikantë për këtë program tashmë dhe aktualisht po u japim përparësi aplikimeve të fokusuara në kërkimin mbi drejtësinë dhe përfaqësimin.

Zbutja e efekteve negative, siç është paragjykimi i dëmshëm, është një çështje e vështirë në të gjithë sektorin dhe jashtëzakonisht e rëndësishme. Siç diskutojmë në dokumentin GPT‑3⁠(hapet në një dritare të re) dhe kartën e modelit⁠(hapet në një dritare të re), modelet tona API shfaqin paragjykime që do të pasqyrohen në tekstin e gjeneruar. Ja hapat që po ndërmarrim për të adresuar këto çështje:

• Kemi zhvilluar udhëzime përdorimi që ndihmojnë zhvilluesit të kuptojnë dhe të adresojnë çështjet e mundshme të sigurisë.
• Ne po punojmë ngushtë me përdoruesit për të kuptuar rastet e tyre të përdorimit dhe për të zhvilluar mjete që të nxjerrin në pah dhe të ndërhyjnë për të zbutur paragjykimet e dëmshme.
• Ne po kryejmë kërkimin tonë mbi manifestimet e paragjykimeve të dëmshme dhe çështjet më të gjera në drejtësi dhe përfaqësim, të cilat do të ndihmojnë në informimin e punës sonë përmes dokumentacionit të përmirësuar të modeleve ekzistuese si dhe përmirësimeve të ndryshme në modelet e ardhshme.
• Ne e pranojmë që paragjykimi është një problem që manifestohet në ndërveprimin e një sistemi dhe një konteksti të vendosur; aplikacionet e ndërtuara me teknologjinë tonë janë sisteme socioteknike, kështu që ne punojmë me zhvilluesit tanë për t'u siguruar që ata po vendosin procese të përshtatshme dhe sisteme me përfshirjen e njeriut për të monitoruar sjelljet e padëshiruara.

Qëllimi ynë është të vazhdojmë të zhvillojmë kuptimin tonë për dëmet e mundshme të API në çdo kontekst përdorimi dhe të përmirësojmë vazhdimisht mjetet dhe proceset tona për t'i minimizuar ato.

Përditësuar më 18 shtator 2020