Soo bandhigista API-yada GPT‑3.5 Turbo iyo Whisper

Cusboonaysiin 24 Abriil, 2024: Magaca ChatGPT API waa la joojiyey. Xus kasta oo ChatGPT API ah oo ku jira bloggan waxa loola jeedaa GPT‑3.5 Turbo API.

Noocyada ChatGPT iyo Whisper hadda waxay ka jiraan API-geenna, taasoo siinaysa horumariyayaasha marin ay ku helaan awoodaha luqadeed ee heer-sare ah (ma aha chat oo keliya!) iyo hadal-ilaa-qoraal. Iyadoo loo marayo taxane hagaajinno nidaamka oo dhan ah, waxaan gaarnay 90% dhimista kharashka ChatGPT tan iyo Diseembar; hadda waxaan kaydkaas u gudbinaynaa isticmaalayaasha API-ga. Horumariyayaashu hadda waxay API-ga ku isticmaali karaan noocayaga il-furan ee Whisper large-v2 iyagoo helaya natiijooyin aad uga dheereeya oo kharash-ool ah. Isticmaalayaasha GPT‑3.5 API waxay filan karaan horumarro joogto ah oo nooca ah iyo ikhtiyaarka ah inay doortaan awood go'an si ay u helaan xakameyn qoto dheer oo ku saabsan noocyada. Sidoo kale waxaan si dhow u dhageysanay jawaab-celinta horumariyayaashayada, waxaana hagaajinnay shuruudaha adeegga API-geenna si ay si fiican ugu daboolaan baahiyahooda.

Snap Inc⁠(ku furmaa daaqad cusub)., abuuraha Snapchat, ayaa toddobaadkan soo bandhigtay My AI ee Snapchat+. Astaantan tijaabada ahi waxay ku shaqaynaysaa GPT‑3.5 API. My AI waxay siisaa dadka Snapchat isticmaala chatbot saaxiibtinimo leh oo la habayn karo oo farahooda ku dhow, kaas oo bixiya talooyin, xitaa daqiiqado gudahoodna u qori kara haiku saaxiibbada. Snapchat, oo isgaarsiinta iyo fariin diristu ay yihiin dhaqan maalinle ah, waxa ay leedahay 750 milyan oo isticmaale bishii:

Quizlet⁠(ku furmaa daaqad cusub) waa madal waxbarasho oo caalami ah oo ay ka badan yihiin 60 milyan oo arday kuwaas oo u adeegsada inay ku bartaan, ku tababartaan, kuna hantaan wax kasta oo ay baranayaan. Quizlet waxay la shaqaynaysay OpenAI saddexdii sano ee u dambeysay, iyadoo ka faa’iidaysanaysay GPT‑3 xaalado adeegsiyo badan, oo ay ku jiraan barashada eraybixinta iyo imtixaannada tababarka. Markii la bilaabay GPT‑3.5 API, Quizlet waxay soo bandhigaysaa Q-Chat, oo ah macallin AI ah oo si buuxda isu waafajiya kana hawlgeliya ardayda su’aalo iswaafaqsan oo ku salaysan agabka waxbarasho ee khuseeya laguna gudbiyo khibrad sheekaysi oo xiiso leh:

Instacart⁠(ku furmaa daaqad cusub) waxay xoojinaysaa app-ka Instacart si ay ugu suurtogeliso macaamiisha inay su’aalo ka weydiiyaan cuntada oo ay helaan jawaabo dhiirrigelin leh oo la iibsan karo. Tani waxay isticmaashaa ChatGPT oo ay weheliso AI-ga Instacart iyo xogta alaabta ee ka timaadda 75,000+ goobood oo dukaamada shuraakada tafaariiqda ah si ay uga caawiso macaamiisha inay helaan fikrado loogu talagalay yoolalka wax iibsiga ee furan, sida “Sideen u sameeyaa fish tacos aad u fiican?” ama “Waa maxay qado caafimaad leh oo carruurtayda ah?” Instacart waxay qorshaynaysaa inay soo saarto “Ask Instacart” dabayaaqada sanadkan:

Shop⁠(ku furmaa daaqad cusub), oo ah app-ka macaamiisha ee Shopify, waxa adeegsada 100 milyan oo wax iibsadayaal ah si ay u helaan ugana falgalaan alaabooyinka iyo summadaha ay jecel yihiin. GPT‑3.5 API waxaa loo adeegsadaa in lagu xoojiyo kaaliyaha wax iibsiga cusub ee Shop. Marka wax iibsadayaashu raadiyaan alaabooyin, kaaliyaha wax iibsigu wuxuu sameeyaa talooyin shaqsiyan loo habeeyey oo ku salaysan codsiyadooda. Kaaliyaha wax iibsiga cusub ee Shop ee ku shaqeeya AI wuxuu fududayn doonaa wax iibsiga gudaha app-ka isagoo baaraya malaayiin alaab si degdeg ah loogu helo waxa iibsadayaashu raadinayaan—ama uga caawiyo inay helaan wax cusub:

Speak⁠(ku furmaa daaqad cusub) waa app waxbarashada luqadaha ku shaqeeya AI oo diiradda saaraya dhisidda waddada ugu fiican ee lagu gaaro hadal faseex ah. Waa app-ka Ingiriisiga ee ugu koboca badan Kuuriyada Koonfureed, waxayna horeba u isticmaalayaan Whisper API si ay u xoojiyaan badeecad cusub oo saaxiib hadal AI ah, una gaarsiiyaan si degdeg ah dunida inteeda kale. Saxnaanta Whisper ee heerka aadanaha ah ee bartayaasha luqadda heer kasta jooga waxay furaysaa tababar wada sheekaysi dhab ah oo furan iyo jawaab-celin aad u sax ah:

Nooc: Qoyska noocyada ChatGPT ee aan maanta sii deynayno, gpt-3.5-turbo, waa isla nooca lagu isticmaalo badeecadda ChatGPT. Qiimihiisu waa $0.002 halkii 1k token, taas oo 10 jeer ka jaban noocyadeenna GPT‑3.5 ee hadda jira. Sidoo kale waa noocayaga ugu fiican ee adeegsi badan oo aan chat ahayn—waxaan aragnay tijaabiyeyaashii hore oo ka guuraya text-davinci-003 una guuraya gpt-3.5-turbo iyadoo loo baahan yahay hagaajin yar oo keliya oo ku saabsan weydiimahooda.

API: Dhaqan ahaan, noocyada GPT waxay isticmaalaan qoraal aan qaab-dhismeed lahayn, kaas oo nooca loogu matalo taxane ah “token”. Noocyada ChatGPT taa beddelkeeda waxay isticmaalaan taxane fariimo ah oo ay la socdaan metadata. (Kuwa xiiseynaya: gudaha nidaamka, gelintu weli waxa loogu soo bandhigaa nooca sida taxane “token” ah si uu u isticmaalo; qaabka cayriin ee uu noocu adeegsado waa qaab cusub oo la yiraahdo Chat Markup Language⁠(ku furmaa daaqad cusub) (“ChatML”).)

Waxaan abuurnay bar-dhammaad cusub si loola falgalo noocyadayada ChatGPT:

Si aad wax badan uga ogaato GPT‑3.5 API, booqo hagaha Chat⁠(ku furmaa daaqad cusub).

Waxaan si joogto ah u hagaajinaynaa noocyadayada ChatGPT, waxaana rabnaa inaan horumaradan sidoo kale u diyaarino horumariyayaasha. Horumariyayaasha isticmaala nooca gpt-3.5-turbo waxay mar walba heli doonaan nooca deggan ee aan ku talinno, iyagoo weli leh dabacsanaanta ay ugu dooran karaan nooc gaar ah. Tusaale ahaan, maanta waxaan sii deynaynaa gpt-3.5-turbo-0301, kaas oo la taageeri doono ugu yaraan ilaa 1-da Juun, waxaanan cusboonaysiin doonaa gpt-3.5-turbo si uu u noqdo sii-deyn deggan oo cusub bisha Abriil. Bogga models⁠(ku furmaa daaqad cusub) wuxuu bixin doonaa cusboonaysiinta isbeddelka.

Waxaan sidoo kale hadda bixinaynaa tusaalooyin gaar ah oo loogu talagalay isticmaalayaasha doonaya xakameyn qoto dheer oo ku saabsan nooca gaarka ah ee nooc iyo waxqabadka nidaamka. Sida caadiga ah, codsiyada waxaa lagu socodsiiyaa kaabayaal xisaabeed oo lala wadaago isticmaalayaasha kale, kuwaas oo bixiya codsi kasta. API-geennu wuxuu ku shaqeeyaa Azure, iyadoo tusaalooyinka gaarka ah ay horumariyayaashu ku bixin doonaan muddada waqtiga si loogu qoondeeyo kaabayaal xisaabeed oo loo keydiyey u adeegidda codsiyadooda.

Horumariyayaashu waxay helaan xakameyn buuxda oo ku saabsan culayska instance-ka (culays badan wuxuu hagaajiyaa shaqada balse wuxuu ka dhigaa codsi kasta mid gaabis ah), ikhtiyaarka lagu suurtogeliyo astaamo sida xadka context-ka oo dheer, iyo awoodda lagu xiro sawirka nooca.

Tusaalooyinka gaarka ahi waxay dhaqaale ahaan macno u samayn karaan horumariyayaasha maamula wax ka badan ~450M tokens maalintii. Intaa waxaa dheer, waxay suurtogelisaa in si toos ah loo hagaajiyo culayska shaqada horumariyaha iyadoo loo eegayo waxqabadka qalabka, taas oo si weyn u yareyn karta kharashaadka marka loo eego kaabayaasha la wadaago. Wixii ku saabsan tusaalaha gaarka ah, nala soo xiriir⁠.

Whisper⁠, oo ah nooca hadal-ilaa-qoraal ee aan il-furan ka dhignay Sebtembar 2022, waxa uu ka helay ammaano aad u badan bulshada horumariyayaasha balse sidoo kale way adkaan kartaa in la socodsiiyo. Hadda waxaan nooca large-v2 ka dhignay mid laga heli karo API-geenna, taas oo bixisa marin ku habboon oo baahi-ku-saleysan kuna qiimeysan $0.006 / daqiiqo. Intaa waxaa dheer, adeeg-bixinteenna aad loo hagaajiyey waxay xaqiijisaa waxqabad ka dheereeya adeegyada kale.

Whisper API waxa laga heli karaa bar-dhammaadkeena transcriptions (wuxuu qoraal uga dhigaa luqadda asalka ah) ama translations (wuxuu qoraal ugu rogaa Ingiriisi), wuxuuna aqbalaa noocyo badan (m4a, mp3, mp4, mpeg, mpga, wav, webm):

Si aad wax badan uga ogaato Whisper API, booqo hagaha Speech to Text⁠(ku furmaa daaqad cusub).

Lixdii bilood ee la soo dhaafay, waxaan ka ururinaynay jawaab-celin macaamiisheena API-ga si aan u fahanno sida aan si ka fiican ugu adeegi karno. Waxaan samaynay isbeddello la taaban karo, sida:

• Xogta lagu soo gudbiyo API-ga hadda looma isticmaalo hagaajinta adeegga (oo ay ku jirto tababarka nooca) ilaa ururku si cad u doorto
• Hirgelinta xeerka haynta xogta ee caadiga ah ee 30 maalmood ah ee isticmaalayaasha API-ga, iyadoo ay jiraan ikhtiyaarro hayn adag leh oo ku xiran baahiyaha isticmaalaha.
• Ka saarista dib-u-eegistayadii kahor-bilowga (taas oo suurtogashay markii aan hagaajinnay kormeerkeenna otomaatiga ah)
• Hagaajinta dukumeentiyada horumariyaha
• Fududaynta Shuruudaha Adeegga iyo Siyaasadaha Isticmaalka⁠(ku furmaa daaqad cusub), oo ay ku jiraan shuruudaha ku saabsan lahaanshaha xogta: isticmaalayaashu waxay leeyihiin gelinta iyo soo-saarka noocyada.

Labadii bilood ee la soo dhaafay, waqtiga-shaqaynteennu ma gaadhin filashadeenna ama tan isticmaalayaashayada. Mudnaanta koowaad ee kooxda injineernimadeennu hadda waa xasilloonida xaaladaha adeegsiga wax-soo-saarka—waxaan ognahay in xaqiijinta AI ay anfaco dhammaan aadanaha ay u baahan tahay inaan noqono adeeg-bixiye lagu kalsoonaan karo. Fadlan nagu xisaabtama inaan hagaajino uptime-ka bilaha soo socda!

Waxaan aaminsanahay in AI ay siin karto qof walba fursado cajiib ah iyo awoodsiin dhaqaale, waxaana jidka ugu fiican ee taas lagu gaari karo uu yahay in qof walba loo oggolaado inuu ku dhiso. Waxaan rajaynaynaa in isbeddellada aan maanta shaacinay ay horseedi doonaan codsiyo badan oo uu qof walba ka faa’iidaysan karo. Bilow dhismaha app-yo jiilka xiga ah oo ku shaqeeya ChatGPT & Whisper.