Ka baxsan xadka rate limits: ballaarinta helitaanka Codex iyo Sora

Sanadkii la soo dhaafay, Codex iyo Sora labaduba waxay arkeen qaadasho degdeg ah, iyadoo isticmaalka si dhakhso leh uga gudbay wixii aan markii hore filaynay. Waxaan aragnay hannaan joogto ah: isticmaalayaashu way bilaabaan, waxay helaan qiime dhab ah, ka dibna waxay ku dhacaan rate limits.

Rate limits waxay ka caawin karaan dejinta baahida oo hubin karaan helitaan caddaalad ah; hase yeeshee, marka isticmaalayaashu helayaan qiime, ku dhicista joogsi adag waxay noqon kartaa wax niyad jab leh. Waxaan rabnay hab ay isticmaalayaashu ku sii wadan karaan, annagoo ilaalinayna waxqabadka nidaamka iyo kalsoonida isticmaalaha ee habkeenna.

Si tan loo xalliyo, waxaan dhisnay engine helitaan-waqti-dhab ah oo tiriya isticmaalka. Mid ka mid ah lakabyada engine-kaas waa awoodda lagu iibsado credits. Marka isticmaalayaashu dhaafaan rate limits-kooda, credits-ku waxay u oggolaanayaan inay sii isticmaalaan badeecadahayaga iyagoo ka kharash gareynaya hadhaaga credit-kooda.

Hoosta waxaa ka jira nidaam adag oo isku dara xaddidaadaha, raadraaca isticmaalka-waqti-dhab ah, iyo hadhaaga credit-ka hal nooc oo helitaan ah. Qoraalkani wuxuu sharxayaa sababta ballaarinta Codex iyo Sora ay ugu baahatay dib-u-fikirka xakamaynta helitaanka, sida nidaam waqti-dhab ah oo si la caddeyn karo sax u ah uu ugu daro rate limits iyo credits codsi kasta, iyo sida saldhiggaas uu hadda u furo helitaan dheeraad ah labada badeecadoodba.

Haddii si guud loo eego, noocyada helitaanka dhaqameed badanaa waxay ku khasbaan doorasho:

• Rate limits waxay marka hore waxtar yeelan karaan, laakiin waxay ka tagaan isticmaalayaasha waayo-aragnimo xun marka ay ka dhammaadaan: “soo noqo mar dambe”
• Biil-gareyn ku salaysan isticmaal waa dabacsan tahay, laakiin waxay ka dhigtaa isticmaalayaasha inay bixiyaan laga bilaabo token-kii ugu horreeyay—taas oo aan ku habboonayn taageeridda sahamin hore

Codex iyo Sora, midkoodna keligiis kuma filnayn. Haddii aan si fudud u kordhin lahayn rate limits, waxaan lumin lahayn xakameynno muhiim ah oo dejinta baahida iyo caddaaladda ah, waxaana naga dhammaan lahayd awoodda aan qof walba ugu adeegno. Haddii aan gebi ahaanba ku tiirsanaan lahayn biil-gareyn isticmaal oo asynchronous ah, waxaan keeni lahayn dib-u-dhac, kharash dheeraad ah, ama dhibaatooyin is-waafajin ah—kuwaas oo ah noocyada dhibaatooyinka ay isticmaalayaashu dareemaan marka ay ugu hawlan yihiin.

Waxa aan taa beddelkeeda u baahnayn wuxuu ahaa hal nidaam isku-dhafan oo isku dara xaddidaadaha-waqti-dhab ah iyo helitaanka pay-as-you-go:

Nidaamkani wuxuu lahaa inuu:

• Dhaqan-geliyo rate limits ilaa laga gaarayo
• Si aan kala go' lahayn ugu gudbo credits isla codsiga gudaheeda
• Go'aankaas ku gaaro waqti dhab ah
• Noqdo mid si adag u sax ah oo la xisaabtami karo marka la raadraacayo isticmaalka credit-ka

Mid ka mid ah isbeddelladii fikradeed ee muhiimka ahaa ee aan sameynay wuxuu ahaa in helitaanka loo qaabeeyo sidii biyo-dhac go'aan. Halkii aan weydiin lahayn “tan ma la oggol yahay?”, waxaan weydiinaynaa “intee la oggol yahay, xaggee se ka imanayaa?” Marka la tirinayo isticmaalka, nidaamku wuxuu maraa taxanaha soo socda:

Noocani wuxuu ka tarjumayaa sida isticmaalayaashu dhab ahaan u la kulmaan badeecadda. Rate limits, heerarka bilaashka ah, credits, dhiirrigelinno, iyo xuquuqaha enterprise dhammaantood waa lakabyo ku jira isla isku-xirka go'aanka. Marka laga eego dhinaca isticmaalaha, ma aha inay “nidaam beddelaan”—waxay si fudud u sii wataan isticmaalka Codex iyo Sora. Taasi waa sababta credits-ku u dareemaan kuwo aan muuqan: waa uun walax kale oo ku jirta biyo-dhaca.

Waxaan qiimeynay isticmaalka dhinac saddexaad iyo meelo billing iyo metering ah si ay u maareeyaan isticmaalka credit-ka. Waxay ku habboon yihiin invoicing iyo warbixinta, laakiin ma aysan buuxin laba shuruudood oo muhiim ah:

Marka isticmaale uu gaaro xad oo uu haysto credits la heli karo, nidaamku waa inuu ogaadaa isla markiiba. Tirinta best-effort ama dib-u-dhacsan waxay isu muujisaa xannibaado lama filaan ah, hadhaagyo aan isku mid ahayn, iyo kharashyo khaldan. Badeecooyin is-dhexgal ah sida Codex iyo Sora, fashilaadahaas way muuqdaan oo niyad jab bay keenaan.

Waxaan sidoo kale u baahnayn inaan bixino hufnaan ku saabsan natiijo kasta:

• Sababta codsi loo oggolaaday ama loo xannibay
• Inta isticmaal ee uu cunay
• Waa kuwee xaddidaado ama hadhaagyo la dabaqay

Awooddani waxay u baahnayd in si dhow loogu daro biyo-dhaca go'aankeenna halkii si gooni ah loogu xallin lahaa madal usage billing oo gaar ah oo arki jirtay hal qayb oo keliya oo ka mid ah waxa dhacayay. Si aan ugu oggolaanno isticmaalayaasha inay galaan badeecadahayaga annagoon wax u dhimayn kalsoonida, waxaan u baahnayn xakameyn buuxda oo ku saabsan saxnaanta, waqtiga, iyo la-arkikarta. Taasi waxay nagu riixday xal gudaha ah.

Si tan loo awoodsiiyo, waxaan dhisnay nidaam qaybsan oo isticmaal iyo hadhaag ah oo si gaar ah loogu naqshadeeyay go'aannada helitaanka ee synchronous ah.

Heer sare, nidaamku wuxuu:

• Raadraacaa isticmaalka user-kiiba, feature-kiiba
• Ilaaliyaa daaqadaha rate-limit
• Ilaaliyaa hadhaagyada credit-waqti-dhab ah
• Si idempotent ah uga jaraa hadhaagyada isagoo maraya processor qulqulaya oo async ah

Codsi kastaa wuxuu maraa hal waddo qiimeyn ah oo sameeya go'aan waqti-dhab ah oo ku saabsan inta isticmaal la oggol yahay isagoo si synchronous ah uga cunaya rate limits iyo, haddii loo baahdo, xaqiijinaya credits ku filan; ka dibna wuxuu soo celiyaa hal natiijo oo kama dambays ah isagoo xallinaya wax kasta oo jaritaanno credit ah si asynchronous ah. Tani waxay hubisaa dhaqan isku mid ah oo ka gudba badeecooyinka waxayna meesha ka saartaa caqli-celinta is-dul-saaran ee kooxaha dhexdooda.

Mid ka mid ah mabaadi'da naqshadeynta ee muhiimka ah ee nidaamkan waa inaan awoodno inaan caddeyno in billing-keennu sax yahay. Tani waxay ka tarjumaysaa asalka taageeradayada credit-ka, oo ka soo bilaabatay macaamiisha enterprise. Jaantuska nidaamka ee kore, waxaan leenahay saddex xog-ururin oo kala duwan oo dhammaantood isku xiran:

• Dhacdooyinka isticmaalka badeecadda: Waxa isticmaaluhu dhab ahaan sameeyay
• Dhacdooyinka lacag-ururinta: Waxa aan isticmaalaha uga qaadno isticmaalka uu sameeyay
• Cusboonaysiinnada hadhaaga: Inta aan ku hagaajinnay hadhaaga credit-ka isticmaalaha iyo sababta

Xog-ururintani ma aha wax si sahlan u dhashay; dhab ahaantii iyagaa wada nidaamka, iyadoo xog-ururin kastaa kiciso tan xigta. Kala saarista waxa dhacay, kharash kasta oo la xiriira, iyo waxa aan ka jarnay waxay noo oggolaanaysaa inaan si madaxbannaan u kormeerno, dib u ciyaarno, oo u is-waafajino lakab kasta. Tani waa is-dhaafsi ula kac ah oo aan ku mudnaansiineyno saxnaan si la caddeyn karo, iyadoo qiimaha ay tahay in cusboonaysiinnada hadhaaga credit-ku yara dib u dhacaan. Sida aan tan u fulinnay:

• Dhacdooyinka isticmaalka badeecadda waxaa loo daabacaa dhammaan hawlaha isticmaalaha, ha kaxeeyaan isticmaalka credit-ka ama yaanay kaxayn. Tani waxay bixisaa raad kormeer oo hawsha isticmaalaha ah waxayna noo oggolaanaysaa inaan sharaxno sababta aan credits ugu dallacnay, ama aan ugu dallacin.
• Dhacdo kastaa waxay sidataa fure idempotency deggan, sidaas darteed retries, replays, ama dib-u-bilaabista worker-ku waligood laba jeer kama jari karaan hadhaag, taas oo ka hortagta double-charging. Tani sidoo kale waxay noo oggolaanaysaa inaan socodsiino batch reconciliation si aan shaqadeenna offline ugu xaqiijinno.
• Waxaan samaynaa cusboonaysiino hadhaag oo asynchronous ah (laakiin weli ku dhow waqti-dhab ah) halkii aan ka samayn lahayn cusboonaysiin synchronous ah si aan u abuurno raad kormeer. Waxaan u dulqaadannaa dib-u-dhac yar oo ku yimaadda cusboonaysiinta hadhaaga isticmaalaha si aan u caddeyn karno in nidaamku shaqaynayo oo aan ugu xaqiijinno isticmaalayaashayada inaanan si khaldan u biil-gareynayn. Marka dib-u-dhaca gaaban uu nagu sababo inaan dhaafno hadhaaga credit-ka isticmaalaha, si toos ah ayaan u soo celinnaa; waxaan doorannaa saxnaan la caddeyn karo iyo kalsoonida isticmaalaha halkii aan ka dooran lahayn dhaqan-gelin adag.
• Waxaan yaraynaa Credit Balance oo gelinnaa diiwaan Balance Update ah hal transaction database atomic ah gudaheeda. Cusboonaysiinnada hadhaaga waxaa loo taxaneeyaa account kasta, sidaas darteed codsiyada isku mar socda waligood tartan uma geli karaan inay kharash gareeyaan isla credits-ka. Diiwaanka Balance Update wuxuu ka kooban yahay labadaba qaddarka debit-ka iyo sidoo kale tixraac dib ugu laabanaya dhacdadii lacag-ururinta ee kicisay cusboonaysiinta; ku duubista tan hal transaction database ah waxay dammaanad qaadaysaa inaan leenahay raad kormeer oo ku saabsan hagaajin kasta oo lagu sameeyo hadhaaga credit-ka.

Adkeyntan oo dhan waxay taageertaa hal ujeeddo: in helitaanka laga dhigo mid fudud oo ammaan ah. Marka dadku wax abuurayaan ama code qorayaan, waa inaysan ka welwelin in codsi gudbi doono, in si xad-dhaaf ah looga qaadi doono, ama in hadhaagoodu sax yahay. Marka aan ka dhigno isticmaalka, billing, iyo hadhaagyada kuwo si la caddeyn karo sax u ah, waxaan siinnaa isticmaalayaasha nidaam aan ka mashquulin waayo-aragnimadooda. Taasi waa waxa noo oggolaanaya inaan ku beddelno joogsiyada adag helitaan joogto ah—waana waxa credits-ka ka dhigaya kuwo la isticmaali karo bartamaha shaqo dhab ah, ma aha oo keliya invoice dusheeda.

Mabda'a hagaya habkeenna waa ilaalinta dardargelinta isticmaalaha. Go'aan kasta oo qaab-dhismeed ah wuxuu ku laabtaa natiijo uu isticmaalehu arko: hadhaagyada waqti-dhab ahi waxay ka hortagaan kala-go'yo aan loo baahnayn, isticmaalka atomic wuxuu ka hortagaa double-charging, halka caqli-gal helitaan oo mideysan uu xaqiijiyo dhaqan la saadaalin karo. Natiijadu waa in dadku shaqayn karaan muddo dheer, si qoto dheer u sahmin karaan, oo mashruucyo u sii fogayn karaan iyagoon la kulmin joogsiyo adag ama beddelaad qorshe oo degdeg ah.

Marka isticmaalayaashu hawlan yihiin, nidaamku waa inuu ka caawiyaa inay sii wadaan, ee uusan jidka u gelin. Limits iyo credits waxay ku milmaan asalka.

Dhisidda waayo-aragnimadaas waxay u baahatay dib-u-fikirka helitaanka, isticmaalka, iyo billing-ka sidii hal nidaam iyo dhisidda kaabayaal u qaata saxnaanta sidii muuqaal badeecadeed oo heer-koowaad ah. Isla saldhiggaas wuxuu wakhti ka dib u fidi karaa badeecooyin badan; Codex iyo Sora waa bilowga oo keliya.