Amazon Bedrockમાં એજન્ટ્સ માટે Stateful Runtime Environment ની રજૂઆત
AI એજન્ટ્સ રિઝનિંગમાં ઉત્તમ છે. વધુ કઠિન ભાગ ઓપરેશનલ છે: યોગ્ય નિયંત્રણો સાથે, વાસ્તવિક ટૂલ્સ અને સિસ્ટમ્સમાં, સમય જતાં બહુ-પગલાં કામને વિશ્વસનીય રીતે ચલાવવું.
આજે, અમે Amazon સાથેની ભાગીદારી અને સંયુક્ત સહકાર દ્વારા ગ્રાહકો માટે આને સરળ બનાવી રહ્યા છીએ, જેથી નવું Stateful Runtime Environment, જે મૂળરૂપે Amazon Bedrockમાં ચાલે છે, પ્રદાન કરી શકાય. AWS ગ્રાહકોને Runtime Environment નો ઍક્સેસ મળશે, જે OpenAI મોડલ્સ દ્વારા સંચાલિત, AWS ઇન્ફ્રાસ્ટ્રક્ચર માટે ઑપ્ટિમાઇઝ્ડ અને એજન્ટિક વર્કફ્લોઝ માટે અનુરૂપ છે, તેમજ ઉત્પાદન કાર્ય માટે જરૂરી સ્ટેટ, વિશ્વસનીયતા અને ગવર્નન્સ સાથે.
stateless APIs પર આધારિત ઘણા એજન્ટ પ્રોટોટાઇપ્સ સરળ ઉપયોગના કિસ્સાઓ હેન્ડલ કરે છે: એક પ્રોમ્પ્ટ, એક જવાબ, કદાચ એક ટૂલ કૉલ. ઉત્પાદન કાર્ય અલગ છે. વાસ્તવિક વર્કફ્લોઝ ઘણા પગલાંમાં આગળ વધે છે, અગાઉની ક્રિયાઓમાંથી સંદર્ભ માંગે છે, અનેક ટૂલ આઉટપુટ્સ, મંજૂરીઓ અને સિસ્ટમ સ્ટેટ પર આધાર રાખે છે, અને સુરક્ષિત પર્યાવરણમાં વિશ્વસનીય ગાર્ડરેલ્સની જરૂર પડે છે.
stateless APIs માટે એજન્ટ્સ માટે સહાયક ઓર્કેસ્ટ્રેશન લેયર બનાવવાની જરૂર પડે છે. સ્ટેટ કેવી રીતે સંગ્રહાય, ટૂલ્સ કેવી રીતે ચલાવવામાં આવે, ભૂલો કેવી રીતે હેન્ડલ થાય, અને લાંબા સમય સુધી ચાલતા કાર્યો કેવી રીતે સલામત રીતે ફરી શરૂ થાય તે શોધવાનો ભાર ડેવલપમેન્ટ ટીમ્સ પર રહે છે.
Stateful Runtime Environment આ ભાર ઘટાડવા માટે સંયુક્ત રીતે ડિઝાઇન કરવામાં આવ્યું છે. તે તમારા AWS પર્યાવરણની અંદર ચાલે છે અને AWS સેવાઓ સાથે કામ કરવા માટે ઑપ્ટિમાઇઝ્ડ છે. હવે, વસ્તુઓ કાર્ય કરે તે માટે અલગ-અલગ વિનંતીઓને હાથથી જોડવાના બદલે, તમારા એજન્ટ્સ આપમેળે જટિલ પગલાં ચલાવે છે, જેમાં “કાર્યકારી સંદર્ભ” હોય છે જે મેમરી/ઇતિહાસ, ટૂલ અને વર્કફ્લો સ્ટેટ, પર્યાવરણ ઉપયોગ અને ઓળખ/પરમિશન સીમાઓને આગળ લઈ જાય છે.
હવે બહુ-સિસ્ટમ ગ્રાહક સપોર્ટ, વેચાણ ઓપરેશન્સ વર્કફ્લોઝ, આંતરિક IT ઓટોમેશન, અને મંજૂરીઓ તથા ઑડિટ્સ સાથેની ફાઇનાન્સ પ્રક્રિયાઓ જેવી સોલ્યુશન્સ પહોંચાડવી પહેલાં કરતાં વધુ સરળ છે.
જ્યારે runtime પગલાંઓમાં સ્થાયી ઓર્કેસ્ટ્રેશન અને સ્ટેટ હેન્ડલ કરે છે, ત્યારે ટીમો scaffolding કરતાં વર્કફ્લો અને બિઝનેસ લોજિક પર ધ્યાન કેન્દ્રિત કરી શકે છે.
Stateful કાર્યોને સમય જતાં વિશ્વસનીય રીતે ચલાવવા માટે ડિઝાઇન કરવામાં આવ્યા છે, અને તેઓ બહુ-પગલાં એક્ઝિક્યુશન માટે જરૂરી સંદર્ભ અને નિયંત્રણ સીમાઓને આગળ લઈ જાય છે.
runtime ગ્રાહકોના AWS પર્યાવરણની અંદર કાર્ય કરવા માટે ડિઝાઇન કરવામાં આવ્યું છે, જેથી વર્તમાન સુરક્ષા સ્થિતિ, ટૂલિંગ ઇન્ટિગ્રેશન્સ અને ગવર્નન્સ નિયમોનું સરળતાથી પાલન કરી શકાય.
શરૂઆત કેવી રીતે કરવી
Amazon Bedrockમાં Stateful Runtime ટૂંક સમયમાં ઉપલબ્ધ થશે. જો તમે જાણવા માંગતા હો કે આ તમારા AI પ્રવાસને કેવી રીતે લાભ આપશે, તો તમારી OpenAI ટીમનો સંપર્ક કરો અથવા સંપર્ક કરવા માટે વિનંતી કરો.
