Iepazīstinām ar aģentiem paredzēto Stateful Runtime Environment platformā Amazon Bedrock
Mākslīgā intelekta aģentiem ir izcila spriestspēja. Sarežģītāka ir operatīvā daļa: daudzpakāpju darba uzticama veikšana laika gaitā, izmantojot reālus rīkus un reālas sistēmas, ar atbilstošiem kontroles mehānismiem.
Šodien mēs padarām to vienkāršāku klientiem caur partnerību un sadarbību ar Amazon, lai piedāvātu jauno stāvokli saglabājošo izpildvidi (Stateful Runtime Environment), kas natīvi darbojas Amazon Bedrock platformā un ko nodrošina OpenAI. AWS klientiem būs pieejams OpenAI intelekts, kas tiks nodrošināts, izmantojot Runtime Environment, optimizēts AWS infrastruktūrai un pielāgots aģentiskām darbplūsmām, ar ražošanas darbam nepieciešamo stāvokļa saglabāšanu, uzticamību un pārvaldību.
Daudzi aģentu prototipi, kas balstīti uz bezstāvokļa API, risina vienkāršus lietošanas gadījumus: viena uzvedne, viena atbilde, varbūt viens rīka izsaukums. Darbs ražošanas vidē ir atšķirīgs. Reālās darbplūsmas norisinās daudzos soļos, tām ir nepieciešams konteksts no iepriekšējām darbībām, tās ir atkarīgas no vairāku rīku izvades, apstiprinājumiem un sistēmas stāvokļa, un tām ir vajadzīgas uzticamas aizsargbarjeras drošās vidēs.
Bezstāvokļa API gadījumā ir nepieciešams izstrādāt atbalstošu orķestrācijas slāni aģentiem. Uz izstrādes komandām gulstas slogs izdomāt, kā tiek saglabāts stāvoklis, kā tiek izsaukti rīki, kā tiek apstrādātas kļūdas un kā droši atsākt ilgstoši veicamus uzdevumus.
Stateful Runtime Environment ir kopīgi izstrādāts, lai samazinātu šo slogu. Tas darbojas jūsu AWS vidē un ir optimizēts darbam ar AWS pakalpojumiem. Tagad tā vietā, lai manuāli savienotu nesaistītus pieprasījumus, lai viss darbotos, jūsu aģenti automātiski izpilda sarežģītus soļus ar “darba kontekstu”, kas pārnes uz priekšu atmiņu/vēsturi, rīku un darbplūsmas stāvokli, vides izmantošanu un identitātes/atļauju robežas.
Tagad ir vieglāk nekā jebkad agrāk ieviest tādus risinājumus kā vairāku sistēmu klientu atbalstu, pārdošanas darbplūsmas, iekšējo IT automatizāciju un finanšu procesus ar apstiprinājumiem un auditiem.
Kad izpildvide pārvalda noturīgu orķestrāciju un stāvokli starp soļiem, komandas var koncentrēties uz darbplūsmu un biznesa loģiku, nevis uz ietvara veidošanu.
Stāvokli saglabājošie uzdevumi ir veidoti uzticamai darbībai ilgākā laikā, nodrošinot konteksta nepārtrauktību un kontroles robežas, kas vajadzīgas izpildei vairākos soļos.
Izpildlaiks ir izstrādāts darbībai klientu AWS vidē, lai viegli atbilstu esošajai drošības politikai, rīku integrācijām un pārvaldības noteikumiem.
Darba sākums
Stateful Runtime platformā Amazon Bedrock būs pieejams tuvākajā laikā. Ja vēlies uzzināt, kā tas var sniegt ieguvumus tavā MI attīstības ceļā, sazinies ar savu OpenAI komandu vai iesniedz pieprasījumu, lai sazinātos ar tevi.
