Við kynnum keyrsluumhverfi með stöðu fyrir fulltrúa í Amazon Bedrock

Gervigreindarfulltrúar skara fram úr í rökum. Erfiðari hlutinn er rekstrarlegur: að keyra fjölþrepa vinnu á áreiðanlegan hátt yfir tíma, yfir raunveruleg verkfæri og raunveruleg kerfi, með réttum stýringum.

Í dag erum við að auðvelda þetta fyrir viðskiptavini með samstarfi við Amazon til að kynna nýja keyrsluumhverfið sem keyrir innbyggt í Amazon Bedrock, knúið af OpenAI. AWS-viðskiptavinir fá aðgang að OpenAI-gervigreind sem er afhent í gegnum keyrsluumhverfið, hámarkað fyrir AWS-innviði og sniðið að fulltrúavinnuflæði, með stöðu, áreiðanleika og stjórnun sem þarf fyrir framleiðsluvinnu.

Margar frumgerðir fulltrúa sem byggja á stöðulausum API-um takast á við einföld notkunartilvik: ein kvaðning, eitt svar og mögulega eitt verkfærakall. Framleiðsluvinna er öðruvísi. Raunveruleg verkflæði þróast í mörgum skrefum, krefjast samhengis frá fyrri aðgerðum, byggja á úttaki úr mörgum verkfærum, samþykktum og stöðu kerfis og þurfa áreiðanlegar varnir í öruggu umhverfi.

Stöðulaus API krefjast þess að byggja upp stuðningslag fyrir umsjón. Ábyrgðin hvílir á þróunarteymum að ákveða hvernig staða er geymd, hvernig verkfæri eru kölluð fram, hvernig villur eru meðhöndlaðar og hvernig langvinn verkefni halda áfram á öruggan hátt.

Stateful keyrsluumhverfið er hannað í sameiningu til að draga úr því álagi. Það keyrir inni í AWS-umhverfinu þínu og er fínstillt til að vinna með AWS-þjónustum. Nú, í stað þess að sauma saman ótengdar beiðnir handvirkt til að láta hlutina virka, framkvæma fulltrúarnir þínir sjálfkrafa flókin skref með „virku samhengi“ sem flytur áfram minni/sögu, stöðu verkfæra og verkferla, notkun umhverfis og mörk auðkennis/aðgangsheimilda.

Nú er auðveldara en nokkru sinni fyrr að skila lausnum eins og þjónustu við viðskiptavini yfir mörg kerfi, vinnuflæði fyrir sölu- og rekstraraðgerðir, sjálfvirknivæðingu í upplýsingatækni og fjármálaferlum með samþykktum og úttektum.

Þegar keyrsluumhverfið sér um viðvarandi samhæfingu og stöðu yfir skref, geta teymi einbeitt sér að verkflæðinu og viðskiptarökfræðinni í stað þess að byggja upp stoðgrind.

Verkefni með stöðu eru hönnuð til að keyra á áreiðanlegan hátt yfir tíma og flytja áfram samhengi og stjórnunarmörk sem þarf fyrir margþrepa framkvæmd.

Keyrslutíminn er hannaður til að virka innan AWS-umhverfis viðskiptavina og auðvelda samræmi við núverandi öryggisstöðu, verkfærasamþættingar og reglur um stjórnarhætti.

Byrja

Stateful Runtime í Amazon Bedrock verður brátt í boði. Ef þú vilt kanna hvernig þetta mun nýtast gervigreindarvegferð þinni skaltu hafa samband við OpenAI-teymið þitt eða biðja um að haft verði samband við þig.