Прескокни до главната содржина
OpenAI

Како да управувате со инвестициите во вештачка интелигенција во ерата на автономните агенти

Пет практични чекори за да го разберете користењето на вештачката интелигенција, да ги контролирате трошоците и да инвестирате во работата што создава најголема вредност.

Се вчитува...

Целта на OpenAI е со текот на времето да ја направи вештачката интелигенција попристапна, поспособна и подостапна по цена. Од GPT‑4 до GPT‑5.4, цената по милион токени падна за 97 %. GPT‑5.6 го продолжува тој напредок, обезбедувајќи подобри перформанси во индексот за вештачка анализа и кодирање со 54 % помалку излезни токени и 57 % помалку време по задача.

Но самата цена на токенот не покажува дали вештачката интелигенција создава вредност. Лидерите треба да гледаат на корисна работа по долар: завршени задачи, заштедено време, подобрени одлуки и работни процеси подготвени за проширување.

Како што тимовите преминуваат од разговори во подолготрајни работни процеси, на администраторите им е потребен појасен увид во побарувачката, трошоците и ризикот. 

Еве пет начини да инвестирате со сигурност.

1. Подобрете ја видливоста на користењето и трошоците

Лидерите во претпријатијата имаат потреба од јасен преглед на користењето на ВИ: кој ја користи, кои производи или модели ги користат, колку капацитет трошат и каков вид работа поддржува тоа користење. Без тој увид, тешко е да се протолкува сè поголемата сметка. Тоа може да укажува на непотребно трошење, продуктивно експериментирање или работен процес што почнува да станува критичен за деловното работење.

ChatGPT работа поддржува подолги задачи во повеќе чекори, па користењето може значително да се разликува во зависност од работниот процеси. Администраторите треба да ја видат работата што стои зад тоа користење, а не само потрошените кредити. Ова е можно благодарение на заедничкиот увид во побарувачката низ ChatGPT. Ажурираните аналитика за користење и контроли на трошоците во администраторската конзола(се отвора во нов прозорец) им помагаат на администраторите да ги видат усвојувањето, користењето на кредити и трошоците според корисник, производ и модел; да ги следат трендовите со текот на времето; да ги идентификуваат новите обрасци; и да разберат кога користењето одразува широко усвојување, работен процес на напреден корисник или повторлив деловен процес што можеби заслужува поголемо вложување.

Преглед на аналитиката што ги прикажува користењето на ChatGPT и Codex, како и потрошувачката на кредити

Увиди на различни нивоа помагаат во насочувањето на одлуките за инвестирање и овозможување:

  • Работен простор: Дали усвојувањето и трошоците се движат заедно?
  • Тим и корисник: Каде расте побарувачката и кому можеби му треба повеќе поддршка?
  • Производ и модел: каде се користи поскапа интелигенција и дали таа побарувачка е одржлива?

Заедно овие прикази им помагаат на администраторите да одлучат каде да вложат, да обучуваат или да постават ограничувања.

2. Проценете ја ефикасноста на моделот според повратот на инвестицијата (ROI)

Најниската цена по токен не секогаш доведува до најнизок вкупен трошок. Поевтин модел може да не успее, да се обиде повторно или да создаде работа што бара корекција. Поспособен модел може да чини повеќе по токен, но побрзо да постигне прифатлив резултат, со помалку обиди и помалку проверка.

Оценувајте ги моделите според работата што треба да ја извршуваат. Користете евалуации што одразуваат реални задачи, вклучително и гранични случаи и дефинирајте што значи „доволно добро“ пред тестирањето. Потоа измерете го целосниот трошок за постигнување на тој стандард: користење на модел и алатките, обиди, стапка на завршување, латентност и човечка проверка.

За приоритетни работни процеси, следете го трошокот по прифатен исход. Во корисничката поддршка, тоа може да биде решен случај. Во инженерството, тоа може да биде тестирана промена што успешно го поминува прегледот. Поврзете го тој трошок со деловна вредност, како што се заштедено време, намалено време на циклус, заштитени приходи, избегнат ризик или создаден капацитет.

Изборот на модел е само дел од равенката. Јасни инструкции, фокусирани алатки, контекст што може повторно да се користи и експлицитни услови за запирање можат да ги намалат циклусите и непотребните трошоци. Целта е моделот и работниот процес да се усогласат со задачата: користете помали или побрзи модели кога го исполнуваат прагот на квалитет, а гранична интелигенција резервирајте ја за сложена, двосмислена или работа со висок ризик.

3. Управувајте со напредните работни процеси пред да се прошират

Лидерите во претпријатијата треба да го третираат управувањето како оперативен слој што одредува кои задачи поврзани со вештачка интелигенција можат да се прошируваат. Практичната работа се состои во дефинирање кој контекст може да го користи ChatGPT, до кои алатки може да пристапува, кои дејства може да ги презема, кој ги одобрува чекорите со високи ризици и како се доделува дополнителен капацитет кога тимовите ќе пронајдат вредни работни процеси.

Ова станува поважно како што тимовите усвојуваат приклучоци, конектори, користење на компјутер и други гранични можности што можат да функционираат низ корпоративните системи. ChatGPT работа им дава на администраторите централизирани контроли за пристап, одобрен контекст, поврзани алатки, дозволени дејства, користење и трошоци. Контролите за трошење, како што се стандардните поставки за работен простор, групните ограничувања, индивидуалните отстапки и барањата за преглед со контекст на проектот, им помагаат на раководителите да поддржат работа со висока вредност без широко зголемување на ограничувањата.

За приоритетни воведувања, инженерите за имплементација(се отвора во нов прозорец) на вештачка интелигенција на OpenAI можат директно да соработуваат со клиентите на евалуации, архитектура, латентност, доверливост и дизајн на работни процеси за да ги подобрат и перформансите и ефикасноста на трошоците. Приватноста и управувањето треба да бидат дел од таа работа од самиот почеток: на чувствителните работни процеси им се потребни соодветни контроли за пристап, политика за задржување, видливост на усогласеноста и патеки за одобрување пред да се прошират. Онаму каде што е применливо, контролите за приватност на OpenAI за претпријатија, вклучувајќи ги опциите за нула задржување на податоци(се отвора во нов прозорец), може да им помогнат на клиентите да применат ВИ во средини со висока доверба.

4. Работни процеси што можат да се акумулираат

Лидерите на претпријатијата треба да управуваат со инвестициите во ВИ како со портфолио: широк пристап за секојдневна продуктивност, работни процеси специфични за одредени функции што ја подобруваат повторливата работа и помал број стратешки вложувања изградени околу сопствениот контекст на компанијата. Најсилни кандидати се работните процеси што се повторуваат во значителен обем, имаат јасна одговорност и можат да се мерат според квалитетот, ризикот и деловната вредност.

Финансирањето треба да ја следи зрелоста. Истражувањето треба да тестира дали моделот може да се справи со задачата; валидацијата треба да тестира репрезентативни случаи според јасен стандард за квалитет; финансирањето за продукциска фаза треба да ги поддржи интеграциите, контролите, сигурноста и управувањето со промени потребни за проширување. Заедничките способности како што се идентитет, доверливи конектори, курирано знаење, евалуации, набљудливост, рутирање на модели и повторно употребливи агентски обрасци треба да се финансираат централно, за да може секој нов работен процес да се пушта во употреба полесно и побезбедно.

5. Усогласете го капацитетот со докажаната побарувачка

Откако работниот процес ќе ја докаже својата вредност, раководителите треба да ги усогласат производот, капацитетот и моделот на поддршка со побарувачката за него. ChatGPT работа нуди готови можности за разговор, кодирање, агентски работни процеси, конектори, приклучоци, користење компјутер и администрирање. Компаниите можат да ја прошират таа основа со сопствени податоци, дозволи, евалуации и логика на работните процеси таму каде што тие елементи создаваат диференцирана вредност.

За продукциски работни оптоварувања, комерцијалната структура треба да одговара на обрасците на користење: Гарантиран капацитет за продукциски системи и агенти на кои им е потребна сигурност во пристапот, ниво на скалирање за предвидливи API работни оптоварувања со висок обем и Batch API(се отвора во нов прозорец), флексибилна обработка(се отвора во нов прозорец) или кеширање на промптови за асинхрона работа или повторлив контекст.

За поголеми стратешки воведувања, OpenAI Frontier и Deployment Company(се отвора во нов прозорец) можат да им помогнат на претпријатијата да изградат, воведат и управуваат со соработници со вештачка интелигенција низ корпоративните системи. Овој пристап им овозможува на лидерите да ја скалираат докажаната работа со соодветниот производ, капацитет и модел на поддршка, наместо секој работен процес одново да ја гради сопствената инфраструктура.

Автор

OpenAI