Какво означава да си инженер за внедряване при клиента в OpenAI
Какво правим, как работим и как решаваме най-трудните проблеми на бизнеса, за да постигнем реални резултати.
Автор: Колин Джарвис, ръководител на инженерния екип за внедряване при клиента в OpenAI
Когато Codex излезе, някой от екипа ме попита: „Какво правим, когато Codex може от раз да реши задачите, за които изграждахме решения през последните няколко месеца?“
Този въпрос улавя същността на ролята на инженера за внедряване при клиента в OpenAI. Работим рамо до рамо с клиентите, за да разберем най-трудните им проблеми и да изградим решения, на които могат да разчитат. Наученото ни помага да оформяме продуктите си и дава на изследователския екип конкретни проблеми за решаване.
Това е напредък. Ако на всеки няколко месеца правим собствената си намеса ненужна, значи екипът ни от инженери за внедряване при клиента си върши работата.
Създадох екипа в началото на 2025 г., за да преодолеем това, което наричаме „пропастта при внедряването“: разликата между онова, на което моделите изглеждат способни, и онова, което хората могат надеждно да използват в работата си.
Възможностите на моделите се развиват по-бързо от системите и процесите, необходими за прилагането им. Понякога липсващото звено е продукт. Понякога моделът се представя добре на сравнителен тест, но не може да изпълни задачата при променливите условия и ограничения на реалността.
Съсредоточаваме се върху най-трудните проблеми на клиентите. Когато моделите ни могат да свършат работата още днес, работим с продуктовия екип и клиента, за да направим решението многократно приложимо. Когато възможностите им не достигат, работим с клиентите и изследователския екип, за да определим какво липсва и да го подобрим. Целта ни е всеки проект да дава на следващия клиент по-добра отправна точка. Ако вдигнем базовото ниво дотам, че следващия път клиентите ни да нямат нужда от инженери за внедряване при клиента за този тип проблеми, значи сме си свършили добре работата.
Предизвикателството пред John Deere, компания с 200-годишна история в земеделието, беше как да предоставя персонализирани съвети на повече земеделци.
Един пример е See & Spray — технологията им за прецизен контрол на плевелите, която използва камери и машинно обучение, за да разпознава и пръска плевелите, вместо да обработва цели ниви, и така намалява употребата на химикали с до 70%.
Но за да се реализират тези ползи, земеделците трябва да знаят как да настроят технологията, да планират сезона и да адаптират практиките си при промяна на условията.
John Deere внедри API на OpenAI, за да може да предоставя тази подкрепа персонализирано и в голям мащаб.
ИИ може да отговаря на въпросите на земеделците на естествен език, да предлага индивидуални насоки и препоръки за настройка, да установява кога оборудването не използва пълния си потенциал и да помага на земеделците да разберат каква стойност получават от технологията.
Възможностите надхвърлят отделните взаимодействия: подходящи насоки на всеки етап от отношенията с клиента могат да помогнат на земеделците да използват по-добре оборудването си, като същевременно повишават ефективността и устойчивостта.
Именно такива предизвикателства решават инженерите за внедряване при клиента в OpenAI: помагат на организациите да превърнат възможностите на ИИ в системи, които носят практическа стойност в сложни реални условия.
Но често проблемите нямат ясни граници, може да липсва установен еталон за верния отговор и няма готова рецепта. Всеки иска да създаде нещо, което никога не е съществувало. По-малко са хората, готови да направят необходимото, за да го постигнат.
Намирането на талантливи инженери за внедряване при клиента, докато вдигаме прага за „достатъчно добро“, изисква непрекъснато експериментиране и прилагане на наученото.
В началото на всяка среща на екипа от инженери за внедряване при клиента показвам слайд с един основен принцип: „Започнете от желания резултат, направете необходимото, за да успеете, и след това разширете мащаба“.
Една впечатляваща демонстрация може да отвори много врати, преди някой да попита дали решението работи в реални условия.
Нашата работа е да решим проблема на клиента с качество, зад което можем да застанем в реална експлоатация.
В средата на 2025 г. около 15 наши инженери за внедряване при клиента работеха с голям клиент от полупроводниковата индустрия по над 10 сценария на употреба. Амбицията беше процесът им на верификация да бъде изграден изцяло около ИИ, като обхване:
Генериране на целеви тестове
Анализ на първопричините и отстраняване на грешки
Асистент за архитектурата
В тази индустрия верификацията може да отнеме около 70% от труда по един проект. Потенциалът беше огромен и имаше много възможни отправни точки.
Някои от инженерите за внедряване при клиента се бяха присъединили към OpenAI само дни по-рано и никога не бяха работили с полупроводници. Те се включиха в екипа за верификация на клиента, изучаваха проектирането на чипове в свободното си време и заедно с инженерите създадоха тестове, за да проверят дали ИИ може да генерира полезни тестове и да диагностицира правилно неизправности в чиповете.
Успоредно с това учене изградихме специализирани рамки за отделните сценарии на употреба. В рамките на първите 3–6 месеца всички решения бяха внедрени в реална експлоатация и започнаха да се използват от първите потребители. Усилията си заслужаваха, когато видяхме показателите:
Около 48% спестено време чрез генериране на целеви тестове с ИИ.
22% медианно подобрение на производителността чрез оптимизация на изчислителните ядра.
Седмици работа по отстраняване на грешки, сведени до часове
Когато представихме всичко това, главният директор по хардуера попита: „Проектирали ли сте чипове, преди да дойдете тук?“
Не е необходимо нашите инженери за внедряване при клиента да познават индустрията още от първия ден, но тяхна отговорност е да я изучат.
Тъй като асистентите за програмиране ускоряват създаването на софтуер, разбирането на бизнеса на клиента става още по-важно. Сформираме екипи, които съчетават специалисти с широк профил и експерти в конкретни области.
Нужни са достатъчно знания за обоснована преценка и достатъчно любознателност, за да поставяте под въпрос приетото за даденост в сегашния начин на работа.
В науките за живота например научната подготовка на нашите инженери за внедряване при клиента им помага да спечелят доверието на изследователи, които работят по предклиничното откриване на лекарства — валидиране и приоритизиране на терапевтични мишени, анализ на генната експресия и възстановяване на пътища за химичен синтез. Тези експертни знания им позволяват да допринесат с обоснована преценка за това как да се подобрят работните процеси.
Бяхме показали, че тези работни процеси могат да носят стойност, но всеки от тях все още изискваше твърде много индивидуална работа по интеграцията, за да го приложим при друг екип. Следващото предизвикателство беше да запазим тези резултати, като същевременно направим софтуера по-лесен за внедряване и поддръжка.
Междувременно възможностите на Codex се бяха разширили. Един инженер за внедряване при клиента изпробва преработването на приложението си около Codex, а след това заедно с екипа прехвърли решенията за различните сценарии на употреба към обща рамка с Codex в основата.
Персонализираните приложения се превърнаха в плъгини и умения, изградени върху общи базови компоненти на Codex. Codex пое и ролята на интерфейс, което ни позволи да изведем от употреба отделните терминални интерфейси и интерфейси на командния ред, които бяхме написали за конкретните сценарии.
Успяхме да премахнем приблизително 90% от специално написания код във всеки проект и това промени начина, по който изграждахме, поддържахме и разширявахме тези работни процеси:
Можехме да се възползваме от централизирани подобрения в Codex, намалявайки кода за свързване на компоненти, необходим за всеки отделен сценарий на употреба
Ключовите функции бяха обединени в умения и плъгини, което улесни споделянето им между екипите и централизираното им управление от центъра за експертни компетенции в областта на ИИ. Така внедряването при следващ екип можеше да се сведе до подмяна на конектори или MCP сървъри, създаване на нови тестове за оценка — за което също имахме умение — и пускане в работа.
В един случай от август 2026 г. първоначалното внедряване отне два месеца. Внедряването на решението при втори екип отне един ден. С разширяването на мащаба следващите екипи се включваха по-бързо. Тази тенденция продължи: при един сценарий на употреба през август 2026 г. вторият екип започна работа за 1 ден, след като първоначалното внедряване беше отнело 2 месеца.
Това е един от начините да направим собствената си намеса ненужна. Работата ни до въвеждането в реална експлоатация показа кое е важно. С подобряването на основния продукт можехме да заменим голяма част от персонализираната си разработка, като запазим стойността, която тя носеше.
Ето защо последователността е важна. Големите езикови модели ни позволяват да създаваме бързо. Използвайте тази бързина, за да дадете на потребителите нещо ценно, да разберете какво издържа проверката на практиката и след това да разширите мащаба на работещото.
Същият принцип важи за всички проекти с клиенти.
OpenAI Presence, нашият продукт за корпоративни гласови и чат агенти, възникна от реални внедрявания при клиенти. Работата започна със Swarm(отваря се в нов прозорец) и продължи с API на агенти, а днес един от клиентите обработва повече от половината си обаждания с ИИ.
Въвеждането на тези решения в реална експлоатация ни показа кои проблеми изискват специално разработено решение и кои базови компоненти могат да се използват и от други екипи. Внесохме тези градивни елементи в Presence, улеснявайки разработчиците да автоматизират регулирани работни процеси, без да е необходимо да преизграждат основната инфраструктура. Всяко внедряване помагаше за оформянето на продукта и даваше на следващия клиент по-добра отправна точка.
Съвместно с Thrive Holdings инженерите за внедряване при клиента и изследователите на OpenAI работиха заедно с инженери и счетоводители, за да създадат Tax AI за счетоводните фирми на Crete. По време на пилотното внедряване Tax AI обработи 7000 данъчни декларации и увеличи производителността с около 50%.
Едно от най-трудните предизвикателства беше автоматизирането на данъчните декларации за имоти под наем. Бяха необходими шест седмици инженерна работа и проверки от специалисти от практиката, за да се постигнат 90% прецизност и пълнота. Тази работа доведе до създаването на подходи за многократна употреба, които улесниха разширяването на Tax AI към други сложни приложения към данъчни декларации.
Екипите вече прилагат същия подход в счетоводството, одита и ИТ поддръжката – изграждат системи, които се подобряват чрез обратна връзка от специалистите от практиката и реална употреба.
Понякога по-добрият продукт ни позволява да опростим създаденото, но друг път самият модел все още не може да се справи със задачата.
Ако създаваме само онова, което днешните модели вече позволяват, няма да открием ограниченията във възможностите на ИИ, които изследователският екип трябва да преодолее след това. Затова много от важните ни проекти започват именно от тези ограничения, като клиентът, инженерите за внедряване при клиента и изследователският екип се ангажират да ги преодолеят заедно.
Вече бяхме разработили платформа за обслужване на клиенти съвместно с голям телекомуникационен клиент, който искаше да я разшири с гласово обслужване.
Гласовите разговори представляваха около 90% от общия обем на клиентското им обслужване. Автоматичното разрешаване на тези случаи беше по-скъпо, отколкото при чат, и поставяше редица нови технически предизвикателства: справяне с акценти и тон на гласа и постигане на бързодействие и точност, подходящи за реална експлоатация. Успешното решение щеше да има съществено значение за бизнеса им.
При определянето на обхвата нашият модел постигаше около 60% на ключовите тестове, с които оценявахме дали може да се справи със задачата в реална експлоатация. Бяхме достигнали границите на възможностите му. Извикването на функция и следването на инструкции в сценарии за обслужване на клиенти се нуждаеха от подобрение.
Обяснихме това на клиента и включихме изследователския екип в работата. Инженерите за внедряване при клиента работиха с него, за да изградят платформата и да определят какво трябва да прави моделът. Изследователският екип работеше по запълването на пропуските във възможностите, а последователните версии на модела ни позволяваха да проверяваме напредъка спрямо изискванията на клиента.
За шест месеца резултатите на ключовите тестове се повишиха от около 60% на 80%, а след това на над 90%, достигайки нивата, необходими за реална експлоатация.
Полученият гласов модел вече се използва във внедреното решение на този клиент, в други персонализирани решения за обслужване на клиенти и в управлявани внедрявания чрез Presence. Проблем в бизнеса на един клиент помогна да открием подобрения, които могат да бъдат полезни на много други.
Всеки принос имаше значение. Клиентът се ангажира да работи по проблем, който моделът все още не можеше да реши. Инженерите за внедряване при клиента поддържаха достатъчно тясно сътрудничество, за да формулират проблема, да изградят платформата и да водят проекта от началото до края. Изследователският екип подобри основните възможности на модела.
Това е другият начин да направим собствената си намеса ненужна: да помогнем проблем, който днешните модели не могат да решат, да се превърне във възможност на бъдещите модели. Ползата от работата ни надхвърля часовете, които прекарваме с който и да е отделен клиент.
Присъединих се към OpenAI, за да помогна ИИ да стане полезен в ежедневната работа на хората. Това продължава да води екипа. Често казвам на екипа, че в повечето случаи при разработката на големи езикови модели важи бръсначът на Окам — най-простото решение е най-доброто. В компания, чиято същност са авангардните изследвания, и в индустрия, страдаща от преувеличения, искаме да създаваме неща, които работят надеждно и на които хората в практиката могат да разчитат.
Целта е всеки проект да подобрява онова, което идва след него: продукт, който се внедрява по-лесно, модел, който се справя с по-трудна задача, или по-малко индивидуални разработки за следващия клиент.
Ако имате труден проблем, който искате да решите, ще се радваме да работим с вас. Ако искате да помагате за решаването на такива проблеми, ще се радваме да се присъедините към нас.
И така, какво правим, когато Codex може да поеме задачите, за които сме изграждали решения месеци наред?
Търсим по-трудния проблем.
