Како Fyxer создаде извршен асистент со ВИ кому му веруваат

За многу професионалци, работата значи следење на разговорите и обврските низ дојдовните сандачиња, состаноците, пораките и апликациите. Без сигурен контекст, тие обврски лесно може да се превидат, што им штети на проектите и односите.

Fyxer создаде извршен асистент со ВИ што го следи текот на работата додека таа се одвива низ различни алатки. Тој ги комбинира најновите модели на OpenAI со повеќе од 500.000 часа работни процеси на извршни асистенти, делејќи ја работата меѓу десетици специјализирани модели што се подобруваат преку повратни информации од вистински корисници.

Е-поштата е едно од местата каде што најјасно може да се види како работи. Две лица може да ја добијат истата е-порака, но да им требаат сосема различни одговори во зависност од нивниот однос, претходните настани и целта на секое лице. Поради тоа, навидум едноставната задача е неочекувано тешка за ВИ.

„Постои нешто што се нарекува Моравеков парадокс“, објаснува коосновачот на Fyxer, Арчи Холингсворт. „Она што им е лесно на луѓето е тешко за компјутерите, а она што им е лесно на компјутерите е тешко за луѓето.“ Fyxer се справува со таа сложеност така што учи како работи секој корисник, за да може да одговара како асистент што веќе знае што е важно.

Граничните модели на OpenAI ги поддржуваат клучните делови од искуството — од разбирање на е-пораката и наоѓање на соодветниот контекст до создавање на нацртот. Fyxer го избра OpenAI бидејќи неговите модели постигнаа најдобри резултати на интерните мерила на Fyxer, понудија моќни можности за фино прилагодување за субјективни задачи како тонот и намерата и обезбедија непосредна инженерска поддршка преку сесии на табла и техничка соработка.

Пристапот на Fyxer нуди три лекции за основачите што создаваат производи со ВИ кои во голема мера зависат од контекстот:

Fyxer го изгради својот систем околу 30–50 специјализирани модели, од кои секој е одговорен за тесно определен дел од работниот процес со е-пошта. Наместо да ја третира е-поштата како единствена задача за генерирање текст, Fyxer го дели проблемот на систем од предвидувања, како утврдување дали пораката бара одговор или изработка на одговори што одговараат на тонот и контекстот на корисникот.

„Делењето на проблемот меѓу повеќе помали модели функционира многу подобро отколку да се бара од еден модел да напише добра е-порака“, објаснува Холингсворт.

Кога ќе пристигне нова е-порака, моделот за одлучување за одговор ја класифицира пораката: дали треба да се одговори, да се преземе дејство за закажување или едноставно да му се прикаже информацијата на корисникот?

Ако е потребен одговор, дополнителни модели ја анализираат намерата на е-пораката и го предвидуваат веројатниот исход од интеракцијата. Овие модели препознаваат обрасци, на пример дали разговорот води кон закажување состанок, решавање барање или продолжување на подолг тек во односот.

Меморија е еден од најважните делови на системот. Fyxer треба да одлучи кои детали треба да се задржат низ повеќе разговори, а кои да исчезнат по една размена. Кога ќе пристигне нова е-порака, моделите за пронаоѓање ја споредуваат со зачуваните интеракции и ги прикажуваат сеќавањата што се најрелевантни за тоа лице и текот на разговорот.

Моделите на OpenAI ги поддржуваат чекорите низ целиот систем на Fyxer. „Ги користиме моделите на OpenAI за сè — од обработка на е-пораката за да разбереме за што навистина станува збор, преку вклучување и повторно рангирање на контекстот што сакаме да го додадеме, до самото генерирање на е-пораката“, вели Шанцила.

Пред да го лансира својот производ со ВИ, Fyxer со години нудеше услуга со извршни асистенти. Со текот на времето, тимот собра збирка на податоци од повеќе од 500.000 часа означени работни процеси на извршни асистенти, која доловува како вистинските асистенти управуваат со деловната комуникација.

Тие примери му обезбедија на Fyxer податоци за обука што потекнуваат од самата работа. Тие ги доловуваа малите процени што стојат зад добриот одговор: кога да се одговори брзо, кога да се почека, кој претходен разговор е важен и зошто истото барање може да бара различен одговор за различни луѓе.

Во својот поширок систем, Fyxer користи надгледувано фино прилагодување и адаптација со низок ранг (LoRA) за да создава варијанти на модели за конкретни задачи, притоа контролирајќи ги трошоците за обука. Во раната фаза од развојот на производот, тимот ја користеше платформата на OpenAI за фино прилагодување за задачи што бараа висока прецизност. Неодамна, Fyxer соработуваше со тимот на OpenAI за управувано фино прилагодување за да пушти нова контролна точка во продукција.

Пред да распореди кој било модел, Fyxer го оценува врз множества за валидација создадени околу сопствените задачи со е-пошта, меѓу кои изработка на нацрти, класификација и одредување приоритети. Тимот ги споредува прецизноста, времето на одговор и трошоците, бидејќи најдобриот избор може да се разликува зависно од задачата.

Откако ќе се распореди, системот на Fyxer продолжува да се подобрува преку повратни информации од вистински корисници. Кога некој ќе измени нацрт пред да го испрати, разликата меѓу првичната и конечната е-порака покажува кој резултат го претпочитал.

Fyxer ги претвора тие споредби во податоци за обука со директна оптимизација на претпочитањата (DPO). Наместо секој пример рачно да се означува, моделот учи од парови резултати: првичниот нацрт и верзијата изменета од корисникот.

Потоа, секоја промена во изработката на нацртите поминува низ A/B-тест. Fyxer ја пушта новата верзија само кога таа носи статистички значително подобрување. Бројот на корисници понекогаш му овозможува на тимот да го достигне тој праг за еден ден.

Денес, 53% од нацртите на Fyxer генерирани со ВИ се прифаќаат без измени. Тоа значи дека системот правилно ги предвидува намерата и тонот во голем дел од вистинските разговори. Само во 2025 година, годишниот повторлив приход на Fyxer порасна од 1 милион на 32 милиони долари.

За Холингсворт, посилен показател е задржувањето на корисниците. Многу клиенти на Fyxer немаат големо техничко знаење, а за некои Fyxer е првиот систем со ВИ што го користат секој ден.

Во иднина, Fyxer ќе гради подлабоко разбирање на односите, претпочитањата и тековните работни процеси. Нивниот асистент продолжува да се развива од алатка за изработка на одговори во поширок асистент со ВИ, кој може да преземе поголем дел од комуникацијата и координацијата на корисникот.

„Нашата визија е да им овозможиме на клиентите да посветат што повеќе време на работата што навистина ја сакаат“, вели Холингсворт. „Сакаме да стигнат до точка кога никогаш нема да мора да го отвораат компјутерот и ќе можат да му веруваат на Fyxer дека ќе се погрижи за сето тоа.“