Kaip „Fyxer“ sukūrė patikimą DI vadovo asistentą

Daugeliui specialistų darbas reiškia sekti pokalbius ir įsipareigojimus el. pašto dėžutėse, susitikimuose, žinutėse ir programėlėse. Neturint tvirto konteksto, šie įsipareigojimai gali likti pamiršti ir pakenkti projektams bei santykiams.

„Fyxer“ sukūrė DI vadovo asistentą, kuris nepraranda darbo gijos pereinant nuo vieno įrankio prie kito. Jame naujausi OpenAI modeliai derinami su daugiau nei 500 000 valandų vadovų darbo procesų duomenų, o užduotys paskirstomos dešimtims specializuotų modelių, kurie tobulėja mokydamiesi iš tikrų naudotojų atsiliepimų.

El. paštas yra viena akivaizdžiausių sričių, kur galima pamatyti, kaip tai veikia. Du žmonės gali gauti tą patį el. laišką, tačiau jiems gali reikėti visiškai skirtingų atsakymų – tai priklauso nuo tarpusavio santykių, ankstesnių įvykių ir kiekvieno žmogaus tikslo. Todėl iš pažiūros paprasta užduotis DI yra netikėtai sudėtinga.

„Egzistuoja vadinamasis Moraveco paradoksas“, – aiškina „Fyxer“ bendraįkūrėjis Archie Hollingsworthas. „Tai, kas lengva žmonėms, sunku kompiuteriams, o kas lengva kompiuteriams – sunku žmonėms.“ „Fyxer“ įveikia šį sudėtingumą mokydamasi, kaip dirba kiekvienas naudotojas, todėl gali atsakyti kaip asistentas, jau žinantis, kas svarbu.

Priešakiniai OpenAI modeliai naudojami svarbiausiuose proceso etapuose: nuo el. laiško supratimo ir tinkamo konteksto radimo iki juodraščio generavimo. „Fyxer“ pasirinko OpenAI, nes jos modeliai geriausiai pasirodė vidiniuose „Fyxer“ testuose, suteikė pažangių tikslinio derinimo galimybių subjektyvioms užduotims, pavyzdžiui, tonui ir ketinimui nustatyti, ir užtikrino tiesioginę inžinerinę pagalbą per idėjų aptarimo sesijas bei techninį bendradarbiavimą.

„Fyxer“ požiūris suteikia tris pamokas itin kontekstualius DI produktus kuriantiems steigėjams:

„Fyxer“ savo sistemą grindė 30–50 specializuotų modelių, kurių kiekvienas atsakingas už siaurą el. pašto darbo proceso dalį. Užuot laikiusi el. paštą viena teksto generavimo užduotimi, „Fyxer“ problemą suskaido į prognozių sistemą: pavyzdžiui, nustato, ar į žinutę reikia atsakyti, arba rengia naudotojo toną ir kontekstą atitinkančius atsakymus.

„Problemą suskaidžius į daug mažesnių modelių pasiekiama kur kas geresnių rezultatų nei paprašius vieno modelio parašyti gerą el. laišką“, – aiškina Hollingsworthas.

Gavęs naują el. laišką, sprendimo dėl atsakymo modelis klasifikuoja žinutę: ar reikia į ją atsakyti, suplanuoti veiksmą, ar tai tiesiog informacija, kurią naudotojas turėtų pamatyti?

Jei atsakyti reikia, papildomi modeliai išanalizuoja laiško tikslą ir numato tikėtiną sąveikos rezultatą. Šie modeliai nustato, ar pokalbis krypsta į susitikimo planavimą, prašymo išsprendimą ar ilgesnės santykių gijos tęsimą.

Atmintis yra viena svarbiausių sistemos dalių. „Fyxer“ turi nuspręsti, kurią informaciją išsaugoti kitiems pokalbiams, o kurią pašalinti po vieno susirašinėjimo. Gavę naują el. laišką, paieškos modeliai palygina jį su išsaugotomis sąveikomis ir pateikia tam žmogui bei pokalbio gijai aktualiausius prisiminimus.

OpenAI modeliai naudojami įvairiuose „Fyxer“ sistemos etapuose. „OpenAI modelius naudojame viskam: nuo el. laiško analizės, padedančios suprasti tikrąją jo esmę, iki norimo įtraukti konteksto paieškos ir pakartotinio reitingavimo bei paties laiško generavimo“, – sako Shantsila.

Prieš pristatydama savo DI produktą, „Fyxer“ ne vienus metus teikė žmonių atliekamas vadovo asistento paslaugas. Ilgainiui komanda sukaupė duomenų rinkinį, apimantį daugiau nei 500 000 valandų sužymėtų vadovų darbo procesų ir atskleidžiantį, kaip tikri asistentai tvarko profesinę komunikaciją.

Šie pavyzdžiai suteikė „Fyxer“ mokymo duomenų iš paties darbo praktikos. Juose užfiksuoti subtilūs sprendimai, nuo kurių priklauso geras atsakymas: kada atsakyti iškart, kada palaukti, kuris ankstesnis pokalbis svarbus ir kodėl tas pats prašymas skirtingiems žmonėms gali reikalauti skirtingo atsakymo.

Visoje platesnėje sistemoje „Fyxer“ taiko prižiūrimą suderinimą ir mažo rango adaptavimą (LoRA), kad sukurtų konkrečioms užduotims skirtas modelių atmainas ir kartu valdytų mokymo sąnaudas. Ankstyvuoju produkto kūrimo etapu didelio tikslumo reikalaujančioms užduotims komanda naudojo OpenAI tikslinio derinimo platformą. Neseniai „Fyxer“ su OpenAI valdoma tikslinio derinimo komanda įdiegė į gamybinę aplinką naują kontrolinį modelio tašką.

Prieš diegdama bet kurį modelį, „Fyxer“ jį vertina naudodama pagal savo el. pašto užduotis parengtus validavimo rinkinius, apimančius juodraščių rengimą, klasifikavimą ir prioritetų nustatymą. Komanda vertina ne tik tikslumą, bet ir atsako trukmę bei sąnaudas, nes geriausias pasirinkimas priklauso nuo užduoties.

Įdiegta „Fyxer“ sistema ir toliau tobulėja mokydamasi iš tikrų naudotojų atsiliepimų. Kai prieš išsiųsdamas laišką naudotojas pakoreguoja juodraštį, skirtumas tarp pirminio ir galutinio laiško parodo, kuriam rezultatui jis teikia pirmenybę.

Taikydama tiesioginį preferencijų optimizavimą (DPO), „Fyxer“ šiuos palyginimus paverčia mokymo duomenimis. Užuot rankiniu būdu žymėjęs kiekvieną pavyzdį, modelis mokosi iš dviejų rezultatų porų: pirminio juodraščio ir naudotojo redaguotos versijos.

Tada kiekvienas juodraščių rengimo pakeitimas patikrinamas A/B testu. „Fyxer“ išleidžia naują versiją tik tada, kai ji užtikrina statistiškai reikšmingą pagerėjimą. Dėl didelio naudotojų skaičiaus komanda kartais šią ribą pasiekia vos per dieną.

Šiuo metu 53 % „Fyxer“ DI sugeneruotų juodraščių priimama be pakeitimų. Tai reiškia, kad didelėje dalyje tikrų pokalbių sistema teisingai numato ketinimą ir toną. Vien per 2025 m. „Fyxer“ metinės pasikartojančios pajamos išaugo nuo 1 mln. iki 32 mln. JAV dolerių.

Hollingswortho nuomone, dar svarbesnis rodiklis yra klientų išlaikymas. Daugelis „Fyxer“ klientų neturi išsamių techninių žinių, o kai kuriems „Fyxer“ yra pirmoji kasdien naudojama DI sistema.

Žvelgdama į ateitį, „Fyxer“ siekia geriau suprasti santykius, pageidavimus ir tęstines darbo temas. Jų asistentas jau ne tik rengia atsakymų juodraščius, bet ir tampa platesnių galimybių DI asistentu, galinčiu perimti daugiau naudotojo bendravimo ir koordinavimo darbų.

„Mūsų vizija – padėti klientams kuo daugiau laiko skirti darbui, kurį jie išties mėgsta“, – sako Hollingsworthas. „Norime pasiekti, kad jiems niekada nereikėtų atverti kompiuterio ir jie galėtų patikėti visa tai valdyti „Fyxer“.“