Unapređivanje podrške svakom interakcijom u OpenAI-ju

Ovo je deo naše serije u kojoj delimo interne primere kako OpenAI koristi sopstvenu tehnologiju i API-je. Ovi alati se koriste interno, samo u OpenAI-ju, i ovde se dele kao ilustrativni primeri kako gраничna AI podržava različite slučajeve upotrebe u našim timovima. Delimo i interne nazive alata kako bismo jasnije pokazali kako gраничna AI pomaže našim timovima da obavljaju posao.

Podrška je istorijski podrazumevala redove, тикete i propusnu moć. Ali u OpenAI-ju to nije bilo dovoljno. Pružamo usluge stotinama miliona korisnika, obrađujemo milione zahteva svake godine i vidimo da taj obim iz godine u godinu višestruko raste.

Mnoge organizacije se nose sa velikim obimom. Manje njih se nose sa obimom i ubrzanim rastom. Gotovo nijedna se ne suočava sa oboje — dok istovremeno gradi samu tehnologiju koja bi mogla da promeni jednačinu. Ta kombinacija nam je jedinstveno omogućila da podršku osmislimo iz temelja.

Podrška nije izazov obima. To je izazov inženjerskog i operativnog dizajna. Zato smo izgradili nešto drugačije: operativni model u kome svaka interakcija unapređuje sledeću.

Ops tim je želeo da ode mnogo dalje od korišćenja chatbot-a za preusmeravanje pitanja za podršku. Tim ima viziju: da podršku ponovo osmisli kao AI operativni model koji neprekidno uči i unapređuje se.

U središtu su tri gradivna bloka:

• Površine. Mesta na kojima se ostvaruje interakcija sa sistemima podrške. Ćaskanje, e-pošta i telefon, ali sve više i pomoć ugrađena direktno u proizvod.
• Znanje. Ne samo statična dokumentacija, već žive smernice koje se neprekidno unapređuju i proističu iz stvarnih razgovora, politika i konteksta.
• Evals i klasifikatori. Zajedničke definicije kvaliteta koje zajedno grade softver i ljudi, uz alate za merenje, unapređenje i isticanje povratnih informacija.

Ovi delovi ne postoje izolovano. Oni čine petlju. Obrazac uočen u razgovoru sa enterprise klijentom može da informiše FAQ za programere. Eval napisan za jedan slučaj jača model za još hiljade drugih. A pošto iste osnove pokreću svaku površinu - chat, e-poštu, glas — unapređenja se automatski šire kroz kanale.

Uloga predstavnika podrške se menja. Naš cilj je da model pomerimo sa pretežnog fokusa na obradu transakcionog rada ka tome da bude deo ukupne izgradnje. Oni su osnaženi da doprinose samoj arhitekturi, i direktno kroz promene koje se isporučuju odozdo nagore i indirektno kroz prirodne tokove svog svakodnevnog rada.

Predstavnici označavaju interakcije koje bi trebalo da postanu test slučajevi, predlažu i isporučuju klasifikatore kada uoče nove obrasce, pa čak i prave prototipe lakih automatizacija da za nekoliko dana zatvore praznine u tokovima rada. Menja se i obuka: nije reč samo o politikama, već o evaluaciji interakcija, prepoznavanju strukturnih praznina i vraćanju unapređenja nazad u sistem.

Novi pristup teži tome da predstavnici podrške budu graditelji koliko i oni koji odgovaraju.

Rezultat je organizacija podrške definisana manje propusnom moći, a više svojom sposobnošću da se razvija. Svaka osoba ne samo da služi korisnicima već i aktivno unapređuje mehanizam koji služi svim korisnicima.

Izgradnja podrške na ovaj način moguća je samo zato što smo izgrađeni na OpenAI-jevom steku.

• Agents SDK nam podrazumevano daje tragove na nivou koraka i observabilnost. Možemo da reprodukujemo izvršavanja, pregledamo pozive alata i trenutno otklonimo uzroke problema.
• Responses API pokreće klasifikatore za ton, tačnost i usklađenost sa politikama.
• Realtime API omogućava glasovnu podršku.
• OpenAI-jev Evals kontrolni panel čini kvalitet merljivim i lakim za vizuelizaciju tokom vremena.

Pošto osnovni elementi platforme dolaze gotovi, manje vremena trošimo na povezivanje sistema, a više na rad koji je važan: definisanje toga kako izgleda dobro, njegovo merenje i unapređivanje.

Počeli smo sa jednostavnim sistemom za odgovore na pitanja i odgovore koji je dobro funkcionisao. Uz Agents SDK brzo smo se proširili na dinamičke radnje za stvari kao što su refundacije, fakture i provere incidenata. Kako modeli nastavljaju da se unapređuju uz veće prozore konteksta, duboko istraživanje i snažnije agentske sposobnosti, te napretke možemo odmah da usvojimo.

Evals svakodnevne razgovore pretvara u produkcione testove. Oni kodifikuju šta znači „odlično“ — ne samo rešiti problem, već to učiniti ljubazno, jasno i dosledno. Predstavnici ovde imaju direktnu ulogu, označavajući snažne i slabe primere koji postaju evals, a ti evals se neprekidno izvršavaju u produkciji kako bi usmeravali ponašanje modela.

„Obično kada imate problem, samo želite pomoć što je brže moguće. Korišćenjem naših AI alata možemo da dobijemo te odgovore mnogo brže — i podjednako važno, znamo kada model ne bi trebalo da odgovori“, kaže Jay Patel, softverski inženjer za automatizaciju podrške.

Učenje se ne zaustavlja na rešavanju problema. Obrasci se vraćaju u znanje, automatizaciju i dizajn proizvoda. Sistem se nadograđuje: brži odgovori za korisnike, čvršće povratne sprege za graditelje i dosledno viši standard kvaliteta na svakoj površini.

I ne uči samo AI. Organizacija uči zajedno s njim. Stručnjaci vide gde modeli podbacuju, oblikuju nove klasifikatore i doprinose skupovima podataka za fino podešavanje. Kontrolne table observabilnosti čine kvalitet merljivim, pokazujući kako se performanse vremenom poboljšavaju.

Najdublja promena nije u alatima, već u ljudima i u tome kako organizacija meri uspeh. Stručnjaci za podršku prepoznaju se ne samo po rešavanju problema, već i po usavršavanju znanja, unapređivanju modela i proširivanju samog sistema. Lideri traže novu vrstu saigrača: nekoga ko spaja empatiju na prvoj liniji sa instinktom za dizajn, kombinujući veštinu podrške sa radoznalošću da unapredi sistem.

A naša vizija je da podrška prestane da bude odredište na koje odlazite. Ona postaje radnja, utkana u svaku površinu proizvoda. Korisnici ne „otvaraju тикет“. Oni jednostavno dobijaju ono što im treba, tamo gde jesu.

Ono što je počelo kao odgovor na obim postalo je plan za to kako ljudi i AI mogu da rade zajedno: saradnički, prilagodljivo i uz neprekidno unapređivanje.