Ada жаңа тұтынушыларға қызмет көрсету стандартын ұсыну үшін GPT‑4 пайдаланады

Ada тұтынушыларға қызмет көрсетуге жұмсалатын шығындардағы $100 млрдтық өзгерісті⁠(жаңа терезеде ашылады) жеделдетіп отыр, ал осы ауысымның алдыңғы қатарында олардың AI-ға негізделген тұтынушыларға қызмет көрсетуді автоматтандыру платформасы тұр. 2016 жылы құрылған Ada⁠(жаңа терезеде ашылады) қазір $1,2 млрдқа бағаланып, жалпы $200 млн қаржы тартты; клиенттері қатарында Verizon, YETI, Canva және Square бар.

Ada AI үшін жаңа емес — олар әуел бастан AI-ға негізделген платформа болды. Өнімнің алғашқы буыны компания ішінде әзірленіп, үйретілген Natural Language Processing (NLP) арнайы модельдерімен жасалды. Бірақ олар платформасы өңдей алатын тұтынушы сұрақтарының саны мен шынымен қанағаттанарлық түрде шешілген сұраулар саны арасында алшақтық барын байқады.

Тұтынушыларға қызмет көрсету саласындағы стандартты метрика — containment rate — чатбот толық өңдеп, адам агентіне жетпеген тұтынушы сұрауларының санын өлшейді. Теория жүзінде containment rate артса, тұтынушыларға қызмет көрсетудегі операциялық шығындар азаюы керек. Бірақ Ada командасы бұл метрикада мәселе барын көрді. 

«Ada-ны қоса алғанда, көптеген шешімдер 80–100% containment rate-ке оңай жете алатын, бірақ сол әңгіме транскрипттерін ашып, тұтынушылардың тәжірибесін оқысаңыз, сапасы айтарлықтай төмен болды», — деді Gozzo. 

Күш-жігерін әңгімелердің қаншалықты жақсы шешілгеніне шоғырландыра отырып, Ada командасы тұтынушыларға қызмет көрсету индустриясында жаңа стандарт орната алатынын білді.

Бастапқыда GPT‑4‑ті және өздерінің тарихи деректерін пайдалана отырып, Ada әңгімелердің қаншалықты жақсы автоматты түрде шешілгенін бағалай алатын жаңа бағалау жүйесін құрды. Ada жүйесі әр әңгімені тұтынушылардың өзекті, дәл және қауіпсіз жауаптарды адам араласуынсыз қаншалықты алатынына қарай бағалайды. «Біздің тестілеуде жүйеміз әңгімені оқыған адаммен 80–90% сәйкестікке жетті», — деді Gozzo.

Шешілу көрсеткішін түсіну арқылы Ada өз өнімі үшін негізгі бағдарды анықтады. Бағалау үшін OpenAI API-сын пайдаланумен қатар, олар жаңа буындағы AI агентін жасау үшін OpenAI-мен жұмыс істеуді шешті. 

Ada бұған дейін OpenAI модельдерін негізінен NLP модельдеріне арналған оқыту деректерін жасау үшін қолданған. Жаңа пайдалану сценарийлері үшін OpenAI API-сын сынақтан өткізгенде, Ada бірнеше айқын артықшылықты байқады: 

• Инференс сапасы: Ada жүздеген мың соңғы тұтынушының өз жүйесімен сөйлесуін модельдейтін синтетикалық тестілеу жүйесін құрды, сондықтан олар модельдерді ауқымдылық пен сапа тұрғысынан стресс-тесттен өткізеді. «Біз әрбір ірі модельді шығарылғаннан кейін бірнеше апта ішінде тұрақты түрде бағалаймыз, және әзірге біздің бағалау жиынтығында ешкім OpenAI-дан оза алған жоқ», — деді Gozzo. 
• Кідіріс: Ada-ның дауыстық сценарийлері үшін ең жақсы өнімділікті қамтамасыз ету мақсатында кідірісі төмен модельдер аса маңызды. «Нақты уақыттағы ой қорыту үшін GPT‑4o арқылы кідіріс пен жалпы сапада үлкен секірісті көрдік», — деді Gozzo.
• Fine-tuning: Ada берілген жауаптағы галлюцинациялар деңгейіне қатысты сенім ұпайын беру үшін OpenAI-дің fine-tuning API-сын қолданады және жүйедегі галлюцинациялар санын азайту үшін бұл ұпайды құралдар тізбегінің қалған бөлігінде пайдаланады. «Сонымен қатар уақыт өте келе fine tuning-ті жүйеміздің ой қорыту қабілетін одан әрі жақсарту үшін пайдалануға және осы тәсілдің кіші әрі арзанырақ модельдерге озық модельдердің өнімділігін еліктеуге мүмкіндік беру әлеуетіне қуаныштымыз», — деді Gozzo.

Бүгінде Ada-ның AI агенті орталық жоспарлау агенті мен OpenAI API-ы қуаттайтын қосалқы агенттер жиынтығынан тұратын көп агентті конфигурацияны қолданады. «Ada қолданатын бизнеспен байланысқан сайын, сіздің сұрағыңыз OpenAI модельдерінің бірнеше қадамы арқылы өтеді: оны түсіну, ой елегінен өткізу, құралдарды шақыру және жауап жасалғанға дейін білімді қосу», — деп түсіндірді Gozzo. 

Ada өнімінің алдыңғы нұсқасында 70% containment rate болды, бірақ шешілу көрсеткіші 30% еді. Жаңа жүйеге көшірілген Ada клиенттерінде containment нәтижелері ұқсас болғанымен, әдетте шешілу көрсеткіші 60%-ға дейін жетеді, ал ең жоғары нәтиже көрсеткен клиенттерде 80%-дан асады. 

«Бір технологиядан келесісіне өткенде, біз тамаша тәжірибемен автоматты түрде шеше алатын әңгімелер санын екі есе арттырдық», — деді Gozzo. Ada клиенттері үшін бұл метрика ROI-ға, соның ішінде full time equivalent (FTE) үнеміне, тұтынушы қанағаттануына, ұстап қалуға және жаңа тіркелулерге орасан кейінгі әсер етеді. 

Ada тұтынушылар сұрауларын шешу қабілетіне соншалық сенімді, тіпті олар бірнеше жыл бұрын қиял болып көрінген 100% шешілу көрсеткішін мақсат етіп отыр. «Енді 100% шешілу — бола ма, жоқ па деген сұрақ емес, қашан болатыны ғана», — деді Gozzo. 

Нарық та өзгерді — Ada автоматтандырылған шешу туралы айтқанда, көп күмәнге жолықпайды. «Кәсіпорындар барған сайын сауаттырақ болып келеді», — деді Gozzo. «Олар AI стратегияларын шынымен ойластырып, осындай технологияны өз операцияларына енгізуді қолдайды.» Клиенттер Ada-ның LLM негізіндегі AI агенттерін адам агенті секілді іске қоса, өлшей және үйрете алады. Келесі 12 айға арналған Ada мақсаттары — өнімінің ашықтығын және клиенттерге ұсынатын басқару тетіктерін айтарлықтай арттыру. 

Мүмкіндік сезімі екі жаққа да ортақ. «OpenAI-ді біз жұмыс істейтін өзге серіктестерден ерекшелендіретін нәрсенің бірі — ерекше шабыт пен қызығушылық сезімі», — деді Gozzo. «Командадағы әркім бұған шын мәнінде құмар сияқты. Бұл жай ғана іскерлік қарым-қатынас емес, біз бір нәрсені бірге құрып жатырмыз, және бұл шынымен сергітеді.»