Zendesk는 10년 이상 기업이 뛰어난 고객 경험을 제공할 수 있도록 지원해 왔습니다. 해당 플랫폼은 매년 46억 건 이상의 문제 해결을 처리하고 있습니다.
Zendesk는 2023년 초부터 OpenAI와 긴밀히 협력하며 AI가 서비스와 제품 개발을 어떻게 재편할 수 있는지 탐색해 왔습니다. 현재 Zendesk는 OpenAI 모델을 기반으로 한 새로운 유형의 AI 에이전트를 시범 운영(새 창에서 열기)하고 있으며, 이 에이전트는 전체 대화를 관리할 뿐만 아니라 응답을 스스로 계획하고 실행합니다.
- 설정 시간을 며칠에서 몇 분으로 단축
- 자동화 수준을 80%까지 확대
- 팀이 AI의 동작 방식을 완전히 제어할 수 있도록 지원
아무리 정교한 서비스 플랫폼이라도 기존 자동화 방식에는 한계가 있습니다. 기존 모델은 의도 분류에 의존해 고객의 의도를 예측하고, 사전에 정의된 대화나 워크플로를 실행한 뒤, 고객이 그 흐름을 따르기를 기대하는 방식이었습니다.
이 방식은 구조화된 상호작용에서는 효과적이었지만, 미묘한 차이, 추가 질문, 또는 예외적인 상황에서는 쉽게 한계를 드러냈습니다.
“기존 방식은 입력된 메시지에 응답을 반환하는 단순한 구조였습니다.”라고 Zendesk CTO Adrian McDermott는 말합니다. “실제 고객은 생각을 바꾸고, 추가 질문을 하며, AI가 그 흐름을 자연스럽게 따라가기를 기대합니다. 서비스에서 중요한 것은 결국 문제 해결이며, 지금까지 봇은 이를 충분히 달성하는 데 한계가 있었습니다.”
Zendesk는 기본 FAQ 상호작용에 검색 증강 생성(RAG)을 적용한 생성형 접근 방식을 도입하기 위해 OpenAI와 협력을 시작했습니다. 현재는 AI 에이전트가 작업을 스스로 계획하고 실행할 수 있도록 하는 생성형 추론으로 초점을 옮기고 있습니다.
Zendesk의 새로운 에이전틱 AI 에이전트는 서비스 환경에 최적화되어 설계되었습니다. GPT‑4o와 같은 OpenAI 모델을 기반으로, 단순히 질문에 답하는 것을 넘어 대화를 주도하고 컨텍스트를 바탕으로 추론하며 문제 해결을 이끌어냅니다.
이 플랫폼은 다음과 같은 전문화된 에이전트로 구성된 멀티 에이전트 아키텍처를 활용합니다.
- 작업 식별 에이전트: 수동 학습에 의존하는 대신 실제 대화를 통해 사용자의 요구를 파악하며, 추가 질문을 통해 유사한 문제를 구분합니다.
- 대화형 RAG 에이전트: 기존 RAG를 확장하여 다중 턴 대화를 기반으로 작동합니다. 예를 들어 사용자가 결제 옵션을 문의하면, 지역 정보를 먼저 확인한 후 해당 지역 정책을 조회합니다.
- 절차 구성 에이전트: 자율성과 통제 간의 균형을 유지하며, 자연어로 작성된 비즈니스 규칙을 구조화된 흐름으로 변환해 AI가 절차를 정확히 이해하고 시각적으로 반영할 수 있도록 합니다.
- 절차 실행 에이전트: API 호출, 워크플로 트리거, 시스템 업데이트 등을 수행하며, 모든 작업은 비즈니스에서 정의한 로직에 따라 실행됩니다.
RAG와 추론을 결합함으로써 Zendesk의 AI 에이전트는 다단계 대화를 수행하고 추가 질문을 하며 사용자 입력에 따라 응답을 조정할 수 있습니다. 이를 통해 경직된 대화 흐름에 의존하지 않고도 복잡한 문제를 자율적으로 해결할 수 있습니다.
“우리는 Zendesk의 품질 및 정확성 기준을 유지하면서도 봇이 대화를 더 주도적으로 이끌 수 있도록 했습니다.”라고 McDermott는 말합니다. “이 과정은 고객 문제를 정확히 이해하고 해결로 이어지도록 하는 데 중점을 두고 시작되었습니다.”
Zendesk의 AI 에이전트 개발에서 가장 큰 변화 중 하나는 하이브리드 개발 모델로의 전환으로, 하나의 대화 안에서 에이전트가 대화 흐름과 생성형 절차를 자유롭게 오갈 수 있게 된 점입니다.
새로운 AI 에이전트 빌더를 통해 기업은 자연어로 절차를 정의할 수 있습니다. 이후 AI 에이전트는 적응형 추론을 활용해 실행 계획을 수립하고, 실제 적용 전에 제안된 단계의 미리보기를 제공합니다.
AI 추론 제어 기능은 AI 에이전트의 사고 과정을 실시간으로 가시화하여, 팀이 에이전트의 사고의 사슬(CoT)을 검토함으로써 각 대화를 감사하고 의사결정 과정을 이해할 수 있도록 합니다.
이러한 변화는 구축 시간을 며칠에서 몇 분으로 단축하고, 생성형 자동화를 훨씬 더 많은 Zendesk 고객이 활용할 수 있도록 합니다.
“AI 도입의 가장 큰 장벽을 허물었습니다. 이제 고객은 새로운 에이전틱 AI 에이전트를 별도의 설정 없이 바로 사용할 수 있습니다.”
내부적으로 Zendesk는 각 사용 사례에 가장 적합한 모델을 선택하고 배포하며 프롬프트를 최적화하기 위해 엄격한 내부 벤치마킹 프로그램을 운영합니다. 이 과정에서 지연 시간, 비용, 품질을 종합적으로 고려하며, RAG부터 백그라운드 추론 작업에 이르기까지 다양한 사용 사례에 OpenAI의 o3‑mini와 같은 새로운 모델을 테스트합니다.
이러한 프로세스를 통해 Zendesk는 24시간 이내에 새로운 모델을 평가, 테스트, 배포할 수 있습니다.
Zendesk는 배포 전후의 성능을 오프라인 평가와 해결률, 수정률, 지연 시간과 같은 실시간 지표를 통해 추적합니다. 각 모델 선택은 문서화되고 감사 가능하게 관리되어, 시스템이 발전하는 과정에서도 투명성과 신뢰성을 유지합니다.
올해 Zendesk는 한 단계 더 나아가, 머신러닝 전문가의 직접적인 지원 없이도 모든 엔지니어링 팀이 모델을 테스트하고 배포할 수 있도록 셀프 서비스 벤치마킹 플랫폼을 도입할 계획입니다.
Zendesk는 현재 초기 고객들과 함께 새로운 에이전틱 AI 플랫폼을 시범 운영하고 있습니다. 이 플랫폼은 기존 환경에 쉽게 통합되도록 설계되어, 별도의 재구축 없이도 80% 자동화를 더 빠르게 실현할 수 있도록 지원합니다.
보다 폭넓은 지표는 2025년 후반에 공개될 예정이지만, 초기 반응은 매우 긍정적입니다. 더 빠른 구축, 더 정확한 응답, 그리고 모든 채널에서 한층 매끄러워진 사용자 경험이 확인되고 있습니다.
