OpenAI에서 이루어지는 모든 상호작용으로 지원을 향상하세요

이는 OpenAI 기술을 기반으로 자체 솔루션을 구축하는 방법에 대한 OpenAI의 시리즈 중 일부입니다.

지금까지의 지원 업무는 대기, 티켓, 처리를 의미했습니다. 하지만 OpenAI에서는 이걸로 충분하지 않았습니다. OpenAI는 수천만 명의 사용자에게 서비스를 제공하고, 매년 수백만 건의 요청을 처리하며, 이러한 업무량은 매년 몇 배로 늘어나고 있습니다.

많은 조직이 확장을 고민합니다. 확장, 그리고 고성장을 고민하는 기업은 그보다 적습니다. 두 문제를 직면하는 조직은 거의 없으며, 방정식을 바꿀 수 있는 기술을 개발하지도 않습니다. 이러한 조합을 통해 OpenAI는 지원에 대한 접근 방식을 재고할 수 있는 독특한 위치에 서게 되었습니다.

지원은 업무량의 문제가 아닙니다. 엔지니어링과 운영 설계의 문제입니다. 그래서 OpenAI는 모든 상호작용이 다음 단계를 향상하는 새로운 운영 모델을 만들었습니다.

운영팀은 지원 질문을 피하기 위해 채팅봇을 사용하는 것 이상의 방법을 원했습니다. 이 팀은 지속적으로 학습하고 개선하는 AI 운영 모델로 지원을 재구성한다는 비전을 가지고 있었습니다.

핵심에는 세 가지 구성 요소가 있습니다.

• 표면. 지원 시스템이 상호작용하는 위치입니다. 채팅, 이메일, 전화 등이 있지만 제품 내부에 직접 도움말이 포함되는 경우도 늘어나고 있습니다.
• 지식 단순히 정적 문서가 아니라, 실제 대화, 정책, 컨텍스트에서 도출된 생생하고 지속적으로 개선되는 지침입니다.
• 평가 및 분류기. 소프트웨어와 인간이 함께 만든 품질에 대해 공유된 정의이며, 피드백을 측정, 개선, 강조하기 위한 도구입니다.

이러한 요소들은 독립적이지 않습니다. 함께 루프를 구성합니다. 기업 대화에서 발견된 패턴을 바탕으로 개발자 FAQ를 작성할 수 있습니다. 하나의 사례에 대해 작성된 평가는 모델을 수천 배 이상 강화합니다. 채팅, 이메일, 음성 등 모든 표면에 동일한 기본 요소가 적용되므로 개선 사항이 여러 채널에 걸쳐 자동으로 확장됩니다.

지원 담당자의 역할은 변하고 있습니다. OpenAI의 목표는 주로 거래 작업 처리에 초점을 맞춘 모델에서 벗어나 전반적인 빌드의 일부가 되도록 전환하는 것입니다. 담당자는 하향식으로 변경 사항을 전달하는 방식을 통해 직접적으로, 그리고 일상 업무의 자연스러운 흐름을 통해 비간접적으로 아키텍처 자체에 기여할 수 있는 권한을 갖게 됩니다.

담당자는 테스트 사례가 되어야 할 상호작용에 플래그를 지정하고, 새로운 패턴을 발견하면 분류기를 제안 및 전달하며, 심지어 며칠 내로 워크플로 격차를 해소하기 위해 경량 자동화 기능을 프로토타입으로 만들기도 합니다. 교육 방식 또한 변화하여, 단순히 정책에 대한 내용이 아니라, 상호 작용을 평가하고, 구조적 격차를 파악하며, 개선 사항을 다시 투입하는 것에 관한 내용이 됩니다.

이 새로운 접근 방식은 지원 담당자가 응답자만큼이나 구축하는 사람이 되도록 노력하는 것입니다.

그 결과, 처리량보다 진화하는 역량으로 정의되는 지원 조직이 탄생합니다. 모든 직원은 사용자에게 서비스를 제공할 뿐 아니라, 모든 사용자에게 서비스를 제공하는 기계를 적극적으로 개선하고 있습니다.

이러한 방식으로 지원을 구축하는 것은 OpenAI의 스택을 기반으로 했기에 가능한 일입니다.

• 에이전트 SDK는 기본적으로 단계 수준으로 추적할 수 있는 능력과 가시성을 제공합니다. 실행을 되풀이하고, 도구 호출을 검사하고, 근본 원인을 즉시 디버깅할 수 있습니다.
• 응답 API는 분류기의 어조, 정확성, 정책 준수를 지원합니다.
• Realtime API는 음성 지원을 가능하게 합니다.
• OpenAI의 평가 대시보드는 품질을 측정할 수 있게 하며, 시간에 따라 쉽게 가시화할 수 있게 합니다.

플랫폼의 기본 요소가 이미 준비되어 있기 때문에, 우리는 시스템을 짜 맞추는 데 시간을 덜 쓰고, 중요한 일에 더 많은 시간을 집중합니다. 즉, 무엇이 좋은 것인지 정의하고, 그것을 측정하며, 개선하는 것에 집중하는 것입니다.

시작은 잘 작동하는 단순한 Q&A 답변기였습니다. 에이전트 SDK를 사용해 환불, 인보이스, 사고 검색 등의 동적 작업을 빠르게 확장했습니다. 더 큰 컨텍스트 창, 심층 리서치, 더 강한 에이전트식 기능으로 모델이 계속 개선되면서, 이러한 발전을 즉시 도입할 수 있었습니다.

평가는 일상 대화를 생산 테스트로 전환합니다. 단순히 문제를 해결하는 것을 넘어, 정중하고 명확하며 일관성 있게 처리하는 “훌륭함”이 무엇인지 체계적으로 정립합니다. 여기서 담당자는 평가가 될 훌륭하거나 미흡한 사례에 플래그를 지정하고, 이러한 평가를 생산에서 지속적으로 실행하는 직접적인 역할을 하여 모델의 행동을 유도합니다.

“보통 문제가 생기면 가능한 빨리 도움을 받고 싶어 합니다. 우리 AI 도구를 사용하여 훨씬 더 빠르게 응답할 수 있습니다. 무엇보다도 모델은 언제 응답해서는 안 되는지를 알고 있습니다.” 지원 자동화팀 소프트웨어 엔지니어인 Jay Patel의 말입니다.

학습은 문제 해결에서 멈추지 않습니다. 패턴은 지식, 자동화, 제품 디자인으로 다시 피드백됩니다. 이 시스템은 복합적으로 작용합니다. 사용자에게 더 빠른 답변을, 빌더에게는 더 긴밀한 피드백 루프를, 그리고 모든 표면에서 일관되게 더 높은 품질 기준을 제공합니다.

그리고 학습하는 것은 AI만이 아닙니다. 조직도 함께 학습합니다. 전문가는 모델이 부족한 부분을 파악하고, 새로운 분류기를 구체화하며, 파인 튜닝을 위한 데이터세트를 제공합니다. 가시성 대시보드는 품질을 측정할 수 있게 하며, 시간이 지남에 따라 성능이 어떻게 향상하는지 보여줍니다.

가장 심오한 변화는 도구가 아니라, 사람들과 조직이 성공을 측정하는 방식입니다. 지원 전문가는 단순히 문제를 해결하는 것을 넘어, 지식을 다듬고 모델을 개선하며 시스템 자체를 확장하는 능력으로 인정받게 됩니다. 리더들은 새로운 유형의 팀원을 찾습니다. 탁월한 공감 능력과 디자인 재능을 결합하여 지원 기술과 시스템을 개선하려는 호기심을 가진 사람입니다.

OpenAI의 비전은 목적지가 아닌 지원을 구축하는 것입니다. 지원은 모든 제품 표면에 녹아들어 있는 행동이 됩니다. 사용자는 “티켓을 열지 않습니다.” 현재 위치에서 필요한 것을 얻을 뿐입니다.

규모 확장에 대한 대응으로 시작했지만, 이제는 사람과 AI가 협력하고 적응하며 지속적으로 개선할 수 있는 방법에 대한 청사진이 되었습니다.