NTT DATA Group, Codex를 활용해 인시던트 분석 시간을 30분으로 단축

NTT DATA Group은 컨설팅, 시스템 개발, 운영 서비스를 제공하는 일본 기반의 글로벌 IT 서비스 기업입니다. AI가 비즈니스 환경을 빠르게 바꾸는 가운데, NTT DATA Group은 인력을 늘려 매출을 확대하는 기존 성장 방식에서 벗어나 AI를 통해 더 큰 가치를 창출하는 방향으로 성장 전략을 전환하고 있습니다.

이러한 전환을 뒷받침하기 위해 NTT DATA Group은 ChatGPT Enterprise를 전사에 도입하고, 직원들이 AI를 일상 업무에 자연스럽게 활용할 수 있도록 다양한 프로그램을 마련했습니다. 이러한 기반을 바탕으로 Codex 활용 대상도 약 9,000명의 직원으로 확대했습니다. 이제 기술 직군과 비기술 직군 모두 AI를 단순히 대화를 통해 아이디어를 발전시키는 데 그치지 않고, 명확하게 정의된 업무를 실제로 수행하는 데에도 활용하고 있습니다.

NTT DATA Group은 2025년 5월 OpenAI와 글로벌 전략적 파트너십을 체결한 이후 ChatGPT Enterprise를 전사에 도입했습니다. 또한 사내에 OpenAI Center of Excellence(CoE)를 설립해 라이선스 배포, 기술 검증, 사내 행사, 활용 사례 개발, 사용 현황 모니터링, 지식 자료 제공, 그리고 직원들이 AI를 최대한 활용하는 데 필요한 시스템을 지원하며 도입을 체계적으로 뒷받침했습니다.

그 결과 ChatGPT Enterprise는 NTT DATA Group 전반에서 일상 업무를 지원하는 핵심 AI 도구 가운데 하나로 자리 잡았습니다. 사내 설문조사에서는 응답자의 96% 이상이 ChatGPT Enterprise에 만족한다고 답했으며, 95% 이상이 업무 생산성이 향상되었다고 응답했습니다.

직원들은 AI를 활용해 조사와 문서 작성, 콘텐츠 제작을 수행하는 과정에서 자연스럽게 경험을 쌓았습니다. 이렇게 축적된 경험과 활용 역량은 조직이 다음 단계로 나아가는 기반이 되었으며, 명확하게 정의된 업무를 Codex에 맡길 수 있는 준비를 갖추게 했습니다.

Codex의 가능성을 가장 먼저 입증한 사례 가운데 하나는 핵심 시스템의 복잡한 인시던트 분석을 자동화한 것이었습니다. 이전에는 숙련된 엔지니어 5명이 3일 동안 수행해야 했던 작업이었지만, Codex를 활용하면서 전체 분석을 단 30분 만에 완료할 수 있었습니다.

이 성과는 곧바로 경영진의 주목을 받았으며, Codex가 어떤 가능성을 보여줄 수 있는지를 입증한 대표적인 초기 사례가 되었습니다. Codex는 단순한 코딩 지원 도구를 넘어, 주어진 지시에 따라 스스로 조사하고, 작업을 수행하며, 테스트하고, 결과를 수정할 수 있습니다. 이러한 에이전틱 기능을 계기로 조직 전반에서 Codex 활용이 빠르게 확산되기 시작했습니다.

NTT DATA Group AI Technology Department의 사토 히로아키는 "Codex는 조직 전반에서 AI를 바라보는 방식을 바꿔 놓았습니다."라고 말합니다. "AI가 사람을 보조하는 수준을 넘어 실제 업무를 주도적으로 수행할 수 있다는 개념은 ChatGPT가 처음 등장했을 때와 맞먹는 변화를 가져왔습니다." 이러한 초기 성공 이후 NTT DATA Group의 여러 팀은 Codex만의 차별화된 역량을 활용할 수 있는 새로운 활용 사례를 지속적으로 발굴하고 있습니다.

인시던트 분석에서 입증된 Codex의 가능성은 소프트웨어 개발에만 머물지 않습니다. NTT DATA Group은 '클라이언트 제로' 접근 방식을 통해 자사 조직을 가장 먼저 AI를 활용하는 고객으로 삼고, 직원들이 일상 업무에서 직접 AI를 활용하고 검증하도록 장려하고 있습니다. 그 결과 Codex는 엔지니어뿐 아니라 다양한 부서의 비기술 직군으로까지 활용 범위를 넓혀가고 있습니다.

사토는 "클라이언트 제로 접근 방식을 통해 우리 조직 안에서 AI 활용을 적극적으로 확대하고 있습니다. Codex는 매우 큰 잠재력을 지니고 있으며, 여러 부서의 직원들이 자신의 업무에 Codex를 활용할 수 있는 새로운 방법을 계속 찾아내고 있습니다."라고 설명합니다.

비기술 직군의 직원들도 이미 Codex를 활용해 간단한 도구를 만들고, 대량의 파일을 정리하며, Excel 데이터를 분석하고, 문서를 요약하거나 반복적인 작업을 자동화하는 스크립트를 작성하고 있습니다. 대부분은 자동화하고 싶지만 사람이 직접 처리하기에는 시간이 너무 많이 드는 업무들입니다.

예를 들어 직원들은 Codex를 활용해 신용카드 명세서에서 교통비 내역을 추출한 뒤 출장 경비 정산 양식에 자동으로 입력하고 있습니다. Codex는 여러 파일을 함께 처리하면서 각 시트의 구조와 입력 규칙을 이해하고, 입력 결과까지 검증해 주므로 이전에는 수작업으로 번거롭게 처리하던 업무를 크게 간소화할 수 있습니다.

또 하나의 중요한 변화는 비기술 직군의 직원들도 이제는 과거에 엔지니어의 도움이 필요했던 업무를 직접 수행할 수 있게 되었다는 점입니다. 예를 들어 분석 보고서를 만들려면 이전에는 BI(비즈니스 인텔리전스) 도구에서 데이터를 준비하고 대시보드를 구축해야 했습니다. 이제는 Codex를 활용해 원시 데이터를 바로 분석하고 필요한 보고서를 직접 작성할 수 있어 업무 효율은 높아지고 전문 도구나 특정 기술에 대한 의존도는 낮아졌습니다.

이처럼 Codex는 소프트웨어 개발을 지원하는 역할을 넘어, 전문성이 필요했던 업무를 훨씬 쉽게 수행할 수 있도록 돕고 있습니다. 개발 경험이 없는 직원들도 자신의 업무에 바로 활용할 수 있는 실질적인 결과물을 직접 만들어낼 수 있게 된 것입니다.

NTT DATA Group은 Codex 활용을 일부 팀이나 직원에 한정하지 않고 조직 전반으로 확대하기 위해서는 누구나 안심하고 사용할 수 있는 환경이 필요하다고 판단했습니다. 이러한 기반은 직원들뿐 아니라 NTT DATA Group이 다양한 산업 분야에서 지원하는 고객들에게도 매우 중요한 요소입니다.

기업 환경에서 Codex를 안전하게 활용할 수 있도록 OpenAI CoE는 보안 가이드라인과 함께 실무 중심의 활용 지침을 마련해 전사에 적용했습니다. 여기에는 사용할 수 있는 데이터의 범위, Codex가 연결할 수 있는 시스템, 네트워크 트래픽 관리 방식, 적용해야 하는 샌드박스 모드, 적절한 자동화 수준, 그리고 사람의 검토가 필요한 단계가 명확하게 정의되어 있습니다. 이를 통해 기술 직군과 비기술 직군 모두 새로운 활용 방식을 안심하고 시도할 수 있는 환경이 마련되었습니다.

이처럼 보안과 거버넌스 기반이 갖춰지면서 Codex 활용은 일부 고급 활용 사례를 넘어 조직 전반으로 빠르게 확산되고 있습니다. 현재 Codex는 약 9,000명의 직원이 일상 업무에서 활용하는 도구로 꾸준히 자리 잡아가고 있습니다.

NTT DATA Group의 Codex 활용은 이제 실험 단계를 넘어 조직 전반에서 실질적인 성과를 만들어 내고 있습니다.

• 숙련된 엔지니어 5명이 3일 동안 수행하던 복잡한 인시던트 분석을 단 30분 만에 완료
• 사용 가이드를 배포하고 실습 교육을 실시한 이후 주간 활성 Codex 사용자 수가 1.4배 증가
• Playwright를 활용해 내부 시스템 운영을 자동화하고 반복적인 일상 업무에 소요되는 시간을 줄였으며, 자동화 기능을 Skills로 패키징해 조직 전체에서 활용할 수 있도록 지원

NTT DATA Group의 사례는 조직 전반에 Codex를 정착시키기 위한 다섯 가지 핵심 교훈을 보여줍니다.

• ChatGPT Enterprise를 일상 업무의 일부로 정착시키고, 직원들이 AI와 효과적으로 협업할 수 있는 업무 습관을 기를 수 있도록 지원합니다.
• ChatGPT Enterprise를 전사에 폭넓게 도입해 동료 간 학습과 입소문을 통한 확산 효과를 이끌어냅니다.
• 적절한 보안 및 개인정보 보호 체계를 갖춰 직원들이 안심하고 AI를 활용할 수 있는 환경을 조성합니다.
• 도입을 끝이 아닌 시작으로 보고, 사용 데이터와 설문조사, 직원 인터뷰를 바탕으로 도입 프로그램을 지속적으로 개선합니다.
• CoE가 영향력이 큰 활용 사례를 발굴하고 조직 전반에 적용할 수 있는 형태로 체계화한 뒤, 적절한 보호 장치를 갖춘 모범 사례로 공유합니다.

NTT DATA Group이 지향하는 목표는 개별 업무의 효율을 높이는 데 그치지 않습니다. AI를 일상 업무에 자연스럽게 녹여냄으로써 사람과 AI가 각자의 강점을 살려 함께 더 큰 가치를 더 빠르게 만들어낼 수 있는 업무 환경을 구축하고 있습니다.

직원들은 ChatGPT Enterprise를 활용해 사고를 확장하고, Codex를 활용해 정해진 목표를 향해 업무를 수행합니다. 사람은 방향을 설정하고 결과를 판단하며, AI는 정보를 해석하고 업무를 실제로 추진합니다. 이러한 협업 방식은 기술 직군과 비기술 직군 모두에게 적용되며, NTT DATA Group은 이를 통해 직원 개개인의 역량을 높이고 조직 전반의 실행력을 강화하고 있습니다.

또한 CoE와 사내 커뮤니티, 탄탄한 보안 및 거버넌스 체계를 기반으로 각 부서에서 영향력이 큰 활용 사례를 발굴하고, 이를 재사용 가능한 업무 프로세스와 모범 사례로 발전시켜 조직 전체가 활용할 수 있도록 공유하고 있습니다.

NTT DATA Group은 'AI 중심 기업(AI Driven Company)' 비전을 바탕으로 모든 직원의 지식과 전문성을 한층 더 확장하고, 새로운 서비스와 비즈니스 프로세스를 만들어 나가며, 고객이 업무 혁신과 성장을 이루도록 지원하는 것을 목표로 하고 있습니다. 또한 자사 조직에서 AI의 가치를 직접 입증함으로써, 그 성과를 고객은 물론 사회 전반으로까지 확산해 나갈 계획입니다.