OpenAI는 시간이 지날수록 AI를 더욱 쉽게 이용할 수 있고, 더 뛰어난 성능을 제공하며, 더 합리적인 비용으로 사용할 수 있도록 하는 것을 목표로 합니다. GPT‑4부터 GPT‑5.4까지 100만 토큰당 가격은 97% 낮아졌습니다. GPT‑5.6은 이러한 발전을 이어가며, Artificial Analysis Coding Agent Index에서 출력 토큰 수를 54% 줄이고 작업당 소요 시간을 57% 단축하면서도 더 뛰어난 성능을 제공합니다.
하지만 토큰 가격만으로는 AI가 실제로 가치를 창출하고 있는지 판단할 수 없습니다. 리더는 달러당 유용한 작업량을 기준으로 완료한 작업 수, 절감한 시간, 향상된 의사결정, 그리고 확장 가능한 워크플로를 함께 살펴봐야 합니다.
팀이 단순한 채팅에서 장기간 실행되는 워크플로로 업무 방식을 확대할수록 관리자는 수요와 지출, 위험을 더욱 명확하게 파악할 수 있어야 합니다.
다음은 확신을 갖고 AI에 투자하기 위한 다섯 가지 방법입니다.
엔터프라이즈 리더는 AI 활용 현황을 한눈에 파악할 수 있어야 합니다. 누가 AI를 사용하고 있는지, 어떤 제품이나 모델을 사용하는지, 얼마나 많은 용량을 사용하고 있는지, 그리고 AI 사용이 어떤 업무에 활용되고 있는지까지 파악할 수 있어야 합니다. 이러한 가시성이 없으면 늘어나는 청구 비용이 무엇을 의미하는지 판단하기 어렵습니다. 불필요한 지출 때문일 수도 있고, 생산적인 실험이 활발하게 이루어지고 있기 때문일 수도 있으며, 비즈니스 핵심 워크플로로 자리 잡기 시작한 업무 때문일 수도 있습니다.
ChatGPT Work는 여러 단계에 걸쳐 진행되는 장기 작업을 지원하므로 워크플로에 따라 사용량이 크게 달라질 수 있습니다. 관리자는 단순히 사용한 크레딧이 아니라, 그 사용량이 어떤 업무에서 발생했는지까지 파악해야 합니다. 이를 가능하게 하는 것이 ChatGPT 전반의 수요를 한눈에 볼 수 있는 통합된 가시성입니다. 관리자 콘솔(새 창에서 열기)의 향상된 사용량 분석과 지출 관리 기능을 활용하면 사용자, 제품, 모델별 도입 현황과 크레딧 사용량, 지출을 확인하고, 시간에 따른 추이를 추적하며, 새로운 사용 패턴을 파악하고, 사용량이 조직 전반의 도입 확대를 의미하는지, 고급 사용자의 워크플로를 반영하는지, 또는 추가 투자가 필요한 반복적인 비즈니스 프로세스를 나타내는지 이해할 수 있습니다.
다양한 관점에서 얻은 인사이트는 투자와 활용 전략에 관한 의사결정을 지원합니다.
- 워크스페이스: 도입 확대와 지출이 함께 증가하고 있는가?
- 팀 및 사용자: 어느 영역에서 수요가 늘고 있으며, 누가 더 많은 지원이 필요한가?
- 제품 및 모델: 더 높은 수준의 추론 능력을 갖춘 모델은 어디에서 사용되고 있으며, 그 수요는 지속되고 있는가?
이러한 정보를 종합하면 관리자는 어디에 투자하고, 어떤 팀이나 사용자를 지원하며, 어디에 사용 한도를 설정할지 더 효과적으로 판단할 수 있습니다.
토큰 가격이 가장 낮다고 해서 전체 비용까지 가장 낮아지는 것은 아닙니다. 저렴한 모델은 실패하거나 여러 번 다시 시도해야 할 수 있으며, 추가 수정이 필요한 결과를 만들어 낼 수도 있습니다. 반면 성능이 더 뛰어난 모델은 토큰당 비용은 높더라도 더 적은 시도와 검토만으로 원하는 수준의 결과에 더 빠르게 도달할 수 있습니다.
모델은 실제 수행해야 하는 업무를 기준으로 평가해야 합니다. 엣지 케이스를 포함한 실제 업무를 반영하는 eval을 사용하고, 평가를 시작하기 전에 '충분히 좋은 수준'의 기준을 명확히 정의하세요. 그런 다음 그 기준에 도달하는 데 드는 전체 비용을 측정해야 합니다. 여기에는 모델과 도구 사용량, 시도 횟수, 완료율, 지연 시간, 그리고 사람의 검토 비용이 모두 포함됩니다.
우선순위가 높은 워크플로의 경우에는 승인된 결과물당 비용을 추적해야 합니다. 고객 지원에서는 해결된 고객 문의 한 건이 기준이 될 수 있고, 엔지니어링에서는 테스트를 거쳐 코드 검토를 통과한 변경 사항 하나가 기준이 될 수 있습니다. 그리고 그 비용을 절감한 시간, 개발 주기 단축, 매출 보호, 위험 감소, 확보한 여력과 같은 비즈니스 가치와 함께 평가해야 합니다.
모델 선택은 전체 전략의 일부에 불과합니다. 명확한 지침과 목적에 맞는 도구, 재사용 가능한 컨텍스트, 그리고 분명한 종료 조건을 마련하면 불필요한 반복 작업과 지출을 줄일 수 있습니다. 중요한 것은 업무에 맞는 모델과 워크플로를 선택하는 것입니다. 품질 기준을 충족한다면 더 작거나 더 빠른 모델을 사용하고, 복잡하거나 모호한 작업 또는 높은 수준의 판단이 필요한 업무에는 프런티어 수준의 추론 능력을 갖춘 모델을 활용해야 합니다.
엔터프라이즈 리더는 AI 업무를 확장하기 전에 이를 어떻게 관리하고 통제할지에 대한 거버넌스를 먼저 마련해야 합니다. 이를 위해서는 ChatGPT가 사용할 수 있는 컨텍스트와 접근할 수 있는 도구, 수행할 수 있는 작업, 위험도가 높은 단계의 승인 주체, 그리고 팀이 가치 있는 워크플로를 발견했을 때 추가 용량을 어떻게 제공할지까지 명확히 정해야 합니다.
플러그인과 커넥터, Computer Use를 비롯해 엔터프라이즈 시스템 전반에서 동작하는 다양한 프런티어 기능을 팀이 도입할수록 이러한 거버넌스의 중요성은 더욱 커집니다. ChatGPT Work는 액세스 권한, 승인된 컨텍스트, 연결된 도구, 허용된 작업, 사용량, 지출을 중앙에서 관리할 수 있는 기능을 제공합니다. 또한 워크스페이스 기본 설정, 그룹 한도, 사용자별 예외 설정, 프로젝트 컨텍스트를 포함한 검토 요청 등의 지출 관리 기능을 통해 전체 한도를 일괄적으로 높이지 않고도 가치가 높은 업무를 효과적으로 지원할 수 있습니다.
우선순위가 높은 배포의 경우 OpenAI의 AI 배포 엔지니어(새 창에서 열기)가 고객과 직접 협력해 eval, 아키텍처, 지연 시간, 안정성, 워크플로 설계를 함께 검토함으로써 성능과 비용 효율을 모두 높일 수 있습니다. 또한 개인정보 보호와 거버넌스는 초기 단계부터 함께 고려해야 합니다. 민감한 워크플로는 확장하기 전에 적절한 액세스 제어, 데이터 보존 정책, 컴플라이언스 가시성, 승인 절차를 갖춰야 합니다. 필요한 경우에는 데이터 비보관(새 창에서 열기) 옵션을 포함한 OpenAI의 엔터프라이즈 개인정보 보호 기능을 활용해 높은 수준의 신뢰가 요구되는 환경에서도 AI를 배포할 수 있습니다.
엔터프라이즈 리더는 AI 투자를 하나의 포트폴리오처럼 관리해야 합니다. 일상적인 생산성을 위한 폭넓은 활용, 반복 업무를 개선하는 부서별 워크플로, 그리고 기업 고유의 컨텍스트를 기반으로 한 소수의 전략적 투자로 균형 있게 구성하는 것이 좋습니다. 가장 투자 가치가 높은 대상은 충분한 규모로 반복 수행되고, 책임 주체가 명확하며, 품질과 위험, 비즈니스 가치를 측정할 수 있는 워크플로입니다.
투자는 워크플로의 성숙도에 맞춰 이루어져야 합니다. 탐색 단계에서는 모델이 해당 업무를 수행할 수 있는지 확인하고, 검증 단계에서는 명확한 품질 기준을 바탕으로 대표 사례를 평가해야 합니다. 프로덕션 단계에서는 확장에 필요한 통합, 제어 기능, 안정성, 변경 관리까지 지원해야 합니다. 또한 ID, 신뢰할 수 있는 커넥터, 선별된 지식, 평가 체계, 관측 가능성, 모델 라우팅, 재사용 가능한 에이전트 패턴과 같은 공통 기능은 중앙에서 투자해 새로운 워크플로를 더 쉽고 안전하게 구축할 수 있도록 하는 것이 바람직합니다.
워크플로의 가치가 검증되면 리더는 그 수요에 맞춰 적합한 제품과 용량, 지원 체계를 갖춰야 합니다. ChatGPT Work는 채팅, 코딩, 에이전틱 워크플로, 커넥터, 플러그인, Computer Use, 관리 기능을 바로 활용할 수 있도록 제공합니다. 또한 기업은 차별화된 가치를 창출하는 영역에 맞춰 독자적인 데이터와 권한 체계, 평가 체계, 워크플로 로직을 추가해 이를 더욱 확장할 수 있습니다.
프로덕션 워크로드에서는 사용 패턴에 맞는 상용 옵션을 선택해야 합니다. 안정적인 액세스가 필요한 프로덕션 시스템과 에이전트에는 Guaranteed Capacity를, 예측 가능한 대규모 API 워크로드에는 스케일 등급을, 비동기 작업이나 반복적으로 사용하는 컨텍스트에는 Batch API(새 창에서 열기), Flex processing(새 창에서 열기) 또는 Prompt Caching을 활용하는 것이 적합합니다.
더 큰 규모의 전략적 배포가 필요한 경우 OpenAI Frontier와 Deployment Company(새 창에서 열기)는 엔터프라이즈 시스템 전반에서 AI 동료를 구축하고 배포하며 운영할 수 있도록 지원합니다. 이를 통해 각 워크플로가 인프라를 처음부터 다시 구축할 필요 없이, 적합한 제품과 용량, 지원 체계를 바탕으로 검증된 업무를 안정적으로 확장할 수 있습니다.
