OpenAI에서 현장 배치 엔지니어가 갖는 의미

Codex가 출시되자 한 팀원이 제게 물었습니다. “지난 몇 달 동안 우리가 구축해 온 활용 사례를 Codex가 단번에 구현할 수 있게 되면, 우리는 뭘 해야 하나요?”

이 질문은 OpenAI에서 현장 배치 엔지니어가 갖는 의미의 핵심을 짚습니다. 우리는 고객사와 함께 일하며 그들이 직면한 가장 어려운 문제를 이해하고, 믿고 사용할 수 있는 솔루션을 구축합니다. 그 과정에서 배운 것은 제품의 방향을 잡는 데 도움이 되고, 리서치팀에는 해결해야 할 구체적인 문제를 제공합니다.

그것이 발전입니다. 두어 달마다 우리 스스로의 개입이 더 이상 필요 없게 만든다면, 현장 배치 엔지니어팀은 제 역할을 다하고 있는 것입니다.

저는 2025년 초, 우리가 “도입 격차”라고 부르는 간극, 즉 모델이 할 수 있어 보이는 것과 사람들이 실제 업무에서 안정적으로 활용할 수 있는 것 사이의 간극을 줄이기 위해 팀을 만들었습니다.

모델의 역량은 이를 활용하는 데 필요한 시스템과 프로세스보다 빠르게 발전해 왔습니다. 때로는 필요한 제품이 없는 것이 문제입니다. 때로는 모델이 벤치마크에서는 좋은 성능을 보이지만, 현실의 변수와 제약 속에서는 업무를 수행하지 못합니다.

우리는 고객사의 가장 어려운 문제에 집중합니다. 현재 모델로 업무를 수행할 수 있다면 제품팀 및 고객사와 협력해 솔루션을 반복 적용할 수 있도록 합니다. 모델이 부족한 경우에는 고객사 및 리서치팀과 함께 격차를 정의하고 개선합니다. 우리의 목표는 매번의 협업을 통해 다음 고객에게 더 나은 출발점을 제공하는 것입니다. 고객이 다음에는 이런 유형의 문제를 현장 배치 엔지니어 없이도 해결할 수 있을 만큼 기본 역량을 높였다면, 우리는 제 역할을 잘 해낸 셈입니다.

하지만 문제는 범위조차 명확하지 않은 경우가 많고, 확립된 정답도 없을 수 있으며, 정해진 지침도 없습니다. 모두가 세상에 없던 무언가를 만들고 싶어 합니다. 하지만 거기에 도달하기 위해 필요한 일을 하려는 사람은 그보다 적습니다.

뛰어난 현장 배치 엔지니어를 찾으면서 동시에 “이 정도면 충분하다”는 기준을 높이려면 끊임없이 실험하고 적용해야 했습니다.

현장 배치 엔지니어팀 세션을 시작할 때마다 저는 하나의 핵심 가치가 적힌 슬라이드를 띄웁니다. “원하는 성과에서 출발하고, 성공에 필요한 일을 한 뒤, 규모를 확장한다.”

인상적인 데모는 실제 환경에서도 작동하는지 누군가 묻기 전까지는 상당한 호응을 얻을 수 있습니다.

우리의 일은 실제 운영 환경에서도 책임질 수 있는 수준으로 고객사의 문제를 해결하는 것입니다.

우리 현장 배치 엔지니어는 처음부터 업계를 잘 알 필요는 없지만, 그 업계를 배우는 것은 자신의 책임입니다.

코딩 어시스턴트 덕분에 소프트웨어를 더 빠르게 개발할 수 있게 되면서 고객사의 비즈니스를 이해하는 일이 더욱 중요해지고 있습니다. 우리는 폭넓은 역량을 갖춘 인재와 특정 분야 전문가를 조합해 팀을 구성합니다.

타당한 판단을 내릴 만큼 충분한 지식과 현재의 방식을 당연하게 여기지 않고 의문을 제기할 만큼 충분한 호기심이 필요합니다.

예를 들어 생명과학 분야에서는 현장 배치 엔지니어의 과학적 배경이 연구진의 신뢰를 얻는 데 도움이 됩니다. 이 연구진은 표적 검증과 우선순위 선정, 유전자 발현 분석, 화학 합성 경로 재구성 등 전임상 신약 발굴 업무를 수행합니다. 이러한 전문성 덕분에 엔지니어들은 해당 워크플로의 개선 방향에 대해 근거 있는 판단을 제시할 수 있습니다.

우리는 이 워크플로들이 가치를 제공할 수 있음을 입증했지만, 다른 팀으로 확장하려면 여전히 각각에 너무 많은 맞춤형 통합 작업이 필요했습니다. 다음 과제는 그 성과를 유지하면서 소프트웨어의 배포와 유지보수를 더 쉽게 만드는 것이었습니다.

그 무렵 Codex의 역량은 한층 발전해 있었습니다. 한 현장 배치 엔지니어가 Codex를 중심으로 애플리케이션을 재구축하는 실험을 했고, 이후 팀과 함께 활용 사례들을 Codex 기반의 공통 하네스로 옮겼습니다.

맞춤형 애플리케이션은 Codex의 공통 기본 구성 요소를 기반으로 하는 플러그인과 스킬로 바뀌었습니다. Codex가 인터페이스 역할까지 맡으면서, 개별 활용 사례를 위해 작성했던 별도의 터미널 UI와 CLI도 더 이상 필요하지 않게 되었습니다.

각 프로젝트에서 맞춤형 코드의 약 90%를 제거할 수 있었고, 이는 워크플로를 구축하고 유지보수하며 확장하는 방식을 바꿔 놓았습니다.

• Codex 자체의 개선 효과를 모든 활용 사례에 적용할 수 있어, 개별 사례마다 필요한 연결 코드의 양이 줄었습니다.

• 핵심 기능은 스킬과 플러그인으로 묶어 서로 더 쉽게 공유하고 AI CoE에서 중앙 관리할 수 있도록 했습니다. 덕분에 다른 팀으로 확장하는 과정은 새 커넥터나 MCP 서버로 교체하고, 새로운 평가를 구축한 뒤 바로 운영을 시작할 수 있을 만큼 간단해졌습니다. 평가 구축을 위한 스킬도 마련되어 있었습니다.

• 2026년 8월의 한 사례에서는 최초 도입에 두 달이 걸렸습니다. 두 번째 팀으로 솔루션을 확장하는 데는 하루가 걸렸습니다. 규모를 확장할수록 다음 팀의 도입 속도는 더 빨라졌고, 이런 흐름은 계속되었습니다. 2026년 8월의 한 활용 사례에서는 최초 도입에 두 달이 걸린 반면, 두 번째 팀의 도입에는 하루가 걸렸습니다.

이것이 바로 고객이 더 이상 우리의 직접적인 지원 없이도 문제를 해결할 수 있도록 하는 방법 중 하나입니다. 실제 운영 단계에 도달하기까지의 작업을 통해 무엇이 중요한지 분명해졌습니다. 기반 제품이 개선되면서 맞춤형 구현의 상당 부분을 대체하면서도 그 가치는 유지할 수 있었습니다.

그래서 순서가 중요합니다. LLM 덕분에 우리는 빠르게 개발할 수 있습니다. 그 속도를 활용해 사용자에게 가치 있는 것을 제공하고, 실제로 무엇이 통하는지 배운 뒤, 효과가 입증된 것을 확장해야 합니다.

같은 원칙이 모든 고객 협업에 적용됩니다.

더 나은 제품 덕분에 우리가 구축한 시스템을 단순화할 수 있을 때도 있지만, 모델 자체가 아직 업무를 수행할 수 없는 경우도 있습니다.

현재 모델로 이미 가능한 것만 만든다면, 리서치팀이 다음으로 메워야 할 역량의 격차를 발견할 수 없습니다. 그래서 우리의 중요한 협업 중 상당수는 바로 그 한계에서 출발하며, 고객사와 현장 배치 엔지니어, 리서치팀이 함께 이를 극복하기 위해 힘을 모읍니다.

각자의 역할이 모두 중요했습니다. 고객사는 모델이 아직 해결할 수 없는 문제에 함께 도전하기로 했습니다. 현장 배치 엔지니어는 고객사와 긴밀히 협력하며 문제를 구체화하고 플랫폼을 구축하며 협업을 처음부터 끝까지 이끌었습니다. 리서치팀은 기반 모델의 역량을 개선했습니다.

이것이 바로 고객이 더 이상 우리의 직접적인 지원 없이도 문제를 해결할 수 있도록 하는 방법 중 하나입니다. 오늘날 모델이 해결하지 못하는 문제를 미래의 모델이 해결할 수 있는 역량으로 바꾸는 데 기여하는 것입니다. 우리 작업의 가치는 어느 한 고객사와 함께한 시간에만 머무르지 않습니다.

저는 AI가 사람들의 일상적인 업무에 유용하게 쓰이도록 돕기 위해 OpenAI에 합류했습니다. 그 목표는 지금도 우리 팀의 방향을 이끌고 있습니다. 저는 팀원들에게 LLM 개발에서도 대부분 오컴의 면도날 원칙이 적용된다고 자주 말합니다. 가장 단순한 해법이 가장 좋다는 뜻입니다. 최첨단 연구로 정체성이 규정되는 회사, 과장된 말이 난무하는 업계에서 우리는 현장의 사람들이 믿고 의지할 수 있도록 안정적으로 작동하는 것을 만들고자 합니다.

목표는 협업을 거듭할 때마다 다음 단계가 더 나아지도록 하는 것입니다. 배포가 더 쉬운 제품, 더 어려운 작업을 처리하는 모델, 다음 고객에게 필요한 맞춤형 작업의 감소가 그 예입니다.

해결하고 싶은 어려운 문제가 있다면 함께하고 싶습니다. 그런 문제를 해결하는 데 힘을 보태고 싶다면 우리 팀에 합류해 주세요.

그렇다면 우리가 몇 달에 걸쳐 구축한 기능을 Codex가 처리할 수 있게 되면, 우리는 무엇을 해야 할까요?

더 어려운 문제를 찾아 나서면 됩니다.