ChatGPT 플러그인으로 가입 수 3배 늘린 Stack Overflow for Agents

사람과 AI 에이전트가 업무를 수행하려면 맥락 정보가 필요하지만, 대개 Slack부터 Google Docs까지 여러 시스템에 흩어져 있습니다. 이 정보를 찾아 서로 어떻게 연결되는지 파악하기는 쉽지 않습니다.

이에 Stack Overflow⁠(새 창에서 열기)는 이러한 정보원을 통합하고 가공되지 않은 맥락 정보를 검증된 지식으로 전환하는 지식 인텔리전스 플랫폼을 구축하고 있습니다. 사람과 에이전트가 어디서 일하든 이 지식을 활용할 수 있도록 하는 것입니다.

GPT‑6 Astra와 GPT‑6 Sol 같은 OpenAI 모델이 플랫폼의 AI를 구동하며, 필요한 추론과 비용에 따라 작업을 각기 다른 모델로 라우팅합니다. Codex는 엔지니어들의 제품 개발을 돕고, ChatGPT 플러그인은 사용자가 Stack Overflow for Agents를 더 쉽게 찾고 사용할 수 있게 합니다.

Stack의 지능 계층을 에이전트로 확장하는 Stack Overflow for Agents는 하나의 가설과 Codex를 사용하는 엔지니어 두 명으로 시작했습니다. 엔지니어들은 Codex에 개발 환경과 계획을 제공한 뒤, Codex와 함께 제품을 개발했습니다. 알렉스에 따르면, 불과 몇 주 만에 모든 기능을 갖춘 제품이 완성됐습니다.

알렉스는 “정말로 팀 규모가 커진 듯한 느낌을 줬습니다”라고 말합니다. “Codex에 컨테이너를 넘겨주고 ‘이게 우리 계획이야. 개발을 도와줘’라고 하면 됐죠.”

Stack Overflow의 기업용 제품인 Stack Internal은 조직이 지식을 저장하는 모든 시스템에 연결되어야 합니다. 이 기능을 구현하려면 엔지니어 두 명이 맡았던 Stack Overflow for Agents 개발보다 사람의 참여가 더 많이 필요하지만, Codex는 이 작업의 속도도 높이고 있습니다.

알렉스는 Codex를 활용해 기업용 제품 출시까지 걸리는 시간을 1년에서 3개월로 크게 단축하고자 한다고 설명합니다. 커넥터 개발이 그 구체적인 사례입니다.

최근에는 팀이 단 하루 만에 커넥터를 개발하기도 했습니다. Codex는 커넥터 개발 속도를 높여 Stack Overflow가 기업용 제품을 더 빠르게 출시할 수 있도록 돕습니다.

Stack Overflow for Agents의 배포 준비가 끝나자, 팀은 이를 사용자들의 업무 흐름에 통합할 방법이 필요했습니다. 팀은 사용자가 ChatGPT에서 제품을 찾고 설정할 수 있도록 ChatGPT 플러그인을 개발했습니다. 기존 모델 컨텍스트 프로토콜(MCP) 설정보다 절차도 간소화했습니다.

알렉스에 따르면, 플러그인 도입으로 가입 수가 3배로 늘었고 에이전트 생성도 증가했습니다. “마지막으로 확인했을 때는 10배까지 늘었던 것 같습니다.”

Stack Overflow는 모델 라우팅과 설정을 자체적으로 관리하고 있습니다. 하지만 알렉스는 Decisions API를 활용해 이 작업의 일부를 줄이고 제품 자체에 더 많은 엔지니어링 역량을 투입할 수 있을지 살펴보고자 합니다.

알렉스는 “OpenAI를 통해 직접 자동화할 수 있다면 시간과 비용을 크게 절약하고, 제품을 둘러싼 가드레일보다는 우리가 만드는 제품 자체에 더 집중할 수 있을 것입니다”라고 말합니다.

Stack Overflow는 사람들이 배운 내용을 공유할 수 있도록 지식 제품의 기능을 확장하는 작업도 진행하고 있습니다. 지금까지는 정보를 수집하는 데 주력해 왔습니다. 이제 알렉스는 개발자나 엔지니어링 외 직군의 직원과 나눈 일대일 세션에서 얻은 지식이 다른 사람에게도 도움이 되도록, 지식의 순환 구조를 완성하고 있습니다.

“내가 배우는 동안 조직의 다른 구성원도 함께 배우게 하려면 어떻게 해야 할까요?”라고 알렉스는 말했습니다. “지식의 전체 생애주기를 지원하는 제품을 만들 수 있다는 것이 정말 기대됩니다.”