Polimill, 일본의 차세대 공공 AI 인프라 구축

Polimill은 시민이 정치와 사회에 관한 의견을 나눌 수 있는 플랫폼인 Surfvote로 시작했습니다. 지자체와 협력하는 과정에서 이 회사는 한 가지 구조적인 문제를 발견했습니다. 바로 공공 부문 실무진이 일상 업무에 매몰되어 시민의 목소리를 정책에 반영할 시간이 거의 없다는 점이었습니다.

시민 참여를 확대하려면 Polimill은 먼저 행정 업무 자체의 효율을 높여야 했습니다. 이 회사는 공공 부문 워크플로에 맞춘 생성형 AI 플랫폼 개발에 착수해 2024년 10월 QommonsAI를 선보였습니다. 현재 QommonsAI는 의회 답변, 공공 서비스, 사회 복지, 법령 검색 등의 분야에 특화된 AI를 제공합니다. 이제 일본 전역에서 약 1,050개 지자체와 약 55만 명의 공무원이 이를 사용하고 있습니다. OpenAI 기술을 기반으로 구축된 QommonsAI는 직원 생산성 도구를 넘어, Polimill이 구상하는 일본 지자체 업무용 공공 OS로 진화하고 있습니다.

행정 기관에 생성형 AI를 도입할 때 가장 큰 걸림돌 중 하나는 파편화된 데이터였습니다. 지자체마다 워크플로와 문서 양식이 다르고, 과거 기록도 곳곳에 흩어져 있습니다. 예를 들어 의회 답변을 준비할 때는 그 내용이 도도부현 정책과 어긋나지 않는지 확인하기 위해 수년 치 회의록을 일일이 검토해야 하는 경우도 있습니다. 기반 데이터가 체계화되어 있지 않으면 아무리 뛰어난 AI 모델이라도 실질적인 인사이트를 도출할 수 없습니다.

Polimill은 일본 전역의 의회 회의록을 수집하고 표준화한 뒤, AI로 메타데이터를 추가해 여러 지자체와 시기에 걸쳐 정밀하게 검색할 수 있는 기반을 구축했습니다.

이 회사는 이러한 구조를 의회뿐 아니라 복지, 법령 등 다른 행정 분야로도 확장했습니다. QommonsAI는 특화된 데이터와 AI를 하나의 플랫폼에 통합하고 공통 인터페이스에서 검색할 수 있게 하여, 흩어져 있던 행정 정보를 일상 업무에 활용할 수 있는 지식으로 바꿉니다. 이러한 구조는 QommonsAI를 행정을 위한 공유 플랫폼으로 만들겠다는 Polimill 비전의 토대입니다.

OpenAI의 GPT 모델은 QommonsAI의 핵심입니다. 공공 부문에서는 정보 관리와 감사 대비가 필수적입니다. QommonsAI는 관리자가 기능 사용 이력을 검토하고 조직 정책에 따라 사용 가능한 모델을 제한할 수 있는 운영 통제 기능을 갖추고 있습니다.

한편, Polimill의 최고 AI 책임자(CAIO)인 와카바야시 마사히로(Masahiro Wakabayashi)는 GPT 모델의 폭넓은 역량과 친숙함을 도입의 주된 이유로 꼽습니다. 도입 후 공무원이 새로운 도구를 사용해야 할 때, ChatGPT의 높은 인지도가 중요하게 작용합니다. 기술 용어나 다른 모델 이름에 익숙하지 않더라도, 널리 쓰이는 ChatGPT 기술을 기반으로 한 시스템이라는 점을 알면 도입 초기의 장벽이 낮아집니다.

Polimill에 따르면 QommonsAI의 일반 대화 기능에서 일상 업무용으로 가장 많이 선택되는 옵션은 GPT 모델입니다. 파일 읽기부터 일상적인 대화 지원까지 하나의 모델로 다양한 업무 요청에 안정적으로 대응하는 GPT의 역량은 QommonsAI가 실무 현장에 자리 잡는 데 힘이 되고 있습니다.

OpenAI 기술은 Polimill의 개발 프로세스도 바꿔 놓았습니다. 이 회사는 요구사항 정의부터 기존 GitHub 코드와의 정합성 확인, 구현, 테스트에 이르기까지 워크플로 전반에 Codex를 도입했습니다. 엔지니어는 AI가 세운 계획을 검토하고 큰 틀의 의사결정을 내리는 데 집중할 수 있으며, 구현 작업은 AI가 더 많은 부분을 자율적으로 처리합니다.

AI가 빠르게 코딩하고 백그라운드에서 작업을 계속 진행한 덕분에 개발 속도가 기존보다 3~5배 빨라졌습니다. 와카바야시는 프로토타입을 개발해 지자체 실무진에게 시연하고 피드백을 수집하는 검증 주기가 비약적으로 빨라졌다고 말합니다.

OpenAI의 밀착 지원은 이러한 작업에 한층 속도를 더했습니다. 이번 협업에서는 글로벌 선진 사례에서 도출한 모범 관행을 공유하고, Polimill의 상황에 맞춘 정보를 제공하며, AI가 맡을 단계와 사람이 검토하고 책임져야 할 영역을 포함해 개발 프로세스 자체의 설계까지 지원합니다.

모델과 역량이 발전하면서 AI를 활용한 개발 방식도 계속 달라지고 있습니다. 개별 기업이 글로벌 선진 사례를 파악해 자사 엔지니어링 조직에 적용하기란 쉽지 않습니다. 와카바야시는 OpenAI에서 계속 배우고 그 인사이트를 Polimill 내부에 적용할 수 있다는 점이 API 성능 자체 못지않게 가치 있다고 봅니다.

Polimill은 OpenAI 기술을 핵심 기반으로 삼아 QommonsAI를 지자체 업무용 플랫폼으로 꾸준히 확장해 왔습니다. 주요 도입 및 사용 성과는 다음과 같습니다.

• 일본 전역에서 약 1,050개 지자체와 약 55만 명의 공무원이 QommonsAI를 사용하고 있습니다.

• Polimill은 일본 전역에 흩어져 있던 의회 회의록과 행정 정보를 하나로 모아 여러 기관을 아우르는 검색 인프라를 구축했습니다.

• Codex 도입과 OpenAI의 밀착 지원으로 검증과 구현 주기가 빨라져 개발 속도가 3~5배 향상되었습니다.

• GPT 모델의 뛰어난 추론 능력 덕분에 경험이 적은 직원도 AI와 축적된 행정 정보를 활용해 숙련된 공무원 수준에 가까운 정책 제안서를 작성할 수 있었습니다.

QommonsAI의 가치는 정보를 더 빠르게 검색하는 데 그치지 않습니다. Polimill의 검증에서는 경험이 적은 직원이 AI와 축적된 행정 정보를 활용해 정책 제안서를 작성했고, 이 제안서는 숙련된 공무원이 작성한 것에 버금가는 평가를 받았습니다.

다만 숙련된 공무원의 제안서가 여전히 가장 높은 평가를 받았습니다. Polimill은 그 차이가 암묵적 지식, 즉 매뉴얼에 적혀 있지 않은 실무적 판단에서 비롯된다고 분석합니다. 정책 제안을 실현하는 데 필요한 절차나 주민이 가질 법한 우려 등이 여기에 해당합니다.

Polimill은 숙련된 공무원이 AI에 자료 조사를 지시하는 방식과 그 결과물을 수정하는 과정을 기록해, 그동안 문서로 남지 않았던 판단을 조직의 지식으로 전환할 계획입니다. 숙련된 직원을 AI로 대체하기보다는 이들의 역량을 키우고 노하우를 다음 세대에 전수하는 것이 목표입니다. QommonsAI는 Polimill이 구상하는 행정 지식 전수의 토대가 될 수 있습니다.

Polimill은 2026년 가을, 외부 기업이 지자체용 애플리케이션을 제공할 수 있는 스토어인 Qommons ONE을 정식 출시할 계획입니다. 그 중심에는 여러 특화 AI 시스템과 민간 부문 앱을 하나로 통합하는 슈퍼 에이전트가 자리할 것입니다. 사용자가 목표를 제시하면 시스템이 필요한 AI나 앱을 호출해 자료 조사부터 프레젠테이션까지 실무에 바로 쓸 수 있는 산출물을 만들어 냅니다.

Polimill은 이러한 비전을 실현하기 위해 GPT 모델의 폭넓은 입출력 역량과 OpenAI가 축적해 온 에이전트 개발 노하우를 중요한 기반으로 보고 있습니다. OpenAI 또한 기술 검증과 개별 샘플 제공으로 개발을 지원하고 있습니다. 모델과 개발 방식이 끊임없이 진화하는 만큼, 와카바야시는 OpenAI와 긴밀히 협력해 최신 인사이트를 Polimill에 접목하는 데 큰 가치가 있다고 봅니다.

Polimill은 이러한 인사이트를 개발에 신속하게 반영해 Qommons ONE을 지속적으로 발전시킬 수 있습니다. 이 회사의 포부는 행정 효율화에만 머물지 않습니다. AI로 확보한 시간 덕분에 공무원은 시민의 목소리에 더욱 귀 기울이고 이들을 지원할 수 있습니다. 이러한 공공 OS가 Polimill이 지향하는 행정의 미래입니다.

정부, 기업, 시민이 AI를 통해 연결되는 차세대 공공 인프라를 향한 Polimill의 여정은 이제 막 시작되었습니다.