Fyxer가 신뢰받는 AI 임원 비서를 구축한 방법

많은 직장인에게 업무란 받은편지함, 회의, 메시지, 앱 전반에 흩어진 대화와 약속을 빠짐없이 파악하는 일입니다. 맥락을 확실히 파악하지 못하면 이런 약속을 놓쳐 프로젝트와 관계에 악영향을 줄 수 있습니다.

Fyxer는 업무가 여러 도구를 오갈 때도 흐름을 놓치지 않는 AI 임원 비서를 구축했습니다. 최신 OpenAI 모델과 50만 시간 이상의 임원 비서 업무 흐름을 결합하고, 실제 사용자 피드백을 통해 개선되는 수십 개의 전문 모델에 작업을 분담합니다.

이 시스템의 진가는 이메일에서 가장 분명하게 드러납니다. 두 사람이 같은 이메일을 받아도 상대와의 관계, 이전 상황, 각자가 이루려는 목적에 따라 전혀 다른 답장이 필요할 수 있습니다. 그래서 겉보기에는 간단한 이 작업이 AI에는 의외로 어렵습니다.

Fyxer 공동 창업자 아치 홀링스워스는 “모라벡의 역설이라는 개념이 있습니다”라고 설명합니다. “사람에게 쉬운 일은 컴퓨터에 어렵고, 컴퓨터에 쉬운 일은 사람에게 어렵다는 것이죠.” Fyxer는 사용자마다 일하는 방식을 학습해 무엇이 중요한지 이미 아는 비서처럼 대응함으로써 이러한 복잡성을 해결합니다.

프런티어 OpenAI 모델은 이메일 이해와 적절한 맥락 탐색부터 초안 생성까지 경험의 핵심 단계를 지원합니다. Fyxer는 자체 벤치마크에서 모델 성능이 가장 뛰어났고, 어조와 의도 같은 주관적 작업을 위한 강력한 파인튜닝 기능을 제공했으며, 화이트보드 세션과 기술 협업을 통해 실질적인 엔지니어링 지원을 받을 수 있어 OpenAI를 선택했습니다.

Fyxer의 접근 방식은 맥락 이해가 핵심인 AI 제품을 개발하는 창업자에게 세 가지 교훈을 줍니다.

Fyxer는 이메일 업무 흐름의 세부 영역을 각각 담당하는 30~50개의 전문 모델을 중심으로 시스템을 구축했습니다. 이메일을 하나의 텍스트 생성 작업으로 다루는 대신, 메시지에 답장이 필요한지 판단하거나 사용자의 어조와 맥락에 맞는 답장을 작성하는 등 여러 예측으로 구성된 시스템으로 문제를 나눕니다.

홀링스워스는 “하나의 모델에 좋은 이메일을 작성하라고 요청하는 것보다 문제를 여러 개의 작은 모델로 나누는 편이 훨씬 효과적입니다”라고 설명합니다.

새 이메일이 도착하면 답장 판단 모델이 메시지를 분류합니다. 답장이 필요한지, 일정 조율 작업이 필요한지, 아니면 사용자가 확인만 하면 되는 정보인지 판단하는 것입니다.

답장이 필요하면 추가 모델이 이메일의 의도를 분석하고 상호작용의 예상 결과를 예측합니다. 이 모델들은 대화가 회의 일정 조율, 요청 해결, 장기적인 관계의 연장 중 어느 방향으로 이어지는지와 같은 패턴을 파악합니다.

메모리는 시스템에서 가장 중요한 부분 중 하나입니다. Fyxer는 대화를 거듭해도 유지해야 할 세부 정보와 한 번의 대화 후 삭제해야 할 정보를 판단해야 합니다. 새 이메일이 도착하면 검색 모델이 저장된 상호작용과 비교해 해당 인물과 대화 흐름에 가장 관련성 높은 기억을 찾아냅니다.

OpenAI 모델은 Fyxer 시스템 전반의 여러 단계를 구동합니다. 샨칠라는 “OpenAI 모델은 이메일을 분석해 실제 주제를 파악하는 것부터 포함할 맥락을 가져와 순위를 다시 매기는 작업, 실제 이메일 생성에 이르기까지 모든 과정에 사용됩니다”라고 말합니다.

Fyxer는 AI 제품을 출시하기 전 수년 동안 사람이 직접 제공하는 임원 비서 서비스를 운영했습니다. 그 과정에서 실제 비서가 업무 커뮤니케이션을 관리하는 방식을 담은 50만 시간 이상의 주석 처리된 임원 업무 흐름 데이터세트를 축적했습니다.

이러한 사례를 통해 Fyxer는 실제 업무에서 나온 학습 데이터를 확보했습니다. 이 데이터에는 언제 신속하게 답하고 언제 기다려야 하는지, 이전 대화 중 무엇이 중요한지, 같은 요청에도 사람에 따라 어떻게 다르게 대응해야 하는지 등 좋은 답변을 만드는 세세한 판단이 담겨 있었습니다.

Fyxer는 전체 시스템에 지도학습 기반 파인튜닝과 저순위 적응(Low-Rank Adaptation, LoRA)을 적용해 학습 비용을 관리하면서 작업별 모델 변형을 만듭니다. 제품 개발 초기에는 높은 정확도가 필요한 작업에 OpenAI의 파인튜닝 플랫폼을 사용했습니다. 최근에는 OpenAI의 관리형 파인튜닝 팀과 협력해 새로운 체크포인트를 프로덕션에 배포했습니다.

Fyxer는 모델을 배포하기 전에 초안 작성, 분류, 우선순위 지정 등 자체 이메일 작업을 중심으로 구성한 검증 세트로 모델을 평가합니다. 작업에 따라 최적의 선택이 달라질 수 있으므로 정확도뿐 아니라 응답 시간과 비용도 함께 고려합니다.

배포 후에도 Fyxer의 시스템은 실제 사용자 피드백을 통해 계속 개선됩니다. 사용자가 초안을 수정한 뒤 전송하면 원본과 최종 이메일의 차이를 통해 어떤 결과물을 선호했는지 알 수 있습니다.

Fyxer는 직접 선호 최적화(Direct Preference Optimization, DPO)를 사용해 이러한 비교 결과를 학습 데이터로 변환합니다. 모든 사례에 수동으로 레이블을 지정하는 대신 모델은 원본 초안과 사용자가 수정한 버전으로 구성된 결과물 쌍에서 학습합니다.

이후 초안 작성 기능을 변경할 때마다 A/B 테스트를 거칩니다. Fyxer는 통계적으로 유의미한 개선이 확인될 때만 새 버전을 출시합니다. 사용자 수가 많아 때로는 하루 만에 이 기준에 도달하기도 합니다.

현재 Fyxer가 AI로 생성한 초안 중 53%가 수정 없이 채택됩니다. 이는 실제 대화의 상당 부분에서 시스템이 의도와 어조를 정확하게 예측한다는 뜻입니다. Fyxer는 2025년 한 해에만 연간 반복 매출을 100만 달러에서 3,200만 달러로 늘렸습니다.

홀링스워스는 사용자 유지율이 더 의미 있는 지표라고 봅니다. Fyxer 고객 중에는 기술에 익숙하지 않은 사람이 많으며, 일부에게는 Fyxer가 매일 사용하는 첫 AI 시스템입니다.

앞으로 Fyxer는 관계와 선호도, 현재 진행 중인 업무의 맥락을 더욱 깊이 이해하는 시스템을 구축해 나갈 계획입니다. Fyxer의 비서는 답장 초안 작성을 넘어 사용자의 커뮤니케이션과 조율 업무를 더 폭넓게 관리하는 AI 비서로 계속 진화하고 있습니다.

홀링스워스는 “고객이 진정으로 좋아하는 일에 최대한 많은 시간을 쓸 수 있도록 하는 것이 저희의 비전입니다”라고 말합니다. “고객이 컴퓨터를 열 필요조차 없이 그 모든 업무를 Fyxer에 믿고 맡길 수 있도록 만들고 싶습니다.”