OpenAI와 함께 '모든 사람과 모든 곳을 위한 AI'를 구축하는 BNY

2022년 말 ChatGPT가 출시되었을 때, BNY는 전사적으로 생성형 AI를 수용하기로 과감한 결정을 내렸습니다. 일부 기술 전문가에게만 실험을 맡기는 대신 중앙 집중형 AI 허브를 구축하고 Eliza라는 내부 AI 배포 및 교육 플랫폼을 도입했으며, 직원들에게 책임 있는 AI 활용에 대한 교육을 진행했습니다.

BNY 최고 데이터 및 AI 책임자 사르탁 파타나익(Sarthak Pattanaik)은 BNY의 모토가 "모든 사람, 모든 곳, 모든 업무에 AI를 적용하는 것"이라고 말하며, "이 기술은 그만큼 큰 변화를 가져오기 때문에 실행 방식으로 플랫폼 중심 접근을 선택했다"고 설명합니다.

현재 이 플랫폼은 125건이 넘는 실제 활용 사례를 지원하고 있으며, 2만 명의 직원들이 에이전트를 직접 구축하고 있습니다.

Eliza는 처음부터 단순한 도구가 아니라 BNY의 업무 방식 전반을 아우르는 시스템으로 설계되었습니다. OpenAI의 최첨단 모델을 비롯한 프런티어 모델과 BNY의 엄격한 거버넌스를 결합해 직원들이 안전하고 자신 있게 에이전트를 구축할 수 있도록 했습니다.

파타나익은 팀이 "단순한 사이드 프로젝트를 진행하는 것이 아니라 은행이 일하는 방식 자체를 바꾸고 있다"고 말합니다.

BNY는 100개 이상의 시장에서 자산, 데이터, 현금을 관리하고 이동시키며 보호하는 글로벌 경제의 핵심 기관입니다. 수탁 및 관리 자산이 57조 8천억 달러가 넘는 세계 최대 규모의 금융 기관 가운데 하나로서, 신뢰는 절대 타협할 수 없는 가치입니다.

파타나익은 "우리는 글로벌 금융 서비스 생태계의 순환계와 같은 역할을 한다"고 말하며 "그런 관점에서 우리가 하는 모든 일에 신뢰가 기본적으로 자리 잡아야 한다"고 강조했습니다.

이처럼 큰 책임을 고려할 때 AI 도입을 사후적으로 다루거나 부수적인 실험으로 볼 수는 없었습니다. BNY에는 혁신과 책임을 균형 있게 맞추는 접근 방식이 필요했습니다.

Eliza 성공의 핵심은 실험 속도를 늦추지 않으면서 확장을 가능하게 하는 거버넌스 모델에 있습니다. 부법무 책임자이자 최고 기술 자문인 와트 와나파(Watt Wanapha)는 "일부는 AI 거버넌스를 장애물로 보지만 우리의 경험에서는 오히려 속도를 높이는 역할을 했다”고 말하며 "적절한 거버넌스 덕분에 훨씬 더 빠르게 움직일 수 있었다"고 덧붙였습니다.

BNY에서는 새로운 AI 활용 사례를 검토하고 논의하기 위해 여러 분야가 참여하는 조직이 정기적으로 운영됩니다.

• 지식재산권, 사이버보안, 엔지니어링, 데이터, 개인정보 보호, 외부 파트너십 등 다양한 영역의 리더가 참여하는 데이터 사용 검토 위원회
• 프로덕션 배포 전 단계에서 유사한 조직과 다른 그룹이 함께 이니셔티브를 재검토하는 AI 출시 심의 위원회
• 전사 차원의 감독과 정책 정렬을 담당하는 엔터프라이즈 AI 위원회

데이터 사용 검토 위원회에서 나온 인사이트는 매일 AI 위원회에 공유되며, AI 위원회는 영향이 크거나 새로운 시나리오를 평가합니다. 와나파는 "진행하는 과정에서 계속 조정하고 개선해야 했다"며 "활용 사례가 늘어나고 모델이 변화하는 만큼, 정확성을 유지하려면 AI 프로젝트를 지속적으로 점검해야 한다"고 말합니다.

BNY 접근 방식의 차별점은 거버넌스를 도구 자체에 완전히 통합했다는 데 있습니다. Eliza에서는 프롬프트 작성, 에이전트 개발, 모델 선택 및 공유가 모두 관리된 환경 안에서 이루어집니다.

와나파는 "Eliza는 시스템 수준에서 거버넌스를 내재화하고 있으며 모든 모델과 도구 전반에 걸쳐 권한, 보안, 감독을 표준화해 모든 워크플로가 동일한 수준의 보호 기준을 충족하도록 한다"고 설명했습니다.

BNY에서 거버넌스는 단순한 관리나 감독에 그치지 않고, 직원들이 일상적으로 AI를 활용하는 방식 자체를 의미합니다. Eliza는 설계 단계부터 책임 있는 사용을 전제로 하며, 모든 직원은 사용 전에 필수 교육을 이수해야 합니다. 이후에도 추가 교육, 도구, 챌린지, 커뮤니티 지원을 통해 이러한 기반을 지속적으로 강화합니다. 현재 전체 직원의 99%가 생성형 AI 교육을 이수했으며, 보다 심화된 활용 기회도 다양하게 제공되고 있습니다.

글로벌 인재 총괄인 미셸 오라일리(Michelle O’Reilly)는 "각자의 수준에 맞춰 시작하고 함께 성장할 수 있도록 다양한 학습 방식을 도입했다"고 말합니다.

대표적인 이니셔티브인 'AI 습관 만들기의 달'은 프롬프트 작성, 에이전트 구축, 동료 간 공유에 대한 자신감을 높이기 위해 매일 7분 분량의 교육을 제공하는 프로그램입니다. 오라일리는 "이 기간 동안 직원들이 구축한 에이전트 수가 46% 증가했다"고 밝혔습니다.

이러한 역량 강화 모델은 조직 전반에서 문화적 변화를 이끌어냈습니다. 파타나이크는 "직원들이 스스로 문제를 해결할 수 있다는 자신감을 갖게 됐다"고 말하며 "팀이 일하는 방식 자체가 바뀌고 있다"고 강조했습니다.

이러한 문화는 법무, 영업, 엔지니어링 팀이 함께 참여하는 전사 해커톤 같은 행사에서도 드러납니다. 영업 및 관계 관리 책임자인 에드 팬드리(Ed Fandrey)는 "최근 영업 부문에서 진행한 해커톤에서는 IT나 기술 인력이 없었지만 참가자 모두가 직접 개발에 참여하는 경험을 할 수 있었다"고 말했습니다.

AI Hub와 다양한 BNY 부서가 협력해 Eliza로 구축한 초기 에이전트들은 아이디어를 얼마나 빠르게 성과로 연결할 수 있는지를 보여주었습니다.

• 계약 검토 어시스턴트: 연간 3,000건이 넘는 공급업체 계약에서 법률 검토 시간을 4시간에서 1시간으로 75% 단축합니다
• 피플 비즈니스 파트너 에이전트: 복지와 정책 관련 질문에 빠르게 답변해 수작업 요청을 줄이고, 일관성과 정확성을 높입니다

이러한 초기 프로젝트는 조직 문화의 변화를 이끌었습니다. 오라일리는 "예전에는 협업이 더 많은 회의를 의미했지만 지금은 함께 실험하고, 프롬프트를 공유하고, 에이전트를 테스트하고, 실천을 통해 배우는 것을 의미한다"고 평가했습니다. 이러한 사고방식은 한 팀의 에이전트가 다른 팀의 기반으로 이어지는 혁신의 선순환을 만들어냈습니다.

통제된 자율성을 목표로 설계된 Eliza는 초기에 비공개 에이전트 만들 수 있도록 제한을 두었습니다. 현재는 특정 팀이나 직무 담당자가 개발한 에이전트를 최대 10명의 동료와 공유할 수 있도록 허용하여 재사용과 확장을 촉진합니다. 이에 따라 주요 비즈니스 전반에서 다음과 같은 도구를 비롯한 125개 이상의 AI 도구가 프로덕션에 활용되고 있습니다.

• 리드 추천 엔진: 고객에게 제안하고 논의할 수 있는 맞춤형 인사이트와 기회를 제공합니다
• 메트릭스 에이전트: 권한에 따른 액세스를 통해 학습 플랫폼의 사용 현황과 성과를 요약합니다
• 리스크 인사이트 에이전트: 심층 리서치를 활용해 포트폴리오 전반에서 새롭게 나타나는 위험 신호를 포착하고, 문제가 커지기 전에 분석가가 대응할 수 있도록 지원합니다

Eliza에는 신원과 접근 제어, 전용 워크플로를 갖춘 고급 AI 에이전트 기능도 도입되었습니다. BNY는 이를 '디지털 직원'이라고 부릅니다. 디지털 직원은 결제 지침 검증부터 코드 보안 강화까지 다양한 업무를 수행합니다.

파타나익은 "이제 사람의 역할은 처음부터 작업을 직접 처리하기보다 디지털 직원을 훈련하고 성장시키는 데로 옮겨가고 있다"고 말합니다.

선정된 일부 팀은 ChatGPT Enterprise를 실험적으로 활용하며, 심층 리서치 같은 기능을 이용해 AI와 협업하는 새로운 방식을 탐색하고 있습니다.

심층 리서치는 내부 및 외부 데이터를 아우르는 다단계 추론을 통해 위험 모델링, 시나리오 계획, 전략적 의사결정과 같은 다양한 작업을 지원합니다.

부법무 책임자인 와트 와나파는 심층 리서치를 "매일 사용한다"고 말하며 "새로운 법률 문제를 다룰 때 놓친 질문이 없는지 점검하기 위해 사고 파트너로 활용한다"고 덧붙였습니다.

고객 대응 팀에서는 심층 리서치가 대화 준비와 전략 수립 방식까지 바꾸고 있습니다. 에이전트와 결합되면 이러한 인사이트를 즉시 실행으로 이어갈 수 있어, 후속 조치를 자동으로 시작하거나 아웃리치 초안을 작성하고 고객 시스템 내에서 다음 단계를 바로 일정에 반영할 수 있습니다.

Eliza의 오케스트레이터 레이어와 함께 이러한 발전은 권한 관리, 감독, 텔레메트리를 핵심으로 하는 자율형 디지털 직원의 기반을 형성합니다. 다음 단계도 이미 가시화되고 있습니다.

“우리는 지식 추출과 추론을 넘어 계속 성숙해 나가고 있습니다.”라고 Pattanaik이 말합니다. "이는 조직 전반의 점들을 연결해 고객 맞춤형 신제품을 혁신하는 것입니다."

BNY의 거버넌스 전략은 보안이 중요한 환경에서 AI를 도입하는 엔터프라이즈 팀에 하나의 기준을 제시합니다.

• 기존 위험 관리 체계 활용: 생성형 AI 전용 거버넌스를 새로 만드는 대신, 기존에 구축된 법무 및 컴플라이언스 프로세스를 확장해 새로운 활용 사례까지 아우릅니다
• 공동 책임 체계 구축: 부서 간 협의체가 AI 활용 사례를 함께 검토해 분야별 위험을 실시간으로 반영합니다
• 거버넌스의 가시성과 접근성 강화: Eliza 인터페이스는 태깅, 텔레메트리, 승인 절차, 액세스 제어를 적용하면서도 사용자가 번거로운 수동 작업 없이 사용할 수 있도록 설계되었습니다
• 문화와 일관성에 투자: 직원의 약 99%가 책임 있는 AI 교육을 이수한 후 Eliza 접근 권한을 제공받습니다. 와트 와나파는 "AI와 플랫폼이 어떻게 작동하는지 이해하지 못하면 위험과 가능성을 제대로 판단하기 어렵다"고 설명합니다.
• 적합한 파트너와 협력: 와나파는 "AI를 통해 아직 답이 없는 새로운 질문들을 마주하고 있기에 신뢰할 수 있는 파트너와 열린 소통 채널을 갖는 것이 매우 중요하다"고 말합니다

사내 책임성과 외부 파트너십의 결합은 지속적인 성장의 핵심 동력으로 작용하고 있습니다. 파타나익은 "OpenAI의 연구와 BNY의 명확한 비즈니스 활용 사례가 잘 맞물린 케이스"라고 말합니다.