영원한 보완재

저자 주: 이 글은 저희 연재의 첫 번째 에세이로, 차세대 경제를 주제로 합니다. 독립적인 목소리를 담는 새로운 플랫폼의 일환으로 AGI 시대의 미래를 탐구합니다. 이 글은 저희의 견해이며, OpenAI나 동료들의 견해를 대변하지 않습니다.

인류는 시간의 시작에 가까운 순간까지 들여다보았다.

우리의 방정식은 우주가 태어난 첫 순간부터 대체로 일관된 설명을 제시한다. 망원경으로 우주 저 멀리까지 바라보며 초기 역사를 엿보았다. 우리는 별의 탄생과 은하의 형성을 안다.

하지만 달 너머로 가 본 인간은 단 한 명도 없다.

우리가 이해하려는 대상은 우주 전체에 걸쳐 있지만, 우리의 몸은 보금자리를 겨우 벗어났을 뿐이다. 우리의 생각은 손이 닿는 범위를 훨씬 넘어선 곳까지 뻗어 나간다.

이 불균형은 전혀 다른 두 가지를 의미할 수 있다.

한 가지 가능성은 굳이 멀리 갈 필요가 없다는 것이다. 가장 깊은 진리도 행성 하나에서 헤아릴 수 있을지 모른다. 정교한 추론과 효율적인 관측 도구만 있으면 우주를 가로지르지 않고도 그 비밀을 밝힐 수 있다. 이 시나리오에서 우리 문명은 넓이가 아니라 깊이를 통해 진보한다. 이는 우리가 다른 지적 생명체를 보지 못한 이유를 설명하는 데도 도움이 된다. 우리가 사는 은하에는 영역을 넓혀 우리 눈에 띌 필요가 전혀 없었던 뛰어난 지성들이 가득할지도 모른다.

두 번째 가능성은 더 벅차게 다가온다. 우리의 생각이 그저 실행 능력보다 앞서 나갔을 수 있다. 다음 단계로 나아갈 때마다 더 많은 시간과 자원이 든다. 꿈은 넘쳐나지만, 이를 실현할 일손이 부족하다.

갈릴레오는 렌즈 두 개와 관 하나로 우리의 시야를 넓혔다. 오늘날 그 시야를 다시 넓히기 위해 인류는 100억 달러짜리 관측소인 제임스 웹 우주망원경을 만들어 로켓 안에 접어 넣고 100만 마일 떨어진 곳으로 보냈다. 18개의 거대한 분할 거울은 50나노미터의 정밀도로 제작되었다. 이 관측소는 14개국 300개 기관의 협력으로 탄생했다. 갈릴레오의 업적에는 수십 명의 손길이 필요했다. 웹 망원경에는 대규모 인력과 이를 뒷받침하는 세계 경제가 필요했다.

더 멀리 보기 위해 필요했던 것은 더 뛰어난 지성만이 아니었다. 더 큰 행정 조직도 필요했다.

우리가 던지는 질문은 실제로 탐구할 수 있는 양보다 많다. 설계하는 실험도 수행할 수 있는 양보다 많다. 창의적인 가능성을 떠올리는 속도는 이를 실현하는 속도보다 빠르다. 그리고 많은 분야에서, 더 멀리 나아갈수록 상상한 것을 만드는 일은 더 복잡해진다.

닉 블룸과 공동 저자들⁠(새 창에서 열기)은 미국 경제 전반의 연구 생산성을 분석했다. 오늘날 무어의 법칙을 유지하려면 1970년대 초보다 18배가 넘는 연구자가 필요하다. 1930년대 이후 경제 전반의 실질적인 연구 투입은 23배로 늘었지만, 측정된 연구 생산성은 41분의 1로 떨어졌다.

기술 인력은 과학자 인력보다 두 배 빠른 속도로 늘고 있다⁠(새 창에서 열기). 과학 분야의 전문 장비 사용은 40년에 걸쳐 두 배로 늘었다⁠(새 창에서 열기). 오늘날 반도체 공장은 30년 전보다 다섯 배의 비용이 들고⁠(새 창에서 열기), 운영 규모도 훨씬 방대하다.

이 통계들은 더 큰 진보를 이루는 데 드는 비용이 증가하고 있음을 시사한다. 그럼에도 경제가 발전하는 것은 연구 활동의 엄청난 확대가 단위당 성과의 하락을 상쇄해 왔기 때문이다.

이런 역사를 보면 천재성을 달리 생각해야 한다. 독립적으로 존재하는 것이 아니라 생산 과정에 투입되는 한 요소로 보아야 한다. 아무리 뛰어난 가설이라도 증거와 장비, 실행 수단이 필요하다. 아이디어는 이를 실현할 기계 장치와 지원 인력이 없으면 아직 진보라 할 수 없다.

경제학에서는 두 투입 요소 중 하나가 늘어날 때 다른 하나의 가치도 커지면 둘을 보완재라고 부른다. 이런 의미에서 프런티어 지능과 그 아이디어를 실현하는 역량은 보완재다. 더 좋은 망원경은 좋은 천문학적 질문의 가치를 높인다. 더 좋은 질문은 망원경의 가치를 높인다.

어떤 보완재는 물리적이다. 이론은 입자가속기를 기다리고, 기술 설계는 이를 구현할 에너지와 기계를 기다린다.

눈으로 보기 어려운 보완재도 있다. 아이디어는 그 자체만으로는 힘이 약하다. 온갖 종류의 제도가 필요하다. 법과 행정 체계, 자금 조달 방식, 공급망을 비롯한 수많은 요소가 함께 작동해야 아이디어를 실행할 수 있다.

훌륭한 아이디어가 실현되려면 이 제도들 곳곳에서 올바른 조치가 긴 사슬처럼 이어져야 한다. 이를 제도적 지능이라 부르자. 주목받지 못하는 실행의 지능이다. 천재는 기념비를 설계하고, 제도는 돌을 쌓는다. 하나는 눈부시고 다른 하나는 지루해 보이지만, 둘 다 절대적으로 중요하다.

우리는 때때로 초지능을 10억 명의 아인슈타인으로 상상한다. 하지만 아인슈타인 10억 명으로 이루어진 문명에서도 대부분은 채석장에서 돌을 캐고 회계를 관리해야 한다. 최첨단 혁신은 그 주변의 일상적인 세계가 빈틈없이 작동할 때만 가능하다. 진보에는 모두의 손길이 필요하다. 망원경에 들어갈 나사를 용접하는 사람부터, 천문학자를 치료한 간호사가 다녔던 초등학교의 보험사까지. 진보는 원활하게 돌아가는 경제 위에 세워진다. 우리의 위대한 업적을 이야기할 때 흔히 잊는 토대다.

인간의 지능처럼 AI도 뛰어난 통찰과 제도적 역량 모두에 활용될 것이다. 문제는 그 시간의 대부분을 어디에 쓸 것인가다.

AI는 이미 실행 역량의 부족을 완화하고 있다. 코드를 작성하고, 생소한 분야의 문헌을 검색하며, 밑그림을 실제로 작동하는 시제품으로 바꾼다. 한때 조직 전체가 필요했던 아이디어를 이제는 의욕 넘치는 개인 한 명이 추진할 수 있는 경우가 늘고 있다.

영화감독을 꿈꾸는 이들 대부분은 자신의 역량을 펼칠 2억 달러짜리 제작비를 받아 보지 못한다. 대부분의 게임 디자이너는 다른 사람의 창의적 비전을 구현하는 데 직장 생활 전부를 보낸다. 우리는 가장 재능 있는 사람들에게 기회를 주려 하지만, 필연적으로 놓치는 인재가 생긴다. 이렇게 보면 지능의 시대는 인간의 독창성을 보완하는 데서 시작된다. 더 많은 사람이 자기 아이디어를 구현할 수 있도록 지원 인력을 제공하는 것이다.

그 결과 개성 넘치는 프로젝트가 쏟아지고, 과거에는 해당 분야의 진입을 통제하던 기관들 밖에서 더 많은 창작물이 나올 수 있다. 희소한 투입 요소는 실행력에서 안목으로 옮겨 간다. 무엇을 만들 가치가 있는지, 어떤 질문을 던질 만한지, 수많은 그럴듯한 방향 중 어디로 나아가야 할지 판단하는 능력이다.

하지만 이야기가 여기서 끝나지는 않을 수 있다. AI가 스스로 뛰어난 새 통찰에 도달할 수 있게 되면, 노동력뿐 아니라 무엇을 할 것인지도 제시하게 된다. 수학 같은 분야에서는 이미 이런 조짐이 보이는지도 모른다. 인간이 만든 연구 계획 하나를 실행하는 대신, 자체적으로 수천 개의 계획을 설계한다. 천재적인 AI는 개발할 가치가 있는 영화 구상과 검증할 가치가 있는 가설의 수를 폭발적으로 늘린다. 아이디어는 지원 인프라가 감당할 수 있는 속도보다 빠르게 쏟아진다.

오늘날의 AI는 오랫동안 기다려 온 숨통을 틔워 주며, 우리의 좋은 아이디어가 마침내 빛을 보게 한다. 하지만 내일은 좋은 아이디어가 너무 많아져, 그 어느 때보다 실행 역량에 목마르게 될지도 모른다.

새로운 통찰을 생산적으로 활용하는 데 필요한 보완재가 늘어날지, 줄어들지, 그대로일지는 결국 알 수 없다. 생각만으로 얼마나 큰 지적 진보를 이룰 수 있을까? 뛰어난 지성에는 얼마나 큰 행정 체계가 필요할까?

우리가 보기에 답은 생각이 현실과 다시 접촉하기 전까지 얼마나 멀리 나아갈 수 있느냐에 달려 있다.

가능한 두 가지 경로를 살펴보자. 첫째는 깊이의 문명이다. 초지능이 물적 자본과 행정적 조율을 더 많이 필요로 하는 상황을 극복하는 문명이다. 둘째는 넓이의 문명이다. 자연이 너무 복잡하기 때문에 인간이든 기계든 아무리 뛰어난 지능이라도 현실 세계에서 점점 더 규모가 크고 정교한 실험을 직접 수행하지 않고서는 진보하기 어려운 문명이다.

지금까지의 인류 역사는 보완 역량에 대한 필요가 커져 왔음을 시사한다. 갈릴레오의 망원경은 그의 손안에 들어갔지만, 웹 망원경에는 하나의 문명이 필요했다. 벨 연구소의 작은 팀은 작업대 위에서 최초의 트랜지스터를 조립했지만, 오늘날 최첨단 반도체의 발전은 복잡한 글로벌 공급망에서 나온다. 더 멀리 나아가려 할 때마다 문명의 더 많은 부분을 동원하게 된다.

하지만 그 역사가 반드시 우리의 운명일 필요는 없다. 뛰어난 지성은 더 효율적인 보완재를 발명할 수 있다. 에너지가 새로운 입자가속기의 병목이라면, 뛰어난 지성은 에너지를 덜 쓰는 가속기나 에너지를 더 잘 얻는 방법을 고안할 수 있다.

천재성은 자신에게 필요한 일부 보완재를 대체할 수도 있다. 아인슈타인은 극히 적은 실증 데이터만으로도 사고를 통해 상대성이론에 도달할 수 있었다. 우리라면 훨씬 더 많은 데이터가 필요했을 것이다. 어떤 사람들은 모든 일정을 그냥 기억하지만, 우리 대부분은 Google 캘린더라는 행정 체계에 의존한다.

천재성은 안목을 극대화해 검증할 최선의 가설을 고르고, 낭비를 초래하는 실패를 피할 수도 있다. 천재 한 명이 더해질 때마다 계획의 질이 높아진다면, 행정 조직이 갈수록 커져야 하더라도 우리는 여전히 천재성에 막대한 투자를 할 것이다. 실행에 드는 비용이 너무 커서 엉뚱한 일에 낭비할 수 없기 때문이다.

어느 경로도 우리의 실제 미래를 완벽하게 설명하지는 못하겠지만, 우리 문명이 나아갈 수 있는 두 방향으로 볼 수는 있다.

지능은 세 가지 방식으로 지식을 발전시킬 수 있다. 원리에서 출발해 추론할 수 있다. 기존 증거에서 새로운 통찰을 끌어낼 수 있다. 또는 세상을 관찰하고 개입해 새로운 증거를 수집할 수 있다.

첫 번째 방식은 생각만으로도 멀리 나아갈 수 있다. 수학이 가장 순수한 예다. 뛰어난 지성은 증명이나 프로젝트의 수많은 갈림길에서 일관되게 올바른 선택을 할 수 있다. 수년간 헤매는 탐색을 짧고 방향이 명확한 일련의 추론으로 대체하는 것이다.

두 번째 방식 역시 빠른 진보가 가능한 미개척 영역이다. 인류가 수집한 증거는 이해한 증거보다 훨씬 많다. 천체 영상, 현미경 표본, 온라인 댓글 등 우리가 가진 데이터에 대한 연구는 인간 지능의 부족으로 제약을 받아 왔다. 과학 기록 보관소에는 하나의 질문에 답하려고 남긴 관측 기록이 있지만, 그 안에는 다른 수많은 질문의 답도 담겨 있을 수 있다. 천재성이 풍부해지면 새로운 것을 수집하지 않고도, 이미 존재하던 것을 알아봄으로써 발견을 이룰 수 있다. 새로운 광자 하나 수집하지 않고도 새로운 우주를 발견할지 모른다.

세 번째 방식은 물리적 세계와 상호작용해야 하므로 그리 쉽지 않다. 물리적 과정에는 시간이 걸리며, 그 속도를 높이기 위해 할 수 있는 일이 거의 없는 경우도 많다. 화학 물질은 반응해야 한다. 생물은 자라야 한다. 기계는 만들어야 한다. 우주선은 우주의 속도 제한을 따르며 실제 거리를 이동해야 한다. 완벽한 지성이라도 아직 일어나지 않은 실험의 결과를 관찰할 수는 없다.

하지만 시도는 할 수 있다. 깊이의 문명도 현실에서 확인할 필요를 벗어나지는 못할 것이다. 대신 그 과정에서 드는 자원을 획기적으로 줄일 것이다. 더 나은 추론은 정말 중요한 소수의 실험을 가려낼 것이다. 시뮬레이션은 대부분의 의문을 해결하고, 현실에서 확인해야만 풀리는 불확실성이 정확히 무엇인지 찾아낼 것이다. 초지능은 부족한 자원을 중심으로 설계해 자원을 최대한 활용함으로써 효율을 극대화할 수 있다.

암흑물질에 관한 여러 가설을 가진 천체물리학 연구소를 상상해 보자. 먼저 이 가설들을 현실을 극도로 정밀하게 재현한 컴퓨터 모델링으로 검토한다. 각 이론이 기존의 모든 데이터와 부합하는지 확인한다. 이 모든 과정을 거친 뒤에야 가장 유망한 이론을 검증하기 위해 하늘의 특정 지점을 새로 몇 차례 촬영한다. 이 문명에도 천재성의 보완재는 여전히 필요하지만, 각 단위에서 훨씬 큰 가치를 얻는다.

깊이의 문명으로 가는 길은 직소 퍼즐을 맞추는 과정과 비슷할 수 있다. 처음과 끝에는 쉽게 진전되지만, 중간이 가장 어렵다. 처음에는 가장자리 조각이 뚜렷하고 쉽게 맞는 조각도 있다. 그러다 그런 조각들은 동나고, 나머지를 맞추는 데 길잡이가 될 만큼 그림이 완성되지도 않은 상태에 이른다. 끝에 가까워지면 남은 빈자리가 어떤 조각이 들어가야 하는지 거의 알려 준다. 완성에 가까워진 과학에서는 마지막 발견들이 오늘날 우리가 애써 이루려는 발견보다 쉬울 수 있다.

이는 과학에서 익숙한 방식이다. 멘델레예프는 아직 발견되지 않은 원소를 설명할 수 있었다. 주기율표의 나머지 부분이 빠진 원소의 특성을 한정해 주었기 때문이다. 표준 모형은 힉스 보손이 관측되기 수십 년 전부터 물리학자들에게 그 존재를 예상할 근거를 제공했다. 우리의 실험은 관측될 것으로 예상한 것, 즉 기존 이론과 데이터에 부합하는 것을 찾도록 목표가 설정되어 있었다.

초지능은 세상의 패턴을 깊이 이해해 어떤 새 데이터가 필요한지 정확히 앎으로써 깊이의 문명을 실현할 수 있다. 느리게 진행되는 물리적 확장에 기대지 않고, 더 깊은 사고로 진보를 이끌 것이다.

이런 효율 향상이 주된 힘이 된다면, 문명은 자연을 다루는 능력을 빠르게 심화하면서도 거대한 새 실험 장치들을 관리할 제도적 지능은 덜 필요로 할 수 있다. 지혜는 무르익어도 물리적으로 차지하는 영역은 작게 남을 수 있다.

우리 인간은 이미 보금자리를 떠나지 않고도 우주에 대해 아주 많은 것을 이해해 왔다. 깊이의 문명은 그 전통을 이어 가는 문명일 것이다.

하지만 새로운 증거에 대한 수요가 이런 효율 향상을 압도할 수 있다. 지능은 현실에서 한 번 확인하는 데 드는 비용을 줄이는 동시에, 확인해야 할 이유를 훨씬 더 많이 발견할 수 있다. 더 좋은 장비는 더 미세한 영역의 탐구를 가능하게 한다. 실험이 빨라지면 추가 실험의 가치가 높아질 수 있다.

아인슈타인이 거의 순수한 사고만으로 상대성이론에 도달한 경로가 깊이의 문명을 대표한다면, 넓이의 문명을 가장 잘 예고하는 분야는 생물학일 수 있다. 우리가 쌓아 온 모든 지식과 활용해 온 모든 데이터에도 불구하고, 신약의 안전성과 효능을 알려면 여전히 많은 사람을 대상으로 시험해야 한다. 이제 기계는 생물학적 과정을 시뮬레이션할 수 있어 생물학자들이 실제 실험 대신 컴퓨터상에서 신약을 시험할 수 있다. 하지만 이런 디지털 시뮬레이션은 대규모 임상시험을 대체할 만큼 현실 세계를 충실하게 재현하지는 못한다. 기계가 더 많은 후보 물질을 내놓을수록 실증 검증은 더 큰 병목이 된다.

넓이의 문명에서는 뛰어난 지성만으로 진보를 이루기에 충분하지 않다. 물리적 자원과 그 사용을 관리할 행정 체계에 대한 수요가, 뛰어난 지성이 둘 중 어느 하나를 절약할 수 있는 속도보다 빠르게 늘어난다.

미래의 AI 시스템이 인간의 지능을 훨씬 뛰어넘더라도 우리가 걸어갈 길은 이쪽일 수 있다. 초지능은 어느 오후 한나절에 한 세기 분량의 실험을 설계한 다음, 자연과 기계가 이를 끝마칠 때까지 한 세기를 기다릴 수 있다. 그런 세계에서는 아이디어를 구상하는 일 자체보다, 이를 실행하는 데 필요한 제도적 절차에 지능을 투입하는 편이 더 가치 있어진다.

한 걸음 나아갈 때마다 더 많은 지원 인프라가 필요하다면 그 효과는 누적되어 커질 것이다.

이 경우 상대적으로 생각하는 일은 줄고 만드는 일은 늘어날 것이다. 연구소는 자동화된다. 공장은 늘어난다. 에너지 생산도 증가한다. 이 모든 일을 실현하기 위해 제도적 지능이 주도적인 역할을 한다. 물리적 확장은 지식의 동력이 된다. 문명이 던지는 질문이 답을 얻을 수단의 역량을 넘어섰기에 문명은 뻗어 나간다. 계속 나아가려면 더 많은 물질, 더 많은 에너지, 더 많은 데이터가 필요하다.

다이슨 구는 이런 미래를 극단적으로 보여 주는 사례다. 다이슨 구를 설계하려면 획기적인 돌파구가 필요하지만, 프로젝트의 대부분은 획기적인 사고와는 거리가 멀 것이다. 그 대부분은 천문학적 규모의 건설과 물류 작업일 것이다.

다이슨 구의 청사진을 그리려면 뛰어난 지성이 필요하다. 동시에 이는 역사상 가장 반복적이고 단조로우며 조직적으로 까다로운 프로젝트 중 하나가 될 것이다.

이는 지능의 실패가 아니라 오히려 성공의 결과다. 더 뛰어난 지성은 더 가치 있는 프로젝트를 발견하고, 더 복잡한 프로젝트를 실행하려면 더 많은 물질이 필요하다.

그렇다면 초지능의 진정한 위력은 천재성에 있지 않을지도 모른다. 오히려 기꺼이 행정 체계가 되어, 점점 더 큰 규모로 아이디어를 현실로 만드는 데 필요한 방대한 기술적·제도적 장치를 조율하는 능력에 있을 것이다.

거의 모든 기계 지능은 눈부신 일이 아니라 지루한 일을 하는 데 투입될 것이다.

그때는 물리적 확장의 속도에 자연이 부과하는 한계가 더 큰 진보를 가로막는 병목이 될 수 있다. 별의 에너지를 수확할 장치를 만드는 일은, 아무리 빨리 설계도를 그려도 결국 물질을 다루는 작업이다. 그 너머에는 또 다른 별과 은하가 있으며, 우리가 아는 한 거리는 그 자체로 속도를 제한한다. 어떤 우주선도 빛보다 빨리 이동할 수 없고, 어떤 신호도 빛보다 빨리 돌아올 수 없다. 넓이의 문명은 느린 문명이다. 거대한 변화는 수천 년, 어쩌면 수백만 년의 간격을 두고 찾아올 수 있다. 다음 단계로 나아갈 때마다 더 오랜 시간이 걸린다.

농업혁명과 산업혁명은, 훨씬 느린 속도로 진보하는 훨씬 긴 역사의 숨 가쁜 서막처럼 보일 것이다.

미래의 AI 시스템은 프런티어 통찰을 만들어 내는 일과 그 통찰을 실용적으로 활용하는 데 필요한 자원을 조율하는 일 모두에서 인간을 뛰어넘을 가능성이 충분하다. 하지만 그런 가능성이 인간의 호기심이 지닌 중요성을 줄이지는 않는다.

첫째, 기계가 더 잘하는 것처럼 보이더라도 이해의 지평을 넓혀야 할 우리의 의무는 여전히 남는다. 우주에는 이미 우리보다 훨씬 지혜로워, 우리의 이해를 넘어서는 과학적·도덕적 질문의 답을 아는 지성이 존재할지도 모른다. 그럼에도 우리는 스스로 세상을 이해하려고 노력한다. 다른 지능이 등장한다고 해서, 심지어 우리가 직접 만든 지능이라 해도, 그 사실이 달라지지는 않는다. 인류만이 할 수 있는 기여가 더는 없다는 확신이 들기 전까지, 포기는 우리만이 세상에 더할 수 있는 모든 것을 낭비하는 일이다. 계속 질문하고 답을 구하려 애쓰는 것은 여전히 우리의 의무다.

둘째, 인간은 제도적 지능보다 프런티어 지능에서 비교우위를 가질 수 있다. 이는 우리가 둘 다에서 기계보다 못하더라도 전자에서는 상대적으로 더 나으므로 그쪽에 특화할 수 있다는 뜻이다. 인간은 정형화된 일보다 창의적인 일을 선호한다고 말하지만, 로봇은 그런 선호를 드러내지 않는다.

셋째, 다양성은 우리에게 가치를 준다. 기계가 인간의 사고 대부분을 모방할 수 있더라도, 우리가 얼마간의 고유성을 유지한다면 창의적 다양성을 보탤 수 있다. 기계 지능의 상당 부분은 스스로를 유지하는 체계 안에 머물겠지만, 일부는 우리의 창의적 의도에 따라 활용될 것이다. 전체에서는 극히 작은 몫이지만, 우리의 활동 범위에서는 풍족하고 오늘날 우리가 가진 자원보다도 훨씬 많을 것이다.

독창성은 홀로 존재하지 않는다. 독창성에는 세상이 필요하고, 천재에게는 창의적 비전을 실현해 줄 사람들이 필요하다.

오늘날 인간 지능의 상당 부분은 아이디어를 현실로 만드는, 주목받지 못하는 일에 쓰인다. 기계의 지성도 이와 같은 의존 관계를 물려받을 것이다. 모두가 빛나는 선구자가 될 수는 없다. 행정을 맡는 관료도 되어야 한다.

앞으로 펼쳐질 우리의 이야기와 진보의 속도는 위대한 지성이 세상의 자원을 더 많이 필요로 할지, 아니면 더 적은 자원으로 더 많은 일을 해낼지에 달려 있다.