더 나은 AI 발전을 위한 제언

AI가 사실상 튜링 테스트를 넘어선 순간이 찾아왔지만 세상은 아무 일도 없던 듯 평온하게 흘러갔습니다. 이는 수십 년 동안 많은 사람들이 중요하게 여겨온 기준이었습니다. 오랫동안 불가능하다고 생각했던 목표가 어느 순간 갑자기 가까워지더니 금세 현실이 되어버린 것이죠. 컴퓨터가 이제 사람처럼 대화하고 복잡한 문제를 사고할 수 있게 되었지만 세상은 크게 달라지지 않았고 그저 훌륭한 새로운 제품들이 등장했을 뿐이었습니다.

대부분의 사람들은 여전히 AI를 챗봇이나 향상된 검색 기술 정도로 생각하지만, 오늘날 우리는 가장 뛰어난 인간조차 능가하는 수준으로 복잡한 지적 경쟁을 수행할 수 있는 AI 시스템을 가지고 있습니다. 물론 AI 시스템은 여전히 불안정하고 명백한 약점을 지니고 있지만 어려운 문제를 해결하는 능력을 보면 인간 연구자에 80% 정도는 가까워진 듯합니다. 현재 사람들이 AI를 사용하는 방식과 실제 AI가 할 수 있는 일 사이의 격차는 매우 큽니다.

AI가 스스로 혹은 인간의 능력을 확장하는 방식으로 새로운 지식을 발견하게 된다면 전 세계에 커다란 영향을 미치게 될 것입니다.

소프트웨어 엔지니어링 분야를 예로 들면, AI는 불과 몇 년 만에 사람이 몇 초 만에 할 수 있는 작업에서 사람이 한 시간 이상 소요해야 하는 작업까지 처리할 수 있는 수준으로 발전했습니다. 사람에게 며칠이나 몇 주가 필요한 일을 AI가 빠르게 수행할 날도 머지않았다고 봅니다. 하지만 수백 년이 걸릴 일을 해낼 수 있는 시스템에 대해서는 아직 어떻게 생각해야 할지 알 수 없습니다.

한편 AI의 발전과 함께 지능 단위당 비용은 급격히 낮아져 최근 몇 년 동안 매년 약 40배씩 감소하는 결과를 보였습니다. 

2026년에는 AI가 아주 작은 발견을 스스로 해낼 수 있을 것으로 예상되지만, 2028년 이후에는 보다 의미 있는 발견을 할 수 있는 시스템이 등장하게 될 것입니다. 물론 예측이 틀릴 수도 있지만 현재의 연구 진전으로 미루어볼 때 그 방향으로 나아가고 있음은 분명합니다.

AI 발전은 언제나 예기치 않은 방식으로 전개되어 왔고 사회는 그 기술과 함께 진화할 방법을 찾아왔습니다. 앞으로 몇 년 안에 AI의 역량이 빠르게 향상되겠지만 우리의 일상은 생각보다 크게 달라지지 않을 가능성이 큽니다. 더 나은 도구가 생기더라도 인간의 삶은 강한 관성에 따라 움직이기 때문에 쉽게 변하지는 않을 것입니다.

우리는 기술의 발전을 통해 더 많은 사람이 지금보다 충만하고 의미 있는 삶을 살아갈 수 있는 새로운 방식이 나타나길 기대합니다. 물론 일의 형태는 달라지고 경제 전환 과정에서 여러 어려움이 따를 수 있으며 근본적인 사회경제적 계약의 구조가 바뀔 가능성도 있습니다. 그러나 풍요가 널리 확산된 세상에서는 사람들의 삶이 지금보다 훨씬 나아질 것이라 믿습니다.

AI 시스템은 개인의 건강 이해를 돕고 재료과학, 신약 개발, 기후 모델링 등 다양한 분야의 발전을 가속화하며 전 세계 학생들에게 맞춤형 교육 기회를 넓혀갈 것입니다. 이러한 구체적인 혜택은 AI가 삶을 단순히 효율적으로 만드는 기술을 넘어 더 나은 세상을 만들어가는 힘이 될 수 있음을 보여줍니다.

OpenAI는 안전을 무엇보다 중요하게 생각하며⁠, 이를 AI의 부정적 영향을 최소화하고 긍정적 변화를 이끌어내기 위한 실천으로 보고 있습니다. AI의 잠재적 이점은 매우 크지만 초지능 시스템의 위험은 치명적일 수 있기에 실증적⁠ 연구⁠를 통해 안전성⁠과 정렬⁠을 심층적으로 탐구하는 것이 중요하다고 믿습니다. 이는 AI가 자기 개선 능력을 갖춘 단계에 다가갈수록 개발의 속도와 방향을 신중히 결정하는 데 전 세계가 참고할 중요한 기준이 될 것입니다. 물론 초지능 시스템을 안정적으로 정렬하고 제어할 수 없는 상태에서는 그 어떤 시스템도 배포되어서는 안 되며, 이를 위해서는 훨씬 더 많은 기술적 노력이 필요합니다. 

AI와 함께 긍정적인 미래를 만들어가는 데 도움이 될 수 있다고 생각하는 몇 가지 방향은 다음과 같습니다.

AI 개발을 선도하는 연구소들은 공통의 안전 원칙을 수립하고. 안전 연구⁠, 새로운 위험 요인에 대한 통찰, 경쟁 과열을 완화할 수 있는 방안 등을 서로 공유해야 한다고 생각합니다. AI 제어 평가와 관련된 표준에 합의하는 방안도 검토해볼 수 있습니다.

과거 사회도 건축 기준과 화재 안전 기준을 마련하는 유사한 과정을 거쳤고, 이를 통해 수많은 생명을 지킬 수 있었습니다.

AI를 바라보는 시각은 크게 두 가지로 나눌 수 있습니다. 하나는 AI를 '일반적인 기술'로 보는 관점으로, 인쇄기나 인터넷처럼 시간이 지나면서 사회가 자연스럽게 적응할 것이며 기존의 공공정책 수단만으로도 충분히 대응할 수 있다고 보는 입장입니다. 이 관점에서는 혁신을 촉진하고 AI와의 대화에서 개인 정보 보호를 강화하며, 악의적 행위자가 강력한 시스템을 오용하지 않도록 연방 정부와 협력해 방어 체계를 구축하는 노력이 필요합니다.

현재 수준의 AI는 대체로 이 범주에 속한다고 봅니다. 이러한 기술은 사회 전반으로 폭넓게 확산되어야 하기에 대부분의 개발자와 오픈소스 모델, 그리고 현재 기술을 활용하는 서비스들은 기존 규제 수준을 넘어서는 과도한 부담을 지지 않아야 합니다. 주마다 상이한 규제가 적용되는 비효율적인 체계 역시 피해야 합니다.

또 다른 관점은 초지능이 인류 역사상 유례없는 속도로 발전하고 확산되고 있다고 보는 입장입니다. 이 관점에서는 앞서 언급한 조치들에 더해 훨씬 더 혁신적이고 유연한 접근이 필요하다고 봅니다. 사회가 기존 방식으로 적응하기 어려운 기술이라면 전통적인 규제만으로는 충분히 대응하기 어렵기 때문입니다. 따라서 여러 나라의 행정부와 관련 기관(예: 다양한 안전 연구 기관)이 긴밀히 협력하고, AI의 생물테러 악용 방지와 탐지 및 예방, 자기 개선형 AI의 파급 효과 등에 대한 국제 공조를 강화해야 합니다.

가장 중요한 과제는 공공기관에 대한 책임성을 확보하는 것이지만, 그 방식은 과거와는 달라질 수 있습니다.

어느 관점에서 보더라도 AI 회복력 생태계의 구축은 필수적입니다. 인터넷이 처음 등장했을 때 사회는 특정 정책이나 기업에 의존해 신기술을 보호하는 대신 사이버 보안이라는 새로운 분야를 만들어냈습니다. 소프트웨어, 암호화 프로토콜, 표준, 모니터링 시스템, 비상 대응팀 등으로 구성된 이 생태계는 모든 위험을 완전히 제거하지는 못했지만 사회가 감당할 수 있는 수준으로 위험을 낮추는 데 기여했습니다. 그 결과 사람들은 디지털 인프라를 신뢰하게 되었고 인터넷이라는 기반 위에 새로운 삶과 경제를 구축할 수 있었습니다. AI에도 이와 같은 체계가 필요하며, 각국 정부는 이를 촉진하는 산업 정책을 마련하고 추진하는 데 중요한 역할을 맡아야 합니다.

AI가 실제로 세계에 어떤 영향을 미치고 있는지를 구체적으로 이해하는 것은 이 기술을 긍정적인 방향으로 이끄는 데 도움이 됩니다. 미래를 예측하는 일은 쉽지 않습니다. 일례로 AI가 일자리에 미치는 영향은 지금까지도 정확히 예측하기가 어렵습니다. 현재 AI가 가진 강점과 약점이 인간이 가진 특성과 매우 다르기 때문입니다. 따라서 실제 변화의 흐름을 꾸준히 관찰하고 측정하는 일은 중요한 통찰을 얻는 데 큰 도움이 될 것입니다.

OpenAI는 사회가 정의한 넓은 범위 내에서 성인이 자신의 필요와 상황에 맞게 AI를 활용할 수 있어야 한다고 믿습니다. 앞으로 몇 년 안에 고급 AI에 대한 접근은 전기, 깨끗한 물, 식량처럼 기본적인 사회 인프라의 한 부분으로 자리 잡을 것으로 예상됩니다. 궁극적으로 사회는 이러한 도구들이 널리 보급될 수 있도록 지원해야 하며, 그 방향성은 사람들이 스스로의 목표를 달성할 수 있도록 돕는 데 맞춰져야 합니다.