몇 세대에 한 번씩, 새로운 기술은 모든 것을 바꿉니다.
1920년대 미국의 어느 시골 마을에 전기가 들어오는 모습을 떠올려 보세요. 전선이 들어오기 전의 일상은 물을 길어 나르고, 손으로 빨래를 하고, 얼음으로 음식을 보관하고, 해가 지면 하루 일과를 마무리해야 하는 물리적 한계에 묶여 있었습니다. 전기가 하루아침에 모든 가정을 바꿔 놓은 것은 아니었고, 그 혜택이 모두에게 고르게 돌아간 것도 아니었습니다. 하지만 전기를 쓸 수 있는 곳이 늘어나면서 평범한 일상은 달라졌습니다. 밤에도 불을 밝힐 수 있게 되자 하루가 길어졌습니다. 전기 펌프와 가전제품, 냉장 기술은 가장 고된 일상 노동의 일부를 덜어 주었습니다. 라디오는 수백 마일 떨어진 곳의 뉴스와 음악, 사람들과의 연결을 가정과 지역 공동체 공간으로 가져왔습니다.
전기가 처음에 약속한 것은 일상의 불편을 덜어 주는 실용적인 변화였지만, 더 큰 영향은 더 많은 사람이 전기를 사용하게 되면서 열린 새로운 가능성에서 나왔습니다. 시간이 지나며 수많은 가능성이 생겨났고, 기계와 컴퓨터는 의학, 공학을 비롯한 여러 분야의 발전을 크게 앞당겼습니다. 20세기 말에는 평균 수명이 20년 넘게 늘었고, 물가를 반영한 중위소득은 대략 세 배가 되었습니다. 이러한 성과는 의료, 위생, 생활 수준의 발전에 상당 부분 힘입은 것이었으며, 그중 많은 변화는 전기의 광범위한 보급과 관련 기술 발전을 통해 가능해지거나 더 빨라졌습니다.
이제 AI에서도 같은 일이 벌어지고 있습니다. AI는 머지않아 놀라운 일을 해낼 수 있게 될 것입니다. 하지만 중요한 것은 기술 그 자체가 아니라 사람들이 그 기술로 무엇을 할 수 있느냐입니다. AI는 의료비 청구서를 이해하고, 새로운 기술을 배우고, 작은 사업을 시작하고, 노부모를 돌보고, 법률 또는 금융 관련 결정을 이해하고, 아이디어를 현실로 만들고, 과학적 발견을 이루는 데 도움을 줄 수 있습니다.
밤에 불을 밝힐 수 있다는 놀라움은 아마 금세 익숙해졌겠지만, 사람들이 그 빛으로 해낸 일의 의미는 사라지지 않았습니다. 그리고 기술은 오랜 시간 더 나은 삶과 경제적 번영을 가능하게 해 온 중요한 수단이었기 때문에 AI 역시 누구나 필요한 만큼, 필요한 곳에서, 필요한 방식으로 사용할 수 있어야 한다고 생각합니다.
그런 미래는 저절로 오지 않습니다. 변화를 가져오는 기술은 힘을 한곳에 집중시킬 수도 있고, 더 넓게 나눌 수도 있습니다. 소수의 삶만 더 편하게 만들 수도 있고, 많은 사람에게 더 많은 기회를 열어 줄 수도 있습니다. OpenAI의 접근 방식은 AI가 사람을 위해 작동해야 한다는 믿음에 뿌리를 두고 있습니다. 사람들이 각자의 목표를 추구하도록 돕고, 더 많은 일을 해낼 수 있게 하며, 이 기술의 혜택을 최대한 널리 나누는 것입니다.
OpenAI의 첫 번째 약속은 인류를 위한 AI를 개발하는 것입니다. 이는 소수의 기업, 정부 또는 개인에게 힘이 집중되는 것이 아니라 더 많은 사람에게 힘을 실어 주고자 한다는 뜻입니다. 더 안전한 미래는 힘이 널리 분산되어 세계의 더 많은 사람들이 회복탄력성 생태계를 함께 구축하는 데 참여할 수 있는 미래라고 믿습니다.*
OpenAI는 AI가 인간의 역량과 번영을 확대할 수 있다고 믿기 때문에 AI의 미래를 낙관합니다. 하지만 위험도 냉정하게 바라보고 있습니다. 강력한 시스템은 안전해야 하고, 인간의 의도에 부합해야 하며, 인간의 통제 아래 있어야 합니다. OpenAI의 사명은 AGI가 인류 모두에게 혜택을 주도록 하는 것입니다. 이는 무엇이 중요한지 판단하는 인간의 역할을 대체하는 시스템이 아니라, 사람들이 스스로 선택한 일을 더 많이 해낼 수 있도록 돕는 시스템을 만든다는 뜻입니다.
모든 것을 완전히 자동화하는 것은 우리가 원하는 미래가 아닙니다. 그런 미래는 사람에게 충족감을 주지 못하고 위험하기도 합니다. AI는 사람들이 자신의 목표를 추구하도록 도와야 하며, 그 목표와 동떨어진 존재가 되어서는 안 됩니다. AI 시스템의 역량이 커질수록 인간의 역할은 더 중요해집니다. 방향을 정하고, 무엇을 선택하고 포기할지 판단하며, 스스로의 판단을 적용하고, 가치관과 감각, 세심함, 책임감을 일에 반영하는 역할입니다.
장기적으로 인간에게 중요한 역할은 무엇을 할 가치가 있는지 판단하는 일이 될 것입니다.
우리는 AI가 AI 연구를 수행하는 일이 앞으로 몇 년 안에 발전 속도를 좌우하는 결정적 요인이 될 것이라고 믿습니다. 이것이 중요한 이유는 정렬 자체가 어려운 연구 문제이기 때문입니다. 빠르고 깊이 있는 진전을 이루려면 OpenAI 연구자들에게 아이디어를 테스트하고, 실수를 찾아내고, 대안을 탐색하며, 함께 개선을 거듭할 수 있는 AI 시스템이 필요합니다.
하지만 기술 발전이 빨라질수록 인간의 판단과 사회적 조율은 오히려 더 중요해집니다. 미래는 가장 뛰어난 시스템을 개발하는 기업만이 아니라 사람, 제도, 사회가 함께 만들어 가야 합니다.
프런티어 AI 개발이 계속되는 만큼 국가 차원과 국제 차원의 조율은 더욱 중요해질 것으로 예상합니다. OpenAI는 재앙적 위험을 줄이기 위해 주요 AI 개발 활동을 조율하는 국제기구가 궁극적으로 필요하다고 오래전부터 믿어 왔습니다. 협력과 공동 안전 기준은 앞으로 나아가기 위한 중요한 요소입니다. 특히 상업적 경쟁과 국가 간 경쟁을 둘러싼 유인에서 벗어나기 어렵기 때문입니다. 이러한 기구의 목표 중 하나는 사회적 회복력과 안전, 정렬이 기술 발전 속도를 따라갈 수 있도록, 필요할 때 프런티어 AI 개발을 늦추는 것까지 포함해 전 세계가 조율된 행동에 나설 수 있게 하는 것이어야 합니다.
자동화된 AI 연구자 구축—조종 가능하고, 책임성을 갖추고, 사람들과 연결된 상태를 유지하면서 연구 과정 자체를 가속화하고 점점 더 자동화할 수 있는 AI 시스템입니다. OpenAI 내부에서는 2028년 3월까지 연구의 상당 부분이 자체 연구자들과 협력하는 AI 시스템에 의해 수행될 수 있다고 보고 있습니다. 정렬에서 충분한 진전을 이루려면 AI가 우리와 함께 연구를 반복적으로 개선해 나가야 한다고 믿습니다. 이는 우리가 AGI 이후의 세계로 전환하는 과정을 헤쳐 나가고, 미래로 향하는 길을 함께 결정하는 데 도움이 될 것입니다.
경제 가속화—과학적 진보, 생산성, 경제 성장을 가속하는 동시에 그 성과가 널리 공유되도록 노력합니다. 모든 사람은 AI가 만들어 내는 번영에서 의미 있는 몫을 얻을 기회를 가져야 합니다.
지구상의 모든 사람에게 개인용 AGI 제공—인류의 가장 변혁적인 기술 중 하나가 주는 혜택을 각자가 선택한 방식으로 누릴 수 있도록 합니다.
이를 실현하기 위해 OpenAI는 세 번째 단계로 나아가고 있습니다.
OpenAI의 첫 번째 단계는 AGI에 대한 연구를 수행하는 것이었습니다. 두 번째 단계는 이러한 연구가 현실 세계와 관련성을 갖게 되고 OpenAI가 제품 회사가 되었을 때 시작되었습니다. 우리는 시스템을 배포하고, 사람들이 시스템을 사용하는 방식에서 배우며, 우리의 사명에 부합하면서도 안전한 AGI를 향해 계속 나아갔습니다.
이제 OpenAI는 세 번째 단계로 접어들고 있습니다. 경제는 AI를 중심으로 재편되기 시작했습니다. 현재 핵심 과제는 고도화된 AI를 풍부하고 합리적인 비용으로 제공하면서도 안전하고 유용하며, 모든 개인과 조직이 쉽게 활용하고 혜택을 누릴 수 있도록 만드는 것입니다. 최첨단 역량을 확보하는 것은 전체 과제의 일부일 뿐입니다. 더 큰 과제는 그 역량을 사람들이 실제로 활용해 더 나은 성과를 내고 성장할 수 있는 도구로 바꾸는 것입니다.
무엇보다도 우리는 권력이 널리 분산될 때 더 나은 미래로 이어질 것이라고 믿습니다. 인류의 역사는 힘이 한곳에 집중될수록 취약성이 커지고, 널리 공유될수록 사회가 더 회복력 있고 유연하며 자유로워진다는 것을 분명히 보여주고 있습니다.
그래서 접근성이 중요합니다. 안전, 개인정보 보호, 경제성, 개방형 생태계, 공적 감독이 중요한 이유도 여기에 있습니다.
좋은 AI의 미래는 소수의 기관이 대부분의 역량과 이익을 통제하는 모습이어서는 안 됩니다. 많은 사람과 기업, 커뮤니티, 국가가 직접 만들고 혜택을 누리며 영향력을 가질 수 있는 미래여야 합니다. 우리는 이 변화가 모두의 것이어야 한다고 믿습니다.
이를 제대로 해낸다면 AI는 더 많은 사람에게 생산성, 창의성, 과학적 진보, 경제적 기회를 확대하는 기반이 될 수 있습니다. 그리고 우리는 AGI가 인류 모두에게 혜택을 주도록 한다는 사명을 달성하게 될 것입니다.
*AI 회복탄력성이란 AI로 인한 혼란을 예측하고, 견디고, 적응하고, 빠르게 회복하기 위해 사회가 마련할 수 있는 조직, 시스템, 개인의 총체를 의미합니다. 예를 들면 자동차는 분명 사회를 변화시킨 혁신이었으나 안전벨트, 교통법규, 운전면허, 충돌 시험, 도로 인프라 같은 시스템을 구축한 뒤에야 비로소 모두에게 이로운 기술이 될 수 있었습니다. 목표는 운전을 막는 것이 아니라, 강력한 기술이 널리 사용되어도 감당할 수 있을 만큼 충분한 회복탄력성을 갖추는 것이었습니다.
