AI는 사회의 많은 측면을 크게 개선할 잠재력이 있습니다.
이 기술은 과거의 다른 기술들과 마찬가지로 사람들에게 더 큰 능력과 주도권을 줄 것입니다. 사람들이 AI로 할 수 있게 될 일은 증기기관이나 전기로 할 수 있었던 일을 훨씬 뛰어넘을 것입니다.
우리는 지금은 상상하기 어려울 정도로 광범위한 번영이 펼쳐지고, 개인의 잠재력과 주도성, 성취감이 크게 높아지는 세상을 그립니다. 우리가 공상과학에서만 꿈꾸도록 허락해 온 많은 것들이 현실이 될 수 있고, 대부분의 사람들은 오늘날 대다수가 누릴 수 있는 것보다 더 의미 있는 삶을 살 수 있을 것입니다.
하지만 이런 결과가 보장된 것은 아닙니다. 미래의 권력은 초지능을 사용하고 통제하는 소수의 기업에 집중될 수도 있고, 사람들에게 분산된 방식으로 주어질 수도 있습니다. 우리는 후자가 훨씬 더 낫다고 믿으며, 가능한 한 많은 사람들의 손에 진정한 범용 AI를 쥐여 주는 것이 우리의 목표입니다. 현재와 마찬가지로 미래도 전적으로 나쁘거나 전적으로 좋기만 하지는 않겠지만, 우리가 지금 내리는 결정은 좋은 결과를 극대화하는 데 도움이 될 수 있습니다.
우리의 사명은 AGI가 모든 인류에게 혜택을 주도록 하는 것입니다. 아래는 우리의 일을 이끄는 원칙들입니다.
1. 민주화. 우리는 이 기술이 소수의 손에 권력을 집중시킬 가능성에 맞설 것입니다.
이는 모두에게 AI 접근권을 제공하는 것에 더해, AI에 관한 핵심 결정이 AI 연구소들만이 아니라 민주적 절차와 평등주의 원칙에 따라 이루어지도록 해야 한다는 뜻입니다.
2. 역량 강화. 우리는 AI가 모든 사람이 자신의 목표를 이루고, 더 많이 배우고, 더 행복하고 더 큰 성취감을 느끼며, 자신의 꿈을 추구하도록 힘을 실어줄 수 있다고 믿습니다. 그리고 사회 전체도 그로부터 혜택을 받을 것이라고 믿습니다.
이를 실현하려면 우리 앞에 놓인 거대한 잠재력을 사람들이 탐색할 수 있게 해야 하며, 이를 가능하게 하는 제품을 만들어야 합니다. 사용자는 우리의 서비스를 통해 점점 더 가치 있는 작업을 안정적으로 수행할 수 있어야 합니다.
세상은 다양하고 사람마다 필요가 다릅니다. 우리는 사용자에게 필요한 자율성을 제공하고, 합리적으로 가능한 한 최대한 허용하고자 합니다.
우리는 사용자가 우리의 서비스를 사용하는 방식에 매우 폭넓은 재량을 부여하고 싶고, AI가 전반적으로 엄청난 혜택을 가져올 것이라고 굳게 믿지만, 피해를 최소화하는 방식으로 이를 구축하고 배포할 책임도 있습니다. 여기에는 물론 재앙적 피해를 막는 것이 포함되지만, 국지적 피해를 최소화하고 사회를 잠식할 수 있는 부정적 효과를 피하는 것도 포함됩니다. 이는 불확실성 앞에서는 신중한 쪽으로 판단하고, 더 많은 증거가 쌓이면 제약을 완화한다는 뜻입니다.
3. 보편적 번영. 우리는 모두가 훌륭한 삶을 누릴 수 있는 미래를 원합니다.
강력한 연산 능력을 갖춘 사용하기 쉬운 AI 시스템을 모두의 손에 쥐여 줌으로써, 사람들은 새로운 방식으로 가치를 창출하고 모두의 삶의 질을 대폭 향상시킬 것이라고 믿습니다. 특히 새로운 과학적 발견에서 그러할 것입니다.
번영이 완전히 실현되고 널리 공유되려면, 우리는 1) 우리 앞에 놓인 가치 창출에 모두가 참여할 수 있도록 정부가 새로운 경제 모델을 검토해야 할 수 있고 2) 막대한 규모의 AI 인프라를 구축하고 AI 인프라 비용을 크게 낮출 새로운 기술을 개발해야 한다고 믿습니다.
겉보기에 이상해 보일 수 있는 우리가 하는 많은 일들—매출이 아직 비교적 작음에도 막대한 연산 자원을 구매하고, 비용을 낮추고 기술을 더 쉽게 사용할 수 있도록 수직 계열화를 추진하고, 전 세계에 데이터센터를 구축하려고 밀어붙이는 일 등—은 모두 보편적 번영의 미래에 대한 우리의 근본적 믿음에서 비롯됩니다.
4. 회복탄력성. AI는 새로운 위험을 가져올 것이며, 우리는 이를 해결하기 위해 다른 기업, 생태계, 정부, 그리고 사회와 협력할 것입니다. 우리는 이 일을 지원하기 위해 재단의 자원을 상당 부분 활용할 것입니다.
어떤 AI 연구소도 혼자서는 좋은 미래를 보장할 수 없습니다. 분명한 예로, 새로운 병원체를 더 쉽게 만들어낼 수 있게 하는 매우 강력한 모델이 등장할 수 있으며, 이에 대응하려면 특정 병원체에 한정되지 않는 대응 수단으로 사회 전체가 함께 방어해야 합니다. 또 다른 예로, 모델의 사이버보안 역량이 높아질수록 우리는 이 모델들을 신속히 활용해 오픈소스 소프트웨어와 핵심 인프라의 보안을 강화해야 하며, 동시에 모두가 더 안전한 소프트웨어를 만들 수 있도록 모델을 훈련해야 합니다.
이는 우리가 오랫동안 유지해 온 점진적 배포 전략의 확장입니다. 우리는 사회가 AI 역량의 각 연속적인 수준에 대응하고, 이를 이해하고, 통합하고, 앞으로 나아갈 최선의 길을 함께 찾아야 한다고 믿습니다. 이는 진공 상태에서 할 수 있는 일이 아닙니다. 사회와 기술은 함께 진화하며, 그러려면 시간이 필요합니다.
이것만이 우리의 유일한 안전 전략이라는 뜻은 아닙니다. 우리는 또한 안전한 시스템을 만들어야 하며, 기술적 정렬에 관한 뛰어난 연구도 계속해야 합니다.
우리는 앞으로 우리의 일을 더 진행하기 전에 정렬, 안전, 또는 사회적 문제와 관련된 심각한 문제들을 충분히 해결했는지 확인하기 위해 정부, 국제기구, 그리고 다른 AGI 노력들과 협력해야 하는 시기가 있을 것이라 예상합니다.
5. 적응력. 우리는 매우 예측 불가능한 미래의 도전에 대응하는 유일한 방법은 더 많이 배워 가면서 우리의 입장을 업데이트할 준비를 갖추는 것이라고 계속 믿고 있습니다. 또한 OpenAI가 몇 년 전보다 훨씬 더 큰 영향력을 가진 존재가 되었다는 점도 인정하며, 우리의 운영 원칙이 언제, 어떻게, 왜 바뀌는지 투명하게 밝힐 것입니다. 구체적인 예로, 보편적 번영이 계속해서 매우 중요할 것이라는 점에는 상당한 확신이 있지만, 미래의 어떤 시기에는 더 큰 회복탄력성을 위해 일부 역량 강화를 양보해야 할 수도 있다고 생각합니다.
AI 발전은 많은 놀라움을 가져왔고, 앞으로도 더 많은 일이 남아 있습니다. 기술이 발전할수록 그로부터 나타나는 창발적 행동은 점점 더 예측하기 어려워질 것입니다. 우리는 역량을 신중히 발전시키고, 시스템을 점진적으로 배포하며, 그것들이 세계와 상호작용하는 과정에서 배우는 방식으로 그 불확실성을 받아들입니다.
GPT‑2의 가중치를 공개하는 것을 두고, 그것이 사회에 어떤 영향을 미칠지 확신할 수 없어 우리가 불안해하던 때가 그리 오래전 일도 아닙니다. 돌아보면 분명 그 걱정은 기우였지만, 그 경험을 통해 우리는 점진적 배포 전략을 발견했고, 이는 우리가 찾아낸 것들 가운데 가장 중요한 것 중 하나가 되었습니다.
__
기술이 계속 발전함에 따라 우리는 매우 큰 영향을 미칠 국면으로 들어가고 있습니다. 우리의 모든 결정을 비판하는 것은 지극히 정당합니다. 우리가 하고 있는 일의 무게를 생각하면, 우리는 엄청난 수준의 검증을 받아 마땅합니다. 우리는 모든 것을 다 맞히지는 못하겠지만, 빠르게 배우고 방향을 수정할 것입니다.
우리는 미래를 과거보다 더 나은 방향으로 만드는 데 우리의 몫을 다하겠다고 약속합니다. 이렇게 중요한 일을 맡을 수 있어 감사하게 생각합니다.
