OpenAI의 사명은 전 인류에게 AGI의 혜택을 제공하는 것이며, 이를 실현하기 위해서는 전 세계 각지의 사람들을 만나야 합니다.
AI는 전기와 동등한 수준의 핵심 국가 인프라로 점점 더 인식되고 있습니다. 전 세계의 정부와 기관들은 시민과 경제가 AI 시대의 혜택을 누릴 수 있도록 가장 역량 있는 시스템에 대한 접근을 확보하고자 합니다.
AI가 이러한 약속을 실현하려면 지역적 맥락에 부합해야 합니다. 이는 지역 언어와 억양을 사용하고, 현지 법률을 존중하며, 문화적 규범과 가치를 반영하는 것을 의미합니다.
그러나 최첨단 AI 모델을 자체적으로 개발할 수 있는 국가는 소수에 불과합니다. 대부분의 경우 과제는 모델을 처음부터 만드는 것이 아니라, 이용 가능한 최상의 AI를 각자의 특정한 맥락에 맞게 어떻게 적용하느냐에 있습니다. 이는 전 세계 정부들로부터 일관되게 듣는 이야기입니다. 단순히 자국 언어로 번역된 시스템이 아니라, OpenAI와 함께 구축할 수 있는 주권적 AI를 원하고 있습니다.
우리는 OpenAI for Countries 이니셔티브를 통해, 로컬라이제이션이 실제로 어떻게 작동할 수 있는지 탐구해 왔습니다. 목표는 전 세계적으로 공유되는 최첨단 모델의 이점을 유지하면서도, 로컬라이제이션된 AI 시스템을 가능하게 하는 것입니다.
현재 ChatGPT Edu의 일환으로 에스토니아 학생들을 대상으로, 현지 교육과정과 교육적 접근 방식을 반영한 ChatGPT 로컬라이제이션 버전을 시범 운영하고 있습니다. 또한 다른 국가들과의 로컬라이제이션 시범 프로젝트도 검토하고 있습니다. AI의 연구 및 배포 방식에 대한 투명성을 보장하겠다는 약속의 일환으로, 로컬라이제이션이 어떻게 작동하는지에 대한 더 많은 세부 사항을 공유하고자 합니다.
모델 사양은 OpenAI의 모델이 어떻게 작동하도록 설계되었는지를 규정한 공개 문서입니다. OpenAI는 모델이 해당 사양을 따르도록 학습시키며, 전 세계 사람들로부터 팀이 듣는 의견을 반영하는 OpenAI 전사적 협업 프로세스를 통해 이를 지속적으로 개선하고 있습니다. 이 사양은 ChatGPT부터 개발자들이 플랫폼에서 구축하는 경험, 그리고 기타 다양한 맥락에 이르기까지 모델이 사용되는 전반적인 방식을 포괄합니다. 모델이 배포되는 모든 곳에 적용되는 이러한 규칙은 변경할 수 있는 것과 없는 것의 명확한 경계를 정의하며, 변경 사항에 대해 투명하게 공개하겠다는 OpenAI의 약속을 담고 있습니다.
모델 사양에는 OpenAI for Countries 프로그램을 포함한 모든 배포에 적용되는 “레드라인 원칙(새 창에서 열기)"이 포함되어 있습니다. 이 원칙들에서 OpenAI는 “인간의 안전과 인권은 OpenAI 사명의 최우선 요소”임을 강조하며, 다음 사항을 명확히 합니다.
- OpenAI는 모델이 폭력 행위, 대량 살상 무기, 테러리즘, 박해 또는 대규모 감시와 같은 심각한 피해를 유발하도록 허용하지 않습니다.
- OpenAI는 표적화되거나 대규모의 배제, 조작, 인간의 자율성을 훼손하거나 시민적 과정에 대한 참여를 약화시키는 용도로 모델이 사용되는 것을 허용하지 않습니다.
- OpenAI는 개인이 AI와 상호작용하는 과정에서의 프라이버시를 보호하는 데 전념하고 있습니다.
OpenAI가 ChatGPT와 같이 소비자에게 직접 제공하는 퍼스트파티 경험을 통해서도 다음을 약속합니다.
- 사람들은 모델로부터 신뢰할 수 있는 안전 관련 핵심 정보에 쉽게 접근할 수 있어야 합니다.
- 맞춤화, 개인화, 로컬라이제이션은 모델 사양 전반에 적용되는 구속력 있는 규칙을 무효화하지 않습니다. 여기에는 객관적 관점(새 창에서 열기) 원칙이 포함되며, 이는 로컬라이제이션이 언어 또는 톤에는 영향을 줄 수 있으나 제시되는 사실의 내용이나 균형을 변경할 수는 없음을 의미합니다.
- 사람들은 모델의 행동을 좌우하는 중요한 규칙과 그 이유에 대해 투명하게 알 수 있어야 합니다. 예를 들어 법적 요구로 인해 생략된 콘텐츠는 각 모델 응답에서 사용자에게 명확히 표시되며, 삭제된 정보의 유형과 삭제 사유가 명시되되, 삭제된 내용 자체는 공개되지 않습니다. 마찬가지로 추가된 정보 역시 투명하게 식별됩니다.
OpenAI는 OpenAI for Countries를 통해 로컬라이제이션된 주권 AI를 탐구하는 과정에서, 배운 내용을 지속적으로 공유하고 접근 방식을 투명하게 발전시켜 나가겠다는 약속을 지킵니다.
