OpenAI의 공공 정책 의제

OpenAI의 사명은 인공 일반 지능(AGI)이 모든 인류에게 도움이 되도록 하는 것입니다. OpenAI의 활동은 AI를 개발하는 방식과 공공 정책에 참여하는 방식을 규정하는 다섯 가지 핵심 원칙⁠에 따라 이루어집니다. 

1. 민주화. OpenAI는 이 기술이 소수에게 권력을 집중시키는 방향으로 사용될 가능성에 맞설 것입니다.
2. 역량 강화. OpenAI는 AI가 모든 사람이 목표를 달성하고, 더 많이 배우고, 더 행복하고 만족스러운 삶을 살며, 자신의 꿈을 추구할 수 있도록 돕고, 이를 통해 사회 전체도 혜택을 얻을 수 있다고 믿습니다.
3. 보편적 번영. OpenAI는 모든 사람이 풍요롭고 만족스러운 삶을 누릴 수 있는 미래를 추구합니다.
4. 회복탄력성. AI는 새로운 리스크를 가져올 것이며, OpenAI는 이를 해결하기 위해 다른 기업, 에코시스템, 정부 및 사회와 협력할 것입니다. 
5. 적응력. OpenAI는 매우 예측하기 어려운 미래의 과제에 대응하는 가장 좋은 방법은 새로운 사실을 배우고 이해가 깊어짐에 따라 우리의 입장도 기꺼이 조정해 나가는 것이라고 믿습니다. 

OpenAI는 AI가 사람들이 일하고, 배우고, 창작하고, 사회에 참여하는 방식을 변화시킬 잠재력이 있다고 믿습니다. 또한 민주주의 체제가 기회에 대한 접근을 확대하고, 리스크를 완화하며, 사람들이 자신이 원하는 AI 미래를 만들어 가는 데 실질적인 주도권을 가질 수 있도록 하는 데 중요한 역할을 할 것이라고 믿습니다. 이러한 이유로 OpenAI는 누구나 기술을 자유롭고 안전하게 이용할 수 있도록 노력하고 있습니다. 

OpenAI의 사용자층은 이러한 약속을 보여줍니다⁠. OpenAI의 툴을 사용하는 여성과 남성의 수는 비슷하며, 30세 미만 사용자와 30세 초과 사용자 수 모두 다른 어떤 AI 플랫폼보다 많습니다. 또한 연소득이 $100,000 미만인 사용자가 $100,000 이상인 사용자보다 많아, 전 세계 노동 인구의 구성과 유사한 모습을 보이고 있습니다.

이러한 이유로 OpenAI는 전 세계 정부 및 시민사회와 협력하고 있습니다. 이를 통해 정책 입안자들이 OpenAI의 기술과 그 영향을 이해하도록 돕고, 정부가 시민에게 더 나은 서비스를 제공할 수 있도록 지원하며, 사람들이 민주주의 제도에 참여하고 그 혜택을 누릴 수 있는 기회를 확대하고, AGI가 모든 인류에게 도움이 되도록 한다는 OpenAI의 사명을 실현하는 정책 수립에 기여하고자 합니다.

다음 우선순위는 OpenAI가 사명⁠과 원칙⁠을 공공 정책에 어떻게 반영하는지를 보여줍니다. OpenAI는 정부와 사회가 AI가 만들어내는 기회와 과제에 대응하고, 리스크를 완화하며, 기회에 대한 접근을 확대하고, 사람들이 AI 경제에 의미 있게 참여하고 그 혜택을 누릴 수 있도록 돕는 정책을 지지합니다. 이러한 우선순위는 정부가 시민에게 더 나은 서비스를 제공할 수 있도록 지원하는 동시에, AGI가 모든 인류에게 도움이 되도록 하고자 하는 OpenAI의 사명을 실현하는 데 기여하기 위한 것입니다. 이는 현재 OpenAI가 가장 적극적으로 활동하고 있는 분야 가운데 일부를 보여주는 것이며, 이 목록이 모든 분야를 포괄하는 것은 아닙니다. AI가 발전함에 따라 OpenAI의 정책 우선순위와 활동 분야 역시 계속 변화해 나갈 것으로 예상합니다.

OpenAI는 프런티어 AI의 안전성이 국가 안보 및 공공 안전과 직결되는 문제라고 믿습니다. 특히 가장 발전된 범용 AI 모델은 사이버, 화학, 생물학, 방사능 및 핵(CBRN) 무기와 관련된 위험을 초래할 수 있습니다. 미국에서 OpenAI는 투명성, 재앙적 리스크 평가 및 안전 사고에 대한 공개 보고, 내부고발자 보호, 그리고 안전 및 보안 책임을 다하지 못한 개발자에 대한 책임을 강조하는 California SB 53⁠(새 창에서 열기), New York RAISE Act⁠(새 창에서 열기), Illinois SB 315⁠(새 창에서 열기)와 같은 공통 프레임워크를 중심으로 일관된 규제 체계를 마련하려는 주 정부 차원의 노력을 지지합니다. 이러한 주 정부 차원의 접근 방식은 제도적 분절화를 줄이는 조화된 기준을 마련하고, 궁극적으로 연방 차원의 프레임워크로 나아가는 기반을 마련하는 데 도움이 될 수 있습니다. 

또한 OpenAI는 주 정부의 프런티어 AI 안전 법률에 반영된, 새롭게 형성되고 있는 정책적 합의를 바탕으로, 미국 연방정부의 프런티어 AI 안전성 관련 핵심 기관인 AI 표준 및 혁신 센터(CAISI)의 역할을 강화하고, 프런티어 AI가 초래하는 국가 안보 및 공공 안전 문제에 대응하기 위한 정부 전반의 회복력 강화 계획을 추진하는 포괄적인 연방 프레임워크를 수립하기 위한 의회의 조치를 지지합니다. 이 프레임워크는 CAISI가 가장 성능이 뛰어난 프런티어 모델에 대한 평가를 수행하도록 요구하고, 독립적인 평가 에코시스템을 구축하도록 지시하며, 재귀적 자기 개선(RSI)을 향한 발전 상황에 대한 모니터링을 우선시해야 합니다. 포괄적인 연방 차원의 프레임워크가 마련되면, OpenAI는 동일한 프런티어 안전성 리스크를 규제하려는 주 정부 법률보다 연방법이 우선 적용되도록 하는 것을 지지합니다.

또한 OpenAI는 미국 연방정부가 공통된 국제 기준을 마련하는 데 주도적인 역할을 하는 것을 지지하며, 미국 기업 가운데 처음으로 EU AI 법 행동강령(EU AI Act Code of Practice)에 서명했습니다. 또한 OpenAI는 미국 CAISI와 영국 AI 보안 연구소(UK AISI) 모두와 자발적 협약을 체결한 최초 기업들 가운데 하나였습니다. 

앞으로는 정책 입안자들이 모델 격리 대응 지침, 사고 보고 체계, 또는 프런티어 AI 리스크, 보호 장치 및 보안 사고에 대한 협력을 촉진하는 국제 거버넌스 기구와 같은 보다 적극적인 방안⁠(새 창에서 열기)을 검토하기 시작해야 한다고 믿습니다.

특히 사이버 보안⁠(새 창에서 열기)과 관련해 OpenAI는 AI 기반 사이버 방어 툴에 대한 접근을 확대하고, 평가 수행과 정보 공유 확대, 사이버 방어 강화를 위한 회복력 조치 마련을 위해 정부, 연구자 및 산업계 간 협력을 강화하는 정책을 지지합니다. 또한 OpenAI는 노후화된 공공 부문 사이버 보안 시스템을 현대화하기 위한 노력을 지지하며, 미국 연방정부, 주 정부, 지방정부는 물론 국제 파트너들과도 협력하고 있습니다.

OpenAI는 강력한 보호 장치와 연령에 적합한 보호 조치가 마련되어 있다면, AI가 청소년들이 미래 경제에서 성공하는 데 필요한 학습 능력, 창의성, 기술 및 기업가 정신을 기르는 데 도움이 될 수 있다고 믿습니다. 청소년은 가정과 학교, 그리고 사회 진출을 준비하는 과정에서 안전하고 신뢰할 수 있는 AI⁠(새 창에서 열기)를 이용할 수 있어야 하며, 동시에 AI가 초래할 수 있는 잠재적 위험으로부터 보호받아야 합니다. OpenAI는 청소년 안전을 위한 강력하고 집행 가능한 리스크 기반 규제와, 강력한 보호 장치, 투명성, 그리고 가족이 통제권을 가질 수 있도록 지원하는 툴을 결합한 프레임워크를 지지합니다. 

여기에는 기업이 사용자가 미성년자인지 확인하고 연령에 적합한 보호 조치를 적용할 수 있도록 하는 개인정보 보호를 고려한 연령 확인 요건, 발생 가능한 리스크를 파악하고 피해가 발생하기 전에 이에 상응하는 보호 조치를 마련하도록 하는 정기적인 청소년 안전 리스크 평가, 가족이 청소년의 경험을 지도하고 지원할 수 있도록 돕는 접근성 높은 보호자 통제 기능, 그리고 어떤 보호 조치가 마련되어 있으며 이러한 조치가 시간이 지남에 따라 어떻게 발전하는지를 설명하는 명확한 공개 청소년 안전 정책이 포함됩니다.

또한 여기에는 청소년이 AI 시스템과 상호작용하는 과정에서 마주할 수 있는 위험에 대응하기 위한 보호 장치도 포함됩니다. 여기에는 유해하거나 연령에 적합하지 않은 콘텐츠로부터의 보호, 심각한 안전 문제에 대응하기 위한 명확한 절차, 그리고 조작적이거나 기만적인 상호작용으로부터 보호하기 위한 장치가 포함됩니다. 위기 대응 절차에는 서비스 내 지원 기능, 미국의 988과 같은 적절한 오프라인 지원 기관 또는 서비스로의 연계, 그리고 적절한 경우 보호자에게 신속하게 알리는 절차가 포함되어야 합니다. 또한 기업에는 청소년의 개인정보를 보호할 의무가 부과되어야 하며, 여기에는 미성년자를 대상으로 한 맞춤형 광고와 개인정보 판매를 제한하는 조치가 포함되어야 합니다.

마지막으로, 독립적인 감사를 포함한 강력한 책임성 확보 체계는 이러한 보호 조치가 실제로 효과를 발휘하도록 하는 데 필수적입니다. 감사는 서로 다른 관할권 간에도 상호 운용이 가능한 방식으로 수행될 수 있도록 하는 공통 기준을 기반으로 이루어져야 합니다. 입법 프레임워크에는 정부가 기업이 청소년 안전 보호 장치를 효과적으로 이행하고 있는지, 확인된 리스크를 완화하고 있는지, 그리고 청소년 안전 및 개인정보 보호 의무를 준수하고 있는지를 평가할 수 있도록 하는 감독 및 집행 조치가 포함되어야 합니다. OpenAI는 이러한 원칙을 발전시키고, 청소년을 보호하는 동시에 AI를 통해 배우고 혜택을 얻을 수 있는 기회를 보장하는 실질적인 AI 보호 장치를 촉진하기 위한 부모와 아이를 위한 안전한 AI 연합(Parents and Kids Safe AI Coalition)⁠(새 창에서 열기)의 노력을 지원하게 된 것을 자랑스럽게 생각합니다. 

또한 OpenAI는 아동 성적 학대 및 착취를 방지하기 위한 강력한 법적 및 기술적 보호 조치를 지지합니다. 여기에는 생성형 AI가 합성 아동 성학대 자료(CSAM)를 생성하거나, 기존 이미지를 디지털 방식으로 조작하거나, 그루밍 또는 착취 행위를 대규모로 확대하는 데 악용될 수 있는 문제에 대응할 수 있도록 아동 보호 법률을 현대화하는 것이 포함됩니다. 정책 입안자들은 CSAM 관련 법률이 AI로 생성되거나 디지털 방식으로 조작된 자료를 명확히 적용 대상으로 포함하도록 하고, CSAM을 제작하거나 요청하려는 고의적 행위에 대한 책임을 명확히 하며, 검사와 법 집행기관의 강력한 집행 권한을 보장해야 합니다. 또한 OpenAI는 CyberTipline 신고의 품질과 활용도를 높이고, 수사 부담을 줄이며, NCMEC와 법 집행기관이 보다 신속하게 대응할 수 있도록 지원하는 서비스 제공업체의 신고 및 협력 기준을 지지합니다. 마지막으로, 기업은 감지 기능, 거부 메커니즘, 인간의 감독, 지속적인 모니터링을 포함한 안전 중심 설계 기반의 보호 장치를 구현하여, 착취 시도가 실제 피해로 이어지기 전에 차단해야 합니다.

AI는 앞으로 사람들이 배우고, 일하고, 시민사회에 참여하는 방식에 점점 더 큰 영향을 미칠 것입니다. 교육 기관은 AI 리터러시⁠(새 창에서 열기)를 높이고, AI가 일상 전반에 널리 활용되는 세상에서 학생들이 필요한 역량을 갖출 수 있도록 준비시키는 데 중요한 역할을 하게 될 것입니다. OpenAI는 학생, 교사, 가족, 지역사회가 AI를 안전하고 비판적이며 창의적으로 활용할 수 있도록 지원하는 한편, 교육자가 교실 내 의사결정의 중심적인 역할을 유지하고 학교에서 AI를 도입하는 방식과 속도를 주도할 수 있도록 하는 정책을 지지합니다. 여기에는 AI 리터러시에 대한 투자와 함께, 역사, 시민 교육, 수학, 과학, 문학, 컴퓨터 과학, 직업 및 기술 교육과 같은 과목에 대한 탄탄한 기초 교육이 포함됩니다. 여기에는 교사 연수와 전문성 개발을 위한 충분한 시간 확보, 노동시장 수요에 부합하는 학습 경로 마련, 그리고 학교, 도서관, 지역사회 기관이 AI 툴, 초고속 인터넷, 장치 및 교육 리소스에 보다 폭넓게 접근할 수 있도록 하는 것이 포함됩니다. OpenAI는 또한 AI가 학습 성과, 학생의 웰빙, 교육 형평성에 어떤 영향을 미치는지에 대한 연구를 강화하려는 노력과, 이러한 연구 결과를 AI의 개발 및 배포에 반영하려는 노력을 지지합니다.

OpenAI는 모든 사람이 AI가 만들어내는 새로운 기회⁠(새 창에서 열기)에 참여할 수 있어야 한다고 믿습니다. 이러한 이유로 OpenAI는 ChatGPT를 무료로 제공하고 있습니다. OpenAI는 유용한 AI를 합리적인 비용으로 이용할 수 있도록 접근성을 확대하고, 직업 역량 개발과 AI 리터러시에 대한 투자를 통해 근로자, 창업가, 교육자, 중소기업의 AI 도입을 지원하는 정책을 지지합니다. OpenAI는 또한 고용주, 노동 단체, 커뮤니티 칼리지, 대학, 인력개발위원회 및 지역 기업을 연결하는 지역 AI 허브의 구축과, 중소기업이 AI 툴, 기술 지원 및 실습형 교육을 이용할 수 있도록 지원하는 AI 도입 프로그램을 지지합니다.

OpenAI는 또한 노동 단체와 협력하여⁠(새 창에서 열기) 근로자들이 실질적인 AI 활용 역량을 갖추고 점점 더 강력해지는 AI 시스템이 이끄는 경제 변화에 대비할 수 있도록 교육 기회⁠를 확대하고 있습니다. 또한 OpenAI는 근로자와 고용주가 OpenAI의 툴을 어떻게 활용하고 있는지에 대한 데이터를 정기적으로 공개하고 있으며, 정책 입안자와 대중이 AI가 일의 방식을 어떻게 변화시키고 있는지 더 잘 이해하도록 돕고, 근로자들이 새로운 역할과 인간 중심 업무로 이동할 수 있는 경로를 파악하는 데 도움이 되는 노동시장 투명성 조치를 지지합니다. 동시에 OpenAI는 정책 입안자들과 협력하여 보다 적극적인 노동시장 및 경제 전환 의제⁠(새 창에서 열기)를 마련하고 실행하는 데 전념하고 있습니다. 여기에는 이동 가능한 복지 혜택, 조세 제도 현대화, 공공 자산 기금, 그리고 변화에 유연하게 대응할 수 있는 사회안전망과 같은 방안이 포함됩니다.

OpenAI는 AI가 창작의 표현 범위를 넓히고, 예술가와 창작자에게 힘을 실어주며, 새로운 형태의 표현, 논평 및 창의적 변형을 가능하게 하고, 독립 창작자, 소규모 스튜디오 및 새로운 창작 주체들이 창작 경제에 참여하는 장벽을 낮출 수 있다고 믿습니다. 동시에 사람들은 디지털 콘텐츠의 출처를 확인할 수 있어야 하며, 기만적인 사칭이나 무단 디지털 복제물과 같은 유해한 딥페이크로부터 보호받아야 합니다. OpenAI는 온라인 투명성을 높이는 정책을 지지합니다. 여기에는 AI 툴이 생성하는 시청각 콘텐츠에 콘텐츠 출처 및 진위성 연합(C2PA)이 개발한 것과 같은 출처 정보 신호를 포함하도록 요구하는 내용이 포함됩니다. 또한 OpenAI는 사람들이 디지털 콘텐츠의 출처를 더 잘 이해할 수 있도록 돕는 상호 운용 가능한 출처 정보 표준과 콘텐츠 진위 확인 툴을 발전시키기 위해 업계 전반의 파트너들과 협력하고 있습니다. OpenAI는 표현의 자유, 패러디, 저널리즘 및 기타 합법적인 이용을 위한 중요한 보호 장치를 유지하면서도 음성과 초상의 유해한 오용으로부터 보호하는 정책을 지지합니다. 

OpenAI는 이미지 기반 성적 학대에 대한 강력한 보호 조치를 지지합니다. 여기에는 합성된, 동의되지 않은 사적 이미지의 유포를 범죄화하려는 노력과 피해자 구제 수단을 강화하려는 노력이 포함됩니다. OpenAI는 또한 기만적인 AI 생성 정치 콘텐츠로부터 선거의 공정성과 신뢰성을 보호하기 위한 조치를 지지합니다. 여기에는 유권자를 오도할 목적으로 AI 생성 콘텐츠를 의도적으로 배포하는 행위를 금지하는 조치와, 특정 AI 생성 정치 광고 및 선거운동 관련 커뮤니케이션에 대한 공개 의무가 포함됩니다. OpenAI는 신뢰할 수 있는 선거 당국과 협력하여 정확한 투표 및 선거 정보를 제공⁠하고, OpenAI의 시스템이 특정 후보를 부당하게 추천하거나 우선적으로 노출하지 않도록 지원하고 있습니다.

OpenAI는 AI 인프라가 지역사회와 협력하여 구축될 때 지역 경제와 주 경제, 나아가 국가 경제 성장을 이끄는 원동력이 될 수 있다고 믿습니다. 지역사회와의 협력은 지역의 필요를 이해하는 것에서 시작됩니다. 이러한 이유로 모든 Stargate 부지에는 부지 설계와 에너지원 등을 포함해 지역사회와 협의하여 수립한 맞춤형 지역사회 계획⁠이 마련되어 있습니다. 또한 OpenAI는 물 사용량, 전력 사용량, 정부와의 협약에 대한 투명성을 요구하는 정책을 지지합니다. 다만 보안, 상업적으로 민감한 정보, 영업 비밀 및 독점 정보를 보호하기 위해 필요한 경우에는 적절한 예외를 인정해야 한다고 생각합니다. 

OpenAI는 운영으로 인해 전기 요금이 상승하지 않도록 에너지 사용에 따른 비용을 스스로 부담할 것을 약속합니다. 또한 데이터 센터가 초래하는 추가 비용을 직접 부담하도록 하는 대규모 전력 수요 고객 대상 요금제를 주 공공요금위원회가 마련하도록 요구하는 정책을 포함해, 데이터 센터가 전력 비용의 정당한 몫을 부담하도록 하는 정책을 지지합니다. OpenAI는 데이터 센터가 전력망의 안정성에 기여할 수 있도록 지역 전력회사 및 규제기관과 협력하고 있습니다. 또한 OpenAI는 지속가능성 보고 의무를 지지하며, 저배출 비상 발전기와 폐쇄형 루프 또는 저수량 냉각 시스템 등 환경 영향을 줄이는 기술과 운영 방식에 대한 정보 공개도 포함되어야 한다고 생각합니다. OpenAI는 또한 지역 근로자들이 양질의 건설 일자리를 얻을 수 있도록 지원하는 정책을 지지합니다. 여기에는 등록 견습생 프로그램과 프로젝트 노동 협약의 활용을 장려하는 인센티브가 포함됩니다. 또한 산업에 중립적이고 예측 가능한 세제 및 인센티브 체계를 유지하고, 기업이 약속한 사항을 이행하도록 책임을 묻고, 주변 지역사회에서 혁신과 창업, 장기적인 경제 성장을 촉진하는 정책을 장려합니다.