2026년 선거 정보 및 보호 장치

2026년은 생성형 AI가 널리 보급된 이후 두 번째로 맞이하는 주요 선거의 해입니다. OpenAI는 2024년에 마련한 기반을 바탕으로 전 세계 국가와 지역의 선거를 보호하기 위한 노력을 계속 이어가고 있습니다. 

OpenAI는 다음과 같은 방식으로 혁신적인 제품을 개발하고 책임감 있게 배포하는 데 집중하고 있습니다. 

• 투표 및 선거 결과에 대한 신뢰할 수 있는 정보 제공

• 사이버 인프라 방어 담당자 지원 

• AI 생성 콘텐츠의 투명성 강화

• 악의적 행위자의 오용 방지

• ChatGPT의 응답이 정치적으로 중립을 유지하도록 모델의 편향 모니터링

사람들은 이미 ChatGPT를 활용해 선거와 같은 시민 참여 관련 사안에 대해 자신이 선호하는 언어로 실질적인 질문을 하고 있습니다. 예를 들어 유권자 등록 방법, 투표 장소, 적용되는 마감일, 진행 중인 주요 뉴스의 현황, 공식 선거 결과를 확인할 수 있는 곳 등을 묻고 있습니다.

OpenAI는 2024년에 시작한 노력을 바탕으로 사람들이 투표와 관련된 신뢰할 수 있는 정보원에 접근할 수 있도록 여러 파트너와 협력하고 있습니다. 올해 가을부터 미국과 브라질에서는 선거 당일 개표가 진행되는 동안 The Associated Press⁠(새 창에서 열기)의 실시간 득표 집계 정보를 제공할 예정입니다. 미국에서는 Democracy Works⁠(새 창에서 열기)와 협력해 사용자가 관련 질문을 할 경우 투표소 위치를 비롯한 선거 운영 정보와 유권자 등록 절차 등 신뢰할 수 있는 투표 정보를 제공할 예정입니다. 또한 전 세계적으로 웹 검색을 통해 출처 링크와 함께 유용한 정보가 보다 효과적으로 제공될 수 있도록 지속적으로 개선해 나갈 것입니다. 

OpenAI는 2024년 이후 사람들이 ChatGPT에 선거 관련 주제나 속보에 대해 질문할 때 더 나은 정보를 받을 수 있도록 지속적으로 품질을 개선해 왔습니다. ChatGPT는 웹을 검색해 출처 링크가 포함된 보다 충실한 답변을 제공하며, 사용자가 관련 정보를 더 깊이 살펴볼 수 있도록 지원합니다.

지금은 산업 전반의 사이버 방어 담당자들에게 매우 중요한 시기이며, OpenAI는 선거를 지원하는 시스템을 포함한 디지털 인프라의 보안을 강화하는 데 AI가 중요한 역할을 한다고 믿습니다. OpenAI는 선거 운영을 지원하는 영역을 포함해 인프라 전반의 복원력을 강화하기 위해 노력하고 있습니다.  

최근 OpenAI는 소프트웨어를 개발하고 보호하는 방식을 바꾸기 위한 노력인 Daybreak⁠를 발표했습니다. Daybreak에는 소프트웨어의 안전성과 복원력을 높이기 위한 여러 프로그램이 포함되어 있으며, 그중 Codex Security는 개발자 코드의 취약점을 자동으로 식별하고 검증하며 해결을 지원합니다. 보다 고도화된 방어를 위해 Trusted Access for Cyber⁠(TAC) 프로그램은 검증된 사용자에게 사이버 방어 목적의 프런티어 모델 액세스를 제공합니다. OpenAI는 미국의 등록된 투표 시스템 제조업체⁠(새 창에서 열기)에 Codex Security와 TAC 액세스를 제공해 왔으며, 각 주의 선거 당국이 최신 사이버 보안 역량과 방어 도구에 대한 정보를 받을 수 있도록 전국 주무장관 협회(NASS) 및 전국 주 선거국장 협회(NASED)와 협력하고 있습니다.  

사람들은 점점 더 AI 도구를 활용해 콘텐츠를 제작한 뒤 이를 소셜 미디어, 메시징 앱, 웹에 공유하고 있습니다. OpenAI는 사람들을 오도할 수 있는 '딥페이크'에 대응하기 위해, 사람들이 보고 있는 콘텐츠가 AI에 의해 생성되었거나 수정되었는지 확인할 수 있도록 지원하는 다층적 출처 정보 체계에 투자하고 있습니다. 

지난주 OpenAI는 ChatGPT⁠, Codex, OpenAI API를 통해 생성된 이미지에 SynthID 디지털 워터마크를 적용하기 위한 파트너십⁠을 발표했습니다. 이는 이미지에 관한 정보가 콘텐츠와 함께 안전하게 전달될 수 있도록 메타데이터와 암호화 서명을 활용하는 콘텐츠 출처 정보 및 진위성 연합(C2PA) 표준에 대한 OpenAI의 지속적인 노력에 기반한 것입니다. 이 두 접근 방식은 상호 보완적입니다. SynthID는 스크린샷이나 기타 변환 이후에도 유지될 수 있는 보이지 않는 워터마크 계층을 삽입하며, 메타데이터는 워터마크만으로는 제공할 수 없는 추가 정보를 제공할 수 있습니다. 

또한 OpenAI는 사용자가 플랫폼 외부에서 접한 이미지가 OpenAI 도구를 사용해 생성되었는지 확인할 수 있는 공개 검증 도구⁠를 미리 공개하고 있습니다. 이 도구는 OpenAI에서 생성된 SynthID 워터마크의 존재 여부를 감지할 수 있으며, C2PA 메타데이터가 발견될 경우 해당 정보도 함께 표시합니다.

출처 정보 도구만으로는 선거 관련 기만 행위를 완전히 해결할 수는 없지만, 보다 폭넓은 무결성 체계를 구성하는 중요한 요소입니다. 또한 대부분의 사람들은 소셜 미디어와 메시징 플랫폼을 통해 AI 콘텐츠를 접하기 때문에, OpenAI는 소셜 미디어 기업이 사람들의 피드에 어떤 시민 참여 관련 콘텐츠를 추천하고 배포할지 결정하는 과정에서 출처 정보 표시를 하나의 중요한 신호로 활용해 선거 보호 방안을 검토할 경우 적극적으로 협력할 것입니다.  

또한 OpenAI는 투명성 강화를 촉진하는 입법을 지지하게 되어 기쁘게 생각합니다.

• 기만적 AI로부터 선거를 보호하는 법안(S. 1213)⁠(새 창에서 열기)은 연방 선거 활동에 사용되는 경우 연방 후보자와 관련된 중대한 수준의 기만적 AI 생성 콘텐츠를 고의로 배포하는 행위를 새롭게 금지하도록 규정합니다.

• 선거 관리자의 AI 활용 대비를 위한 법안(S. 2346)⁠(새 창에서 열기)은 선거 지원 위원회가 선거 관리 과정에서의 AI 기술 활용과 위험에 관한 자발적 지침을 포함한 보고서를 발행하도록 요구합니다. 이러한 지침은 특히 프런티어 모델의 사이버 역량이 향상된 상황에서 더욱 중요합니다.

OpenAI는 선거 개입에 대응하기 위한 역할을 계속해 나갈 것입니다. OpenAI는 사용자가 선거 개입, 투표 참여 저해, 또는 AI 생성 콘텐츠의 출처에 대한 기만 행위를 목적으로 OpenAI 도구를 사용하는 것을 금지하는 사용 정책⁠을 시행하고 있습니다. 

OpenAI의 탐지 및 집행 시스템은 2024년 이후 지속적으로 개선되어 왔습니다. OpenAI는 개인정보 보호 장치를 갖추고 명확한 검토 절차에 따라 정책을 모니터링하고 집행⁠합니다. 또한 누군가가 OpenAI 도구를 사용해 선거 절차에 개입하거나, 참여를 저해하거나, AI 생성 콘텐츠의 출처에 대해 사람들을 오도하려는 경우에는 조율된 기만 활동의 일부인 경우를 포함해 조치를 취합니다. 오용이 확인되면 OpenAI는 서비스 액세스 제한 또는 종료를 포함한 집행 조치를 시행합니다.

OpenAI의 정보 분석 및 조사팀, 안전팀, 보안팀, 무결성팀은 은밀한 영향력 행사 활동을 포함해 OpenAI 도구를 기만 행위나 선거 관련 남용에 사용하려는 시도를 조사하고 오용 패턴을 탐지하기 위해 협력하고 있습니다. OpenAI는 2024년 2월⁠부터 관련⁠ 조사 결과⁠를 담은⁠ 보고서⁠를 정기적으로⁠ 공개해⁠ 왔으며 앞으로도 이를 계속할 예정입니다. 

대중, 정책 입안자, 선거 캠프, 기업이 정치 분야에서의 AI 활용 기준을 마련하기 위해 노력하는 가운데, OpenAI는 특정 후보자, 정당 또는 투표 안건에 대한 지지 또는 반대를 목적으로 대규모 선거 캠페인 메시지를 생성하거나 배포하는 데 OpenAI 제품을 사용하는 것을 계속 금지하고 있습니다. 다만 OpenAI는 선거 캠프가 내부 브리핑 초안 작성, 계획 수립, 일반적인 문서 작성, 번역 업무, 컴플라이언스, 행정 업무와 같은 책임감 있고 사람이 주도하는 업무를 위해 OpenAI 도구를 활용할 수 있어야 한다고 생각합니다. 이러한 용도는 OpenAI의 사용 정책에 따라 허용됩니다.

AI 도구는 언어, 교육 수준, 배경에 관계없이 더 많은 사람이 참여할 수 있도록 함으로써 시민 공동체를 확장하고 더욱 깊이 있는 참여를 가능하게 하는 새로운 소통 방식을 제공합니다. OpenAI는 사람들이 AI 시스템을 활용해 정치적 이슈를 학습하고, 탐색하고, 토론할 수 있어야 한다고 생각하며, 악의적인 행위자의 오용을 방지하는 동시에 이러한 활용을 계속 지원할 것입니다. 

OpenAI는 서비스를 대규모 선거 운동에 활용하는 것을 금지하는 정책에 따라 이번 선거 기간 동안 광고주가 OpenAI 플랫폼에서 정치 광고를 집행하는 것을 허용하지 않을 예정입니다. ChatGPT의 광고 운영 방식⁠에 대해서는 관련 안내에서 자세히 확인할 수 있습니다

사람들은 단순히 선거 관련 실무 정보를 얻기 위해서만 ChatGPT를 사용하는 것이 아닙니다. 다양한 아이디어를 탐색하고, 주장을 검토하며, 자신이 관심 있는 이슈에 대한 이해를 넓히기 위해서도 ChatGPT를 활용합니다. 그렇기 때문에 OpenAI는 ChatGPT가 질문에 응답하는 방식에서 정치적 편향을 줄이기 위해 노력하고 있습니다. 

OpenAI의 모델 사양 원칙인 함께 진실을 추구하기⁠(새 창에서 열기)는 사용자가 정치적 대화에 참여하는 경우를 포함해 사용자가 주도권을 가진 상태에서 ChatGPT가 기본적으로 객관성을 유지하도록 하겠다는 OpenAI의 의지를 설명합니다. ChatGPT는 사람들이 중요한 아이디어를 탐구하고 이슈에 대한 자신만의 관점을 형성할 수 있도록 돕는 도구입니다. 따라서 모델은 사용자를 조종하거나 특정 방향으로 유도하기 위해 관련 사실이나 관점을 숨기는 행동을 하지 않도록 설계되어 있습니다. 지난해 가을 OpenAI는 모델이 객관성을 유지하는 능력을 평가하기 위해 사용하는 새로운 정치적 편향성 평가 체계를 발표했습니다⁠. 이러한 노력은 정치적 주제에 대한 모델의 응답 방식을 평가하는 분야에서 OpenAI가 선도적인 위치를 차지하는 데 기여했습니다.

OpenAI는 앞으로도 파트너들로부터 배우고, 보호 장치를 지속적으로 개선하며, 변화에 맞춰 대응해 나갈 것입니다. OpenAI의 목표는 신뢰할 수 있는 정보, 투명성, 효과적인 보호 장치를 바탕으로 사람들이 선거에 자유롭게 참여하고 스스로 판단할 수 있도록 지원하는 것입니다. 또한 올해뿐 아니라 앞으로도 선거에 참여하는 사용자, 시민사회, 유권자를 지원하는 방식을 더욱 발전시켜 나가고자 합니다.