2026년 선거 정보 및 보호 조치

2026년은 생성형 AI (Generative AI)가 널리 보급된 이후 세계적으로 두 번째로 중요한 선거가 치러지는 해입니다. 우리는 전 세계 국가와 지역의 선거를 보호하기 위해 2024년에 구축한 토대를 바탕으로 지속적인 노력을 기울이고 있습니다.

우리의 목표는 다음과 같은 방식으로 혁신적인 제품을 구축하고 책임감 있게 배포하는 것입니다:

• 투표 및 결과에 관한 신뢰할 수 있는 정보 제공
• 사이버 인프라 (Cyber infrastructure) 방어자 지원
• AI 생성 콘텐츠에 대한 투명성 강화
• 악의적인 행위자 (Bad actors)의 오용 방지
• ChatGPT의 응답이 정치적 중립을 유지하도록 모델의 편향성 (Bias) 모니터링

신뢰할 수 있는 정보 제공

사람들은 이미 ChatGPT를 사용하여 시민 행사와 관련하여 자신이 선호하는 언어로 실질적인 질문을 던지고 있습니다. 예를 들어, 어떻게 등록하는지, 어디서 투표하는지, 어떤 마감 기한이 적용되는지, 진행 중인 뉴스 사건은 무엇인지, 또는 공식 선거 결과를 어디에서 찾을 수 있는지 등을 묻습니다.

2024년의 노력을 바탕으로, 우리는 파트너들과 협력하여 사람들이 투표에 관한 신뢰할 수 있는 정보원으로 안내될 수 있도록 노력하고 있습니다. 이번 가을부터 미국과 브라질에서 OpenAI는 선거 당일 밤 결과가 들어옴에 따라 The Associated Press(새 창에서 열기)의 실시간 투표 집계 수치를 제공할 예정입니다. 미국에서는 또한 Democracy Works(새 창에서 열기)와 파트너십을 맺어, 사람들이 투표 및 등록 절차에 대해 물을 때 투표 장소 및 기타 선거 관련 물류를 포함한 신뢰할 수 있는 정보를 표시할 것입니다. 전 세계적으로 우리는 웹 검색이 출처 링크와 함께 유용한 정보를 제공하는 방식을 지속적으로 개선해 나갈 것입니다.

2024년 이후, 우리는 사람들이 ChatGPT에 선거 주제나 속보에 대해 물을 때 얻는 정보의 품질을 지속적으로 개선해 왔습니다. ChatGPT는 웹을 검색하여 출처 링크와 함께 더 강력한 답변을 제공함으로써 사람들이 더 깊이 있게 파고들 수 있도록 할 수 있습니다.

사이버 인프라 방어자 지원

이는 모든 산업 분야의 사이버 방어자(cyber defenders)들에게 중요한 순간이며, 우리는 AI가 선거를 지원하는 시스템을 포함한 디지털 인프라(digital infrastructure)를 강화하는 데 결정적인 역할을 한다고 믿습니다. OpenAI는 선거 실행을 지원하는 방식을 포함하여, 인프라 스택(infrastructure stack) 전반에 걸쳐 회복 탄력성(resilience)을 구축하는 데 전념하고 있습니다.

우리는 최근 소프트웨어가 구축되고 방어되는 방식을 변화시키기 위한 노력인 __Daybreak__를 발표했습니다. Daybreak에는 소프트웨어를 더 안전하고 회복 탄력성 있게 만들기 위한 다양한 프로그램이 포함되어 있으며, 여기에는 개발자의 코드에서 취약점(vulnerabilities)을 자동으로 식별, 검증 및 복구(remediate)를 돕는 Codex Security가 포함됩니다. 더욱 고도화된 방어를 위해, 우리의 Trusted Access for Cyber(TAC) 프로그램은 검증된 개인에게 사이버 방어용 프런티어 모델(frontier models)에 대한 접근 권한을 제공합니다. 우리는 미국 내 등록된 투표 시스템 제조업체들(opens in a new window)에게 Codex Security와 TAC 접근 권한을 제공해 왔으며, 주(state) 선거 당국이 최신 사이버 역량과 방어자를 위한 우리의 도구들에 대해 안내받을 수 있도록 주 비서관 협회(NASS) 및 전국 주 선거 관리자 협회(NASED)와 협력하고 있습니다.

투명성 증대

사람들은 소셜 미디어, 메시징 앱, 웹에 공유할 콘텐츠를 생성하기 위해 AI 도구를 점점 더 많이 사용하고 있습니다. 오해를 불러일으키는 "딥페이크(deepfakes)"에 대응하기 위해, 우리는 사람들이 보고 있는 콘텐츠가 AI로 생성되었거나 수정되었는지 여부를 확인할 수 있도록 지원하는 다층적 출처(provenance) 접근 방식에 투자하고 있습니다.

지난주, 우리는 ChatGPT, Codex 또는 OpenAI API를 통해 생성된 이미지에 SynthID __디지털 워터마크 (digital watermarks)를 도입하기 위한 __파트너십 (partnership)을 발표했습니다. 이는 메타데이터 (metadata)와 암호화 서명 (cryptographic signatures)을 사용하여 이미지 정보가 콘텐츠 자체와 함께 안전하게 전달되도록 돕는 C2PA (Coalition for Content Provenance and Authenticity) 표준을 사용하겠다는 우리의 지속적인 약속을 바탕으로 합니다. 이 두 가지 접근 방식은 상호 보완적입니다. SynthID는 스크린샷이나 기타 변형 과정을 거쳐도 유지될 수 있는 보이지 않는 워터마킹 (watermarking) 레이어를 삽입하며, 메타데이터는 워터마크 단독보다 더 많은 정보를 제공할 수 있습니다.

또한 우리는 사람들이 플랫폼 외부에서 접하는 이미지가 OpenAI 도구를 사용하여 생성되었는지 확인할 수 있는 __공개 검증 도구 (public verification tool)를 미리 선보이고 있습니다. 이 사이트는 OpenAI에서 생성된 SynthID 워터마크가 존재하는지 감지할 수 있으며, C2PA 메타데이터가 발견될 경우 이를 표면화하여 보여줄 수 있습니다.

출처 (Provenance) 도구가 선거 관련 기만 행위에 대한 완전한 해결책은 아니지만, 이는 더 광범위한 무결성 프레임워크 (integrity framework)의 중요한 부분입니다. 그리고 대부분의 사람들이 소셜 미디어와 메시징 플랫폼에서 AI 콘텐츠를 접하기 때문에, 우리는 소셜 미디어 기업들이 사람들의 피드에 어떤 시민적 콘텐츠 (civic content)를 추천하고 배포할지 결정할 때 출처 마커 (provenance markers)를 관련 신호 (signal)로 사용하여 선거를 보호하기 위한 조치를 고려하는 과정에서 파트너로서 협력하게 되어 기쁩니다.

그리고 우리는 투명성을 증진할 입법을 지원하게 되어 기쁩니다:

기만적인 AI로부터 선거를 보호하기 위한 법안 (Protect Elections from Deceptive AI Act, S. 1213)(새 창에서 열기)은 연방 선거 활동에 사용될 때, 연방 후보자와 관련된 실질적으로 기만적인 AI 생성 콘텐츠를 고의로 유포하는 행위를 새로이 금지하는 내용을 담고 있습니다. 선거 관리자를 위한 AI 법안 준비 (Preparing Election Administrators for AI Act, S. 2346)(새 창에서 열기)은 선거 지원 위원회(Election Assistance Commission)가 선거 관리 과정에서의 AI 기술 사용 및 위험에 관한 자율 가이드라인을 포함한 보고서를 발행하도록 요구할 것입니다. 이러한 가이드라인은 프론티어 모델 (Frontier models)의 사이버 역량이 강화됨에 따라 특히 중요합니다.

오용에 맞서기

OpenAI는 선거 개입에 맞서기 위해 우리의 역할을 계속 수행할 것입니다. 우리는 사용자가 선거 개입, 투표 저지(demobilization), 또는 AI 생성 콘텐츠의 출처에 대한 기만을 목적으로 우리의 도구를 사용하는 것을 금지하는 __이용 정책 (Usage Policies)__을 집행합니다.

우리의 탐지 및 집행 시스템은 2024년 이후로 지속적으로 개선되어 왔습니다. 우리는 개인정보 보호 장치를 마련하고 명확한 검토 프로세스를 갖춘 상태에서 정책을 모니터링하고 집행합니다. 또한 누군가가 우리의 도구를 사용하여 선거 프로세스를 방해하거나, 참여를 저지하거나, 조직적인 기만 활동의 일부를 포함하여 AI 생성 콘텐츠의 출처에 대해 사람들을 오도하려고 시도할 때 우리는 조치를 취합니다. 오용을 식별하면, 우리는 서비스에 대한 액세스를 제한하거나 종료하는 것을 포함한 집행 조치를 취합니다.

우리의 인텔리전스 및 조사(Intelligence and Investigations), 안전(Safety), 보안(Security), 그리고 무결성(Integrity) 팀은 오용 패턴을 탐지하고, 은밀한 영향력 행사 작전(covert influence operations)을 포함하여 기만적 또는 선거 관련 오용을 위해 우리의 도구를 사용하려는 시도를 조사하기 위해 노력하고 있습니다. 2024년 2월 이후로, 우리는 우리의 조사 결과가 담긴 보고서를 정기적으로 발표해 왔으며 앞으로도 계속할 것입니다.

대중, 정책 입안자, 캠페인 및 기업들이 정치 분야에서의 AI 사용 규범을 개발하기 위해 노력하는 동안, 우리는 후보자, 정당 또는 투표 안건에 찬성하거나 반대하는 대규모 캠페인 메시지 (scaled campaign messaging)를 생성하거나 배포하기 위해 우리의 제품을 사용하는 것을 계속해서 금지하고 있습니다. 우리는 정치 캠페인이 내부 브리핑 초안 작성, 계획 수립, 일상적인 글쓰기, 번역 작업, 컴플라이언스 (compliance) 및 행정 업무와 같이 책임감 있고 인간이 주도하는 작업을 위해 우리의 도구를 사용할 수 있어야 한다고 생각합니다. 이러한 사용 사례는 우리의 이용 정책 (usage policies)에 따라 허용됩니다.

AI 도구는 언어, 교육 수준 및 배경 전반에 걸친 접근성을 확대함으로써 시민 공동체를 확장하고 심화하는 새로운 방식으로 사람들이 타인과 소통할 수 있는 실질적인 기회를 제공합니다. 우리는 사람들이 정치적 이슈에 대해 배우고, 탐구하며, 토론하기 위해 AI 시스템을 사용할 수 있는 것이 중요하다고 믿으며, 악의적인 행위자 (bad actors)에 의한 오용을 방지하는 동시에 이를 계속해서 지원할 것입니다.

대규모 캠페인 옹호 (scaled campaign advocacy)를 위해 우리의 서비스를 사용하는 것을 금지하는 규칙에 따라, 우리는 이번 주기 동안 광고주가 우리의 플랫폼에서 정치 광고를 집행하는 것을 허용하지 않을 것입니다. __ChatGPT에서의 광고에 우리가 접근하는 방식__에 대해 더 자세히 읽어보실 수 있습니다.

우리 모델의 정치적 편향성 모니터링

우리는 사람들이 선거 관련 물류 (election logistics) 이상의 목적으로 ChatGPT를 찾는다는 것을 알고 있습니다. 사람들은 아이디어를 탐구하고, 논거를 테스트하며, 자신이 관심을 가진 이슈에 대해 더 깊은 이해를 얻기 위해 ChatGPT를 사용합니다. 이것이 바로 우리가 ChatGPT가 질문에 답변하는 방식에 있어 정치적 편향성 (political bias)에 맞서기 위해 전념하는 이유입니다.

우리의 모델 사양 (Model Spec) 원칙인 함께 진실을 찾기 (Seeking the Truth Together)(새 창에서 열림)는 사용자가 정치적 대화에 참여할 때를 포함하여, 사용자의 통제 하에 ChatGPT가 기본적으로 객관성을 유지하겠다는 우리의 약속을 설명합니다. ChatGPT는 사람들이 거대한 아이디어에 참여하고 이슈에 대한 자신만의 관점을 발전시킬 수 있도록 돕는 도구입니다. 따라서 모델은 사용자를 조종하거나, 특정 방향으로 유도하기 위해 관련 사실이나 관점을 숨기는 행위를 피하도록 설계되었습니다. 지난 가을, 우리는 모델의 객관성 유지 능력을 테스트하기 위해 사용하는 새로운 정치적 편향성 (political bias) 평가 방식을 발표했습니다. 이 중요한 작업을 통해 OpenAI는 모델이 정치적 주제에 어떻게 반응하는지를 테스트하는 정치적 편향성 평가 분야의 선두주자가 되었습니다.

우리의 역할을 수행하며 배우는 과정

우리는 파트너들로부터 계속해서 배우고, 안전 장치 (safeguards)를 업데이트하며, 적응해 나갈 것입니다. 우리의 목표는 신뢰할 수 있는 정보, 투명성, 그리고 효과적인 안전 장치를 통해 사람들이 선거에 자유롭게 참여하고 스스로 결정을 내릴 수 있는 능력을 지원하는 것입니다. 우리는 올해와 그 이후의 선거에 참여하는 사용자, 시민 사회, 그리고 유권자들을 지원할 수 있는 방식을 심화해 나가기를 기대합니다.