OpenAI, 국방부와의 AI 협력: 안전장치와 윤리적 가이드라인 강화

OpenAI는 미국 국방부(DoW)와의 첨단 AI 시스템 배포 합의에 대한 세부 사항을 공개했습니다. 이 합의는 기술 사용의 윤리성과 안전성을 최우선으로 고려하여, 국내 감시나 자율 무기 운용과 같은 오용 가능성을 원천 차단하는 강력한 '안전장치(guardrails)'를 포함하고 있습니다.

가장 중요한 변화는 법적 구속력을 갖춘 추가 조항이 삽입되었다는 점입니다. 이 조항들은 AI 시스템을 미국 국민의 국내 감시에 사용하거나, 상업적으로 확보된 개인 식별 정보(PII)를 이용해 추적하는 행위를 명시적으로 금지합니다. 또한, 국방부의 정보 기관 같은 NSA가 서비스를 사용하는 것은 별도의 합의가 필요하다고 못 박았습니다.

OpenAI는 세 가지 핵심 '레드 라인'을 제시하며, 이는 다른 선도 AI 연구소들과 공유되는 원칙입니다. 첫째, 대규모 국내 감시를 위한 기술 사용 금지. 둘째, 자율 무기 시스템에의 기술 사용 금지. 셋째, 사회 신용제와 같은 고위험 자동화 결정에서의 사용 금지입니다.

이들은 단순히 정책적 가이드라인을 넘어, 클라우드 기반 배포 아키텍처를 채택하고 자체 안전 스택(safety stack)을 운영하여 이 레드 라인들이 침해되지 않음을 독립적으로 검증할 수 있도록 설계했습니다. 또한 계약서상에 법률 준수 의무와 함께 인간의 통제가 필요한 모든 고위험 결정 과정에는 반드시 사람이 개입해야 한다는 조항을 명시했습니다.

OpenAI는 이러한 협력이 민주주의 가치를 지키고, AI 기술이 국가 안보라는 중요한 목적에 기여하는 동시에 오용되는 것을 막기 위한 최선의 경로라고 강조하며 마무리했습니다.