고도화된 AI를 위한 공동 표준 구축 지원

능력이 점점 향상되는 모델들은 사이버 방어(cyber defense)를 강화하고, 과학적 발견을 가속화하며, 전문 지식에 대한 접근성을 확대할 수 있습니다. 하지만 모델의 능력이 오해받거나, 안전 장치(safeguards)가 불충분하거나, 정부가 대응에 필요한 정보가 부족할 경우 안전 및 보안 리스크를 초래할 수도 있습니다. 이점들을 안전하고 확신 있게 실현하기 위해서는, 점점 더 강력해지는 시스템을 평가하고, 보안을 유지하며, 거버넌스(governance)를 수행할 수 있는 기술적 및 거버넌스 역량을 갖춘 기관들이 사회에 필요할 것입니다.

이것이 OpenAI가 Linux Foundation에서 운영하는 Appia Foundation(새 창에서 열기)의 설립을 도운 이유 중 하나입니다. Appia는 국제 표준과 확립된 프레임워크를 AI 가치 사슬(AI value chain) 전반에 걸쳐 실질적인 평가 기준(assessment criteria)으로 변환하기 위한 개방형 모듈식 사양(modular specifications)을 개발할 것입니다. Appia의 작업은 모델, 인프라, 애플리케이션이 서로 다른 조직에 의해 개발될 때, 제3자가 표준 준수 여부를 확인하여 더 명확하고 재사용 가능한 증거를 생성함으로써, 현재 결여된 핵심적인 신뢰 계층(trust layer)을 개발하는 데 도움을 줄 수 있습니다. 이러한 작업을 통해 Appia는 국가 및 국제 기관들이 서로의 작업을 신뢰할 수 있게 해주는 공유된 기술 언어를 만드는 데 기여할 것입니다.

우리는 이 노력을 고도화된 AI 시스템에 필요한 기관, 표준 및 평가 관행을 강화하기 위한 광범위한 작업의 중요한 다음 단계로 보고 있습니다.

최근 우리가 발표한 프런티어 AI(frontier AI)의 민주적 거버넌스를 위한 청사진은 해당 작업을 위한 로드맵을 제공합니다. 이는 지속 가능한 미국 프레임워크, 강화된 AI 표준 및 혁신 센터(CAISI), 그리고 정부 전반에 걸친 광범위한 회복력(resilience) 전략을 촉구합니다. 또한 프런티어 리스크(frontier risks)가 국제적인 범위임을 인식하고 있습니다. 국가들은 호환 가능한 안전 프레임워크, 리스크 조사 결과 공유를 위한 신뢰할 수 있는 채널, 그리고 사고에 대한 조율된 대응을 개발하기 위해 함께 협력해야 합니다.

국가적 역량과 국제적 협력은 서로를 강화해야 합니다. CAISI와 같은 강력한 기관은 기술적 전문성을 개발하고, 프런티어 시스템 (frontier systems)을 평가하며, 독립적인 평가 생태계를 지원할 수 있습니다. 역량 있는 국가 기관들의 네트워크는 공유된 방법론을 수립하고, 신뢰할 수 있는 증거를 인정하며, 정부가 함께 행동하는 데 필요한 공통된 기술적 이해를 제공할 수 있습니다.

표준 (Standards)은 그러한 노력의 핵심이며, 반드시 신뢰할 수 있는 평가 관행과 기술적 엄밀함 (technical rigor)에 기반해야 합니다. 신뢰할 수 있는 제3자 평가를 위한 우리의 공동 플레이북 (shared playbook)에서, 우리는 프런티어 평가 (frontier assessments)가 점점 더 공개해야 할 사항들을 명시했습니다: 테스트된 시스템, 해당 시스템의 도구 접근 권한 및 평가 하네스 (evaluation harness), 능력을 이끌어내기 위해 사용된 방법론, 사용 가능한 리소스, 그리고 결과를 검증하기 위해 수행된 점검 사항들입니다. 우리는 또한 미국 CAISI 및 영국 AISI와의 테스트 파트너십을 통해 이러한 원칙을 실천에 옮겼으며, 프런티어 능력 평가 (frontier capability assessments) 및 생물학적 오용 방어 체계 (biological-misuse safeguards)에 관한 이들의 작업은 우리 시스템의 구체적인 개선으로 이어졌습니다. 이러한 작업은 성능을 비교 가능한 방식으로 점검하기 위해 표준화될 수 있는 관행의 토대를 만드는 중요한 기능을 수행합니다.

이러한 관행은 OpenAI의 더 광범위한 안전 인프라를 보완합니다. 우리의 준비 프레임워크 (Preparedness Framework)는 내부 관행을 포함하여, 고급 AI 시스템으로부터 발생하는 가장 심각한 리스크를 관리하기 위한 우리의 접근 방식을 정의하고 실행하는 기초입니다. 우리의 프런티어 거버넌스 프레임워크 (Frontier Governance Framework)는 리스크 평가, 모델 보고, 보안 통제, 사고 대응, 그리고 외부 전문가 의견 수렴을 포함한 특정 규제 의무에 초점을 맞춘 공개 거버넌스 문서에 해당 접근 방식의 관련 부분을 적용합니다. 이러한 산출물들은 함께 광범위한 약속을 검증 및 개선 가능한 운영 관행으로 전환하는 데 도움을 줍니다.

Appia의 작업은 다음 과제, 즉 이러한 관행들을 조직, 관할 구역 및 공급망 전반에 걸쳐 상호 운용 가능하게(interoperable) 만드는 것을 목표로 합니다.

OpenAI는 이미 더 광범위한 표준 생태계와 표준화 전 단계(pre-standardization) 노력에 기여하고 있습니다. 우리는 국제 표준화 기구(ISO) 및 국제 전기 기술 위원회(IEC)의 공동 기술 위원회 1, 인공지능 분과 위원회 42(Subcommittee 42 on Artificial Intelligence)(새 창에서 열기)와 미국 국립표준기술연구소(NIST) 주도의 인공지능 컨소시엄(Artificial Intelligence Consortium)(새 창에서 열기)에 참여하고 있습니다. 또한 Frontier Model Forum과 Linux Foundation의 Agentic Artificial Intelligence Foundation(새 창에서 열기)의 설립을 도왔으며, Secure Artificial Intelligence Coalition(새 창에서 열기)에 참여하고 있습니다. 아울러 Content Provenance and Authenticity Coalition(새 창에서 열기)의 운영 위원회로 활동하고 있으며, 상호 운용 가능한 기술 표준을 발전시키기 위해 Internet Engineering Task Force(IETF)(새 창에서 열기) 및 Fast Identity Online(FIDO) Alliance(새 창에서 열기) 프로세스에도 참여하고 있습니다.

Appia를 통한 현재의 활동을 포함하여, 이러한 포럼 전반에 걸친 우리의 목표는 프런티어(frontier) 개발로부터 얻은 교훈을 정부, 기업 및 독립 평가 기관이 여러 관할 구역에 걸쳐 사용할 수 있는 개방적이고 기술적으로 근거가 확실한 관행으로 전환하는 것입니다.