영국 국방 분야의 AI 보증: JSP 936의 운영화 과정에서의 과제

본 보고서는 영국 국방(UK Defence) 분야의 AI 보증(AI assurance)을 위한 JSP 936 Part 1을 운영화(operationalising)하는 과정에서의 실질적인 과제들을 검토합니다. 해당 지침의 요구 사항에 대한 구조적 해석적 검토(structured interpretive review)를 사용하여, 분석을 통해 여덟 가지 주제별 과제 영역을 식별하였습니다: 증거 및 논거의 적절성(adequacy of evidence and argument), AI와의 인간 상호작용 관리(management of human interaction with AI), 운용 환경의 정의(definition of the operational environment), 시스템 오브 시스템즈(systems of systems) 내 AI 통합, AI 성능의 평가 및 유지 관리(assessment and maintenance of AI performance), 안전 및 보안 분석(analysis of safety and security), 윤리성 측정(measurement of ethicality), 그리고 AI 고유의 복잡성 완화(mitigation of the inherent complexities of AI). 본 보고서는 JSP 936이 유용한 거버넌스(governance) 기반을 제공하지만, 구현 여부는 아직 해결되지 않은 기술적, 조직적, 그리고 보증(assurance) 관련 문제들에 달려 있다고 주장합니다. 이러한 과제들은 AI 기반 시스템의 사회기술적(socio-technical) 특성, 실제 배치 맥락에서의 불확실성, 현재 보증 방법론의 한계, 그리고 성능, 안전, 인간의 감독(human oversight), 보안, 윤리적 수용성 사이의 긴장 관계에서 비롯됩니다. 본 보고서는 국방 전반에 걸쳐 야심 차고 안전하며 책임감 있는 AI 도입을 위해 추가적인 방법론, 지침 및 조직적 역량이 필요한 영역들을 식별합니다. 이는 JSP 936을 반복적인 구현과 지원 지침이 필요한 것으로 규정하는 국방부(MOD) 자체의 프레임워크와도 일치합니다.