규제 기관이 벤더를 신뢰하지 않고도 검증할 수 있는 NHS 임상 코딩 결정

잉글랜드의 임상 코딩(Clinical coding)은 임상 서사(clinical narrative)를 위해 SNOMED CT를 사용하고, 법적 제출을 위해 ICD-10 4th Edition을 사용합니다. 2025년 NHS England 가이드라인은 코더를 위한 AI 지원을 파일럿 단계에서 배포 단계로 전환했으며, 이미 여러 트러스트(trusts)가 퇴원 요약서, 수술 목록, 외래 환자 서신에 대해 코드를 제안하는 벤더 제공 모델을 사용하고 있습니다. 지원이 필요하다는 임상적 근거는 실재합니다. 하지만 벤더들이 이를 제공하는 방식의 구조적인 문제는 코딩 결정을 증명하는 감사 기록(audit record)이 벤더의 경계(perimeter) 내부에 위치한다는 점입니다.

이는 구조적으로 규제 기관이 검증할 수 있는 증거가 아닙니다.

규제 기관이 실제로 해야 할 일

MHRA는 임상 코딩 AI가 치료, 청구 또는 인구 보건 결정에 영향을 미치는 경우 이를 의료 기기(medical device)로 분류합니다. 2024년 의료 기기로서의 소프트웨어 및 AI 변경 프로그램(Software and AI as a Medical Device Change Programme)은 사후 시장 감시(post-market surveillance) 기대치를 다음과 같이 설정했습니다: 제조업체는 결정을 재현하기에 충분한 기록, 결정의 근거가 된 데이터, 그리고 결정을 내린 모델의 버전을 보유해야 합니다.

정보 위원회(Information Commissioner's Office)는 데이터 보호 계층을 추가합니다. 코딩 결정이 식별 가능한 환자 정보에 접촉하는 경우, 트러스트(trust)가 데이터 컨트롤러(data controller)가 됩니다. 법적 근거 증빙, 보유 증빙, 삭제 권리(right-of-erasure) 증빙에 대한 책임은 벤더가 아닌 트러스트에 있습니다.

트러스트는 벤더 측 로그(log)의 힘만으로는 두 가지 의무를 모두 이행할 수 없습니다. 트러스트는 오직 트러스트가 감사 기록(audit record)을 보유하고 있을 때만 이에 응답할 수 있습니다.

벤더 측 감사는 구조적으로 잘못된 위치입니다

대부분의 임상 AI 벤더들은 벤더의 인프라나 벤더가 제어하는 공유 클라우드 테넌시(cloud tenancy)에 상주하는 로깅 계층(logging tier)을 제공합니다. 계약적 근거는 보통 조사를 위해 요청 시 벤더가 로그를 제공한다는 것입니다. 구조적인 문제는 벤더가 신뢰할 수 있는지 여부가 아닙니다. 구조적인 문제는 규제 기관이 조사 대상인 당사자에게 자신들에 대한 증거를 생성하도록 신뢰를 요구받고 있다는 점입니다.

이는 Open Audit Record 프리미티브 (primitive)가 해결하고자 했던 것과 동일한 실패 모드입니다.

검사관이 검증할 수 있는 기질 (Substrate)

Mickai는 주권 지능 운영체제 (Sovereign Intelligence Operating System, SIOS)입니다. 임상 코딩 시나리오는 다음과 같은 방식으로 SIOS에 매핑됩니다.

A 코더 (coder)가 신뢰 기관 (trust)의 SIOS 배포 환경에서 퇴원 요약지 (discharge summary)를 엽니다. Chronus 커널 내의 라우터 (Router) 브레인이 요청을 분해합니다: 서사 (narrative)를 파싱하고, 관련 이전 코딩을 검색하며, SNOMED 전문가를 실행하고, ICD-10 전문가를 실행한 뒤, 정족수 확인 (quorum-checked)을 거친 후보 코드를 코더에게 제시합니다. 각 단계는 구조화된 작업 기록 (action record)을 작성합니다. 감사 원장 (Audit Ledger) 브레인은 신뢰 기관의 배포 환경 내 TPM 2.0 하드웨어에 보관된 신뢰 기관 자체의 개인 키를 사용하여, FIPS 204 ML-DSA-65 규격에 따라 각 기록에 서명합니다. 권한 (Permissions) 브레인은 해당 작업이 코더의 승인 범위 (clearance) 내에 있었음을 기록합니다. 검색 (Retrieval) 브레인은 후보 코드가 도출된 정확한 이전 코딩 컨텍스트 (prior-coding context)를 기록합니다. 함수 (Function) 브레인은 보상적 역작업 (compensating inverse), 즉 코딩이 철회될 경우 이를 되돌릴 작업을 기록합니다.

그 후 검사관 또는 정보 위원 (Information Commissioner)이 단 한 번의 복구 (recovery)를 통해 받게 되는 것은, 결정의 근거가 된 퇴원 요약지 발췌본, 결정의 조건이 된 검색 세트 (retrieval set), 후보 코드와 그 정족수 마진 (quorum margin), 코더의 서명된 수락, 시간, 워크스테이션의 하드웨어 식별 정보, 기록이 봉인된 신뢰 기관 키, 그리고 추후 코딩이 철회될 경우 사용 가능한 역작업을 포함하는 기록입니다.

검증은 신뢰 기관이 공개한 검증 키 (verification key)를 사용하여 브라우저에서 수행되며, 필요 시 오프라인에서도 가능합니다. 기본 모델의 벤더 (vendor)는 더 이상 검증 단계에서 신뢰 기관 측 당사자가 아닙니다.

두 가지 운영 시나리오

Greater Manchester trust의 코더가 0.83의 정족수 마진 (quorum margin)을 가진 ICD-10 코드 후보를 수신하고 이를 승인합니다. 18개월 후, Care Quality Commission 검사관이 퇴원 요약지 (discharge summary)가 해당 코드를 뒷받침하는지 의문을 제기합니다. 해당 trust의 감사관 (audit officer)은 서명된 기록, 코딩 시점에 보유했던 퇴원 요약지 발췌본, 후보 코드가 검색되었던 이전 코딩 정보, 그리고 승인 당시의 정족수 마진을 복구합니다. 검사관은 trust의 공개 키 (public key)를 통해 서명을 검증합니다. 이 재구성 과정은 몇 분밖에 걸리지 않으며 벤더 (vendor)를 개입시키지 않습니다.

NHS Digital의 연구원이 두 날짜 사이에 코딩된 코호트 (cohort)에 나중에 삭제권 (right to erasure)을 행사한 환자가 포함되어 있는지 조회합니다. 감사 원장 (Audit Ledger)에는 동일한 trust 키로 서명된, 철회한 모든 환자에 대한 봉인된 삭제 증명 (sealed proof of erasure)이 포함되어 있습니다. 연구원은 벤더의 주장 (vendor assertion)이 아닌, 검증 가능한 인증서 (verifiable certificate)를 통해 이들을 제외합니다.

정책적 약속이 아닌 정책적 정렬 (Policy alignment, not policy promises)

정보 위원회 (Information Commissioner)의 2024년 AI 및 데이터 보호 리스크 툴킷 (risk toolkit)은 벤더가 보유한 텔레메트리 (telemetry)와 컨트롤러가 책임을 지는 감사 (controller-accountable audit) 사이의 간극을 명시적으로 지적합니다. MHRA Change Programme은 학습 단계의 문서화 (training-time documentation)와 시판 후 조사 증거 (post-market surveillance evidence) 사이의 간극을 지적합니다. NHS England Long Term Plan은 AI 도입과 인구 보건 감사 (population-health audit) 사이의 간극을 지적합니다. Open Audit Record는 이러한 각 문서가 암시하는 공학적 기본 요소 (engineering primitive)입니다.

Open Audit Record는 UK IPO에 참조 번호 GB2610413.3으로 등록되어 있으며, 더 넓은 범위의 Mickai 포트폴리오는 2026년 3월 30일에서 2026년 6월 10일 사이에 한 명의 발명자 이름으로 등록되었습니다. 감사 원장에 사용된 양자 내성 서명 방식 (post-quantum signing scheme)은 FIPS 204 ML-DSA-65로, 이는 NCSC가 2031년까지 이행 경로를 설정하고 2035년을 마감 기한으로 정한 NIST 표준입니다. NHS, MHRA, 그리고 정보 위원회를 동시에 만족시키는 기질 (substrate)은 등록되어 공공 레지스터 (public register)에 올라와 있습니다.

다음 코딩-AI 조달 시 trust가 요구해야 할 사항

구조적 테스트는 간단합니다. Trust(신뢰 기관)가 감사 키 (audit key)를 보유합니다. 감사 기록 (audit record)은 양자 내성 암호 (post-quantum scheme) 체계 하에 결정이 내려지는 즉시 서명됩니다. 검증은 벤더 (vendor)의 키가 아닌, Trust가 공개한 키를 대상으로 수행됩니다. 역행동 (inverse action)은 해당 행동과 함께 유지됩니다. 지역적 협력에 걸친 연합 (federation)은 운영자 인증 (operator-attested)을 거칩니다. 임상 코딩 AI (clinical-coding AI)는 Trust가 계약을 통해 신뢰해야 하는 별도의 벤더 제품이 아니라, SIOS 내부의 테넌트 (tenant)로서 존재합니다.

규제 기관이 벤더를 신뢰하지 않고도 검증할 수 있는 임상 코딩 AI는, Trust가 실제 운영 환경에 배치하고 점검 시 방어할 수 있는 기술 버전입니다. 그러한 버전을 출시하기 위한 기질 (substrate)은 이미 존재합니다.

Mickai SIOS는 운영 체제 (operating system)입니다. 제출된 101건의 영국 특허 출원 건은 모두 공공 레지스터 (public register)에 등록되어 있습니다.