병원과 클리닉에 인공지능(AI)이 급속하게 배치되면서, 미국 최대 의사 단체가 AI가 환자에게 피해를 입힐 경우 새로운 법적 보호 장치를 마련하도록 로비하고 있습니다.
중요한 이유: 점점 더 정교해지는 AI 도구와 추천 시스템의 사용은 의료 과실(negligence)에 대한 경계를 모호하게 만들고 있으며, 의사들이 소프트웨어에 의존하는 결정에 대해 책임을 져야 하는지에 대한 질문을 제기합니다.
- 자율적인 AI가 더 중요하고 많은 의료 업무를 적은 직접적 감독 하에 수행함에 따라 긴급성이 증가하고 있습니다.
- 문제가 발생했을 때 누가 책임자인지가 의문입니다.
뉴스 동향: 미국 의사 협회(American Medical Association)는 이번 주, AI 제품이 의사가 본래 의도대로 사용했음에도 불구하고 환자에게 상해를 입힐 경우 의사를 보호하기 위한 연방 및 주 차원의 법률 제정을 촉구했습니다.
- 또한 이 단체는 AI 기업들이 적절한 책임 보험을 보유하고, 제품의 한계점과 성능 데이터를 공개하도록 의무화하는 새로운 법안을 강력히 요구하고 있습니다.
- AMA 정책에 따르면, 특정 AI 제품의 필수적인 사용이 유해한 오류를 초래할 경우 병원, 건강 시스템, 보험사 및 헬스케어 기술 공급업체가 책임을 져야 합니다.
이면의 의미: 이 단체의 이러한 움직임은 AI 임상 도구들이 의료 시스템을 범람시키면서 발생하고 있습니다. 이는 새로운 효율성을 열어주지만, 알고리즘이 진단 검사를 주문할지 또는 값비싼 약물을 처방할지에 대한 결정에 점점 더 큰 권한을 갖게 하고 있습니다.
- 법률 및 의료 전문가들은 임상 기록(clinical histories), 활력 징후(vital signs) 및 영상 자료를 처리하는 AI 시스템이 담당 의사의 지식 없이도 사례의 심각도를 잘못 판단할 수 있는 분류 오류(triage errors) 가능성을 지적합니다.
- 미국 의사 협회(AMA)는 또한 AI 시스템이 불완전한 실험실 결과나 오래된 진단명으로 그럴듯한 치료 권고를 내릴 가능성도 제기합니다. 이러한 경우, 의사는 입력값들을 검증할 수 없을 수 있습니다.
- AMA는 환자가 피해를 입은 경우, 의사에 대한 의료 과실(medical malpractice) 청구 대신 AI 시스템의 제조업체 및 공급업체 — 그리고 AI 시스템 사용을 요구하는 보건 시스템 — 에 책임이 물어져야 한다고 주장합니다.
[Context]: 이미 알고리즘 기반 의료 결정과 관련된 소송들이 있었으며, 여기에는 심장 이상 징후 선별 도구와 관련된 애라바마(Alabama)의 사망 사고 사례가 포함됩니다.
- 소프트웨어 개발자는 라이선스 계약이 최종 의료 결정을 의사에게 남겨두었기 때문에 책임을 지지 않았습니다.
[전반적인 관점]: 디지털 정보와 알고리즘이 사회에서 수행하는 역할을 연구하는 캘리포니아 대학교 데이비스(University of California, Davis)의 마틴 힐버트(Martin Hilbert) 교수에 따르면, 전국 법원들은 AI 시스템을 설계, 훈련 및 배포하는 기업들이 해당 시스템이 하는 일에 대한 책임을 진다는 결론에 도달하고 있습니다.
- 책임 소재는 여러 당사자가 AI 시스템을 구축할 때 누가 책임을 공유하는지, 불투명한 모델 내부에서 어떻게 과실을 입증할 수 있는지, 그리고 시스템이 배포된 후에야 손해가 발생하는 경우 무엇을 해야 하는지와 같은 요소에 달려 있습니다.
- 그는 Axios와의 인터뷰에서 "각기 다른 당사자가 각기 다른 사례에 대해 책임이 있으며, 최종 사용자에게만 책임을 물을 수는 없습니다"라고 말했습니다.
- AMA는 AI 시스템 사용이 의무화되는 상황들을 다루고자 합니다.
우리가 주목하는 것: 식품의약국(Food and Drug Administration)은 AI 기반 의료기기를 규제하기 위해 새로운 프레임워크가 필요한지 검토하고 있습니다.
- 그러나 이 기관이 감독하는 것은 헬스케어 분야의 모든 AI가 아니라, 의료기기의 정의에 부합하는 소프트웨어만을 대상으로 합니다.
- 병원들은 일반적으로 시스템 성능 모니터링 책임을 개발자 및 공급업체에 지우는 것을 지지하며, 많은 시스템의 '블랙박스(black box)' 특성 때문에 결함을 식별하기 어려울 수 있다고 말합니다.
- 기기 제조업체를 대표하는 무역 단체인 AdvaMed는 FDA에 생성형 AI(generative AI) 기반 의료기기를 평가할 때 현재의 접근 방식을 계속 사용할 것을 촉구하고 있습니다. 또한 이 단체는 제품의 실제 위험과 관계없이 추가적인 부담을 지우는 시판 후 모니터링(post-market monitoring)을 피할 것을 요청합니다.