유타주, 인간 감독 없이 AI가 환자를 진료하고 처방하도록 허용

뜨거운 감자: 의사라는 직업은 AI 대체 위험이 가장 적을 것으로 예상되는 직업 중 하나입니다. 하지만 유타주에서 시작된 새로운 프로그램은 이러한 가정에 의문을 제기하고 있습니다. 한 헬스케어 스타트업이 직접적인 인간의 감독 없이 환자에게 AI 진료 및 처방 서비스를 제공하기 시작하면서, 유타주는 의사를 AI로 대체한 최초의 주가 되었습니다.

긍정적인 점은 이 프로그램의 범위가 현재 매우 제한적이라는 것입니다. 단지 1년 동안 진행되며 경증에서 중등도의 여드름 환자에게만 해당됩니다.

이 과정은 개인이 Nolla Health의 월 $4.99 앱에 가입하여 사용하는 것부터 시작합니다. 사용자는 자신의 얼굴을 스캔하고, 의료 이력 및 개인 정보 양식을 작성합니다. 이후 AI가 피부를 분석하여 여드름 문제를 식별하고, 피부 유분도를 평가하며, 마지막으로 깨끗한 피부부터 심각한 여드름까지 범위를 갖는 수치화된 여드름 심각도 점수를 생성합니다. 이 내용은 블룸버그(Bloomberg)에 보고되었습니다.

AI는 그 점수에 제공된 의료 정보를 결합하여 승인된 8가지 치료 목록 중 약물을 추천합니다.

이 프로그램은 결국 완전히 자동화되겠지만, 최초의 100개 처방전은 약국에 제출되기 전에 실제 의사에게 검토를 받아야 합니다.

두 번째 단계에서는 다음 400명의 환자가 AI를 통해 약국에 처방전을 제출하고, 의사가 매주 소급적으로 검토하게 됩니다.

최종 단계에는 의사가 한 달에 발행되는 전체 처방전 중 최소 10%를 검토하는 과정이 포함됩니다.

우리는 의료/헬스케어 조언에 있어 AI를 신뢰하는 것의 위험성을 반복적으로 목격해 왔습니다. 가장 유명한 사례 중 하나는 작년에 60세 남성이 ChatGPT의 조언을 듣고 식단 속 소금을 브롬화나트륨으로 대체하여, 19세기 이후 흔히 볼 수 없었던 정신과적 질환인 브로미즘(bromism)에 걸린 사건이었습니다.

3월에 Google은 What People Suggest라는 AI 기반 검색 기능을 조용히 출시했습니다. 이 기능은 유사한 의료 상태나 경험을 가진 사람들로부터 크라우드소싱(crowdsourced) 건강 조언을 제공했습니다. 이러한 움직임은 회사가 부정확한 정보가 사용자에게 표시되어 건강에 위험을 초래할 수 있다는 보고서를 받은 후, 여러 AI 개요(AI Overviews)를 제거한 지 불과 몇 달 만이었습니다.

Nolla Health의 경우, CEO Luis Wenus는 승인된 8가지 약물의 부작용은 국소적인 피부 자극이나 건조함으로 제한된다고 말했습니다. 처방 역시 알약보다는 국소 도포형 의약품에 한정됩니다.

이것은 작은 프로그램이지만, AI가 의사의 역할을 대신하거나 적어도 환자의 덜 심각한 질환을 치료하는 데 사용되는 첫걸음이 될 수 있습니다.