글을 읽어보니 불만의 대부분은 콜센터 성과 지표와 진료를 제한하라는 압박에 관한 것으로, 지표 오용의 문제이지 AI 자체의 문제는 아님. AI로 공감 능력을 평가한 것은 2024년 시범 사업이었고 이미 중단됐음
아내가 Kaiser에서 의료용 LLM을 사용하는데, 실시간 통역·진료 기록 요약·포괄적인 답변 검색 덕분에 시간을 절약하고 더 나은 진료를 제공한다고 함. 고령 환자들은 심장 이상을 감지한 Apple Watch 알림을 자주 가져옴
서로 효과와 위험이 크게 다른 기술을 뭉뚱그려 부르기보다 개별 용도별로 평가해야 함

이런 문제는 자동화와 전산화에서 오래전부터 흔했으며, Ellen Ullman의 소설 _Close to the Machine_에 생생하게 묘사돼 있음
경영진과 분석가들이 “AI” 열풍을 이용해 일반적인 자동화·전산화와 해고까지 추진하니, 이에 반대하는 이들도 같은 명칭을 쓰는 것은 자연스러움
이런 부정확한 언어는 논의를 흐리고, 인간 책임의 은폐, 자율성 침식, 조직 유연성 저하, 탈전문화 같은 핵심 문제에 분노와 에너지를 집중하기 어렵게 하지만 그 책임이 AI 비판자에게서 시작된 것은 아님

Apple Watch의 심장 이상 알림은 LLM이 아니라 전통적인 통계적 학습에 가까움. 의료용 LLM은 새로운 도구지만 Apple Watch 알림까지 같은 범주로 보면 안 됨

Apple Watch의 심장 이상 감지는 AI라고 부르기 어려움

기계로 인간이 얼마나 공감하는지 평가하는 것을 좋은 발상이라고 여긴다면 권력을 맡아서는 안 됨

주 40시간 넘게 일한 성과를 하나의 점수로 축약하는 것부터 이상하며, 특히 의료 분야에서는 더욱 그러함
보상과 평가는 필요하지만 알고리즘이 계산한 지표로 관리하는 것이 최선인지는 의문이며, 그 과정에서 공감과 상식이 사라지고 있음

권력은 능력이 아니라 부의 추출을 기반으로 형성됨

의료가 기업화되고 병원들이 거대 의료 체계에 인수되면서 이런 일이 늘고 있음. 명목상 합병된 대형 보험사에 맞서기 위한 것이지만, 결과적으로 거대 조직이 힘을 남용하게 됨

공감 평가 사업은 취소됐고, 핵심은 대체로 직장 내 감시임

주치의는 AI 기록 도구가 큰 안도감을 줬다고 함. 예전에는 환자의 말을 들으며 전부 타이핑해야 했지만, 이제는 환자에게 집중해 듣고 필요한 내용만 구체적으로 기록할 수 있어 스트레스가 크게 줄었음

기반 소프트웨어가 실제로 개인정보를 보호한다고 확신할 수 있어야 이런 도구에 동의할 수 있음. 너무 많은 AI 도구가 급조되기 때문에 이미 품질이 나빠 보이는 병원 소프트웨어를 신뢰하기 어려움

뉴질랜드에서는 AI 받아쓰기를 사용하며, 처음에는 우려하던 의사들도 기록 시간을 줄이고 환자의 이야기를 더 오래 들을 수 있어 지금은 선호한다고 함

간호와 일차진료는 역할이 상당히 다름. AI가 인지적 부담은 줄일 수 있지만, 계획을 실제로 수행해야 하는 쪽에는 오히려 스트레스를 늘릴 수 있음

반복적이고 단순한 업무 부담을 줄이면 임상의가 진짜 어려운 부분에 집중할 수 있음
다만 운영 규칙으로 진료 방식을 강제하고 환자를 어떻게 치료할지 지시하는 순간 강한 반발을 부르며, 임상 판단을 AI로 대체하자는 발상은 어리석음

직장 지표와 감시는 쉽게 부작용을 낳지만, 간호 업무에도 다른 직무처럼 일정한 안전 감독은 필요함
여러 여성 의사에게 입원 시 간호사와의 상호작용을 조심하라는 조언을 들었으며, 모든 간호사가 헌신적인 것은 아니고 태만하거나 구실을 만들어 환자에게 해를 끼치는 경우도 있다고 함
의료도 성스러운 소명만이 아니라 직업이므로 감독은 필요하지만, 기업이 강제한 지표라면 Goodhart의 법칙에 따라 심하게 왜곡될 가능성이 큼

간호사 노조 계약 협상을 앞두고 나온 연구라 동기화된 추론처럼 보임. 실제 문제는 많지만 연구가 제대로 다루지 못했으며 더 효과적인 비판이 필요함
AI는 선택적으로 의료 서비스를 과다 이용하는 환자를 식별하고, 근본 원인을 해결해 이용을 줄이는 데 활용할 만함. 그러면 환자 진료 품질과 의료진의 삶의 질을 개선하고, 예방 진료가 필요한 과소 이용자에게 접근할 시간도 확보할 수 있음

간호사가 환자에 대한 의료 의무를 수행하는 데 직장 AI가 개입하는 문제는 Kaiser에만 국한되지 않으며, UHC도 비슷한 AI 감시 도구를 도입해 사용하고 있음

전제적 체제의 큰 약점은 사실과 허구의 서사를 구분하기 위해 필요한 감시 비용이 규모에 따라 증가한다는 데 있었음
대부분의 간호사는 인생 최악의 날을 보내는 사람들을 돌보고 있음

글은 AI 사용을 언급하지만 AI로 인한 구체적인 피해는 거의 제시하지 않음. 오히려 Kaiser가 진료 품질보다 비용 절감을 위해 통화를 최적화하는 사례는 구체적임
긴 통화를 문제로 취급하거나 세 가지가 넘는 조언을 한 간호사를 불이익 주는 정책은 진료 품질을 떨어뜨릴 가능성이 큼

직장 감시와 공감 능력을 평가하려는 기계학습 도구가 등장하지만, 기술적으로 AI라 부를 수 있을 뿐 글에서는 주로 유행어로 쓰였음

지역 시골 병원에서는 간호사에게 추적 장치를 붙여 병원 내 모든 이동을 기록하고, 한 장소에 머문 시간까지 평가에 반영함
몇 년 전에는 병실마다 15~20분씩 머물렀지만 지금은 빠르게 드나듦. 환자 수는 늘지 않았고 간호사 수는 오히려 증가했으므로, 잘못된 평가 지표가 진료 수준을 떨어뜨렸다고 봄

의료 이용량, 고유 환자 수, 환자당 진료량은 모두 증가했음
미국의 막대한 의료 과다 이용이 비용을 끌어올리고 있지만 이를 솔직하게 인정하려 하지 않음