헬스케어 AI 에이전트는 기록을 검색하고, 이를 바탕으로 추론하며, 행동을 개시할 수 있습니다. 문제는 검색 시점과 실행 시점 사이에 해당 기록의 내용이 변경될 수 있다는 것입니다.
이는 '검사 시점(time-of-check) 대비 사용 시점(time-of-use)' 문제(time-of-check to time-of-use problem)를 야기합니다. 정보는 검사했을 때는 유효했지만, 시스템이 행동을 취할 때는 더 이상 유효하지 않을 수 있습니다.
왜 오래된 데이터가 중요한가
에이전트가 의뢰 상태(referral status)를 '보류 중'으로 읽었다고 가정해 봅시다. 에이전트가 다른 의뢰를 제출하기 전에, 임상의가 원래 요청을 승인할 수 있습니다. 만약 에이전트가 상태를 새로 고치지 않으면, 중복된 기록을 생성할 위험이 있습니다.
유사한 문제는 투약 검토(medication reconciliation), 실험실 수정, 예약 변경 및 퇴원 워크플로우에서도 발생할 수 있습니다.
실질적인 안전장치
데이터 유형과 행동에 따라 신선도 요구사항을 정의해야 합니다. 서로 다른 결정에는 서로 다른 신선도 임계값이 필요합니다. 모든 임상 기록에 하나의 보편적인 만료 규칙을 적용하는 것을 피해야 합니다.
업데이트 시간과 버전을 추적하세요. 타임스탬프(Timestamps)가 도움이 되지만, 버전 식별자(version identifiers)와 권위 있는 출처 정보는 더 새롭거나 충돌하는 기록을 감지하는 능력을 향상시킬 수 있습니다.
결과적인 행동 전 재검증을 수행하세요. 워크플로우에 시간이 걸리는 경우, 이전 스냅샷에 무한정 의존하기보다는 실행 직전에 중요한 정보를 새로 고치는 것이 좋습니다.
지연된 업데이트를 명시적으로 처리하세요. 확정된 실패와 지연된 승인(acknowledgement)을 구분해야 합니다. 현재 상태를 확인할 수 없다면, 맹목적으로 행동을 반복하는 것을 피해야 합니다.
해결되지 않은 충돌은 에스컬레이션 하세요. 두 시스템이 불일치하고 그 차이가 환자 치료에 영향을 미칠 수 있는 경우, 에이전트는 검증이나 인간의 검토를 요청해야 합니다.
신선함(Freshness)과 나이(Age)는 다릅니다
오래된 진단이라도 임상적으로 관련성이 있을 수 있습니다. 최근에 입력된 값이라도 여전히 부정확할 수 있습니다. 따라서 신선도 평가는 출처(provenance), 임상적 맥락, 그리고 해당 정보가 결정에 적절하게 남아 있는지 여부를 고려해야 합니다.
에이전트 기반 AI(agentic AI)의 경우, 이러한 확인 절차는 권한에 영향을 미쳐야 합니다. 시스템은 사용 가능한 데이터로부터 추천을 준비할 수 있도록 허용될 수는 있지만, 높은 영향도를 가진 액션(high-impact action)을 실행하기 전에는 현재 정보를 검증해야 합니다.
핵심 원칙은 간단합니다. 정보가 처음 검색될 때뿐만 아니라, 중요하게 작용하는 지점에서 정보를 검증해야 합니다.
의료 AI(healthcare AI)를 구축하고 있다면, 배포 준비 평가(deployment readiness assessment)의 일부로 지연된 업데이트와 변경되는 기록을 테스트해야 합니다.