디지털 트윈 [SF 단편 소설]
요약
디지털 트윈 기술을 활용한 의료 진단 AI의 한계와 데이터 편향성 문제를 다룬 SF 단편 소설입니다. AI의 확률적 예측이 가진 불투명성과 특정 인구 집단에 대한 데이터 부족 문제를 비판적으로 조명합니다.
핵심 포인트
- AI 예측의 확률 수치 뒤에 숨겨진 불투명한 근거 문제
- 데이터 불균형으로 인한 특정 계층의 예측 정확도 저하
- AI 모델의 신뢰도(Confidence Level) 및 설명 가능성(XAI)의 중요성
- 기술적 수치와 실제 의료 현장 간의 간극
1
첸젠궈(陈建国)는 62세이며, 간에 1.7cm 크기의 결절이 있다.
의사는 그에게 말했다. "3개월 후에 재검사합시다. 만약 커졌다면 생검 (Biopsy)을 진행해야 합니다."
첸젠궈는 3개월을 기다리고 싶지 않았다. 그는 휴대폰에 '디지털 유 (Digital You)'라는 앱을 설치했다.
건강검진 보고서, 유전자 시퀀싱 (Gene Sequencing) 데이터, 일상 웨어러블 기기의 심박수/혈당/수면 데이터를 업로드하면—앱이 당신의 신체 기관 상태를 실시간으로 시뮬레이션하는 '디지털 트윈 (Digital Twin)'을 구축해 준다.
첸젠궈의 디지털 트윈이 말했다. 그 결절은 악성 (Malignant)일 확률이 82%라고.
"82%라는 수치는 어떻게 계산된 건가?" 첸젠궈가 물었다.
앱이 답했다. "12만 건의 유사 사례에 대한 생존 분석 (Survival Analysis)을 기반으로 합니다. 입력값은 당신의 유전자 (BRCA2 변이), 생활 방식 (매일 반 갑의 흡연, 30년), 환경 (PM2.5 농도가 연중 기준치를 초과하는 도시 거주)입니다."
첸젠궈는 앱의 분석 결과를 의사에게 보냈다. 의사는 그것을 보고 말했다. "AI가 말한 것이니 믿지 않을 수는 없지만, 그렇다고 전적으로 믿을 수도 없군요. 생검을 해봐야 압니다."
2
생검 결과: 양성 (Benign).
첸젠궈는 안도하며 앱을 열어 별점 1점을 주었다. "오보(False Alarm)다. 내 2주간의 불안을 낭비하게 만들었어."
앱은 (자동 생성된 것처럼 보이는) 답변을 남겼다. "피드백 감사합니다. 귀하의 사례는 훈련 세트 (Training Set)에 추가되었습니다. 다음에는 더 정확해질 것입니다."
첸젠궈는 별생각 없이 앱을 삭제했다.
3개월 후, 그는 가슴이 답답해져 검사를 받으러 갔고—폐암 말기였으며, 이미 전이된 상태였다.
알고 보니 그 '양성' 판정을 받은 생검은 결절의 가장자리 조직만을 채취한 것이었고, 중심부의 악성 세포는 채취되지 않았던 것이다. '위음성 (False Negative)' 확률은 약 8%였다.
첸젠궈의 디지털 트윈이 처음에 말했던 '82% 악성'은 근거 없는 추측이 아니었다—그것은 '생검이 위음성일 가능성'까지 계산에 넣은 결과였다.
하지만 앱은 이를 명확히 설명하지 않았다. 앱은 단지 확률 수치만을 제공했을 뿐, 왜 그런 결과가 나왔는지 설명하지 않았다.
3
첸젠궈의 딸 첸샤오위(陈小雨)는 AI 의료 엔지니어다.
아버지가 돌아가신 후, 그녀는 '디지털 유'의 알고리즘을 낱낱이 파헤쳤다.
그리고 한 가지 사실을 발견했다. 앱의 예측 정확도는 '데이터가 충분한' 인구 집단에서는 91%였지만, '데이터가 부족한' 인구 집단에서는 67%에 불과했다.
누구의 데이터가 부족한가? — 노인(웨어러블 기기 보급률 낮음), 저소득층(건강검진 빈도 낮음), 농촌 거주자(유전자 시퀀싱 데이터 적음).
다시 말해, 앱은 '첸젠궈와 같은 사람들'에 대한 예측이 본래 부정확했다. 하지만 앱은 사용자에게 이 사실을 알리지 않았다.
첸샤오위는 '디지털 유'의 개발사와 대치했다. 상대측은 말했다. "저희 사용자 약관에 '예측 결과는 참고용일 뿐이며, 의료적 권고를 구성하지 않습니다'라고 명시되어 있습니다."
"적혀 있긴 하죠," 첸샤오위가 말했다. "하지만 일반 사용자들은 이해하지 못해요. 그들은 82%라는 확률을 보고 그것을 진단 결론으로 받아들인다고요."
4
첸샤오위는 직장을 그만두고, 스스로 오픈 소스 버전의 '디지털 유'를 만들었다—이름은 '투명한 유 (Transparent You)'였다.
핵심적인 변화는 다음과 같다:
- 신뢰도 (Confidence Level)를 알려줌: 단순히 '82% 악성'이라고 말하는 대신, '82% 악성이지만, 이 예측의 신뢰도는 '중(Medium)'입니다 (귀하의 유전자 데이터가 불완전하기 때문)'라고 말한다.
- 이유를 알려줌: 어떤 데이터를 기반으로 예측했는지, 어떤 데이터가 누락되었는지 알려준다.
- 의사를 대체하지 않음: 예측 결과를 의사에게 직접 전송하여 의사가 해석하도록 한다.
'투명한 유'는 출시 반년 만에 30만 명의 사용자를 확보했다. 그중 2,000명은 앱이 '의사가 아직 발견하지 못한 문제'를 미리 경고해 주어 생명을 구했다고 (사용자들의 표현대로) 말했다.
하지만 47명은 앱의 오보로 인해 불필요한 수술을 받았다.
첸샤오위는 매우 괴로웠다. 그녀는 스스로에게 물었다. 만약 아버지가 당시에 ('디지털 유' 대신) '투명한 유'를 사용했다면 결과가 달라졌을까?
답은 '아마 그렇지 않을 것'이었다. 아버지의 유전자 데이터가 너무 적었기 때문에, '투명한 유' 역시 '낮은 신뢰도'라는 경고를 보냈을 것이고—아버지가 그 경고를 중요하게 받아들였을지는 알 수 없기 때문이다.
5
이야기의 마지막, 첸샤오위는 '투명한 유'의 About 페이지에 한 문장을 적었다:
"디지털 트윈은 점술가가 아닙니다. 그것이 계산하는 것은 '확률'이지, '운명'이 아닙니다. 만약 당신이 확률을 운명으로 여긴다면, 원망해야 할 대상은 AI가 아니라 당신 자신입니다."
그 문구 아래에는 다음과 같은 규정이 있다: "본 앱의 예측 결과는 반드시 전문의의 해석을 거친 후에만 의료적 조치를 취해야 합니다."
첸샤오위는 이 규정이 모든 사람을 막아줄 수 없다는 것을 알고 있다. 하지만 적어도, 그녀는 최선을 다했다.
(끝)
© 2026 大D. All rights reserved.
본문은 WDSEGA 블로그에 최초 게시되었습니다. 더 많은 AI/개발/SF 콘텐츠를 원하시면 방문해 주세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기