**AI 챗봇 (AI chatbots)**에게 건강 조언을 가장 자주 구하는 성인들은 허위 백신 주장을 믿을 가능성도 더 높은 것으로 나타났습니다. 이는 디지털 건강 분야의 경고 신호이지만, 챗봇이 그러한 믿음을 유발했다는 것을 입증하는 단계까지는 이르지 않았습니다.

화요일에 발표된 KFF 여론조사에 따르면, AI 건강 정보 사용 빈도가 높은 사람들은 MMR 백신이 자폐증을 유발한다거나 홍역 백신이 홍역 자체보다 더 위험하다는 것과 같은 미신을 수용할 가능성이 더 높았습니다 (Guardian World에 따르면). 이 발견이 중요한 이유는 **AI 챗봇 백신 오정보 (AI chatbot vaccine misinformation)**가 단순한 콘텐츠의 문제가 아니라, 신뢰의 문제이기 때문입니다.

AI 챗봇 백신 오정보는 인과 관계의 판결이 아닌 신뢰의 신호이다

AI 도구가 사람들이 혼란스러운 건강 정보를 더 빠르게 분류하도록 도울 것이라는 깔끔한 가정이 있었습니다. 하지만 KFF 여론조사는 더 복잡한 현실을 가리킵니다. 건강 정보를 위해 AI를 빈번하게 사용하는 사람들은 공중보건 관계자들이 수년간 싸워온 일부 백신 미신을 믿을 가능성도 더 높았습니다.

그렇다고 해서 챗봇이 단독으로 백신 반대 신념을 만들어내고 있다는 뜻은 아닙니다. 여론조사는 상관관계를 보여줍니다. 이미 백신에 회의적인 사람은 AI 도구에 유도 질문을 던지거나, 확인을 구하거나, 답변이 만족스러울 때까지 계속해서 프롬프트 (prompt)를 입력할 가능성이 더 높을 수 있습니다.

그럼에도 불구하고, 이 신호는 무시하기 어렵습니다. Guardian의 KFF 조사 요약에 따르면, **연령, 인종, 교육 수준, 그리고 정치적 정파성 (political partisanship)**을 통제한 후에도 이러한 연결 고리는 유지되었습니다. 이는 단순히 특정 인구 집단이 다른 집단보다 더 취약하다는 이야기 이상의 의미를 갖습니다.

긴장 상태는 팽팽합니다:

• 기대 (Expectation): AI 건강 도구는 사용자가 정보의 소음(noise)을 뚫고 나가는 데 도움을 준다.
• 현실 (Reality): 이번 설문조사에서 AI 건강 도구를 빈번하게 사용하는 사용자들은 여러 백신 관련 허위 사실을 믿을 가능성이 더 높았다.
• 위험 (Risk): 챗봇은 유창하고 자신감 있게 답변하며, 이는 취약하거나 잘못된 주장을 실제보다 더 확고한 사실처럼 느껴지게 할 수 있다.
• 한계 (Limit): 설문조사는 응답자들이 어떤 AI 모델을 사용했는지는 식별하지 않았다.

KFF 수치는 믿음이 굳어지는 지점을 보여준다

KFF는 5월에 미국 성인 2,480명의 대표 표본을 대상으로 설문조사를 실시했습니다. 건강 정보를 위해 최소 주 1회 AI 도구를 사용하는 성인 중 **35%**는 홍역, 볼거리, 풍진 (MMR) 백신이 어린이의 자폐증을 유발한다는 것이

해당 설문조사는 특정 챗봇이 구체적으로 무엇이라고 답변했는지는 보여주지 않습니다. 이는 주요한 한계점입니다. KFF는 응답자들에게 어떤 AI 모델을 사용했는지 묻지 않았으며, 서로 다른 시스템은 의료 질문을 처리하는 방식이 다를 수 있습니다.

하지만 XOOMAR의 분석은 명확합니다. AI의 건강 관련 답변은 사용자가 링크의 나열이 아닌 합성된(synthesized) 응답을 받는 경우가 많기 때문에, 검색 결과 페이지와는 다른 설득 위험(persuasion risk)을 수반한다는 것입니다. 만약 그 합성 과정이 불완전하거나, 시대에 뒤처졌거나, 혹은 편향된 프롬프트(prompt)에 너무 순응적이라면, 사용자는 잘못된 명확성을 얻은 채 떠날 수 있습니다.

OpenAI는 의료 관련 질의가 얼마나 흔해졌는지 인정했습니다.

“건강은 이미 사람들이 ChatGPT를 사용하는 가장 흔한 방식 중 하나이며, 매주 수억 명의 사람들이 건강 및 웰빙에 관한 질문을 하고 있습니다.” OpenAI는 전문화된 ChatGPT Health 도구의 제작을 발표하는 1월 블로그 게시물에서 이렇게 밝혔습니다.

이 인용구는 왜 KFF 설문조사가 강력한 파급력을 갖는지 설명해 줍니다. 건강은 틈새 사용 사례(niche use case)가 아닙니다. 만약 매주 수억 명의 사람들이 건강 및 웰빙에 관한 질문을 하고 있다면, 아주 작은 오류나 취약한 출처, 혹은 모호한 답변조차도 대규모 규모(at scale)에서는 큰 영향을 미칠 수 있습니다.

이 지점은 또한 AI 안전(AI safety) 논쟁이 더 넓은 플랫폼 거버넌스(platform governance)와 겹치는 부분이기도 합니다. XOOMAR는 Meta Chatbot Testing Dragged Teen Safety Into the Dark에서 챗봇 설계에 관한 별도의 조사 내용을 다루었으며, Australia Social Media Ban Dares Meta to Prove Teens Are Out에서 소셜 플랫폼의 책임 문제를 다루었습니다. KFF 설문조사는 건강에 특화된 압박 지점을 추가합니다. 즉, 의료 답변은 대화의 매끄러움이 아니라 그 결과(consequences)로 평가받는다는 것입니다.

새로운 인터페이스에서도 살아남은 오래된 백신 미신

MMR-자폐증 주장은 새로운 것이 아닙니다. The Guardian은 이 미신이 1990년대에 The Lancet이 연구를 발표한 이후 부상했으며, 해당 연구는 결과가 허위로 밝혀진 후 나중에 완전히 철회(retracted)되었다고 언급했습니다. 그 주장 이후 수많은 다른 연구들에 의해 반박되었습니다.

그러한 역사가 중요한 이유는 AI 챗봇이 이 설문조사에 나타난 핵심 미신들을 스스로 만들어내는 것이 아니기 때문입니다. 챗봇들은 그러한 미신들이 이미 널리 퍼져 있는 정보 환경 내에서 작동하고 있습니다. KFF의 조사 결과는 건강 상담을 위해 AI를 빈번하게 사용하는 것이 일부 미신에 대해 더 높은 믿음을 갖거나 믿는 경향을 보이는 것과 연관되어 있음을 시사합니다.

홍역(measles)에 관한 결과는 특히 시사하는 바가 큽니다. AI를 빈번하게 건강 상담에 사용하는 사용자 중 **22%**는 홍역 백신이 홍역 바이러스보다 더 위험하다고 믿었으며, 이는 건강 상담에 AI를 사용하지 않는 사람들의 **15%**와 대조됩니다. 이는 MMR-자폐증(MMR-autism) 조사 결과보다는 격차가 작지만, 동일한 문제를 지적합니다. 즉, 사람들이 잘못된 정보원을 신뢰하거나 신뢰할 수 있는 의료 관계가 결여될 때 위험 인지(risk perception)가 역전될 수 있다는 점입니다.

KFF의 더 광범위한 조사 결과는 또한 임상의(clinicians)의 보호적 역할을 보여줍니다. 신뢰할 수 있는 의료 제공자가 없는 성인들은 백신 미신을 지지할 가능성이 더 높았습니다. 예를 들어, 신뢰할 수 있는 의료 제공자가 없는 성인의 **46%**는 코로나19(COVID-19) 백신으로 인해 바이러스보다 더 많은 사람이 사망하는 것이 "아마도" 또는 "확실히" 사실이라고 답했는데, 이는 신뢰할 수 있는 의료 제공자가 있는 사람들의 비율인 **24%**의 거의 두 배에 달합니다.

가족과 임상의는 이제 AI에 관한 질문을 던져야 합니다

실질적인 교훈은 가족들이 건강 관련 질문을 위해 AI를 절대 사용해서는 안 된다는 것이 아닙니다. **AI 건강 상담(AI health advice)**은 임상의나 공중 보건 정보원을 대체하는 것이 아니라, 논의를 위한 시작점으로 취급되어야 한다는 것입니다.

임상의들에게 이 설문조사는 새로운 선별 질문(screening question)이 유용해질 수 있음을 시사합니다. 바로 "환자가 이 우려 사항을 조사하기 위해 AI를 사용했는가?"라는 질문입니다. 이 질문은 환자가 잘못된 정보를 알고 있다고 비난하는 것이 아닙니다. 대신 환자가 접한 구체적인 주장을 바로잡을 수 있는 문을 열어줍니다.

가족들에게 있어 가장 위험한 패턴은 호기심이 아닙니다. 그것은 충분한 출처(sourcing), 맥락(context), 또는 경계(boundaries)를 보여주지 못할 수도 있는 도구로부터 구축된 확신입니다. 백신에 대한 공포는 종종 개인적인 걱정, 즉 자폐증, 부작용, 홍역, DNA, 아이의 위험성 등에서 시작됩니다. 훌륭한 의료 대화는 질문 뒤에 숨겨진 공포를 다룹니다. 사람이나 기계든, 잘못된 전제(false premise)를 인정해 버리는 나쁜 답변은 문제를 악화시킵니다.

여기서 부모는 핵심적인 역할을 합니다. KFF의 조사에 따르면, 권장되는 영유아 백신을 건너뛰거나 미루었다고 보고한 부모들은 백신에 대한 미신이 "확실히" 또는 "아마도 사실"이라고 말할 확률이 백신 접종을 제때 완료한 부모들보다 일관되게 최소 25퍼센트 포인트(percentage points) 더 높았습니다. MMR-자폐증 주장과 관련하여, 그 격차는 **57% 대 30%**였습니다.

다음 시험대는 AI 건강 도구가 혼란을 줄일 수 있는지 여부입니다

AI 기업들은 챗봇이 사용자를 신뢰할 수 있는 출처로 안내할 수 있다고 주장할 수 있습니다. KFF의 설문조사가 그 주장을 반박하는 것은 아닙니다. 하지만 이는 입증을 위한 기준(bar for proof)을 높입니다.

**AI 챗봇 백신 오정보(vaccine misinformation)**에 대한 다음 단계의 정밀 조사는 측정 가능한 행동에 집중해야 합니다. 즉, 시스템이 이미 반박된 백신 주장을 얼마나 자주 반복하는지, 잘못된 전제를 얼마나 명확하게 바로잡는지, 신뢰할 수 있는 의료 출처를 인용하는지, 그리고 언제 사용자를 자격을 갖춘 의료진에게 안내하는지 등을 살펴봐야 합니다.

우려에 반하는 가장 강력한 증거는 주요 AI 도구들이 백신에 대한 허위 사실을 일관되게 거부하고 사용자의 이해를 향상시킨다는 것을 보여주는 투명한 테스트 결과일 것입니다. 반대로 우려를 뒷받침하는 가장 강력한 증거는, 통제(controls) 후에도 AI 건강 도구의 빈번한 사용자들이 특히 홍역 유행이나 기타 백신 예방 가능 질병의 급증 시기에 미신을 수용할 가능성이 여전히 더 높다는 반복적인 연구 결과일 것입니다.

현재로서는 KFF의 설문조사가 명확한 경고를 남깁니다. 건강 챗봇은 얼마나 매끄럽게 답변하느냐로 판단되지 않을 것입니다. 그들은 실질적인 이해관계가 걸려 있을 때, 혼란에 빠진 사람들의 혼란을 줄여주느냐에 따라 판단될 것입니다.

영향 분석 (Impact Analysis)

• AI 챗봇 (AI chatbots)이 건강 조언의 흔한 출처가 되면서, 잘못된 정보 (misinformation)의 위험성이 더욱 중대한 결과로 이어지고 있습니다.
• 이번 연구 결과는 유창한 AI 답변에 대한 신뢰가 기존의 백신 회의론 (vaccine skepticism)을 강화할 수 있음을 시사합니다.
• 공중 보건 관계자들은 단순히 허위 콘텐츠뿐만 아니라, 사람들이 자신의 확신을 뒷받침하기 위해 AI를 사용하는 방식에 대해서도 대응해야 할 수도 있습니다.

원문은 XOOMAR에 게시되었습니다. 더 많은 뉴스 및 분석을 보시려면 XOOMAR를 방문하세요.