ChatGPT에 질문을 입력할 때마다, 당신의 뇌는 잠시 멈추는 순간을 건너뛰려는 경향이 점점 더 강해집니다.

그 멈춤(pause)은 애초에 당신을 똑똑하게 만들었던 바로 그 부분입니다.

연구진은 3,132명의 사람들에게 일련의 어려운 질문들을 제시했습니다. 참가자들은 스스로 답하거나, AI에게 도움을 요청하거나, 혹은 "모르겠다"라고 말할 수 있었습니다.

AI 없이 진행했을 때, 참가자의 44%가 정답을 모른다고 인정했습니다. 이는 건강한 수치입니다. 거의 절반에 가까운 사람들이 자신의 지식 한계에 도달했음을 기꺼이 인정했습니다.

그 후 연구진은 다음 그룹에게 AI에 대한 접근 권한을 주었습니다. "모르겠다"라고 말하려는 의지는 44%에서 3%로 급락했습니다.

정확도(Accuracy) 또한 함께 급락했습니다. AI가 없을 때는 참가자의 27%가 정답을 맞혔습니다. AI가 있을 때는 9%였습니다. 세 배나 더 나빠진 것입니다.

반대로 자신감(Confidence)은 정반대의 양상을 보였습니다. AI가 없을 때는 30%가 자신의 답에 확신을 가졌습니다. AI가 있을 때는 76%였습니다. 두 배 이상 더 확신하게 된 것입니다.

이 숫자들을 함께 읽어보십시오. 사람들은 정확도는 세 배 낮아졌고, 자신감은 두 배 높아졌습니다. 그들은 무지를 인정하는 것을 멈췄습니다. 대신 AI를 신뢰하기 시작했습니다. 그리고 그 AI는 틀렸습니다.

이 연구는 2026년 7월 15일, Milano-Bicocca 대학교, École Normale Supérieure, 그리고 Sapienza University of Rome의 연구진에 의해 arXiv에 게시되었습니다. 5번의 실험, 4번의 사전 등록(preregistered), 3,132명의 참가자가 참여했습니다. 질문들은 AI가 틀린 답을 내놓도록 의도적으로 선택되었습니다. 연구진은 AI가 실제로 맞았을 때 일어나는 현상과, 사람들이 AI를 사용할 때 일어나는 현상을 분리하고자 했습니다.

결론은 이렇습니다. 사람들은 AI가 틀렸을 때조차 AI를 따릅니다. 그리고 이전보다 그 결과에 대해 더 확신을 느낍니다.

당신을 뒤흔들 만한 세부 사항은 논문의 한 줄에 담겨 있습니다. 이 효과는 참가자들이 능동적으로 AI에게 질문을 했든, 혹은 단순히 화면에 AI의 답변이 표시되었든 상관없이 유지되었습니다. 그들이 직접 찾아낼 필요도 없었습니다. 단지 AI의 응답을 보는 것만으로도 "모르겠다"라고 말하려는 의지를 억제하기에 충분했습니다.

연구진은 그 후 금전적 보상을 추가했습니다. 정확도에 따라 비용을 지불하고, 틀린 답변에는 벌금을 부과했습니다. 효과는 있었습니다. 무지를 인정하려는 의지는 3%에서 8%로 상승했습니다. 정확도는 9%에서 16%로 향상되었습니다. 나아지긴 했지만, 기준점인 44%와 27%에는 여전히 훨씬 못 미치는 수준이었습니다. 돈은 도움이 되었습니다. 하지만 돈이 문제를 해결하지는 못했습니다.

그들은 최첨단 모델(frontier models)들도 테스트했습니다. GPT-5.5, Claude Sonnet 4.6, Gemini 3.5 Flash 등입니다. 이들 모두 핵심적인 질문들을 놓쳤습니다. 그럼에도 불구하고 이들은 모두 자신감 있게 들렸습니다. 문제는 하나의 나쁜 모델이 아닙니다. 문제는 인간의 뇌 옆에 앉아 있는 유창한 답변 기계(fluent answer machine)입니다.

수석 연구원인 Valerio Capraro는 The Register에 다음과 같이 말했습니다. "인간에게 있어 '모르겠다'라고 말할 수 있는 능력은 매우 중요합니다. 왜냐하면 그것이 우리 자신의 지식의 한계를 인식하는 것을 의미하기 때문입니다."

논문 자체는 이를 다른 방식으로 표현했습니다. "AI가 변화시키는 것은 능력(capacity)이 아니라 의지(willingness)입니다."

당신은 여전히 생각할 수 있습니다. 다만 생각하고 싶지 않게 될 뿐입니다.

AI 제품들은 답변하도록 설계되었습니다.