AI를 단 10분 사용해도 어려운 일에 몰두하는 능력이 저하됩니다

UC Berkeley 연구원이 교육 및 일상생활에서 인공지능과 상호작용하는 방식에 대해 심오한 질문을 던지는 연구 논문을 공동 집필했습니다.

A person holds a cell phone open to a ChatGPT webpage, which is prompting the user to ask a series of questions.

Brian Christian은 지난 20년간 인공지능이 우리의 정신과 세상을 어떻게 변화시킬지에 대해 고민해 왔습니다. 그의 2020년 저서 The Alignment Problem은 최고의 AI 관련 서적 중 하나로 찬사를 받았으며, 많은 과학자들처럼 그 역시 이 기술의 발전에 대해 때때로 황홀함을 느낍니다. 결국 모두가 연구 속도를 높이기 위해 대기하는 자율 에이전트(autonomous agents)를 보유하게 되면, 인생을 바꿀 발견이 몇 번의 프롬프트만 떨어져 있는 것처럼 느끼지 않기 어렵습니다.

그는 또한 책상 위에 수첩을 두고 매일 기록합니다. 이 습관은 그를 현실에 단단히 붙잡아 두며, AI와 너무 많은 시간을 보내는 것이 자신의 학문적 날카로움을 잃게 할지도 모른다는 끊임없는 의심을 누그러뜨립니다.

그가 걱정할 만한 충분한 이유가 있으며, 가장 최근의 연구에서 그 증거를 찾을 수 있습니다.

Christian은 한 기념비적인 연구 팀의 일원이었는데, 이 연구는 AI 도구에 단 10분만 의존하는 것이 우리의 집중력과 어려운 과제에 몰두하는 능력을 상당히 손상시킨다는 사실을 발견했습니다. 예비 초안이 올해 초 큰 반향을 일으켰고, 팀은 이번 주 Language Modeling 컨퍼런스에서 업데이트된 동료 검토 논문을 발표했습니다.

UC Berkeley Center for Human-Compatible AI의 연구원인 Christian은 “놀라운 발견이지만, 우리 중 많은 사람이 본능적으로 느끼는 이야기의 탄약을 제공하는 방식입니다. 저도 똑같이 경험합니다.”라고 말했습니다.

Brian Christian stands at the front of a lecture hall during a talk about AI; students are slightly blurred in the foreground.

사람들의 집중력과 몰두도가 얼마나 빨리 떨어지는지 테스트하기 위해, 연구원들은 일련의 무작위 통제 시험(randomized controlled trials)을 설계하고 온라인으로 1,222명의 참가자를 모집했습니다.

354명의 참가자를 대상으로 한 첫 번째 실험에서, 한 그룹은 도움 없이 15개의 기본적인 분수 문제를 풀도록 과제받았고, 다른 그룹은 ChatGPT를 옆에 열어 도움을 받거나 심지어 정답까지 물어볼 수 있었습니다. AI 접근 권한이 있는 그룹이 처음에는 그렇지 않은 그룹보다 더 정확하게 시작했습니다. 그러다가 12문제를 풀고 나서 연구원들이 AI 도구를 제거했습니다. 거의 즉시, 그 그룹의 사람들은 질문을 정확하게 푸는 것을 멈췄습니다.

비슷한 일이 667명의 참가자로 구성된 두 번째, 더 큰 그룹으로 실험을 진행했을 때도 일어났습니다. AI 사용자들이 AI 도움을 철회당하자 답을 틀리거나 아예 포기했지만, AI가 없는 그룹은 과제를 계속 수행했고 결국 더 성공적이었습니다.

연구원들은 이후 201명의 참가자와 SAT 독해 이해 프롬프트를 사용하여 세 번째 실험을 진행했습니다. 그 결과는 분수 문제에서 나온 것과 유사했습니다. AI 도구가 제거되자 지속성과 정확도가 떨어졌습니다.

“더 명확한 스토리를 요구하기 어려울 정도였습니다.” Christian이 말했습니다.

Two charts; the top one shows two lines — one orange for a group that had access to an AI tool and one green, representing the group that did not use AI. The orange line for the group with AI drops sharply down after the 12th problem, when the AI tool was removed, representing the solve rate. The Solve rate line for the non-AI group held steady and even increased. Similarly, the second graph shows how the line for the skip rate rose substantially when the AI tool was removed, yet for the other group, the skip rate line held steady.

이러한 발견들은 최근 몇 년 동안 일화와 설문조사에서 점점 더 많이 밝혀지고 있는 것들을 뒷받침합니다. 답을 위해 AI에 과도하게 의존하는 것은 우리의 인지적 적합성(cognitive fitness)을 약화시킵니다. AI가 몇 초 만에 답을 내놓으면 우리는 그 속도에 익숙해지고, 시간이 더 오래 걸리는 것은 비효율적으로 느껴집니다. 또한 AI에 의존하는 것은 팀이 '생산적인 고군분투(productive struggle)'라고 부르는 것을 제거하여, 사람들이 자신의 연구 강점과 열정을 발견할 기회를 잃게 만듭니다.

“우리는 이 시스템들을 도움이 되도록 만들었지만, 그것들이 실제로 우리에게 도움을 주는 방식으로 도움이 되고 있을까요?” Christian이 말했습니다. “아이러니하게도, 우리는 그 시스템들이 종종 별로 도움이 되지 않는 방식으로 우리를 돕고 있다는 것을 보여주었습니다.”

이 팀에는 Carnegie Mellon University, Massachusetts Institute of Technology, University of Oxford, UCLA의 학자들이 참여했습니다. WIRED부터 Psychology Today에 이르기까지 여러 매체에서 초기 결과가 발표된 봄에 이 연구를 다루었습니다. The New York Times는 지난주에 이 논문과 유사한 연구에 대한 기사를 게재했습니다.

Frontier AI 기업들은 챗봇에 작업을 위임하는 것이 개인의 기본 이해도와 주제 숙련도를 어떻게 떨어뜨릴 수 있는지 인지하고 있습니다. Christian은 AI 응답이 단순히 빠른 답변을 제공하기보다는, 마치 과외 선생님처럼 더 교육적인 방식으로 기본 설정되어야 한다고 말했습니다.

그는 “우리는 인간의 능력이 대체되기보다는 가능한 한 증강되는 미래를 향해 나아가야 합니다”라고 말했습니다.

Christian은 이것이 특히 연구 및 학계에서 사실이라고 지적했습니다. 그는 과학 분야에서 AI 도구에 과도하게 의존하는 방식이 본래 좋은 과학자에게 필요한 것, 즉 데이터에 가깝게 머무르고, 자료에 몰입하며, 팀의 일원으로 협업하는 것을 위태롭게 할 수 있다고 우려합니다. 혁신적인 아이디어로 이끄는 10명의 팀이 두세 명의 연구원과 하나의 챗봇으로 축소될 때 상당한 것이 손실될 수 있습니다.

그는 “이것은 분수나 SAT 문제에 대한 이야기가 아닙니다. 이것은 초등학교 학생부터 세계 최고의 전문가에 이르기까지 인간 지식과 인간 전문성에 일어나고 있는 일입니다”라고 말했습니다.

관련 정보

• 논문: “AI 지원이 끈기를 감소시키고 독립적인 성과를 해친다(AI Assistance Reduces Persistence and Hurts Independent Performance)”
• Brian Christian 웹사이트
• UC Berkeley 인간 적합 AI 센터

관련 기사