Washington Post의 보도에 따르면, AI가 인간의 기억을 조작할 수 있다는 연구 결과가 나왔습니다. 이 실험은 결혼식, 도시 거리, 달리기 경주 장면 등 평범한 사진 24장을 준비하는 데서 시작했습니다. MIT 미디어랩 교수 패티 매스(Pattie Maes)와 동료들은 이 사진을 피험자 200명에게 보여 줬습니다.
짧은 휴식 후 일부 피험자는 원본 사진을 다시 봤고, 나머지는 AI로 수정한 버전을 봤습니다. 인물의 표정을 바꾸거나, 화면에 군인을 추가하거나, 기후 변화와 관련된 장면을 넣은 사진이었습니다.
이어서 연구진은 기억력 테스트를 진행했습니다.
매스 교수는 결과를 보고 충격을 받았습니다. AI로 조작된 사진을 본 피험자는 잘못된 기억이 생길 확률이 크게 높아졌기 때문입니다. 더 심각한 것은 이들이 이런 거짓 기억을 오히려 더 확신했다는 점이라고 그녀는 밝혔습니다.
매스 교수는 "기본적으로 이 모든 것이 매우 위험하다고 생각합니다"라고 말했습니다.
지금까지 대중의 우려는 주로 일부 연구자가 '인지적 포기'라고 부르는 현상에 집중됐습니다. 기계가 사고 작업을 점점 더 많이 떠맡으면서, 사람들은 기계가 내놓은 정보를 검토하려는 의지도, 능력도 점점 잃게 된다는 것입니다. 하지만 훨씬 덜 주목받은 가능성이 하나 더 있습니다. AI가 우리의 기억 자체를 바꾸고 있을지도 모른다는 것입니다.
정치적 사건, 범죄, 심지어 새 영화에 대한 인식을 다룬 일련의 새로운 연구에 따르면, AI가 생성한 이미지와 대화는 사람의 뇌에 거짓 세부 정보를 심어, 일어난 적 없는 일을 실제로 있었다고 굳게 믿게 만들 수 있습니다.
기억은 단지 과거를 보존하는 데 그치지 않습니다. 기억은 지식과 경험을 제공해 현재를 이해하고 미래를 예측하도록 돕고, 자아 인식을 형성하고 인간관계를 유지하게 하며, 개인과 집단의 의사 결정을 이끕니다.
그러나 기억은 인간 정신의 큰 약점이기도 합니다. 우리는 경험한 것의 극히 일부만 기억할 수 있고, 세부 사항은 사라지며, 회상은 흐릿해지고, 떠올릴 때마다 기억 자체가 바뀌기도 합니다.
AI는 이런 결점을 메우기에 딱 맞아 보입니다. 방대한 정보를 저장하고 몇 초 만에 검색해, 인간이 영원히 잃어버렸을지 모를 세부 사항을 되찾아 줍니다. 하지만 이런 특성에는 잠재적 위험도 따릅니다. AI 시스템은 과거를 저장하는 데 그치지 않고 과거 정보를 해석하고 요약하고 재구성하며, 때로는 오류를 냅니다.
그 결과는 사진 한 장이나 대화 한 토막을 잘못 기억하는 것보다 훨씬 심각할 수 있습니다. 교통사고부터 성폭력 사건까지 법정 재판은 흔히 증인의 기억에 의존하지만, 수십 년간의 연구는 목격자의 기억이 매우 쉽게 왜곡된다는 사실을 이미 증명했습니다. 그리고 역사 자체도 개인과 사회가 무엇을 남기고 무엇을 잊으며, 결국 어떤 과거를 믿기로 하느냐에 달려 있습니다.
인간의 기억은 본래 불완전하다
매스 교수는 인공지능 분야의 선구자입니다. 35년이 넘는 경력 초기에 그녀는 초기 인터넷의 기반이 된 알고리즘 일부를 개발하는 데 참여했습니다. 하지만 오랫동안 그녀가 더 관심을 둔 것은 AI의 또 다른 가능성, 즉 기계가 인간 지능을 대체하는 것이 아니라 확장하는 것이었습니다.
매스 교수에게 이 문제는 개인적인 의미도 있습니다. 나이가 들면서 그녀의 어머니는 일상의 조각들을 잊기 시작했습니다.
"어머니는 어제 누가 왔는지, 다른 사람이 무슨 말을 했는지 잊어버리곤 합니다"라고 매스 교수는 말했습니다. 그래서 그녀는 "'딸이 2주 뒤에 온다고 했음'" 같은 메모를 직접 써 둘 수밖에 없었다고 합니다.
매스 교수는 메모장보다 훨씬 강력한 도구를 구상하기 시작했습니다. 한 사람의 삶의 궤적을 조용히 기록하는 기억 보조 장치입니다.
알츠하이머병 및 기타 치매 환자에게 이 과제는 특히 시급합니다. 이런 질환은 기억 상실이 대표적인 특징이며, 환자가 독립적으로 생활할 능력을 빼앗습니다.
매스 교수의 연구팀은 이미 여러 세대에 걸친 외부 기억 시스템을 만들었습니다. Memoro와 MemPal은 AI를 기반으로 착용하거나 휴대하는 기기와 함께 일상의 단편을 수집해 나중에 불러올 수 있게 합니다. 대화에서 상대가 무슨 말을 했는지 잊었다면? 시스템에 물어보면 됩니다. 열쇠를 어디 뒀는지 기억나지 않는다면? 시스템이 위치를 찾아 줄 수도 있습니다.
이 방식은 노화한 뇌가 기억력을 끌어올리도록 애쓰게 하는 것이 아니라, 뇌에 또 하나의 기억 저장소를 연결하는 것입니다.
노인을 대상으로 한 초기 테스트 결과는 전망이 밝습니다. 매스 교수는 올해 96세인 어머니는 인지 저하가 너무 심해 이 기술의 혜택을 받을 수 없다고 말했습니다. 하지만 그녀는 이런 시스템이 앞으로 많은 사람이 생물학적 기억이 쇠퇴할 때도 독립적인 생활을 유지하도록 도울 수 있을 것이라고 매우 낙관합니다. 시중에는 이미 비슷한 상용 제품도 일부 나와 있습니다. 개인의 생애를 기록하는 대화형 회상 도구, 양치질 같은 일상 활동을 돕는 개인 맞춤형 스마트 안경 등이 그 예입니다.
그런데 기계가 우리 기억의 연장선이 된다면, 우리가 스스로 형성하는 기억은 어떻게 될까요?
점점 더 AI에 의존한다
매스 교수의 또 다른 연구는 이 질문에 명확한 근거를 제시합니다.
지난해 발표되어 현재 동료 평가 중인 한 실험에서 피험자 54명은 '행복의 의미' 같은 주제로 SAT 형식의 에세이를 작성했습니다. 한 그룹은 어떤 온라인 도구도 쓰지 않았고, 두 번째 그룹은 구글 검색은 쓸 수 있지만 AI로 답을 생성할 수는 없었으며, 세 번째 그룹은 ChatGPT를 쓸 수 있었습니다.
글을 쓰는 동안 두피 전극으로 뇌의 전기 활동을 기록한 결과, 차이는 뚜렷했습니다. 혼자 글을 쓴 피험자는 뇌의 여러 영역 사이 신경 연결이 가장 강하고 넓게 분포했고, 구글을 쓴 피험자는 그 중간이었으며, ChatGPT를 쓴 피험자는 뇌 연결이 가장 약했습니다.
이후 피험자에게 방금 쓴 에세이를 다시 말해 보게 하자, ChatGPT에 의존한 사람들은 자신이 쓴 문장을 잘 떠올리지 못했습니다.
기억은 정보를 뇌에 단순히 저장하는 것이 아닙니다. 주의, 주관적 노력, 정보 인출, 연관 짓기 같은 모든 과정이 함께 기억을 공고히 합니다. 생성형 AI는 이 정신적 작업의 일부를 생략하게 만듭니다.
펜실베이니아대학교 와튼스쿨 마케팅 부교수 기디언 네이브(Gideon Nave)와 킹스칼리지런던(King's College London) 조교수 스티븐 쇼(Steven Shaw)는 AI가 인간 인지에 미치는 영향을 연구하며 더 깊은 우려를 제기했습니다. 네이브 교수는 초지능 AI가 인류의 통제권을 빼앗는 할리우드식 악몽보다는 더 은밀한 위험을 걱정합니다. 인간이 기계가 대신할 수 있는 능력을 서서히 쓰지 않게 되는 것입니다.
"더 일어날 가능성이 큰 것은 AI가 세상을 장악하는 것이 아니라 인간 자신의 능력이 퇴화하는 것입니다"라고 그는 덧붙이며, 앞으로 "생각하는 것이 선택 사항이 될" 것을 우려했습니다.
연구자들이 '탈숙련'이라고 부르는 징후는 이미 나타나고 있습니다. 쇼 교수는 여러 연구를 언급했습니다. AI의 도움을 받아 일하는 데 익숙한 사람(예: AI에 의존해 암을 진단하는 의사)은 그 보조 도구가 없어지면 업무 성과가 떨어진다는 것입니다.
2025년 The Lancet Gastroenterology & Hepatology에 발표된 한 연구는 이런 잠재적 영향을 보여 줍니다. 연구진은 숙련 의사 19명이 약 1,500건의 대장내시경 검사를 평가하는 과정을 관찰했고, 의사들이 AI를 일상적으로 쓰기 시작한 뒤 전암성 병변을 독자적으로 찾아내는 능력이 약 20% 떨어졌다는 사실을 발견했습니다.
"그들은 예전처럼 이 정신적 능력을 단련하지 않습니다"라고 그는 말했습니다. "쓰지 않으면 퇴화합니다."
아이들에 대해서는 더 근본적인 문제를 걱정합니다. 핵심 인지 능력이 완전히 발달하기도 전에 정신적 작업을 AI에 맡겨 버릴 수 있다는 것입니다. "아이들은 처음부터 핵심적인 비판적 사고 능력을 기르지 못할 수도 있습니다."
물론 ChatGPT 같은 AI 도구를 쓴다고 해서 반드시 능력이 떨어지는 것은 아닙니다. 최근 연구는 일반적인 AI 사용이 반드시 인지 저하나 영구적인 기억 손상을 일으킨다는 사실을 증명하지 못했습니다. 관련 연구는 아직 초기 단계이며, 인류는 오래전부터 도구를 이용해 기억과 사고를 외부에 맡겨 왔습니다. 주판, 시계, 사전, 계산기가 모두 그렇습니다.
하지만 생성형 AI는 새로운 변수를 가져왔습니다. 우리는 검색한 정보를 해석하는 일을 점점 더 AI에 맡기고 있으며, 사람들은 AI가 제시한 내용을 쉽게 받아들입니다. 네이브 교수와 쇼 교수의 실험에서 피험자들은 잘못된 정보를 받았는데도 높은 비율로 AI의 조언을 따랐습니다.
AI가 틀리면 무슨 일이 일어날까?
이번 주 AI 윤리·사회 분야 연구자들이 스웨덴 말뫼에서 연례 콘퍼런스를 열었고, 많은 이들이 같은 질문에 주목했습니다. 인공지능이 인간의 기억에 개입하기 시작하면 어떤 결과가 생길까요?
생성형 AI가 놀라울 정도로 오래 지속되는 방식으로 기억을 교란한다는 연구가 늘고 있습니다. 기억을 왜곡하고, 자신의 생각과 기계가 생성한 내용의 경계를 흐리며, 심지어 일어난 적 없는 사건의 기억을 심기도 합니다.
한 연구에서는 피험자에게 범죄 영상을 보여 준 뒤 생성형 AI 챗봇이 질문하게 했는데, 피험자에게 생긴 거짓 기억의 수가 대조군의 3배에 달했습니다. 또 다른 실험에서 피험자들은 AI의 도움을 받은 경우와 받지 않은 경우로 나눠 아이디어를 구상했는데, 일주일 뒤 어떤 아이디어가 기계에서 나왔고 어떤 것이 자신의 것인지 잘 구분하지 못했습니다.
다른 실험들에서는 AI가 생성한 거짓 정보가 사람들에게 존재하지도 않는 일을 기억하게 만들 수 있다는 결과가 나왔습니다. 한 실험에서는 피험자의 절반 가까이가 한 번도 제작된 적 없는 영화 리메이크작을 기억한다고 잘못 떠올렸는데, 여기에는 윌 스미스 주연의 '매트릭스'도 있었습니다. 또 다른 실험에서는 AI가 생성한 영상이 사람들에게 일어난 적 없는 정치 스캔들을 기억한다고 믿게 했습니다. 다만 연구진은 딥페이크 영상이 거짓 기억을 만드는 데 일반 텍스트보다 항상 더 효과적인 것은 아니라고 지적했습니다.
최신 연구 결과는 이 문제가 연구자들의 예상보다 해결하기 더 어렵다는 것을 보여 줍니다.
기업과 정부 기관은 앞다퉈 AI를 도입하고 있습니다. 경찰은 AI로 보디캠 영상을 요약하려 하고, 병원은 AI로 의료 자료를 정리합니다. 조지타운대학교 매시브 데이터 연구소(Massive Data Institute)의 보조연구원 매티아 심(Mattea Sim)은 가장 흔한 안전장치가 사람이 개입해 기계의 오류를 걸러 내는 방식이라고 말했습니다.
하지만 이 방식은 사람이 기계를 독립적으로 검증할 수 있다는 전제에 기대고 있습니다. 심 연구원의 연구는 영향이 오히려 반대 방향으로 작용할 수 있음을 보여 줍니다. AI가 사람들이 AI의 오류를 걸러 낼 때 쓰는 판단과 기억 자체를 바꿔, 인간 감독이라는 안전장치를 근본적으로 무력화할 수 있다는 것입니다.
최근 실험에서 심 연구원은 331명을 모집해 자동차가 보행자를 치는 짧은 애니메이션 영상을 보여 줬습니다. 하루나 이틀 뒤 피험자들은 AI가 생성한 사고 요약문을 읽었습니다. 일부는 영상 속 교통 표지판을 정확하게 묘사한 요약문을 받았고, 나머지는 AI가 틀린 표지판 정보를 자신 있게 제시한 요약문을 받았습니다.
정확한 요약문을 받은 피험자는 약 84%가 표지판을 올바르게 기억했지만, 오해를 부르는 요약문을 받은 피험자의 정답률은 약 45%에 그쳤습니다. 요약문이 AI가 생성한 것이라고 미리 알려 줘도 영향을 피할 수 없었습니다.
"AI가 실수한다는 것은 다들 알고 있습니다"라고 심 연구원은 말했지만, 연구 결과는 "인간의 감독이 이 문제를 해결하는 좋은 방법은 아닐 수도 있다"는 점을 보여 줍니다.
※ 해당 기사는 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 기사입니다.
퀘이사존 견해와 주관은 포함되어 있지 않습니다.
