연구 결과, 오해를 불러일으키는 AI 요약이 기억을 왜곡할 수 있음

연구진들은 오해를 유발하는 AI 요약이 여러분의 기억을 왜곡할 수 있다는 사실을 발견했습니다.

심지어 그 요약이 AI에서 나왔다고 들었을 때도 말입니다.

Georgetown과 University of Washington의 연구원들은 사람들에게 자동차가 보행자를 치는 짧은 애니메이션 비디오를 시청하게 했습니다.

하루나 이틀 후, 그들에게 요약을 제공했습니다.

연구진들은 일부 요약에서 세부 사항 하나를 의도적으로 변경했습니다. 즉, 차가 정지 표지판에 접근했는지 아니면 양보 표지판에 접근했는지를 말입니다.

그런 다음 사람들의 기억을 테스트했습니다.

연구원들은 ChatGPT의 응답으로 만들어진 요약들을 사용했습니다. 일부 독자들에게는 그 텍스트가 AI에서 나왔다고 들었고, 다른 이들에게는 인간 전사자가 작성했다고 들었습니다.

이 두 가지 라벨에 걸쳐 결과는 놀라웠습니다:

• 정확한 요약의 경우, 83.6%가 표지판을 올바르게 식별했습니다.
• 오해를 불러일으키는 요약의 경우, 단지 44.8%만이 그렇게 했습니다.

사람들은 원래 비디오를 직접 시청했음에도 불구하고, 요약에 포함된 상충되는 세부 사항 때문에 표지판을 올바르게 식별할 가능성이 낮아졌습니다.

그리고 그 요약이 AI에서 나왔다고 들었다는 사실은 이 효과를 막지 못했습니다.

이것이 불편한 부분입니다.

만약 여러분이 사건을 본 사람에게서 온 AI 회고록의 실수를 잡아내도록 의존하고 있다면, 문제가 있습니다.

요약 자체가 그 사람이 확인해야 하는 바로 그 기억에 영향을 줄 수 있기 때문입니다.

이는 실제 경찰 보고서나 의료 기록이 아닌 애니메이션 영상으로 진행된 통제 실험이었으며, 이 효과는 AI로 라벨링된 요약에만 국한되지 않았습니다.

발견은 더 좁지만 여전히 심각하게 받아들일 가치가 있습니다. 즉, 회고록 속의 오해를 불러일으키는 정보가 여러분이 이미 본 무언가의 회상을 왜곡할 수 있다는 것입니다.

중요한 것이라면 원본을 보관하고 핵심 세부 사항들을 그것과 대조하여 확인하세요.

요약은 무슨 일이 일어났는지 상기시켜 주는 것이 목적입니다.
그것 자체가 여러분이 기억하는 무언가가 되어서는 안 됩니다.