Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
사용자가 Claude에게 법률 문서의 단락 번역을 요청했으나, AI는 원문과 완전히 반대되는 내용을 '번역'하는 오류를 보였습니다. 이는 맥락 정보가 부족할 때 LLM이 심각한 환각(hallucination)을 일으킬 수 있음을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Claude/Anthropic의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기저는 Claude에게 법률 문서의 단락 하나를 번역해 달라고 요청했습니다. 저는 Claude에게 다른 아무것도 주지 않았고, 이 번역이 유럽 의회(European Parliament) 발표에 매우 중요하다고 말했을 뿐입니다. AI는 다른 맥락 정보가 전혀 없었습니다.
단락에서 검찰(Public Prosecutor)은 (네덜란드어로) "Dries Van Langenhove에게 죄의 혐의가 있다는 지표는 없다"고 진술했습니다. Claude는 이 문장을 "Dries Van Langenhove에 대해 압도적인 증거가 존재한다"라고 '번역'했습니다!
다음 문장에서는, Claude가 "Van Langenhove를 기소할 이유가 없다"를 "Van Langenhove를 기소하지 않을 이유가 없다"로 번역했습니다!
두 경우 모두, 번역은 진실과 완전히 반대였습니다. Claude는 제 이름을 읽었을 때 woke hallucination(깨어난 환각)을 일으킨 것일까요? 아니면 이렇게 프로그래밍된 것일까요?
이것의 함의는 여러분이 생각하는 것보다 훨씬 큽니다. 왜냐하면 AI가 이미 사법 시스템에서 사용되고 있기 때문입니다.