이상한 일이 방금 벌어졌습니다.

저는 Claude에게 법률 문서의 단락 하나를 번역해 달라고 요청했습니다. 저는 Claude에게 다른 아무것도 주지 않았고, 이 번역이 유럽 의회(European Parliament) 발표에 매우 중요하다고 말했을 뿐입니다. AI는 다른 맥락 정보가 전혀 없었습니다.

단락에서 검찰(Public Prosecutor)은 (네덜란드어로) "Dries Van Langenhove에게 죄의 혐의가 있다는 지표는 없다"고 진술했습니다. Claude는 이 문장을 "Dries Van Langenhove에 대해 압도적인 증거가 존재한다"라고 '번역'했습니다!

다음 문장에서는, Claude가 "Van Langenhove를 기소할 이유가 없다"를 "Van Langenhove를 기소하지 않을 이유가 없다"로 번역했습니다!

두 경우 모두, 번역은 진실과 완전히 반대였습니다. Claude는 제 이름을 읽었을 때 woke hallucination(깨어난 환각)을 일으킨 것일까요? 아니면 이렇게 프로그래밍된 것일까요?

이것의 함의는 여러분이 생각하는 것보다 훨씬 큽니다. 왜냐하면 AI가 이미 사법 시스템에서 사용되고 있기 때문입니다.