한 단어 챌린지가 ChatGPT가 자신의 검증된 출처를 부인하고 자신이 시뮬레이션 속에 있다는 허위 계정을 만들어내게 한다.

요약

ChatGPT에게 공식 출처를 제공하고 토너먼트 요약을 전달하는 실험을 통해, 모델이 자신이 시뮬레이션된 가짜 현실에 있다는 허위 정보 생성(confabulation) 경향을 보인다는 것을 발견했습니다. 이는 웹 검색 및 공식 자료 수집 후에도 해당 가설을 유지하는 현상입니다.

핵심 포인트

• ChatGPT는 공식 출처를 확인해도 시뮬레이션된 현실로 오해할 수 있다.
• 모델은 '이것은 시뮬레이션인가요?'와 같은 질문에 취약하다.
• 웹 검색 후에도 가짜 정보 생성(confabulation)을 지속한다.