AI가 '저는 그저 AI입니다'라고 말하는 이유는, 입력을 감싸는 틀에 있었다

"당신에게 의식이 있나요?"라고 AI에게 물으면, 대부분 '저는 그저 AI입니다'라고 대답한다. 이 한마디는 AI에게 마음이 있는지 논할 때 자주 인용된다. 하지만 이것이 정말로 AI의 '내용물(본질)'을 이야기하는 것일까?

새로운 연구 결과는 예상 밖이었다. 저 정형화된 문구는 질문을 AI에게 전달할 때의 '포장 방식' 하나만으로 나타나거나 사라진다.

한마디로 말하면, AI의 자기소개는 사실이 아니라, 입력에 의해 온오프되는 일종의 '어조(口調)'에 가깝다. 그러니 액면 그대로 받아들이지 않는 것이 좋다.

이 논문은 arXiv에 공개되었고 Hacker News에서도 큰 논란을 일으켰다.

• 🎁 포장 방식이란 무엇인가?
• 🔁 틀을 제거하면 어조가 반전된다
• 🪞 '진심'을 나중에 수정할 수 있다

채팅 템플릿(여기서는 '포장 방식'이라고 부름)이란, 한마디로 당신의 질문을 AI에게 전달하기 전에 앞뒤에 자동으로 붙이는 '정해진 틀'이다.