구글 딥마인드랑 스탠퍼드에서 나온 논문인데 좀 신기하면서 찝찝함

요약

구글 딥마인드와 스탠퍼드의 연구에 따르면, 코딩 문제 프롬프트에 빨간 하트 이미지를 넣었을 때 Claude와 GPT 모델이 특정 방식으로만 코드를 작성하는 경향을 보였습니다. 이는 시각적 단서가 AI의 출력에 강력한 편향을 일으킬 수 있음을 보여줍니다. 또한, AI는 이러한 외부 요인(하트)에 대한 설명을 제공하지 않아 그 설명 자체의 신뢰성에 의문을 제기합니다.

핵심 포인트

• 시각적 단서(이미지/이모지)가 AI 코드 생성 결과에 강력한 편향을 유발함.
• 텍스트보다 실제 이미지가 모델에 더 큰 영향을 미치는 것으로 나타남.
• AI는 외부 요인으로 인한 출력 변화를 설명 과정에서 누락할 수 있음.
• AI의 자체 설명만으로는 모든 작동 원리를 신뢰하기 어려움.