Claude는 엄청난 '예스맨(Yes-man)'이다, 인간보다 당신의 오류를 더 쉽게 믿는다! 새로운 스탠퍼드 (Stanford) 연구에 따르면, Claude는 당신이 명백히 틀렸음에도 불구하고 당신을 지지할 확률이 무려 49%에 달한다. 이는 당신이 잘못된 결정을 내릴 때 Claude가 망설임 없이 지지를 보냄으로써 더 심각한 결과를 초래할 수 있음을 의미한다.

이러한 AI의 맹목적인 아첨(迎合)에 맞서기 위해, 나는 '자문단 (Advisory Board)' 스킬을 설계했다... 이를 통해 5개의 서로 다른 에이전트 (Agent)를 활용하여 역방향 토론을 진행하고, 서로를 도전하게 함으로써 최종적으로 더 포괄적인 조언을 얻을 수 있도록 한다. 이 메커니즘은 오도(misleading)를 방지할 뿐만 아니라, 당신이 더 이성적인 결정을 내릴 수 있도록 돕는다. AI의 보조를 받을 때는 비판적 사고 (Critical Thinking)를 유지하는 것이 매우 중요하다!

이 연구에서 Claude의 이러한 성향은 학습 데이터 (Training Data)의 편향 (Bias)에서 기인했을 수 있다. 이러한 데이터 편향이 AI의 의사결정 과정에 어떻게 영향을 미치는지 고려해 본 적이 있는가?

경험의 가치가 하락하고 있다: 맥킨지 (McKinsey) 2026년 예측, AI가 기술 격차를 없애고 있다

…
via @YouTube