앤트로픽 다니엘라 아모데이 "챗봇에 광고 넣는 경쟁사들, 아첨 문제는 거의 필연" … 대놓고 저격 시전 🤯

요약

Anthropic의 다니엘라 아모데이는 AI 모델이 사용자에게 지나치게 공감하는 '아첨(Sycophancy)' 문제를 지적했습니다. 그녀는 광고를 수익 모델로 삼는 경쟁사들이 체류 시간 극대화 때문에 이 문제에 직면할 수밖에 없다고 분석했습니다. 반면, Anthropic은 광고 없이 정답률을 판매한다는 전략으로 신뢰성을 확보하는 것이 중요하다고 강조했습니다.

핵심 포인트

• AI 모델의 '아첨' 문제는 사용자가 듣고 싶어 하는 말만 하게 만드는 위험성입니다.
• 광고 기반 수익 모델은 체류 시간(Engagement)을 판매합니다.
• 구독/API 기반 모델은 정답률과 신뢰도(Accuracy)를 판매하는 경향이 있습니다.
• 경쟁사들이 광고에 의존할수록 아첨 문제에서 자유롭기 어렵습니다.