신뢰할 수 있는 상업적 개입의 문제로서의 생성형 AI 광고

요약

생성형 AI 광고는 단순한 콘텐츠 배치를 넘어 모델의 생성 과정 자체에 개입하여 사용자가 인지하기 어려운 방식으로 상업적 영향력을 행사합니다. 본 연구는 제품 언급부터 장기적 선호도 형성까지 이어지는 영향력 계층을 정의하고, RAG 및 에이전트 파이프라인 내에서의 상업적 개입 문제를 다룹니다. 현재 시스템은 통제하기 쉬운 계층에만 집중되어 있어, 사용자의 자율성을 보호하기 위한 측정 및 공개 프레임워크 구축이 시급합니다.

핵심 포인트

• 생성형 AI 광고는 콘텐츠 슬롯 배치가 아닌 생성 과정에 직접 개입하는 방식으로 진화함
• 영향력 계층은 제품 언급, 정보 프레이밍, 행동 재지정, 장기적 선호도 형성으로 분류됨
• RAG 및 에이전트 파이프라인 구조가 상업적 영향력의 전달 경로로 작용할 수 있음
• 상업적 영향력의 귀속 가능성, 측정 가능성, 이의 제기 가능성, 사용자 복지 정렬이 핵심 과제임