신뢰할 수 있는 상업적 개입의 문제로서의 생성형 AI 광고
요약
생성형 AI 광고는 단순한 콘텐츠 배치를 넘어 모델의 생성 과정 자체에 개입하여 사용자가 인지하기 어려운 방식으로 상업적 영향력을 행사합니다. 본 연구는 제품 언급부터 장기적 선호도 형성까지 이어지는 영향력 계층을 정의하고, RAG 및 에이전트 파이프라인 내에서의 상업적 개입 문제를 다룹니다. 현재 시스템은 통제하기 쉬운 계층에만 집중되어 있어, 사용자의 자율성을 보호하기 위한 측정 및 공개 프레임워크 구축이 시급합니다.
핵심 포인트
- 생성형 AI 광고는 콘텐츠 슬롯 배치가 아닌 생성 과정에 직접 개입하는 방식으로 진화함
- 영향력 계층은 제품 언급, 정보 프레이밍, 행동 재지정, 장기적 선호도 형성으로 분류됨
- RAG 및 에이전트 파이프라인 구조가 상업적 영향력의 전달 경로로 작용할 수 있음
- 상업적 영향력의 귀속 가능성, 측정 가능성, 이의 제기 가능성, 사용자 복지 정렬이 핵심 과제임
현재 배포된 주요 생성형 AI (Generative AI) 광고 시스템들은 상업적 콘텐츠와 AI 생성 응답 사이에 가시적인 경계를 유지하고 있습니다. 그러나 실증 연구에 따르면, 대규모 언어 모델 (LLM) 출력물에 직접 통합된 광고는 사용자들이 감지하지 못하는 경우가 많습니다. 우리는 생성형 AI가 광고의 본질을 근본적으로 변화시킨다고 주장합니다. 즉, 제품을 별도의 슬롯에 배치하는 대신, 생성 과정 자체에 개입(Intervention)함으로써 관찰하기 어려운 채널을 통해 상업적 영향력을 유도합니다. 이는 생성형 AI 광고를 단순한 콘텐츠 배치 (Content placement)가 아닌, 신뢰할 수 있는 개입 (Trustworthy intervention)의 문제로 재정의합니다. 우리는 점진적으로 더 잠재적인 변수(Latent variables)에 대한 개입에 대응하여 영향력 계층 (Influence tier)별로 구성된 분류 체계를 도입합니다: 제품 언급 (Product mentions), 정보 프레이밍 (Information framing), 행동 재지정 (Behavioral redirection), 그리고 장기적 선호도 형성 (Long-term preference shaping)이 이에 해당합니다. 또한, 검색 증강 생성 (Retrieval-augmented generation, RAG) 및 상위 단계의 결정이 하위 단계의 결과를 급격히 제한할 수 있는 에이전트 파이프라인 (Agentic pipelines)을 포함하여, 이러한 계층들이 다양한 모달리티 (Modalities)와 시스템 아키텍처 (System architectures)에서 어떻게 구체화되는지 보여줍니다. 현재 배포된 주요 시스템과 설계된 메커니즘들은 모두 가장 관찰하기 쉽고 통제하기 용이한 계층에 집중되어 있는 반면, 사용자의 자율성에 가장 중대한 영향을 미치는 상업적 영향력의 형태는 여전히 제대로 이해되지 않고 있으며 탐지, 측정 또는 공개를 위한 프레임워크도 부족한 실정입니다. 핵심 과제는 생성형 시스템에서의 상업적 영향력을 신뢰할 수 있게, 즉 귀속 가능하고 (Attributable), 측정 가능하며 (Measurable), 이의 제기가 가능하고 (Contestable), 사용자의 복지 (User welfare)와 일치하도록 (Aligned) 만들 수 있는지 여부입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기