Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
뉴스룸의 생성형 AI 도입 과정에서 발생하는 투명성 공개 방식의 문제점을 분석합니다. 현재의 단순 라벨링이나 과도한 상세 공개가 오히려 독자의 신뢰를 저하시키는 '투명성 딜레마'를 유발함을 지적합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기뉴스룸이 생성형 AI (Generative AI)를 통합함에 따라, 기자들은 독자의 신뢰를 유지하면서 AI의 개입을 어떻게 전달할 것인가라는 공개 (Disclosure) 과제에 직면해 있습니다. 현재의 관행은 두 가지 접근 방식을 제공합니다: 짧은 한 줄의 라벨 또는 인간의 감독 (Human oversight), 편집 책임 (Editorial accountability), 그리고 오류 보고 메커니즘 (Error reporting mechanisms)을 명시하는 상세한 공개입니다. 두 방식 모두 투명성을 통해 신뢰를 구축하려는 기자들의 목표를 달성하지 못하고 있습니다. 34명의 뉴스 독자를 대상으로 한 기존의 통제 실험 (Controlled experiment)에 따르면, 상세한 공개는 extit{투명성 딜레마 (Transparency dilemma)}를 유발하여 신뢰를 높이기보다 오히려 감소시키며, 독자들이 투명성이라는 환상 속에서 그냥 지나쳐 버리는 다크 패턴 (Dark patterns)을 도입할 위험이 있음을 보여줍니다. 한 줄 공개는 이러한 효과는 피할 수 있지만, 정보 격차를 만들어낼 수 있으며, 독자들이 공개 내용에는 명시되어 있지만 설명은 되어 있지 않은 AI 개입의 흔적을 찾기 위해 인지적 노력 (Cognitive effort)을 기울이게 만듭니다. 하지만 독자들이 투명성을 거부하는 것은 아닙니다. 그들은 사용자 주체성 (User agency)에 중심을 둔 공개 설계, 즉 필요 시 상세 정보를 제공하는 상호작용 (Detail-on-demand interactions), 비례적인 AI 비율 시각화 (Proportional AI-ratio visualizations), 매체 수준의 신호 (Outlet-level signals), 그리고 명시적인 "AI 미사용" 라벨을 제안했습니다. 저는 실무자들이 책임 있는 공개라고 믿는 것과 사용자가 실제로 필요로 하는 것 사이의 이러한 괴리는 HCI (Human-Computer Interaction) 커뮤니티가 해결해야 할 설계 문제라고 주장합니다.