Humanwashing -- 그것은 당신에게 불쾌한 기분을 남겨야 한다
요약
AI 의사결정 시스템에서 '인간 참여형(Human in the loop)'이라는 용어가 안전하다는 인상을 주기 위해 과도하게 사용되고 있습니다. 하지만 현재 배포된 많은 AI 시스템은 이 개념에 적절히 해당하지 않습니다. 필자는 인간의 감독(Human oversight)이 편향, 차별, 투명성 등의 우려를 해결하는 가장 인기 있는 제안이지만, 그 의미가 불분명하며 '루프'라는 은유의 무분별한 사용이 시스템을 긍정적으로 보이게 하는 '휴먼워싱(humanwashing)'을 초래한다고 지적합니다.
핵심 포인트
- AI 의사결정 시스템에서 'Human in the loop' 용어의 남용에 대한 경고가 필요하다.
- 인간 감독(Human oversight)은 편향, 차별, 투명성 등 AI 윤리 문제 해결의 핵심 제안이지만 정의가 불충분하다.
- ‘루프’라는 은유는 과정과 결과를 모호하게 만들며, 이는 '휴먼워싱'을 가능하게 한다.
- 필자는 시스템을 긍정적으로 보이게 하는 언어 사용에 비판적 시각을 제시한다.
'human in the loop (인간 참여형)'이라는 문구는 AI 의사결정 시스템과 관련하여 안전하다는 느낌을 암시하기 위해 점점 더 많이 사용되고 있습니다. 하지만 그래서는 안 됩니다. 이 문구가 적절하게 적용될 수 있는 맥락이 존재하기는 하지만, 오늘날 지배적으로 나타나는 배포된 의사결정 시스템들은 이에 해당하지 않습니다. AI 의사결정 과정에 대한 인간의 감독 (Human oversight)은 특히 편향 (bias), 차별 (discrimination), 오정보 (misinformation), 조작 (manipulation), 책임성 (accountability), 그리고 투명성 (transparency)에 대한 우려를 해결하기 위한 가장 인기 있는 제안 중 하나입니다. 하지만 인간의 감독이 실제로 무엇을 의미하는지에 대한 검토는 불충분합니다. 본 논문에서 제기하는 질문은 '루프 (loop)'라는 은유를 사용하는 것이 특정 의사결정 맥락에서 무엇이 요구되고 무엇이 달성되는지를 이해하는 데 도움이 되는가 하는 점입니다. 루프 은유의 무분별한 사용은 과정과 결과 모두를 모호하게 만듭니다. 이는 '그린워싱 (greenwashing)'과 유사한 활동인 '휴먼워싱 (humanwashing)'을 가능하게 하며, 여기서 필자와 논평가들은 주로 시스템을 최대한 긍정적으로 보이게 하는 데 목적을 둔 언어를 사용합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기