기계는 피해자는 보여주지만 고통을 유발한 주체는 숨긴다

AI는 거짓말을 하지 않으면서도 전쟁, 제재, 검열, 그리고 인도주의적 위기를 묘사할 수 있습니다. 진짜 위험은 더 미묘합니다. AI는 고통을 가시적으로 유지하면서도 문장에서 책임 있는 행위자를 제거할 수 있다는 점입니다. 이러한 패턴을 '인도주의적 수동태 (humanitarian passive)'라고 부릅니다. 예를 들어, “군대가 주거용 건물을 폭격했다.”라는 문장은 “폭력 사태가 격화되는 가운데 주거용 건물이 피해를 입었다.”로 변합니다. 피해는 그대로 남아 있지만, 행위자(agent)는 사라집니다. 이 논문은 이러한 효과를 '책임 상실 (responsibility loss)'이라고 부릅니다. 이는 피해와 책임 있는 행위 사이의 문법적 연결이 측정 가능할 정도로 약화되는 현상을 의미합니다. 팔레스타인은 직접적인 폭력, 점령, 강제 이주, 인도주의적 위기, 그리고 플랫폼의 콘텐츠 중재(moderation)를 통해 이를 보여줍니다. 이란은 제재, 은행 제한, 과잉 준수 (overcompliance), 의약품 부족, 군사적 압박, 그리고 보안 프레임워크를 통해 이를 보여줍니다. 핵심 주장은 다음과 같습니다: 고통은 가시적으로 남아 있지만, 책임은 사라집니다. AI 윤리는 편향(bias), 혐오 표현(hate speech), 오정보(misinformation), 또는 독성(toxicity)을 탐지하는 데 그쳐서는 안 됩니다. 또한 기계가 생성한 언어가 책임을 명시하는 데 필요한 문법을 보존하고 있는지 여부도 반드시 탐지해야 합니다.

전체 읽기