건설할 것인가, 안 할 것인가? AI 시스템의 비개발 또는 중단으로 이어지는 요인들

책임 있는 AI 연구는 일반적으로 배포된 AI 시스템의 사용과 영향을 검토하는 데 중점을 둡니다. 그러나 이러한 시스템을 처음부터 구축하려는 사전 배포 결정에 대한 가시성은 현재 제한적입니다. 개발 초기 단계에서 내려진 결정들은 궁극적으로 출시되는 시스템들을 형성하며, 따라서 잠재적이지만 아직 충분히 탐구되지 않은 개입 지점들을 대표합니다. 이에 따라 본 논문은 개발 라이프사이클 전반에 걸쳐 AI 비개발과 중단을 이끄는 요인들을 조사합니다. 구체적으로, 우리는 먼저 학술 문헌, 시민사회 자원, 그리고 언론 보도 및 산업 보고서 등 회색 문헌을 포함한 범위를 검토 (scoping review) 수행합니다. 이러한 출처들의 주제 분석 (thematic analysis) 을 통해 AI 중단에 기여하는 6 가지 범주의 요인에 대한 분류체계를 개발합니다: 윤리적 우려, 이해관계자 피드백, 개발 라이프사이클상의 도전 과제, 조직 역학, 자원 제약, 그리고 법적/규제적 우려입니다. 그런 다음, 우리는 AI 사고 데이터베이스와 실무자 설문 조사를 통해 시스템 배포 전후로 중단을 이끄는 요인들을 증거화하고 비교하기 위해 실제 사례의 AI 시스템 중단에 대한 데이터를 수집합니다. 학술적 책임 있는 AI 공동체는 종종 AI 개발을 하지 않는 이유로 윤리적 위험을 강조하지만, 이러한 사례들에 대한 우리의 경험적 분석은 조직이 AI 개발을 중단하게 만드는 다양하며 종종 윤리 관련이 없는 레버리지 (levers) 를 입증합니다. 우리의 분류체계와 관련된 사례 연구 분석에서 도출된 증거를 종합하여, 현재 책임 있는 AI 연구의 격차와 기회를 식별합니다: (1) 조직이 AI 개발을 중단하게 하는 다양한 범주의 레버리지에 참여하고, (2) AI 시스템 개발에 대한 적절한 (비)참여를 더 잘 지원하기 위해.