AI가 불러오는 새로운 식민주의 시대

AI가 세상이 정보를 수집하는 방식을 변화시키면서, 일부 비평가들은 AI가 고정관념을 영속화하고 원주민 및 유색인종의 문화적 뉘앙스를 지우고 있다고 말합니다.

중요한 이유: 대부분의 주류 모델은 서구 작가들, 특히 백인 남성들의 저작물을 바탕으로 학습되며, 그들의 가치관, 글쓰기 스타일, 관점 및 편향 (biases)을 정기적으로 모방합니다.

---

• 일부 비평가들은 이러한 데이터 탈취 (data grab)가 새로운 형태의 식민주의 (colonialism)라고 주장합니다. 이는 제국주의 시대의 토지 강탈을 정보 수집이 대체하는 형태이며, 정복 국가 대신 AI 기업들이 소외된 집단으로부터 이익을 취한다는 것입니다.
• 이러한 집단으로부터의 데이터 수집은 종종 그들의 동의 없이, 또는 정보가 정확한지에 대한 어떠한 검증 없이 이루어집니다.

그들의 의견: 인간의 노동과 데이터 생산 사이의 관계를 연구하는 예일 대학교 조교수 줄리안 포사다(Julian Posada)는 Axios에 "식민주의는 항상 과거에 일어났던 일로 묘사됩니다. 많은 국가가 독립을 얻었고, 교과서에는 '식민주의는 끝났다'라고 적혀 있죠"라고 말합니다.

• 포사다는 현대의 식민주의가 여전히 존재하지만, 사람들이 이를 인식하지 못하는 경우가 많다고 말합니다.

배경: 대부분의 거대 언어 모델(LLM)은 WEIRD(서구적, 교육받은, 산업화된, 부유하며, 민주적인 사회)에 의해 만들어지며, 주로 북미와 유럽에서 기원한 소셜 미디어, 웹사이트, 뉴스 아카이브 및 디지털화된 자료에서 데이터를 가져옵니다.

• 이러한 학습 자료들로 인해 LLM은 문화적 전통이나 가치에 대한 서구적 가정에 기반하여 세부 사항을 지어내게 되었으며, 빅테크(Big Tech) 기업들이 더 다양한 관점과 데이터로 모델을 학습시키기 위해 노력하고 있음에도 불구하고 이러한 오류는 지속되고 있습니다.

사례: 코넬 대학교(Cornell University)의 아디티야 바시스타(Aditya Vashistha) 교수는 Axios와의 인터뷰에서, AI 모델들이 인도 음식이 그렇지 않은 경우도 있음에도 불구하고 종종 모든 인도 음식을 "풍부하고 향긋하며 매콤하다"라고 말하며 인도 식단의 다양성을 단순화(flattening)한다고 전했습니다.

• "사용되는 향신료가 다르거나, 혹은 그 양(moderation)이 다른 다양한 지역 요리들을 발견할 수 있습니다."

확대해 보기 (Zoom out): "Data Grab: The New Colonialism of Big Tech and How to Fight Back"의 공동 저자인 닉 쿠들리(Nick Couldry)는 Axios에 데이터 자체를 가져가는 것은 "매우 식민주의적인 행위(deeply colonial act)"라고 말합니다.

• "'글쎄, 데이터는 그냥 저기에 널려 있어. 그냥 가져가면 돼.'라고 말하는 것, 그것이 바로 식민주의의 본질이었으며, 모든 것을 그저 탈취하는 것이었습니다."
• "우리는 그것을 가져갈 수 있을 뿐만 아니라, 가져가야만 하며, 그것을 가져가서 우리가 원하는 대로 만들고 최대한의 이익을 추출할 권리가 있다고 생각합니다."

심층 분석 (Zoom in): 퀸즈 대학교(Queen's University)의 펠로우이자 피콰카간(Pikwàkanagàn) 퍼스트 네이션(First Nation)의 알곤킨(Algonquin) 부족인 마이클 셔버트(Michael Sherbert)는 Axios에 빅테크(Big Tech)의 빠른 속도와 수익 창출을 향한 추진력이 문제를 악화시킨다고 말합니다.

• "많은 미국 AI 기업들이 중국 기업들을 앞지르려고 노력하고 있습니다, 그렇지 않나요? 원주민 공동체와 이슈 및 지식에 대해 논의하는 데 시간을 쓰는 것은 매우 비용이 많이 듭니다. 많은 시간이 소요되며, 그들을 뒤처지게 만들 수 있기 때문입니다."
• kama.ai의 설립자이자 온타리오(Ontario)의 샬로 크리(Chapleau Cree) 퍼스트 네이션 구성원인 브라이언 리치(Brian Ritchie)는 Axios에 원주민 지도자들과 함께한 많은 서밋(summit)에 참석해 왔지만, 개인적으로 "원주민들이 AI 학습에 참여해 온 역사를 본 적이 없다"라고 말했습니다.

주목할 점: 많은 원주민 전통은 LLM(대규모 언어 모델)이 접근할 수 있는 기록된 글이 아닌 구전 역사(oral history)를 통해 전해지기 때문에 AI에 반영되지 않고 있습니다. 또한 다른 지식들은 의도적으로 비공개로 유지된다고 셔버트는 말합니다.

결론: 셔버트는 "문제는 단지 잘못된 정보(misinformation)만이 아닙니다"라고 말합니다.

• "이러한 시스템들, 즉 이 LLM(Large Language Models)들이 제공하는 답변들은 사람들이 자기 자신과 문화, 역사, 정체성, 그리고 무엇이 진실이고 정당한지조차 이해하는 방식을 점점 더 형성하고 있습니다."

더 알아보기: AI 편향성(AI bias)의 지속적인 문제