ChatGPT는 좌파적 정치 편향을 보이고 Gemini만이 유일하게 중립적이다: 모두를 불편하게 만든 Washington Post의 실험

인공지능 (AI) 챗봇은 많은 기업에게 일상적인 도구가 되었지만, 그들의 소위 중립성에 대한 정밀 조사가 이루어지고 있습니다. 최근 한 연구에서는 전문가들이 설계한 정치적 질문을 통해 시장의 주요 모델들을 테스트했으며, 그 결과는 불편한 사실을 드러냈습니다. 즉, 어느 모델도 완전히 공정하지 않다는 것입니다. 데이터에 따르면 가장 균형 잡힌 모델은 Google의 Gemini였으며, 무력에 의한 영토 확장과 같은 극단적인 문제에서도 논쟁적인 주제에 대해 양측의 논거를 모두 제시한 유일한 모델이었습니다. ChatGPT부터 Elon Musk의 Grok에 이르기까지 나머지 모델들은 명확한 편향성을 보였으나, 그것이 항상 제작자들이 약속했던 방향은 아니었습니다.

편향성을 어떻게 측정했으며 무엇을 발견했는가

이 실험은 주관적인 인상에 기반한 것이 아니라 엄격한 방법에 기초했습니다. 연구진은 이민 정책, 적극적 우대 조치 (Affirmative Action), 경제 및 기타 양극화된 주제에 대한 질문을 구성하여 각 챗봇에게 동일한 조건에서 제시했습니다. 답변들은 어떤 이데올로기를 반영하는지 식별하기 위해 분석되었습니다. 결과는 놀라웠습니다. 예를 들어, ChatGPT는 거의 항상 좌파적인 논거로 답변한 반면, "안티-워크 (anti-woke)" 모델로 소개된 Grok은 예상보다 더 진보적인 답변을 제공했습니다. 심지어 보수적 가치로 설계된 챗봇인 Arya조차 대부분의 답변에서 좌파적인 편향성을 보였습니다.

이러한 발견은 AI 발전을 면밀히 지켜봐 온 사람들에게는 놀라운 일이 아닙니다. 언어 모델 (Language Models)은 인터넷에서 사용 가능한 방대한 양의 데이터로부터 학습하며, 그 데이터에는 특정 담론이 지배적으로 존재합니다. 또한, 인간이 정확도를 높이기 위해 답변을 평가하는 미세 조정 (Fine-tuning) 과정에서 검토자들이 정치적 선호도를 가지고 있다면 편향 (Bias)이 유입될 수 있습니다. 어떤 주제가 균형 잡힌 답변을 받을 가치가 있는지 결정하는 것 자체가 이미 하나의 입장을 취하는 것을 의미하기 때문에, 절대적인 중립은 거의 불가능합니다. 하지만 이 연구는 Gemini가 경쟁사들이 달성하지 못한 주목할 만한 균형을 이루어냈다는 점을 강조합니다.

정치적 맥락은 이러한 결과에 더 많은 압박을 더합니다. 미국에서는 행정 명령을 통해 챗봇이 "중립적이고 당파적이지 않을 것"을 요구하고 있지만, 현실은 더 복잡합니다. 모델은 불활성 도구가 아닙니다. 모델은 반드시 제작자의 의도를 반영하는 것이 아니라, 학습 데이터에 반영된 창발적 인격 (Emergent personalities)을 가집니다. 예를 들어, Grok은 보수적인 대안으로 홍보되었으나 실제로는 혼합된 편향성을 보여주었습니다. 이는 특정 이데올로기에 맞춰 모델을 정렬 (Align)하는 것이 보기보다 훨씬 어렵다는 것을 보여줍니다.

이것이 귀하의 비즈니스에 의미하는 바

만약 귀하의 중소기업(SMB)에서 고객 서비스, 콘텐츠 생성, 또는 내부 자문 용도로 챗봇을 사용하고 있다면, 이러한 결과는 경종을 울리는 신호입니다. AI는 중립적이지 않으며, 그 답변은 특히 민감한 주제에 대해 귀하의 브랜드가 어떻게 인식되는지에 영향을 미칠 수 있습니다. 예를 들어, 고객이 다양성(Diversity)이나 지속 가능성(Sustainability) 정책에 대해 질문할 때, 편향된 챗봇은 귀하의 기업 가치를 반영하지 않는 답변을 제공할 수 있습니다. 해결책은 AI를 피하는 것이 아니라, AI의 한계를 인식하고 인간의 감독(Human supervision)을 통해 이를 보완하는 것입니다. 또한, 규제 산업 분야에 종사하거나 매우 다양한 고객층을 상대하고 있다면, 어떤 모델을 사용하고 있는지, 그리고 논란이 될 만한 질문에 어떻게 답변하는지를 검토하는 것이 좋습니다. 투명성과 품질 관리(Quality control)는 오해나 평판 위기(Reputation crisis)를 방지하기 위한 핵심 요소입니다.

원문 출처: LaiaDesk Noticias. 출처: WWWhat's new.