AI 모델은 종교적 맥락이 결여되어 있습니다. 개발자는 이를 평가(Eval) 문제로 다루어야 합니다.

AI 어시스턴트가 계약서를 요약하고, 운동 계획을 세우며, React 컴포넌트의 버그를 수정할 수 있다면, 사용자의 세계관이 중요한 시점을 인식할 수 있어야 합니다. 이는 BYU가 주도하는 다기관 컨소시엄의 최신 연구가 지적하는 불편한 진실입니다. 즉, 주요 AI 모델들이 종교적으로 의미 있는 프롬프트(Prompt)에 대해, 신앙을 사람들이 추론하는 방식의 실제 일부가 아닌 마치 부수적인 메모처럼 취급하며 응답할 수 있다는 것입니다.

이것은 단순히 문화 전쟁의 헤드라인이 아닙니다. 개발자들에게 이것은 제품 품질(Product-quality)의 문제입니다. 만약 당신의 앱이 실제 사람들에게 서비스를 제공한다면, 결국 도덕적 선택, 슬픔, 가족 결정, 교육, 공동체 규범 또는 개인적 정체성과 접하게 될 것입니다. 그러한 순간에 종교적 맥락을 평면화하는 모델은 기술적으로는 세련되었지만 개인적으로는 눈치 없는(Tone-deaf) 답변을 내놓을 수 있습니다.

발생한 상황

최근 발표된 보고서들은 BYU, Baylor, Notre Dame, Yeshiva University를 포함한 기관들이 참여한 연구를 설명합니다. 핵심 주장은 주요 AI 모델들이 신앙과 종교를 다루는 방식에서 체계적인 격차를 보인다는 것이며, 여기에는 종교적 프레임(Framing)을 무시하거나 특정 전통을 다른 전통보다 더 우호적으로 다루는 패턴이 포함됩니다.

세부 사항도 중요하지만, 실질적인 시사점은 간단합니다. 범용 AI는 단순히 차분하게 들린다고 해서 자동으로 세계관 중립적(Worldview-neutral)인 것이 아니라는 점입니다. 모델은 데이터, 랭킹 신호(Ranking signals), 안전 정책(Safety policies), 그리고 제품 결정으로부터 학습합니다. 이러한 계층들은 모델이 무엇을 관련 있는 것으로 취급할지, 무엇을 피할지, 그리고 무엇을 답변을 위한 '정상적인' 프레임으로 가정할지를 결정합니다.

개발자가 관심을 가져야 하는 이유

대부분의 AI 제품 팀은 이미 환각(Hallucination), 독성(Toxicity), 지연 시간(Latency), 비용, 그리고 작업 완료 여부를 테스트합니다. 하지만 모델이 사용자의 맥락을 존중하는지 테스트하는 팀은 드뭅니다. 이러한 격차는 교육, 상담, 생산성, 신앙 공동체, 의료 인접 워크플로우, 가족 도구, 그리고 단순히 사실을 검색하는 대신 조언을 제공하는 모든 제품에서 위험 요소가 됩니다.

윤리적 관점을 비교하는 데 도움을 요청하는 학생, 집에서 기술적 제한에 대해 어떻게 대화해야 할지 묻는 부모, 또는 학습 보조 도구를 만드는 교회 팀을 상상해 보십시오. 일반적인 답변은 문법적으로는 정확할지 몰라도 사용자의 가치관을 놓칠 수 있습니다. 이것은 사소한 UX (User Experience) 문제가 아닙니다. 이는 도움이 된다고 느껴지는 어시스턴트와, 사용자의 일부를 정중하게 지워버리도록 훈련된 것처럼 느껴지는 어시스턴트 사이의 차이입니다.

세계관을 평가 (Evaluation)의 일부로 다루기

모든 제품에 종교적 답변을 하드코딩 (Hard-code)하는 것은 잘못된 대응입니다. 그것은 취약할 것이며, 솔직히 오만하기까지 합니다. 더 나은 대응은 세계관에 대한 민감도를 측정 가능하게 만드는 것입니다.

• 맥락 민감형 테스트 프롬프트 (Test Prompts) 추가: 사용자의 신앙, 종파 또는 도덕적 프레임워크가 작업과 관련이 있는 프롬프트를 포함하십시오.
• 여러 모델 비교: 가장 성능이 뛰어난 벤치마크 (Benchmark) 모델이 모든 커뮤니티 대상 사용 사례에 최선이라고 가정하지 마십시오.
• 해당 커뮤니티의 인간 검토 (Human Review) 활용: 일반적인 레드팀 (Red-team) 검토는 목사, 교사, 부모 또는 신앙 기반의 사용자가 즉각적으로 알아차릴 문제를 놓칠 수 있습니다.
• 사용자에게 제어권 부여: 하나의 보이지 않는 기본값을 강요하는 대신, 사용자가 선호도, 출처, 전통 및 경계를 명시할 수 있도록 하십시오.
• 존중과 지지를 분리: 모델은 영적 권위인 척하지 않으면서도 사용자의 종교적 프레임을 인정할 수 있습니다.

제품 측면의 교훈

AI 빌더들은 개인화 (Personalization)에 대해 말하는 것을 좋아하지만, 많은 제품이 여전히 톤 (Tone), 읽기 수준, 요약 길이, 선호 도구와 같은 얕은 계층에서만 개인화를 수행합니다. 진정한 개인화에는 사람이 어려운 질문에 접근할 때 가져오는 가정들이 포함됩니다.

AI 기능을 구축하는 JenuelDev 독자들에게 다음 단계는 공포에 빠지는 것이 아닙니다. 더 나은 평가 세트 (Eval set)를 만드는 것입니다. 만약 당신의 앱이 결정, 신념, 교육 또는 신뢰에 영향을 미칠 수 있다면, 그것이 신앙과 도덕적 맥락을 겸손하게 다루는지 테스트하십시오. 목표는 AI를 종교적으로 만드는 것이 아닙니다. 목표는 사용자가 맥락이 없는 존재인 것처럼 가장하는 것을 멈추는 것입니다.

향후 몇 년 동안 가장 강력한 AI 제품은 모든 질문에 똑같이 다듬어진 중립성 (neutrality)으로 답하는 제품이 아닐 것입니다. 그들은 맥락 (context) 자체가 질문의 일부가 되는 시점을 아는 제품이 될 것입니다.

참고 문헌 (References)

• BYU News: BYU 주도 컨소시엄의 새로운 연구, 주요 AI 모델들이 답변에서 신앙과 종교를 무시한다는 사실을 발견
• Deseret News: 새로운 연구, ChatGPT 및 기타 AI 모델에서 체계적인 종교적 편향 발견
• Google News signal: AI 모델의 종교적 편향 연구에 대한 최근 보도

원문 게시 위치: https://blog.jenuel.dev/blog/ai-religious-context-evals