불확실성을 다루는 디자인: AI가 확률적 사고를 강화하는 방법

2024년, 한 에어 캐나다(Air Canada) 고객이 챗봇에게 상실 관련 항공권 요금에 대해 문의했습니다. 이 챗봇은 존재하지 않는 환불 정책을 자신 있게 알려주었습니다. 항공사는 이를 인정하기를 거부했고, 심판소는 고객의 편을 들었습니다. 챗봇은 아무것도 결정한 것이 아니었고, 단지 학습 데이터의 패턴을 기반으로 답변을 예측했을 뿐입니다. 회사는 그 예측을 정책처럼 취급했습니다.

이것이 오늘날 AI로 디자인할 때 핵심적인 위험 요소입니다: 결정론적 인터페이스에 포장된 확률적 시스템(probabilistic systems wrapped in deterministic interfaces). AI는 추측을 제공하고, 인터페이스가 그것을 진실인 것처럼 제시하며, 사용자가 혹은 조직이 그에 따라 행동합니다.

인간은 결정론적 사고방식으로 설계되어 있습니다. 우리는 과거의 행동이 미래의 결과를 결정한다고 믿는 것을 선호합니다. 동전을 999번 던져 매번 앞면이 나왔다면, 결정론적 마음은 이 동전이 조작되었다고 가정합니다. 반면, 확률적 마음은 1000번째 던지기 역시 어느 쪽으로든 갈 수 있음을 받아들입니다. 그 두 번째 사고방식이 유지하기는 더 어렵지만, 바로 지금 디자이너들이 필요로 하는 것입니다.

제품들은 복잡하고 비선형적인 환경에서 작동하며, AI는 이러한 복잡성을 가속화하고 있습니다. 디자이너와 제품 팀이 AI의 출력을 여러 가능한 답변 중 하나가 아니라 '정답'으로 취급할 때, 그들은 취약한 경험을 만들고, 심지어 의료 진단이나 금융 예측 같은 경우에는 정말 위험한 경험을 만듭니다.

본 기사는 AI를 파트너로 하여 확률적으로 디자인하는 방법에 대한 실용적인 가이드입니다. 이는 AI를 아웃소싱하기보다는 사고력을 날카롭게 하는 데 사용하고, 그 과정에서 모델 편향(model bias), 인간의 감정(human sentiment), 그리고 인식된 위험(perceived risk)을 고려하는 것에 관한 것입니다.

확률적 사고 + AI

우리가 AI에게 던지는 대부분의 질문은 이진 답변을 만들어내지 않습니다. 그것들은 데이터 패턴에 기반한 확률을 만들어냅니다. 만약

디자이너들은 AI의 결과물을 같은 방식으로 읽어야 합니다. 그것들은 결론이 아니라 **신호(signals)**이며, 제품 목표, 사용자 행동, 비즈니스 제약 조건이라는 맥락 속에서 해석되어야 하는 **가능한 결과(possible outcomes)**입니다.

많은 디지털 제품들이 이미 이런 방식으로 작동하고 있습니다. Netflix는 사용자가 _The Office_를 시청했다고 해서 _Superstore_를 즐길 것이라고 '알지' 못합니다. 대신 확률을 추정하고 그에 따라 해당 제목을 노출시킵니다. 즉, 인터페이스가 예측에 반응하는 것입니다.

디자인 결정 역시 같은 논리를 따를 수 있습니다. AI 모델은 행동 분석(behavioral analytics)과 리서치 인사이트를 결합하여 특정 결과가 발생할 가능성을 추정할 수 있으며, 이 확률들은 디자인 전략의 척도 역할을 할 수 있습니다. 예를 들어, 분석 결과 사용자가 구매를 완료할 신뢰도가 60%인지 90%인지를 제시한다고 가정해 봅시다. 60%일 경우, 디자인은 더 설득력 있는 작업(persuasive work), 고객 후기(testimonials), 설명, 비교 등 안심시키는 신호가 사용자에게 결정을 내리도록 도움을 주어야 합니다. 반면 90%일 때는 사용자가 이미 동기 부여되어 있으므로, 디자인은 마찰(friction)을 제거하여 행동이 빠르게 일어나도록 하는 데 집중해야 합니다. 같은 화면이라도 매우 다른 디자인 문제가 발생하는 것입니다.

AI는 또한 역사적 데이터와 행동 모델을 사용하여 방향성을 확정하기 전에 결과물을 시뮬레이션할 수도 있습니다. 이러한 시뮬레이션의 가치는 프롬프트가 어떻게 구조화되었는지, 그들이 정의하는 맥락, 테스트되는 가설, 사용자 동기 부여, 그리고 강조하고 싶은 엣지 케이스(edge cases)에 크게 좌우됩니다.

이러한 실용적인 사용 사례 중 하나를 생각할 수 있습니다. 특히 디자인 대상 사용자 그룹에 직접 접근하기 어려울 때 구조화된 프롬프트를 통해 초기 디자인을 평가하는 것입니다. 아래의 프롬프트는 신경다양성(neurodivergent) 사용자의 관점에서 디자인을 평가하기 위한 시작점입니다. 이를 템플릿으로 간주하고, 제품에 맞게 사용자 그룹, 기준, 출력 형식을 조정하여 최종 판결이라기보다는 팀과의 대화 시작점으로 활용하십시오.

신경다양성 사용자(neurodivergent users), 예를 들어 자폐 스펙트럼 장애(autism spectrum disorder), ADHD, 학습 장애 등을 가진 사용자의 관점에서 [디자인 파일 또는 웹링크]의 사용성(usability), 접근성(accessibility), 콘텐츠 관련성을 평가해 주십시오. 다음 기준들을 고려해 주시기 바랍니다:

1. 레이아웃과 내비게이션이 신경다양성 사용자에게 직관적인가?
2. 언어와 콘텐츠가 신경다양성 사용자에게 적절하고 흥미로운가?
3. 이 그룹이 사이트를 사용할 때 겪을 수 있는 장벽(기술적, 인지적 또는 감각적)이 있는가?
4. 사이트가 신경다양성 사용자의 특정 요구사항이나 목표를 얼마나 잘 충족하는가?

SWOT 분석, 신경다양성 사용자에 의한 성공적인 사용 확률 점수, 그리고 개선을 위한 모든 권장 사항을 제공해 주십시오.

참고: 이것은 아이디어의 지나친 단순화입니다. 제품의 복잡한 세부 사항에 유념하고 적절한 변경을 가하십시오.

그렇긴 하지만, 시뮬레이션이 실험을 대체하지는 않습니다. 모델은 과거 데이터로 훈련되었기 때문에 미래의 변화를 예측하기보다는 과거 행동을 더 강하게 반영합니다. 터치스크린 사용에 어려움을 겪는 노년층 사용자를 위한 음성 인터페이스를 설계한다고 상상해 보십시오. 모바일 상호작용 데이터로 훈련된 모델은 아이디어가 가치가 없어서가 아니라, 데이터셋이 다른 사용자 행동을 반영하기 때문에 낮은 참여율을 예측할 수 있습니다. 시뮬레이션은 항상 가정(assumption)을 드러내야 하며, 혁신을 막아서는 안 됩니다.

AI를 사용한 편향된 확률적 사고에 주의하세요

AI 시스템은 역사적 데이터, 더 구체적으로는 훈련된 데이터셋을 기반으로 구축됩니다. 이 기초가 우리가 받는 결과물을 형성합니다. 프랑스에서 열린 AI 서밋(AI Summit)에서 인도 총리 나렌드라 모디(Narendra Modi)가 이를 잘 보여주는 예를 공유했습니다. 만약 AI 모델에게 왼손으로 글을 쓰는 사람의 이미지를 생성해 달라고 요청하면, 출력물이 여전히 오른손으로 글을 쓰는 사람을 보여줄 수 있습니다. 그 이유는 통계적입니다. 대부분의 사람이 오른손잡이기 때문에 훈련 데이터가 이를 반영하는 것입니다. 이는 시간이 지나면서 개선되었을 수도 있지만, 이 요점은 여전히 중요합니다. 저는 비슷한 모델로 이미지를 생성할 때 가끔 이런 행동을 목격합니다.

우리가 받는 것은 진실이 아닙니다. 그것은 사용 가능한 데이터를 바탕으로 통계적으로 가장 가능성이 높은 결과일 뿐입니다. 과거 데이터가 미래 행동을 의미 있게 예측하는지 항상 질문해야 합니다. 추가적인 맥락(context)이 예측을 개선할 수 있다면, 이를 포함시키십시오. 맥락 없이 나오는 출력물은 단 하나의 답변인 것처럼 포장된 여러 가능한 답변 중 하나에 불과합니다.

신뢰도 점수(Confidence scores) 역시 같은 수준의 면밀한 검토를 받아야 합니다. 높은 신뢰도의 결과물을 과신하는 것은 에어 캐나다(Air Canada) 사태로 이어집니다. 반면, 낮은 신뢰도의 결과를 무시하는 것은 팀이 노이즈가 많은 데이터 속에 숨겨진 실제 신호를 놓치게 할 수 있습니다. 90%의 신뢰도를 가진 예측이 반드시 정확한 것은 아니며, 40%의 신호가 반드시 쓸모없는 것도 아닙니다. 디자이너는 여전히 가능성들을 저울질하고, 눈앞에 놓인 사례를 고려하며, AI가 추천하는 것에 판단력(judgment)을 부여해야 합니다.

**투명성(Transparency)**이 바로 이를 가능하게 하는 방법입니다. AI 시스템이 의사결정을 점점 더 많이 형성함에 따라, 사람들은 결과물이 어떻게 생성되었는지, 출처는 무엇인지, 추론 과정은 어떠한지, 그리고 추천 뒤에 숨겨진 요약 정보가 무엇인지를 알아야 합니다. 블랙박스(Black-box) 시스템은 불신을 낳습니다. 그 추론 과정을 공개하는 시스템은 사용자가 스스로 결과물을 평가하게 만듭니다. 그러한 투명성이 좋은 디자인이자 윤리적 관행입니다. 이는 사람들이 이러한 도구에 거는 신뢰를 존중합니다.

확률적으로 생각한다는 것은 종종 즉각적인 답변의 유혹을 거부하는 것을 의미합니다. AI는 연구를 가속화하고 패턴을 그 어느 때보다 빠르게 표면화할 수 있지만, 그러한 결과물들은 최종 결정이 아니라 시작점입니다.

AI를 활용하여 확률적 디자인 실습하기

디자인은 제품이 궁극적으로 경험되는 방식을 형성합니다. 디자이너가 내리는 결정들이 그 경험을 적절하게, 직관적이게, 혹은 탁월하게 느끼도록 만듭니다. 그리고 디자인 자체는 본질적으로 가정과 베팅으로 가득 차 있습니다. 가장 엄격한 연구조차도 동일한 문제에 대해 여러 개의 유효한 해결책을 도출할 수 있으며, 각각은 다른 성공 확률을 지닙니다.

확률적으로 생각한다는 것은 디자인 결정이 이진(binary) 결과를 거의 만들어내지 않는다는 것을 인식하는 것을 의미합니다. 그것들은 가능한 결과의 범위를 초래하며, 디자이너의 역할은 그 가능성들을 탐색하고 가치를 창출할 가능성이 가장 높은 경로를 식별하는 것입니다. 이러한 사고방식은 또한 **적응력(adaptability)**을 구축합니다. 사용자 요구는 진화하고, 전략은 바뀌며, 때로는 아이디어가 실패합니다. 데이터 신호, 실험, 학습 루프에 의존하는 팀은 가장 효과적인 해결책을 향해 더 빠르게 움직입니다.

실질적인 원칙들 이전에, 하나의 근본적인 아이디어가 있습니다:

디자인 결정은 확실성(certainty)이 아닌 가능성(likelihood)에 최적화되어야 합니다.

확실성이 아닌 가능성을 위한 디자인

모든 디자인 결정은 보장이 아니라 베팅입니다. 결정들이 연구와 데이터로 정보를 얻었을지라도, 그것들은 여전히 더 작은 샘플과 사용자들이 대규모로 어떻게 행동할지에 대한 가정에 기반하고 있습니다. 충분히 연구된 아이디어조차도 실제 세계에서는 실패할 수 있습니다.

서론의 에어 캐나다 챗봇 사례는 법적 교훈일 뿐만 아니라 디자인적인 교훈이기도 합니다. 그 봇은 언어 모델(language models)이 하는 것처럼, 개연성 있는 텍스트를 예측하고 있었습니다. 그러나 인터페이스는 그러한 예측을 어떤 면책 조항이나 '저희 정책이 보통 이렇게 말합니다'와 같은 경고 없이, 그리고 인간에게 연결되는 명확한 경로 없이 완전한 확신으로 전달했습니다. 사용자는 그 확신을 약속(commitment)으로 받아들였고, 법정에서도 마찬가지였습니다.

확률적 시스템을 결정론적 인터페이스로 감쌀 때 발생하는 것이 바로 이겁니다. 인터페이스는 가능성(likelihood)을 확실성(certainty)으로 변환하며, 위험은 바로 그 지점에서 발생합니다.

가능성을 위해 디자인한다는 것은 인터페이스가 불확실성을 계속 가지도록 하고, 인간 지원에 대한 눈에 보이는 폴백(fallback)을 제공하며, 콘텐츠가 AI 생성물일 때 명확하게 라벨링하여 예상치 못한 문제를 방지하는 것을 의미합니다.

디자이너들은 이분법적 사고를 피해야 합니다. 훌륭한 아이디어가 성공을 보장한다는 뜻은 아니며, 익숙한 아이디어가 실패할 것이라고 보장되는 것도 아닙니다. 대신 변형(variations), 신뢰 수준(confidence levels), 그리고 엣지 케이스(edge cases)를 검토해야 합니다. AI는 여기서 분명히 도움을 줄 수 있으며, 다양한 해석을 제시하고, 위험 요소를 강조하며, 구조화된 권장 사항을 생성하는 포트폴리오 사고 엔진 역할을 할 수 있습니다. 목표는 확실성을 최적화하는 것이 아니라 가치(value)여야 합니다. 이는 항상 가치 중심적이어야 합니다.

영화 <어벤져스: 인피니티 워>에서 스트레인지가 토니 스타크에게 수백만 개의 가능한 미래 중 오직 그들이 승리할 수 있는 단 하나의 미래만이 있다고 말했던 순간을 생각해 보세요. AI는 미래를 알려줄 수는 없지만, 가능한 경로들을 탐색하는 것을 도울 수 있습니다. 아이디어가 성공할지 여부를 묻기보다는, AI에게 가능성을 추정하고 점수를 얻도록 요청하여 그 신호를 결정에 활용해야 합니다.

지도를 아닌 나침반처럼 데이터를 사용하라

실제 확률조차도 최종적인 답은 아닙니다. 만약 AI 모델이 사용자들이 미니멀한 결제 경험을 선호할 가능성이 80%라고 예측한다고 가정해 봅시다. 이것이 단순히 '미니멀한 결제를 구축해야 한다'는 의미는 아닙니다. 데이터는 지도가 아니라 나침반처럼 기능해야 합니다.

• 모델은 왜 그런 예측을 했는가?
• 어떤 데이터가 그것에 영향을 주었는가?
• 무엇을 가정하고 있는가?
• 실제로 어떤 사용자 행동을 감지하고 있는가?

이러한 질문들은 디자이너들이 **사용성 테스트(usability testing)**와 추가적인 연구를 통해 예측을 검증하는 데 도움을 줍니다. AI는 패턴을 식별하는 데 뛰어나지만, 그 패턴이 왜 존재하는지는 거의 설명하지 못합니다. 동기(motivation)를 이해하는 것은 여전히 인간 중심의 연구 과제입니다.

여기서 가장 명확한 경고 사례는 Amazon의 실험적인 AI 채용 도구였습니다. 이 회사는 해당 모델이 여성 출신 지원자의 이력서를 하향 평가하도록 학습했다는 사실을 발견한 후 프로젝트를 중단했다고 합니다. 약 10년간의 과거 채용 결정으로 구성된 훈련 데이터가 남성 지원자 쪽으로 편향되어 있었고, 모델은 이러한 편향성을 그대로 물려받았습니다. 그 결과, '여성'과 관련된 단어(예: '여성 체스 클럽 주장')가 포함된 이력서에 불이익을 주고, 남성 이력서에서 더 흔하게 발견되는 언어를 선호했습니다. 시스템 자체가 의도적으로 편향된 것은 아니었습니다. 데이터가 그랬습니다. Amazon는 이를 조정하려고 시도했지만, 다른 차별적 패턴이 나타나지 않음을 보장할 수 없었기 때문에 결국 프로젝트를 중단했다고 합니다.