어제 오후에 Peng이 그의 파트너에게 wwwfate를 보여주었다.

그 제품은 방금 완성된 것이었다: 반려동물 이름 생성 기능. 사진을 업로드하고 몇 가지 옵션을 고르면, AI가 일련의 이름을 제공한다. 그는 그녀에게 사용 흐름(flow)을 안내했다. 그녀는 잠시 지켜보더니 물었다:

"만약 중국 사용자들이 실제로 자신의 반려동물에게 영어 이름을 주고 싶어 한다면 어떨까요?"

나는 그 문장을 몇 초 동안 응시했다.

그리고 깨달았다: 그 질문 이전에, 우리의 전체 이름 시스템을 관통하는 논리가 있었는데, 그것은 한 번도 입 밖으로 나온 적이 없었다. 즉, 사용자가 중국 출신이기 때문에 우리는 기본적으로 중국 문화의 명명 스타일을 따른다는 것이었다. 로케일(Locale)은 zh-CN이고, getSourceStrategy()는 Eastern·Classical를 반환하며, 이름 풀(name pool)은 고전적인 중국 미학을 따랐다.

그 논리가 틀린 것은 아니다. 하지만 그것은 검증되지 않은 추론이었다: 사용자가 어디에 있기 때문에, 우리는 사용자가 무엇을 원하는지 가정한다.

단 한 문장으로 그녀가 그것을 무너뜨렸다.

AI를 이용해 제품을 만들 때, 아주 쉽게 발생하는 일이 있다. 바로 당신의 가정이 너무 매끄럽게 실행되어 마치 사실처럼 느껴진다는 것이다.

우리가 getSourceStrategy()를 설계했을 때, 논리는 명확했다: Accept-Language를 읽고, zh-CN 또는 en-US를 확인한 후, 해당하는 문화적 구성을 반환하는 것이었다. 쓰기에 자연스럽게 느껴졌다. 코드는 깔끔했고, AI는 망설임 없이 그것을 생성해냈다.

문제는 이 논리가 표면적으로는 '로컬라이제이션(localization)'처럼 보였지만, 실제로는 다른 것을 수행하고 있었다는 점이다. 그것은 _사용자가 어디에 있는지_를 _사용자가 무엇을 원하는지_의 대용으로 사용했다.

이것들은 두 개의 분리된 질문이다. 하나는 서술적(descriptive)이다 — 사용자가 어디서 왔는지 볼 수 있다. 다른 하나는 의도적(intentional)이다 — 물어보지 않는 한 그들이 어떤 스타일을 원하는지 알 수 없다.

로컬라이제이션 (Localization)은 언어, 통화, 시간대와 같이 제품을 사용자의 환경에 맞게 조정하는 것을 의미합니다. 하지만 사용자의 미적 취향, 명명 감각, 문화적 정체성 등은 그들이 어디에 사는지와는 동일한 것이 아닙니다. 상하이에 사는 젊은이가 고양이 이름을 지을 때, 바로 그 점이 자신의 정체성의 일부이기 때문에 특별히 서구적인 느낌을 원할 수도 있습니다. 우리는 이 두 가지를 '로컬라이제이션 (Localization)'이라는 라벨 아래 하나로 묶어버렸지만, 실제로 우리가 한 일은 그들을 대신해 결정을 내린 것이었습니다.

왜 AI 보조 디자인 (AI-assisted design)에서 이런 일이 더 자주 발생할까요?

AI는 당신의 전제 (premises)에 의문을 제기하지 않기 때문입니다. AI는 단지 그 전제들을 더 철저하게 실행할 뿐입니다.

당신이 "언어를 기반으로 문화적 스타일을 결정하라"고 말하면, AI는 조건부 분기 (conditional branches), 폴백 로직 (fallback logic), 테스트 케이스 (test cases)를 포함하여 완벽한 구현을 제공하며, 이 모든 것은 정확합니다. 코드가 더 완벽해질수록, 그 밑바탕에 깔린 가정 (assumption)은 검증되지 않은 추측이라기보다 확립된 사실처럼 보이기 시작합니다.

이는 팀과 함께 일하는 것과는 다릅니다. 숙련된 디자이너나 PM (Product Manager)이라면 잠시 멈춰서 "잠깐, 사용자들이 정말 그렇게 생각하나?"라고 물을 수도 있습니다. 하지만 AI는 그러지 않습니다. AI가 당신의 의도 (intent)를 더 잘 실행할수록, 그 의도 자체가 문제일 수도 있다는 사실을 알아차리기는 더 어려워집니다.

따라서 AI를 사용하여 무언가를 만들 때는 특정 지점에서 능동적으로 멈춰서 질문해야 합니다. "내가 실제로 검증해 본 적 없는 '따라서 A로부터 B가 도출된다'는 식의 유도 과정이 어딘가에 있는가?"

모든 세부 사항에 의문을 제기할 필요는 없습니다. 그저 당연하게 느껴지는 지점들을 찾아내면 됩니다. 무언가가 더 매끄럽게 느껴질수록, 멈춰서 확인할 가치가 더 큽니다.

그녀의 질문 이후, 우리는 Q1을 변경했습니다. 문화적 스타일을 자동으로 도출하는 대신, 인터페이스에 명시적인 선택지를 추가했습니다. 동양적 · 고전적 (Eastern · Classical) 또는 서구적 · 신화적 (Western · Mythological) 중 사용자가 결정하도록 한 것입니다.

그것은 기술적인 변화가 아니었습니다. 숨겨진 가정을 가시적인 질문으로 바꾼 것이었습니다.

이를 통해 여러분 자신의 AI 보조 디자인 작업(AI-assisted design work)을 감사(audit)할 수 있습니다. 특정 코드가 아니라, 겉으로 드러나지는 않았지만 결국 실행되어 버린 'AI가 채워 넣은 공간' — 즉, 명시적으로 말해지지 않은 결정 로직(decision logic)을 찾아내십시오. 그것들을 질문으로 바꾸어, 여러분의 제품에 대해 전혀 모르는 사람에게 물어보십시오.

때로는 오랫동안 걸어온 길을 멈추기 위해 그저 "만약 ~라면 어떨까?(but what if?)"라는 질문 하나면 충분할 때가 있습니다.

2026-07-24 작성 | Cophy Origin