• 생성형 AI로 누구나 빠르게 완성품처럼 보이는 결과물을 만들 수 있게 됐지만, 무엇을 만들고 무엇을 버릴지 결정하는
  안목과 판단력은 오랜 비평과 반복적인 교정을 통해 형성됨
• AI도 피드백을 통해 개선되지만, 점수를 높이는 방향으로 학습하는 것과 낯선 문제에서도 판단 근거를 찾는
  내적 감각을 갖추는 것은 서로 다름
• 44명이 AI와 인간의 그림 20점을 구분한 실험에서는 정답률이 동전 던지기보다 조금 높은 수준이었고, 같은 AI 그림도 인간의 작품이라고 알려주면
  복잡성·새로움·모호성 평가가 유의하게 높아졌음
• AI 프로토타이핑은 아이디어를 작동하는 결과물로 바꾸는 장벽을 크게 낮췄지만, 그룹화·정보 계층·간격·빈 상태·엣지 케이스처럼
  작동하는 것과 제대로 된 것의 차이까지 판단하지는 못함
• 생성 능력이 보편화될수록 실행보다 큐레이션이 희소해지며, 안목은 수많은 그럴듯한 결과 가운데 대부분을 거부하고
  언제 탐색을 멈출지 결정하는 기준으로 작동함

AI 시대의 차별점으로 떠오른 안목

• 지난 1년간
  안목(taste) 이 창업자와 경영진 사이에서 주요 화두가 됨

• 성장 최적화에 10년을 보낸 창업자들이 이제 미적 판단에 관한 글을 쓰고 있음

• Paul Graham은 누구나 무엇이든 만들 수 있게 되면 무엇을 만들기로 선택하는지가 차별점이 된다고 봄

• Sam Altman은 AI가 나머지 일을 수행할 수 있게 된 뒤에도 안목이 사람의 고용 가능성을 지켜줄 수 있다고 봄

• 자주 인용되는 기준점은 기술적인 음악 능력이 없어도 자신이 무엇을 좋아하는지 알고 확신 있게 말하는 프로듀서 Rick Rubin임

• 이 사례는 안목을 가리키는 관용적인 예시가 됐지만, 안목의 실체가 무엇인지는 충분히 보여주지 못함

• 안목을 새로운 채용 기준으로 이야기하는 사람들은 대부분 창업자나 경영진이며, 자신의 결과물이 아직 충분히 좋지 않다는 평가를 수년간 받아 본 경험은 논의에서 빠져 있음

비평과 반복 교정으로 형성되는 판단력

• 12세부터 받은 미술 교육에서는 수십 년 더 많은 경험을 가진 사람이 작업이 아직 제대로 되지 않은 이유를 매번 구체적으로 짚어줬음

• 수백 번의 작은 교정이 반복되면서 결국 지적을 소리 내어 들을 필요가 없어졌음

• 건축학교에서는 자신의 작업을 다른 사람들의 결과물 옆에 걸고, 혼자서는 발견하지 못했던 문제를 직접 확인해야 했음

• 프로젝트를 처음 본 비평가가 “
  왜”라는 단순한 질문을 반복하면 설계 전체가 흔들리기도 했음

• UX 디자인·인간 인지·통계를 함께 공부한 Digital Cultures 석사 과정까지 10년 넘게 다음을 알아차리는 법을 익힘

• 구성이 하나의 전체로 맞물리는 이유

• 작은 비율 변화가 작품의 느낌을 바꾸는 이유

• “마음에 든다”는 말이 판단의 끝이 아니라 분석의 시작인 이유

• 안목은 성공을 충분히 거두면 갑자기 생기는 능력이 아니라, 틀렸다는 교정을 거듭하면서
  맞는 판단을 내리는 빈도가 높아지는 과정에서 천천히 형성됨

B2B 제품 디자인에서 작동하는 안목

• 기술 중심 B2B 소프트웨어에서 안목은 시각적인 아름다움보다 다음과 같은 작은 결정을 내리는 능력에 가까움

• 무엇을 보여주고 무엇을 숨길지

• 어떤 순서로 일이 진행되게 할지

• 이런 결정은 제대로 내렸을 때는 아무도 알아차리지 못하지만, 잘못됐을 때는 곧바로 드러남

• 같은 실수를 충분히 많이 교정받으면 누군가 지적하지 않아도 스스로 감지할 수 있게 됨

• 다만 이런 경험이 단순한 본능보다 신뢰할 만한 능력을 만들었는지는 통계처럼 입증하기 어려움

• 오랫동안 유지되는 능력인지, 개인의 일관된 편향에 불과한지는 개인적 경험만으로 완전히 답할 수 없음

점수 최적화와 이유를 아는 감각의 차이

• AI도 피드백을 통해 학습하지만,
  점수를 높이는 방향으로 교정되는 것과 이유를 파악하는 내적 감각을 형성하는 것은 같지 않음

• 전자는 더 나은 근사치를 만듦

• 후자는 기존 피드백이 다루지 않은 문제에서도 자신의 직관이 타당한지 판단하게 함

• 둘의 차이는 결과가 얼마나 그럴듯한지가 아니라, 학습에서 접하지 못한 상황에서도 판단이 통하는지에 있음

AI와 인간의 그림을 구분한 실험

• 생성형 AI가 일상적인 화제가 되기 전 수행한 석사 연구에서는 두 가지 질문을 실험함

• 이름이 표시되지 않은 그림만 보고 AI와 인간의 작품을 구분할 수 있는가

• 작품에 붙은 출처 표시가 사람들이 보는 것을 바꾸는가

• 참가자 44명에게 그림 20점을 보여줬으며, 절반은 AI 생성 작품이고 나머지는 덜 알려진 인간 화가의 작품이었음

• 참가자들은 거의 절반을 틀려 동전 던지기보다 조금 나은 수준에 머물렀음

• 인터뷰에서는 붓 자국을 찾으려 했고, 세밀하고 사실적인 그림은 AI가 만들었을 것이라고 판단하는 경우가 많았음

• 이런 추정은 맞는 경우만큼 틀리는 경우도 많았음

출처 표시가 미적 평가를 바꾼 결과

• AI 생성 그림 10점을 두 집단에 똑같이 보여주되, 한 집단에는 AI 작품이라고 사실대로 알리고 다른 집단에는 가상의 이름을 붙인 인간 화가의 작품이라고 알림
• 심리학자 Berlyne이 미적 몰입을 일으키는 요인으로 분류한
  복잡성·새로움·모호성·놀라움·흥미를 7점 척도로 평가하게 함
• 인간의 작품이라고 믿은 집단은 똑같은 그림의 복잡성·새로움·모호성을 눈에 띄게 높이 평가했으며, 그 차이는 통계적으로도 확인됨
• 세 항목의 차이는
  p < .05

였음

• 놀라움과 흥미에서는 같은 패턴이 나타나지 않았음

• 그림 자체는 전혀 달라지지 않았지만, 사람이 만들었다고 믿자 참가자들이 그림에서 읽어낸 특성이 달라졌음

실험 결과가 입증하지 못하는 것

• 실험에 사용한 그림은 생성기와 판별기가 경쟁하는 구세대 도구에서 나왔음

• 이후 생성 기술은 Stable Diffusion 같은
  확산 모델을 거쳐, 언어 이해와 생성을 직접 결합한 ChatGPT·Gemini 같은 도구로 다시 전환됨

• 사람들이 당시에도 AI와 인간의 작품을 구분하기 어려워했다면, 이후 더 발전한 도구로 만든 작품을 구분하기가 쉬워졌다고 볼 수 없음

• 그렇다고 이 결과가 AI가 인간의 안목을 따라잡았다는 증거가 되는 것은 아님

• 데이터가 보여주는 범위는 두 가지뿐임

• 생성 결과가 사람을 설득할 만큼 그럴듯해졌음

• 인간의 판단은 편향되기 쉽고 출처 표시에 민감함

• 이는 생성이 끝난 뒤 감상자의 눈에서 벌어진 일을 보여줄 뿐, AI가 생성 과정에서 직접 판단했는지는 알려주지 않음

GAN이 최적화하는 목표

• 생성적 적대 신경망(GAN)은 이미지를 만드는 생성기와 가짜를 찾아내는 판별기를 경쟁시키며 두 모델을 개선함
• 생성기는 판별기를 속이는 방향으로 학습하므로
  검사를 통과하는 결과를 최적화할 뿐, 의미 있는 결과를 만들도록 최적화되지 않음
• GAN은 “진짜처럼 보이는가”를 학습하지만 “만들 가치가 있는가”는 학습하지 않음

생성 이후에도 남는 인간의 선별

• 실험에 사용한 그림을 만든 Art AI 프로젝트는 여러 작품을 한꺼번에 생성한 뒤 인간 팀이 공개할 결과를 선별함
• 이 과정은 일관성이나 브랜딩 같은 평범한 이유로 존재할 수도 있음
• 그럼에도 독립적인 AI 창작을 내세운 프로젝트조차 무엇이 좋은지 생성기만으로 결정하도록 맡기지 않았음
  생산 규모는 확장할 수 있지만 판단은 같은 방식으로 확장되지 않음

실행보다 희소해지는 선택과 판단

• 큐레이션 플랫폼을 만든 Sari Azout는 AI가 무엇이든 만들 수 있지만 무엇을 만들 가치가 있는지는 모른다고 봄

• Andreessen Horowitz는 이를 패션 하우스 모델로 해석함

• Chanel에서 Lagerfeld가 바느질을 한 땀씩 모두 직접 하지 않았듯, 희소한 것은 실행이 아니라 라벨에 걸린 이름이었음

• AI는 누구에게나 실행 인력으로 가득한 스튜디오를 제공하지만, 무엇을 만들 가치가 있는지 결정하는 능력은 여전히 희소함

• a16z 파트너 Olivia Moore는 안목과 독자적인 시각이 가져오는 보상이 크게 높아졌다고 봄

안목은 그럴듯한 결과를 거부하는 능력

• 반복적인 비평을 통해 형성된 것은 설득력 있는 결과를 생산하는 능력보다, 그런 결과가 아무리 많이 쌓여 있어도
  대부분을 거부할 수 있는 태도임
• 단순히 그럴듯하다는 사실은 애초부터 완성의 기준이 아니었음
• 원래 연구는 AI 미술에 대한 거부감을 작품 자체가 아니라 범주를 향한 편견으로 해석했으며, 실제로 작품에 붙은 출처 표시가 평가를 바꿈
• AI 작품이 부당하게 평가되는 현상은 실제로 존재하지만, AI가 판단을 수행하는지 아니면 검사를 통과할 만큼 그럴듯한 결과를 실행하는지는 별개의 문제임

프로토타이핑에서 드러나는 같은 문제

• 같은 논점은 미술보다 덜 화려하지만 제품이 실제로 만들어지는 과정의 이면을 담당하는 프로토타이핑 도구에도 적용됨
• Mirakl을 비롯한 제품 조직에서는 이제 제품 관리자가 기능을 설명하기만 해도 당일 오후까지 작동하는 버전을 만들 수 있음
• 아이디어와 작동하는 결과물 사이의 장벽은 대부분 사라졌으며, 과거의 희소성은 돌아오지 않음
• 대체로 긍정적인 변화지만, 누구나 완성품처럼 보이는 결과물을 만들 수 있게 되면서
  디자이너가 무엇을 위해 필요한지 다시 묻게 됨

초기 웹이 보여준 작동과 품질의 차이

• 초기 웹에서는 기본적인 코딩 능력만 있어도 페이지를 만들 수 있었고, 그 결과 상당수 페이지가 형태를 갖추지 못한 채 기능만 제공했음
• 페이지를 만든 사람들이 시스템의 동작 외에 사용자의 경험을 고려하지 않았기 때문임
• 디자인이 독립적인 전문 분야로 발전한 이유 중 하나는
  “작동한다”와 “좋다”가 서로 다른 기준이기 때문임

AI 프로토타입이 놓치는 보이지 않는 결정

• Nielsen Norman Group은 같은 과제를 대상으로 AI 프로토타이핑 도구의 결과와 인간이 설계한 결과를 비교함

• 상세한 프롬프트를 사용해도 AI 결과물은 그룹화·정보 계층·간격처럼 눈에 잘 띄지 않는 결정을 계속 놓쳤음

• 멀리서 보면 좋아 보이지만, 가까이서 보면 좋은 결과와는 거리가 멀었음

• 이 연구는 빠르게 발전하는 도구의 현재 수준을 반영하기에는 이미 오래된 편임

• Claude Design 같은 도구는 이제 팀의 실제 구성요소와 브랜드 표현 방식을 읽은 뒤 결과물을 생성해 획일적인 외형을 개선함

• 실제 구성요소를 도구에 제공하면 화면을 무엇으로 만들지는 해결할 수 있지만,
  화면에 무엇이 들어가야 하는지는 해결하지 못함

• 무엇을 포함할지 결정하는 일은 애초부터 생산의 문제가 아니었음

빠르고 작동하는 결과가 완성품으로 굳어질 때

• 제품 관리자가 직접 프로토타입을 만드는 것 자체는 문제가 아님

• 문제는 “빠르고 작동한다”는 상태가 어느새 “완료됐다”는 판단으로 바뀔 때 시작됨

• 처음 사용하는 사람은 별도의 훈련 없이도 혼란을 느끼지만, 그 이유를 정확한 말로 설명하지 못할 수 있음

• 생성 과정은 다음과 같은 문제를 자동으로 묻지 않음

• 빈 상태가 단순한 백지 화면에 불과한가

• 복잡한 실제 데이터가 데모에서 깔끔해 보였던 화면을 망가뜨리는가

• 올바른 구성요소가 의도한 대로 작동해 기술적으로는 정확하지만, 전체 결과는 여전히 잘못된 경우도 있음

• 무엇이 잘못됐는지 파악하기도 전에 머릿속에서 배치를 다시 구성하게 되는 종류의 문제임

원칙이 충돌할 때 필요한 훈련된 눈

• 빈 상태, 엣지 케이스, 정보 계층 같은 용어가 존재하는 이유는
  작동하는 것과 올바른 것 사이의 간극이 반복해서 나타나기 때문임
• 이런 용어 뒤에는 책으로 배울 수 있는 문서화된 이론과 원칙이 있음
• 하지만 두 원칙이 서로 반대 방향으로 작용할 때 어느 쪽을 우선할지, 교과서적인 답이 특정 상황에서는 왜 틀리는지 판단하려면 훈련된 눈이 필요함
• 이는 생산이 아니라 큐레이션의 문제이므로 생성 성능이 향상되는 것만으로는 해결되지 않음

안목은 언제 멈출지를 결정하는 기준

• 실험에 사용된 그림은 AI가 만들었다는 사실을 알게 된 뒤에도 전혀 달라지지 않았음
• 달라진 것은 사람들이 그 그림을 계속 자세히 들여다보려는 의향이었음
• 생성 기술은 언제 탐색을 멈춰야 하는지 알려주지 않으며,
  안목이 멈춤의 기준(stopping rule) 을 제공함

댓글과 토론