질문은 관찰에서 태어나지 않는다

AI가 똑똑해질수록, 이런 목소리가 늘어난다.

"프롬프트(Prompt)를 잘 구성하면 무엇이든 할 수 있다"

"AI 사용법을 배우면 누구나 성과를 낼 수 있다"

정말로 그럴까.

역사를 되돌아보면, 새로운 지적 도구가 보급될 때마다 같은 일이 일어나고 있다.

• 책이 보급되었다고 해서 모두가 철학자가 된 것은 아니다
• 계산기가 보급되었다고 해서 모두가 수학자가 된 것은 아니다
• PC가 보급되었다고 해서 모두가 프로그래머가 된 것은 아니다

오히려 반대다.

이미 생각하는 습관을 가진 사람이 새로운 도구를 사용하여 더욱 앞서 나갔다.

AI에서도 같은 현상이 일어나고 있다.

AI는 격차를 줄이는 도구로 기대되는 경우가 많다. 하지만 실태는, 사고력의 차이를 확대하는 도구로서 기능하고 있을 가능성이 높다.

AI는 보간기(Interpolator)다, 라는 말을 자주 듣는다.

학습 데이터의 범위 내에서 답을 돌려줄 뿐, 발견은 할 수 없다.

이것은 대체로 맞다. 하지만 약간의 보충이 필요하다.

현재의 AI는,

• 대량의 데이터 속에서 인간이 놓치고 있던 상관관계를 보여주고
• 서로 다른 지식 영역을 결합하며
• 가설 후보를 대량으로 생성할 수

있다.

발견자라기보다는, 가설 생성기에 가깝다.

최종적으로 발견으로 인정하는 것은 인간이지만, 그 전 단계를 대폭 가속할 수 있다.

발견의 순환은 다음과 같다.

경험
↓
예측
...

일반적으로 이야기되는 「관찰→질문」이라는 도식에는 사실 중요한 부분이 빠져 있다.

사람은 관찰하는 것만으로는 질문을 만들지 않는다.

위화감이 생겼을 때 비로소 질문을 만든다.

그리고 위화감은 현실 그 자체에서 태어나는 것이 아니다.

자신의 예측과 현실이 일치하지 않을 때 태어난다.

여기에 본질이 있다.

아무리 대량의 가설을 생성할 수 있어도, AI는 질문이 주어지지 않으면 움직일 수 없다.

하지만 그 질문을 만들어내는 위화감은 예측과 현실의 어긋남에서 발생한다.

AI는 탐험가가 아니다.

손전등에 가깝다.

미지의 동굴로 들어갈 방향을 결정하는 것은 인간이다. 하지만 빛이 없다면 발견하지 못했을 분기점이 보인다.

질문도 마찬가지다. 질문을 만들어내는 것은 인간이지만, AI는 질문 주변에 존재하는 또 다른 가능성을 비출 수 있다.

"왜 짝수 이(tooth)일 때만 효율이 높은가"라는 질문을 처음 던진 것이 인간이라 할지라도,

• 적층 방향과의 관계는 없는가
• 압력각(Pressure angle)의 주기적 오차인가
• 백래시(Backlash)와의 상호작용인가

와 같은 파생적인 질문은 AI와의 대화를 통해 태어날 수 있다.

AI는 질문을 발견하지 않는다. 하지만 질문의 주변을 비출 수는 있다.

더욱 흥미로운 점이 있다.

나의 경우, 위화감은 현실 세계뿐만 아니라 AI와의 대화에서도 생긴다.

AI는 그럴싸한 설명을 내놓는다.

하지만 그 설명이 실측값이나 경험과 일치하지 않을 때가 있다.

그때 나는,

"그 설명으로는 납득할 수 없어"

"무언가 이상해"

라고 느낀다.

여기서 위화감이 생긴다.

즉, AI가 질문을 만드는 것은 아니다.

하지만 인간이 가진 예측과 AI의 설명을 충돌시킴으로써 새로운 위화감을 만들어내기도 한다.

AI는 답을 주는 기계라기보다,

자신의 이해를 시험하기 위한 벽치기(Sparring) 상대

로서 기능하는 경우가 있다.

그리고 발견은 그 위화감에서 시작된다.

Kyosho Mini-Z RC용 FDM 출력 기어를 연구하고 있었을 때, 나는 오랜 경험을 통해,

"이 기어는 더 높은 성능이 나올 것이다"

라는 예측을 가지고 있었다. 효율이 좋은 기어가 어떤 소리를 내고, 어떤 느낌을 주는지도 경험으로서 알고 있었다.

하지만 실제 결과는 그 예측과 일치하지 않았다.

홀수 이와 짝수 이에서 압력각이 계통적으로 달랐다. 그 원인을 AI는 설명할 수 없었다.

현실의 측정 데이터, 시제품, 실패 사례, 기어 소리, 효율, 백래시. 이러한 현실 세계의 정보를 가진 것은 인간뿐이다. AI는 그 현실을 가지고 있지 않다.

근본 원인을 특정한 것은 인간이었다.

Cartesian형 FDM 프린터에서는 홀수 이와 짝수 이의 노즐 이동 속도가 약 $\sqrt{2}$배 다르다. 그 결과, 압출 조건에 계통적인 차이가 발생하여 압력각의 비대칭이 발생한다.

그 후, AI는 그 발견을 기사로 작성하고 보정 기법의 구현을 지원했다.

기존에 알려진 문제라면 AI는 매우 강력하다. 미지의 문제일수록 현실을 보는 인간, 질문을 던지는 인간의 비중이 커진다.

질문의 성능을 결정하는 것은 AI의 사용법이 아니다.

• 현실을 얼마나 세밀하게 관찰하고 있는가
• 자신만의 예측을 가지고 있는가
• 위화감을 그대로 두지 않고 언어화할 수 있는가
• 답을 모르는 문제에 계속 머물러 있을 수 있는가

이 네 가지다.

"답을 알고 있는 문제"라면 AI는 매우 강력하다.

하지만 「답을 모르는 문제를 계속 파고드는」 행위는 여전히 인간의 영역이다.

AI의 진화로 인해 가치가 올라가는 것은 「AI 사용법을 익힌 사람」이 아니다.

현실을 관찰하고, 자신만의 예측을 가지며, 그 차이에서 발생하는 위화감을 질문으로 변환할 수 있는 사람이다.

AI는 가설 설정을 가속한다.

질문의 주변을 비출 수도 있다.

때로는 벽치기 (Wall-hitting, 아이디어 검증을 위한 대화 상대) 파트너로서, 새로운 위화감을 만들어내기도 한다.

하지만 처음에 예측을 갖는 것, 현실과의 차이를 알아차리는 것, 그 위화감을 질문으로 변환하는 것은 여전히 인간의 역할이다.

AI의 성능이 성과를 결정하는 것이 아니다.

질문의 성능이 성과를 결정한다.