AI가 모든 것에 추가될 때, 아무도 이기지 못한다

오늘날 거의 모든 앱을 열면 여러분을 기다리는 AI 버튼을 볼 수 있습니다. 이메일에도 있습니다. 스프레드시트에도 있습니다. 메모 앱, 사진 편집기, 코드 편집기는 물론 일반 텍스트 상자에도 그렇습니다. 어디에서나 메시지는 같습니다. 'AI에게 물어보세요.'

이러한 기능들 중 일부는 유용합니다. 하지만 점점 더 많은 기능들이 다른 이유로 추가된 것처럼 보입니다. 사람들이 실제로 요청했기 때문이 아니라, 모든 제품에 AI가 포함될 것이라는 기대 때문에 말입니다. 이것은 실수입니다. 이는 이러한 도구를 사용하는 사람들에게 해를 끼칠 수 있으며, AI 자체에 대한 신뢰도까지 손상시킬 수 있습니다.

2초의 문제

간단한 예시를 들어보겠습니다. 문장에서 오타를 발견했습니다. 여러분은 2초 만에 고칠 수 있습니다. 클릭하고, 글자를 지우고, 올바른 것을 입력한 다음, 넘어갑니다.

이제 AI 방식을 살펴보세요. 어시스턴트 패널을 열고, 요청을 어떻게 문장화할지 생각하고, '두 번째 단락의 철자 오류를 수정해 줘'와 같은 내용을 타이핑하고, 답변이 나올 때까지 기다리고, 다른 것이 바뀌었는지 확인하기 위해 읽어보고, 마지막으로 그것을 수용할지 결정합니다. AI가 빠르고 정확하더라도, 여러분은 여전히 과제에 걸맞은 것보다 더 많은 시간, 더 많은 주의력, 그리고 더 많은 정신적 에너지를 소비했습니다.

이것이 문제의 핵심입니다. 스스로 과제를 수행하는 것보다 시간이 오래 걸리는 도구는 도움이 되지 않습니다. 그것은 우회로일 뿐입니다.

사람들은 이것에 대해 비합리적이지 않습니다. 우리는 눈치채지 못할 때조차도, 어떤 과제가 얼마나 많은 노력을 필요로 하는지를 항상 측정합니다. 만약 도구를 요청하는 것이 스스로 과제를 수행하는 것보다 어렵다면, 우리는 그것을 사용하지 않게 됩니다. 기술이 아무리 인상적이더라도 상관없습니다.

인간은 무언가를 설명하기 위해 만들어진 것이 아니라, 무언가를 하기 위해 만들어졌다

인류 역사 대부분 동안, 우리의 도구는 물리적이고 직접적이었습니다. 우리는 망치를 집어 들고 못을 때립니다. 운전대를 돌리면 차가 움직입니다. 지난 수십 년간 마우스부터 터치스크린에 이르기까지의 좋은 인터페이스들은 그 직접적인 연결 고리를 유지했기 때문에 작동했습니다. 즉, 여러분이 행동하면 결과가 즉시 나타나는 방식이었습니다.

프롬프팅은 그 연결 고리를 끊습니다. 무언가를 직접 하는 대신, 시스템이 사용자를 이해하려고 노력하는 대상에게 그것을 말로 설명해야 하고, 그리고 시스템이 제대로 이해했는지 확인해야 합니다. 크고 복잡하며 창의적이거나 연구 중심적인 작업의 경우, 이러한 트레이드오프는 가치가 있을 수 있습니다. 하지만 작고 단순하며 익숙한 작업의 경우에는 오히려 퇴보입니다.

우리의 습관은 기술과 속도를 중심으로 형성됩니다. 우리가 어떤 것에 능숙할수록, 그 기술을 사용하고 싶어 합니다. 모양을 제자리에 이동시킬 수 있는 디자이너는 "로고를 왼쪽으로 조금 옮겨줘"라고 타이핑하고 싶어 하지 않습니다. 단축키를 아는 개발자는 채팅창에 이름 변경(rename) 과정을 설명하고 싶어 하지 않습니다.

신규성 곡선 (The novelty curve)

처음에는 사람들이 모든 AI 기능을 시도해 봅니다. 새롭기 때문에 호기심이 강합니다. 하지만 신규성은 사라집니다. 몇 주가 지나면 사람들은 자신에게 실제로 더 빠른 것에 안주하고, 나머지 기능들은 무시하게 됩니다.

이 패턴은 익숙합니다. 음성 비서(Voice assistants)는 화면을 대체할 것이라고 했지만, 대부분의 사람들은 타이머나 음악 용도로만 사용합니다. 큰 기대와 함께 출시된 많은 기능들이 조용히 아무도 클릭하지 않는 것들로 전락했습니다.

AI가 모든 것에 덧붙여지게 되면, 그 기능들의 상당 부분이 같은 경로를 따르게 될 것입니다. 그리고 이것이 진짜 위험으로 이어집니다.

이것이 기술 자체에 미치는 악영향

1. AI 피로감(AI fatigue)을 만듭니다.

모든 제품이 "AI 기반"이라고 외치기만 하면, 그 라벨은 의미를 잃습니다. 사람들은 AI가 실제로 유용할 수 있는 곳에서도 그것을 무시하는 법을 배웁니다.

2. 신뢰도를 손상시킵니다.

AI 기능이 방해가 되거나, 단순한 작업에서 잘못된 답변을 내놓거나, 사용자가 원하지 않은 것을 변경할 때마다 신뢰도는 떨어집니다. 사람들은 하나의 AI 기능을 일반적인 AI와 분리하여 생각하지 않습니다. 한 번의 나쁜 경험이 다음 경험 전체에 영향을 미칩니다.

3. 실제 강점을 숨깁니다.

AI는 긴 콘텐츠 요약, 처음부터 초안 작성(drafting from scratch), 방대한 양의 정보 검색, 생소한 주제 설명, 대규모 반복 작업 처리 등에 능합니다. 이러한 기능들이 모든 버튼에 너무 얇게 퍼지면, 그 강점들은 기믹(gimmicks) 아래에 파묻힙니다.

1. 이는 팀들이 사용자(users)를 위한 것이 아니라 데모(demos)를 위해 구축하도록 압박합니다.

'AI 기능을 출시해야 한다'는 목표가 되면, '사람들이 실제로 해결하려는 문제가 무엇인가?'라는 질문 대신, '어디에 AI를 추가할 수 있을까?'라는 질문이 생겨납니다. 제품들은 복잡해지고(cluttered), 가장 중요한 것들에 대한 관심은 줄어듭니다.

이것이 사람들에게 해로운 방식

이는 이미 쉬웠던 작업에 마찰을 더합니다.

메뉴는 무거워지고, 인터페이스는 소음스러워지며, 간단한 행동들은 이제 제안(suggestions), 팝업(pop-ups), 비서(assistants)와 경쟁해야 합니다.

이는 기술을 약화시킬 수 있습니다.

사람들이 문장 작성부터 간단한 계산까지 모든 작은 작업을 대신하게 되면, 스스로 그 일을 하는 습관이 사라집니다. 모든 기술이 보존될 필요는 없지만, 명확하게 생각하는 능력은 보호할 가치가 있습니다.

선택권을 빼앗습니다.

AI가 기본값(default)이 되고 이전 방식이 숨겨지거나 제거되면, 사용자는 더 이상 선택하지 않습니다. 그들은 유도되고 있는 것입니다(being steered).

검토하는 새로운 직업을 만듭니다.

모든 AI 결과는 검토가 필요합니다. 큰 작업의 경우, 이 검토는 종종 가치가 있습니다. 하지만 아주 작은 작업의 경우에는 작업 자체보다 더 많은 비용이 들 수 있습니다.

장기적인 위험: 사람들은 스스로를 신뢰하는 쪽으로 돌아간다

이것은 기술 기업들이 가장 걱정해야 할 부분입니다. AI가 필요하지 않은 곳에 계속 나타나면, 사람들은 단순히 무시만 하지 않을 것입니다. 그들은 AI가 가치보다 더 많은 문제를 일으킨다고 믿기 시작할 것입니다. 그리고 일단 이러한 믿음이 자리 잡으면, AI가 정말 도움이 되는 상황에서도 변화시키기가 훨씬 어려워집니다.

인간은 위험 부담(stakes)이 낮고 자신의 기술 수준이 높을 때 자신의 판단에 강한 선호도를 갖습니다. 이것은 결함이 아닙니다. 상식입니다. 지속적인 채택(lasting adoption)을 원하는 기술은 이 본능을 존중해야 합니다.

좋은 AI 통합의 모습이란 무엇인가

이것은 AI에 반대하는 주장이 아닙니다. AI가 자리를 얻을 가치가 있는 곳에서 사용해야 한다는 주장입니다.

유용한 테스트는 다음과 같습니다:

• 직접 하는 것보다 빠른가? 그렇지 않다면 기본 옵션이 되어서는 안 된다.
• 그 작업이 무겁거나, 반복적이거나, 시작하기 어려운가? AI가 가장 강력한 영역이다.
• 사용자가 쉽게 건너뛸 수 있는가? 수동(manual) 옵션은 간단하고 눈에 띄게 유지되어야 한다.
• 눈에 거슬리지 않는가? 필요할 때만 나타나는 유용한 제안이 끊임없는 프롬프트보다 낫다.
• 결과를 확인하기 쉬운가? 검토 비용(cost of review)이 낮아야 한다.

The 최고의 AI 기능들은 종종 아예 AI처럼 느껴지지 않는다. 그저 지루한 단계를, 당신이 필요할 때 정확히, 조용히 제거해 줄 뿐이다.

결론

다음 10년을 이끌어갈 기업들은 가장 많은 AI 버튼을 가진 기업들이 아닐 것이다. 사람들에 대한 하나의 기본적인 진실, 즉 우리는 노력(effort)을 절약해 주는 도구를 보상하고, 노력을 추가하는 도구는 무시한다는 것을 이해하는 기업들일 것이다.

만약 당신이 몇 초 만에 손으로 해결할 수 있는 것이라면, 그것을 하기 위해 프롬프트를 작성할 필요가 없어야 한다. 당신의 손으로는 충분하지 않은 순간들을 위해 AI를 구축하라: 어려운 문제들, 빈 페이지들, 정보의 산더미들. 이를 잘 수행한다면 사람들은 기꺼이 사용할 것이다. 모든 구석에 억지로 끼워 넣으려 하면, 그들은 외면하는 법을 배우게 될 것이다.