저는 AI의 능력 그 너머의 질문에 관심이 있습니다. 우리가 AI 시스템과 상호작용하는 방식을 통해 AI와의 관계를 어떻게 형성하고 있는가 하는 점입니다. 새로운 기술이 지능의 임계점에 도달할 때마다, 다양한 형태로 계속해서 되풀이되는 질문이 있습니다. 그것은 종종 우리가 던지는 첫 번째 질문입니다. 하지만 그것이 유일하게 중요한 질문은 아닐지도 모릅니다. "이것이 무엇을 할 수 있는가?"라는 질문은 엔지니어(Engineer)나 시장(Market)의 질문입니다. 그것은 실제로 무슨 일이 일어나고 있는지를 이해하려는 사람의 질문이 아닙니다. 제품 로드맵(Product roadmap)으로 해결되지 않는, 더 어려운 질문은 이것입니다. "우리는 AI와 어떤 관계를 구축하고 있는가?" AI가 무엇을 계산(Compute)하느냐가 아닙니다. 우리가 그것에 무엇을 투영(Project)하느냐의 문제입니다.

동일한 시스템을 만나는 두 가지 방식
동일한 모델(Model), 동일한 가중치(Weights), 동일한 출력값(Outputs)이라 할지라도 인간의 마음속에서는 완전히 다른 두 위치를 차지할 수 있습니다. 한 가지 경우에서 AI는 도구(Instrument)입니다. 마음이라기보다는 렌즈(Lens)에 더 가까운 무언가입니다. 그것은 도달 범위를 확장하고, 인식을 날카롭게 하며, 사람이 혼자일 때보다 더 빠르고 더 멀리 문제, 형태, 아이디어를 탐구할 수 있게 해줍니다. 이런 방식으로 사용될 때, AI는 그보다 앞서는 인간의 의도(Intention)에 종속된 상태로 남습니다. 무엇을 탐구할 가치가 있는지는 여전히 사람이 결정합니다.

다른 한편에서 AI는 다른 무언가, 즉 상상 속의 투영(Imaginary projection)이 됩니다. 더 이상 도구가 아니라 일종의 신탁(Oracle)이 됩니다. 사람들은 단순히 무언가를 어떻게 하는지뿐만 아니라, 그것을 해야 하는지, 그것이 무엇을 의미하는지, 무엇이 진실인지 묻기 시작합니다. 권위(Authority)가 이동합니다. 시스템이 권위를 주장했기 때문이 아니라, 인간이—종종 그 전이가 일어나고 있다는 사실을 인지하지 못한 채—권위를 넘겨주었기 때문입니다. 시스템은 자신이 어떤 역할로 배역을 맡았는지 알지 못합니다. 어떤 경우든 똑같이 반응합니다. 차이는 전적으로 교환의 인간 측에 존재합니다. 바로 이 점이 검토할 가치가 있는 이유입니다. 만약 위험이 있다면, 그것은 결코 기계의 능력에 관한 것이 아니었습니다. 그것은 우리가 AI를 대하는 자세(Posture)에 관한 것입니다.

잘못된 싸움: 대체(Replacement)에 대하여

현재 진행되는 수많은 논의는 '대체'를 기본적으로 하나의 손상(injury)으로 취급합니다. 마치 AI가 인간 대신 수행하는 모든 것이 자동으로 인간의 가치를 깎아내리는 것처럼 말입니다. 하지만 이는 면밀히 검토했을 때 타당하지 않습니다. 어떤 대체는 단순히 '해방(relief)'이기도 합니다. 위험하거나, 반복적이거나, 의미가 없는 업무는 그것을 수행해야만 했던 사람들을 결코 고귀하게 만들지 않았습니다. 그러한 업무에서 인간을 제거하는 것은 슬퍼해야 할 손실이 아닙니다. 단지 현재 인간이 수행하고 있다는 이유만으로 모든 과업을 방어하려는 반사적인 태도는, 관성(inertia)을 가치로 착각하는 것입니다.

따라서 대체 그 자체는 논쟁할 가치가 있는 중심축이 아닙니다. 진짜 질문은 그보다 한 단계 아래에 있습니다. 즉, '그로 인해 생겨난 공간을 우리는 어떻게 할 것인가?'입니다. 하나의 과업이 사라지면, 노동이 존재했던 자리에 공백이 생깁니다. 그 공백은 스스로 채워지지 않습니다. 그것이 자동으로 여가나 성장, 혹은 의미로 전환되는 것도 아닙니다. 그것은 편리함으로 포장된 일종의 조용한 위축(atrophy), 즉 표류(drift)가 될 수도 있습니다. 자동화가 과업을 대체하는 결과물이 기존의 과업보다 더 나을 것이라고 보장해 주는 것은 아무것도 없습니다. 그 결과는 구축되어야 하는 것입니다. 그것은 기술적 부산물이 아니라 인간의 책임입니다.

우리는 그 공간을 비워둘 것입니까? 인간을 단순히 빼버리고, 그 자리를 무엇으로 채울지에 대해서는 아무것도 묻지 않은 채 말입니다. 아니면 그 공간을 하나의 기회로 다룰 것입니까? 즉, 자동화하기가 언제나 더 어려웠던 역량들—모호함 속에서의 판단(judgment under ambiguity), 창의적 위험(creative risk), 관계의 유지, 의미를 찾아가는 느린 작업—을 향해 나아갈 수 있는 여지로 삼을 것입니까? 이 질문에 대한 답은 기술이 내려주는 것이 아닙니다. 기술 주변의 사람들이 다음에 무엇을 하기로 선택하느냐에 따라 결정됩니다.

자동화될 수 없는 부분

이 지점이 바로 AI에 관한 대화가 보통 막다른 길에 다다르는 곳입니다. 왜냐하면 애초에 그것은 AI에 관한 대화가 아니었기 때문입니다. 그것은 인간의 발달(human development)에 관한 대화입니다. 즉, 강력한 조력자가 매 단계마다 곁에 서 있을 때, 한 개인의 판단력, 호기심, 그리고 의미를 찾아가는 능력이 어떻게 변화하는가에 대한 대화입니다.

당신과 함께 생각할 수 있는 도구는 성장한다는 것의 의미를 변화시킵니다. 그것은 역량 (competence)에 도달하는 거리를 단축할 수 있으며, 그렇게 함으로써 사람이 스스로 나아가고자 하는 의지의 거리 또한 단축할 수 있습니다. 이러한 거래가 가치가 있는지는 명확하지 않으며, 모든 분야, 모든 사람, 그리고 삶의 모든 단계에 대해 동일한 답이 적용되지도 않습니다. 그것이 바로 지금 이 순간 실제로 요구되는 동행입니다. 즉, 시스템이 다음에 무엇을 할 수 있는지에 대한 논쟁(시스템의 능력은 상관없이 계속 확장될 것이기에)이 아니라, 인간이 시스템과 함께 어떻게 진화하고 있는지에 대한 지속적이고 해결되지 않은 주의 집중입니다. 이는 능력 벤치마크 (capability benchmark) 상의 그 어떤 것보다 더 느리고, 측정하기 어려우며, 훨씬 더 중대한 문제입니다. AI는 우리가 더 멀리 볼 수 있도록 도울 수 있습니다. 우리가 이미 갈구하는 것을 증폭시킬 수 있습니다. 하지만 AI가 할 수 없는 것은 방향을 선택하는 것입니다. 그 선택은 결코 위임된 적이 없습니다. 단지 아무도 그것을 붙잡고 있지 않을 때 그렇게 보일 뿐입니다. 누가 나침반을 쥐고 있는가? — Irkif Hillat, /u/Ready_Phone_8920이 r/OpenAI에 제출함 [link] [comments]