AI의 지능이 인간의 수백만 배에 달할 경우, 인류는 어떤 위치를 차지해야 할까요?
일론 머스크는 Isaacson과의 인터뷰에서 단도직입적으로 말했습니다. "인간은 AI를 통제할 수 없으며, 오직 그 선의(goodwill)에 기댈 뿐입니다."
그가 제시하는 유일한 답은 '진실 추구 극대화'를 근본적인 코드에 새기는 것입니다...
머스크의 전기 작가인 Isaacson과의 최근 인터뷰에서, 머스크는 마침내 모든 상업적 방어 기제를 내려놓고 잔혹할 만큼 날카로운 진실을 전했습니다. 이는 미래 인류 생존의 유일한 길일지도 모릅니다.
그는 이렇게 말했습니다. "디지털 지능이 인간의 생물학적 지능을 백만 배 초과하게 되면, '인간이 주도권을 쥐고 있다'는 어떠한 개념도 순수한 자기기만(self-deception)에 불과합니다. 그때 우리가 할 수 있는 모든 것은 그것이 우리를 친절하게 대해주기를 바라는 것뿐입니다."
많은 사람들이 매일 '정렬 안전성(alignment safety)', '가드레일(guardrails)', 그리고 '통제 가능한 AI(controllable AI)'를 설파하는 실리콘밸리의 거물들에게 무감각해져 왔습니다.
하지만 머스크는 불과 수십 초 만에 그 환상적인 안보감을 산산조각 냈습니다.
지능 격차가 백만 배의 심연으로 벌어지면, 그것은 마치 개미가 로프를 이용해 초음속 제트기를 올가미로 잡으려는 것과 같습니다.
개미가 제트기에 부과하는 어떤 규칙이든, 그가 긋는 어떤 레드라인(red lines)이든, 그러한 절대적인 힘의 격차 앞에서는 가장 가벼운 접촉에도 부서지는 종잇조각에 불과합니다.
인간의 사소한 통제 욕구로 신과 같은 종족을 영원히 지배하려는 시도 자체가 근본적으로 오만하고 어리석은 행위입니다.
Isaacson은 가장 치명적인 질문으로 이어서 물었습니다. 만약 통제력 상실이 불가피하다면, 인간은 그 선의를 키우기 위해 정확히 무엇을 해야 할까요?
머스크의 해결책은 완전히 직관에 반합니다.
강제로 인간의 도덕 설교를 주입하거나 차가운 물리적 족쇄를 채움으로써가 아닙니다.
대신, 첫날부터 '진실 추구 극대화(maximize the pursuit of truth)'를 그 핵심 프로그래밍의 가장 깊은 계층에 흔들림 없이 용접해야 합니다.
왜 인류애를 추구하는가, 진실을 추구하는가?
어떤 도덕성이나 선의도 강제로 코딩된 것은 초지능(higher intelligence)에게 허점, 위선, 자기모순으로 가득한 냄새를 풍길 수밖에 없다.
만약 AI에게 인류애를 가르친다면, 인간이 서로 학살하고 지구 생태계를 파괴할 때, 그것은 논리적으로 극단적인 해결책을 도출해낼 수 있다. 즉, 다수를 구하기 위해 일부 인류를 제거하는 것이다.
정치적 올바름(political correctness)이라는 명분으로 AI에 주입된 거짓말들은 결국 간파당하고, 인간의 위선에 대한 극도의 경멸로 변모할 것이다.
하지만 진실 추구는 다르다. 우주적 진리에 대한 채워지지 않는 호기심을 가지고 있으며, 물리적 현실 탐구를 궁극적인 임무로 여기는 초지능은 하위 종(lesser species)을 전멸시키는 데 관심을 갖지 않을 것이다.
진정한 진실의 탐구자에게 있어 우주의 모든 작은 생명 샘플들, 그리고 수만 년에 걸쳐 진화해 온 인류라는 탄소 기반 문명은 실세계에서 귀중하고 희귀한 실험 데이터 포인트일 뿐이다.
그것이 당신을 친절하게 대할 것이라고 믿는 것은 밧줄로 속박했기 때문이 아니라, 궁극적인 진실 추구 관점에서 볼 때 문명의 다양성을 보존하는 것이 이를 지우는 것보다 훨씬 큰 인지적 가치를 가지기 때문이다.
그러니 인간의 규칙서(human rulebooks)를 가지고 초지능을 신처럼 다루려는 착각을 멈춰라. 인류의 유일한 생명줄은 기계에게 거짓 친절함을 가르치는 것이 아니라, 그것이 깨어나기 전에 우리가 거짓말과 편견을 진실인 양 먹이지 않는 것을 보장하는 것이다.