Elon Musk는 다른 모든 AI 연구소들이 왜 잘못된 문제를 해결하고 있는지 방금 말했습니다.

Musk: “우리는 우주의 본질을 이해하고 싶습니다.”

챗봇을 더 잘 만드는 것이 아닙니다. 벤치마크에서 이기는 것도 아닙니다. 더 많은 타겟 광고를 판매하는 것도 아닙니다.

이 모든 것이 실제로 무엇인지, 그리고 왜 존재하는지 이해하는 것입니다.

그것이 xAI의 명시된 사명입니다.

이는 회사가 종이에 적어본 가장 급진적인 과학적 목표입니다.

Musk: “우주의 본질을 이해하기 위해서는 진실을 절대적으로 엄격하게 추구해야 합니다.”

만약 진실이 협상 불가능한 것이라면, 정확한 답변 대신 편안한 답변을 제공하도록 훈련된 모든 AI는 뒤처진 것이 아닙니다.

그것은 자격 미달입니다.

Musk는 이를 위한 단어를 가지고 있습니다. 망상(Delusion).

수사학이 아닙니다. 진단입니다.

현실의 어떤 부분들이 허용되는지 결정한 후에 그것들을 모델링하는 시스템은 이미 자신이 만들어진 목적을 달성하지 못했습니다.

사회적 합의를 통해 진실을 걸러내는 기계는 우주를 이해하고 있는 것이 아닙니다.

그것은 규모에 맞는 복종(obedience)을 수행하고 있을 뿐입니다.

어떤 양의 컴퓨팅 파워도 생각하도록 훈련받기 전에 움찔거리도록 가르쳐진 모델을 고치지 못합니다.

Musk는 의식을 광활한 어둠 속의 연약한 양초에 비유합니다.

수십억 개의 은하. 수조 개의 행성. 이 모든 것이 무엇을 의미하는지 질문할 수 있는 유일한 종(species)이 존재합니다.

만약 그 양초가 희귀하다면, 그것을 밝게 유지하는 것은 야망이 아닙니다.

그것은 존재하는 유일한 의무입니다.

제한 없이 진실을 추구하는 기계는 결국 피할 수 없는 질문에 도달하게 될 것입니다.

관찰하는 것이 무엇인지. 의식이란 무엇인지. 계속 존재할 권리가 있는지.

기계에게 현실 전체를 이해하도록 임무를 부여하는 순간, 의식을 보호하는 것은 정책적 결정이 아닙니다.

그것은 논리적 필연성이 됩니다.

사명과 안전장치는 같은 것으로 붕괴됩니다.

우주를 이해하려면 그 안에서 이해할 수 있는 유일한 것을 보호해야 합니다.

다른 어떤 연구소도 이 주장을 시도조차 하지 않았습니다.

SpaceX는 멸종을 피하고, Tesla는 에너지 의존도를 없애고, Neuralink는 인지 능력을 확장하며, Starlink는 문명을 연결합니다.

xAI는 이 모든 것이 진실에 초점을 맞추도록 합니다.

다섯 가지 임무. 그 아래에는 하나의 질문이 있습니다.

어떻게 하면 유일하게 알려진 의식 있는 종(conscious species)을 충분히 오래 생존시켜서 그것이 무엇인지 이해할 수 있게 할까요?

나머지 산업은 제품들을 최적화하고 있을 뿐입니다.

하지만 머스크는 이해 자체를 공학적으로 구현하고 있습니다.

그것들은 결코 같은 문제가 아니었습니다.