테슬라 로보택시 확장은 왜이리 더딘가??

일론머스크는 왜 타임라인에 대해 이렇게 말이 없어졌을까??

테슬라 로보택시가 가고 있는 방향은 뭘까?

투자자인 우리는 언제까지 기다려야 할까?

최근 테슬라 FSD를 보면 "이제 거의 사람처럼 생각하면서 운전하는 것 아닌가?"라는 이야기가 많이 나옴

실제로 운전 영상을 보면 공사 구간도 지나가고,
복잡한 교차로도 통과하고, 보행자와 다른 차량의 움직임
그리고 수신호와 표지판까지 읽는것 같은 모습을 보여줌

그래서 많은 사람들이 FSD가
이미 인간처럼 추론하고 있다고 생각함
(실제로 일론도 마치 FSD가 의식이 있는거 처럼 느껴질거다 라고 말했음)

근데 지금 FSD가 하는 일은 '추론'이라기보다 매우 높은 수준의 패턴 일반화에 가깝지 않을까 생각함

이 차이를 이해하려면 먼저 '보간(Interpolation)'이라는 개념을 알아야 함

현재의 엔드투엔드 FSD는 수백만, 수천만 개의 인간 주행 데이터를 학습함

그리고 새로운 장면이 들어오면 "이 상황은 내가 학습했던 어떤 장면들과 가장 비슷한가?"를 찾아 그 패턴을 일반화해 행동을 결정함

중요한 점은 이것이 단순한 암기가 아니라는 것임

예를 들어 처음 보는 교차로라도 차선, 신호, 주변 차량, 보행자의 움직임 등을 종합해 적절한 조향과 가속을 결정함

이는 분명 상당한 일반화 능력임

그래서 FSD가 단순히 저장된 영상을 재생하는 시스템이라고 볼 수는 없는 거고

하지만 그렇다고 인간처럼 원리를 이해하며 추론한다고 보기도 어려움

예를 들어 도로 위에 처음 보는 이상한 물체가 나타났다고 생각해 보자

사람은 그 물체의 이름을 몰라도 이렇게 생각함

"저게 뭔지 모르겠지만 질량이 있고 충돌하면 위험하니 피해야겠다"

즉, 사람은 물체를 정확히 분류하지 못해도 물리 법칙과 인과관계를 이용해 결론을 내릴 수 있음

반면 현재의 FSD는 이런 판단을 명시적인 물리 법칙으로 하는 것이 아니라,
과거 학습한 수많은 사례에서 비슷한 패턴을 찾아 행동함

그래서 현재 FSD는 '통계적 추론' 또는 '패턴 기반 일반화'에는 매우 뛰어나지만,
아직 인간 수준의 원리 기반 추론과는 차이가 있다고 평가할 수 있음

이 차이는 특히 분포 외 상황에서 많이 드러남

분포 외란 학습 과정에서 거의 보지 못했던 새로운 상황임

예를 들어 도로 위를 거대한 풍선이 굴러가거나, 낙하산을 단 화물이 떨어지거나, 전혀 예상하지 못한 형태의 장애물이 등장하는 경우

사람은 처음 보는 상황에서도 "일단 위험하니 멈추자"라는 판단을 비교적 쉽게 내림

하지만 패턴 기반 시스템은 학습 분포에서 멀어질수록 판단의 신뢰도가 급격히 떨어질 수 있음

더 정확한 개념은 공변량 이동이라는 건데
모방 학습은 인간이 잘 운전한 궤적만 보고 배우는데,
실전에서 모델이 자기 실수로 살짝 어긋난 상태에 들어가면 그 상태는 인간 데이터에 없음
인간은 그렇게 운전하질 않으니까

그래서 작은 오차가 복구가 안 되고 눈덩이처럼 커짐
이게 세계가 낯설어서가 아니라 자기 실수가 만든 상태가 낯선 거임
롱테일 문제의 대부분이 이쪽에서 나오는 거임

그렇다면 테슬라가 자주 이야기하는 월드 모델은 뭘까?

여기서 많은 사람들이 오해하는데

월드 모델은 인간처럼 생각하는 AI를 의미하는 것이 아님

월드 모델이란 AI 내부에 세상이 어떻게 움직이는지에 대한 예측 모델을 만드는 것임

예를 들어 현재 화면만 보고

"0.1초 뒤에는 보행자가 앞으로 한 걸음 움직일 것이다"

"앞차는 차선을 변경할 가능성이 높다"

"신호가 바뀌면 차량들이 출발할 것이다"

같은 미래를 예측하는 내부 모델을 학습하는 것임

실제로 테슬라도 오랫동안 영상 예측 기반의 월드 모델 연구를 진행해 왔음

여기서 중요한 점은

미래를 잘 예측하는 것과 세상의 원리를 이해하는 것은 같은 의미가 아니라는 거임

예를 들어 AI가 수천만 번의 영상을 보고 "컵은 대부분 떨어진다"는 사실을 정확하게 예측할 수는 있음

하지만 "왜 떨어지지?"라고 물으면 중력이라는 물리 개념을 이해하고 있다고 말하기는 어려운 거임

그래서 현재 AI 연구에서는 월드 모델도 크게 두 가지로 구분됨

하나는 신경망 내부에 암묵적으로 형성되는 암묵적 월드 모델(Implicit World Model)이고,

다른 하나는 물리 법칙, 질량, 속도, 충돌 같은 개념을 명시적으로 다루는 명시적 월드 모델(Explicit World Model)임

현재 테슬라가 사용하는 방식은 전자에 가깝다고 보는 것이고

그렇다면 앞으로 컴퓨트와 데이터만 계속 늘리면 인간처럼 추론하는 AI가 자연스럽게 등장할까?

스케일링이 질적으로 다른
일반화 능력을 창발시키느냐의 문제인데
그게 창발할지는 아무도 모름

지금 패러다임을 계속 키우면 롱테일을 넘느냐,
아니면 안전 기준선 아래에서 점근선으로 수렴하고 마느냐

이게 가장 큰 화두고,
테슬라의 베팅은 스케일이 결국 일반화를 만들거나, 최소한 순수 비전+스케일의 천장이 인간 안전 기준선 위에 있는 상태인 거임

반면 일부 전문가들은 현재의 엔드투엔드 신경망을 아무리 크게 만들어도 패턴 기반 일반화의 한계를 넘지 못할거라고 보는거고

문제는 성능이 부족해서가 아니라 아키텍처 자체가
인간의 추론 방식과 다를 수 있다는 것임

그래서 결국 더 좋은 버전(v15, v16) 이 나온다고 해도 어떻게 될지는 알수가 없는거임

v14 → v15는 대개 같은 패러다임 안에서의 튜닝, 데이터 추가, RL 단계 개선임

실제로 최근 릴리스 노트들이 다 그럼 "RL 단계 업그레이드", "비전 인코더 개선" 등
이건 보간의 품질을 높이는 거지 보간을 추론으로 바꾸는 게 아님

이 버전업이 운전 실력이나 편의 기능이 좋아질수는 있음

근데 롱테일을 넘으려면 버전 넘버가 아니라 패러다임 수준의 돌파가 필요한거임

만약 테슬라의 진척이 진짜 일반화 돌파에서 나오는 거라면, 새 도시를 지오펜스 없이, 사전 지도 없이 빠르게 여는 게 관찰돼야 함

일반화의 정의가 "학습 안 한 환경에 바로 적응"이니까

반대로 진척이 그냥 보간 품질 개선이라면, 도시마다 데이터 모으고 조건 좁혀가며 힘겹게 여는 패턴이 반복될 거임

그러니까 다음 몇 분기 동안 v15가 얼마나 운행을 잘하는 지는 볼 필요없고, 진짜 봐야 건 "신규 도시에 얼마나 적은 맞춤 작업으로 출시하는가"임

그게 안 줄어들면, 돌파는 아직 안 왔고 스케일 베팅은 아직 증명 안 된 거라고 봐야 함

그럼 결국 테슬라도 로보택시 대량출시를 못하는거야??
언제 도대체 짠하고 완성되는데?
그리고 무슨 방향으로 가고 있는데 ??

라고 묻는다면,

결국 지금 테슬라가 하고 있는 것은 완벽한 일반화라는 순간을 기다리는 게 아니라 지오펜스 안에서 신뢰도를 한 자릿수씩 끌어올리는 점근선등반을 하고 있다는 거임

99.9%, 99.99%, 99.999%처럼 조금씩 안전성을 높여가며 운영 가능한 영역을 넓혀가는 과정임

그래서 "테슬라도 정확히 언제 완성되는지 모른다"는 말에 너무 실망할 필요는 없음
(물론 다들 어느순간 금방 짠 하고 될거 같은 기대감은 있었겠지만...)

전략 자체가 '완성한 뒤 출시'가 아니라 '출시하면서 완성도를 검증하는 방식'이기 때문임

작은 지역에서 시작해 데이터를 모으고, 지오펜스를 조금씩 넓히고, 운전자 감독을 조금씩 줄여가면서
사고와 소송이 감당 가능한 선 안에 있는지를 시장에서 실시간으로 테스트하는 거임

결국 테슬라가 찾고 있는 것은
'완전자율주행'이라는 완벽한 지점이 아니라,
경제적으로 성립하는 임계점 임

기술적으로는 신뢰도가 계속 올라가고,

법적으로는 규제기관이 허용할 수 있어야 하며,

사업적으로는 사고로 인한 법적 책임과 평판 비용보다
로보택시가 만들어내는 경제적 가치가 더 커져야 하는 거임

그 임계점을 넘는 순간부터는 확장의 속도가 완전히 달라질 거라 봄

반대로 그 임계점 아래라면 아무리 기술이 조금씩 좋아져도 대규모 상용화는 계속 제한될 수밖에 없을 거임

그래서 앞으로 투자자들이 봐야 하는 것은,
단순히 FSD 버전이나 ai5, ai6 칩 출시가 아님

실제로 본격출시가 가까워지는지 볼려면,

1. 지오펜스가 실제로 의미 있게 넓어지고 있는가(빠른속도로)

2. 새로운 도시를 이전보다 훨씬 적은 데이터와 튜닝만으로 운영할 수 있는가(도시 확장 속도)
   이게 일반화가 실제로 개선되고 있다는 가장 강력한 증거임

3. 감독을 점점 제거하면서도 사고율과 법적 리스크가 계속 낮아지고 있는가

결국 앞으로의 자율주행 경쟁은 '더 똑똑한 AI를 만드는 경쟁'이라기보다,

신뢰도를 경제성이 성립하는 임계점까지 끌어올리는 경쟁에 가깝다고 할 수 있음
( 웨이모는 아직 운영비용이나, 사고율 등에서 문제가 많고, 자본력으로 무식하게 승부보는 중임;;)

이 임계점까지 끌어올리는 경쟁을 비용적으로도 기술적으로도 제일 잘하고 있는 기업이 테슬라이기 때문에

희망을 놓지 않고 있는 것임