Anthropic 연구원의 스탠포드 Physics and AI 컨퍼런스 강연 내용은 꼭 보시길..

Jascha Sohl-Dickstein,, 그는 diffusion model을 처음 제안한 연구자라서 더 중요하게 다가와요.

💬 "인류세의 처음과 마지막 날들에 젊은 연구자에게 주는 조언"

이번 강연에서 꼭 전하고 싶은 건 하나예요. 미래는 지금과 아주 많이 다를 수 있다는 거예요.

AI가 세상을 바꾸는 건 아직 초기 단계예요. 그래도 그 변화가 작지는 않을 거예요. 미래는 지금을 그대로 쭉 늘려 놓은 모습이 아니거든요.

이 말에 동의하신다면 커리어도, 연구 주제도, 심지어 개인적인 삶도 AI가 세상을 어떻게 바꿔 갈지를 기준으로 정하셔야 해요.

인류세는 인간이 지구에서 가장 뛰어난 지성으로서 변화를 이끌어 온 시기를 말하는데요, 이 시기가 생각보다 아주 짧게 끝날 수도 있어요.

지난 10년 동안 가장 큰 AI 모델을 훈련하는 데 들어간 컴퓨팅은 약 1,000만 배 늘었어요.

이 추세가 이어진다면 2030년에는 2025년보다 약 1만 배 많은 컴퓨팅을 쓰게 될 수도 있어요. 우리는 아직 지수 곡선의 아주 앞부분에 서 있는 거예요.

이제 인간의 뇌가 평생 처리하는 연산량에 가까워지고 있어요.

이게 인간 수준의 지능에 도달하는 데 꼭 필요하다거나, 이 정도면 충분하다는 뜻은 아니에요.

다만 둘을 비교하는 게 훨씬 말이 되는 상황이 된 거죠.

모델이 혼자서 해낼 수 있는 소프트웨어 작업의 길이도 점점 더 빠르게 늘고 있어요.

1년도 안 돼서 그 길이가 10배가 됐어요. 제가 예전에 2026~2027년쯤이면 하루치 작업을 할 수 있을 거라고 예측했는데, 이미 그걸 넘어섰죠.

최근 7개월 정도 사이에 AI 모델들이 수학자들이 오랫동안 못 풀었던 에르되시 문제들을 풀기 시작했어요.

AI가 이제 수학에서 지금까지 알려진 한계를 넘어서는 문제를 풀고 있는 거예요.

사실 이 강연의 큰 목적 중 하나는, 여러분이 이 주제를 진지하게 받아들여도 괜찮다고 말씀드리는 거예요. 이름만 들어도 알 만한, 존경받는 사람들과 기관들도 같은 이야기를 하고 있거든요.

에릭 슈미트는 대부분의 프로그래머가 AI로 대체될 거라고 했어요.

3~5년 안에 최고 수준의 인간 지능에 맞먹는 AGI가, 6년 안에는 인류 전체보다 똑똑한 초지능이 나올 수도 있다고요.

그런데 우리 사회는 아직 준비가 안 돼 있어요.

모델을 가장 가까이서 다루는 사람들은 초지능으로 가는 길에 근본적인 장벽은 없다고 봐요.

저도 Claude를 매일 쓰는데요, 실행력은 정말 뛰어난 대학원생 같아요. 그런데 연구 감각은 놀랄 만큼 약해요. 그래서 아직은 제 몫이 있다고 느껴요.

1년 전만 해도 복잡한 문제를 던져 주고 그래프까지 그려서 결과를 확인하는 건 불가능했어요. 지금은 돼요. 그리고 1년 뒤에는 지금보다 훨씬 더 나아져 있을 거예요.

저는 이제 코드를 거의 안 써요. 거의 들여다보지도 않아요. 그런데도 매일 코드로 연구를 하고 있어요.

2년 동안 열심히 연구했는데, 끝날 무렵 누군가 최신 모델에 프롬프트 하나 던져서 더 좋은 결과를 낸다면.. 그건 정말 피해야 할 상황이죠.

Sutton이 말한 '쓰라린 교훈(The Bitter Lesson)'처럼, 컴퓨팅과 지능이 커질수록 더 잘 되는 프로젝트를 고르세요.

그렇지 않으면 여러분이 끝내기도 전에 문제가 먼저 풀려 버릴 수 있어요.

지금의 커리어 경로가 앞으로도 안정적일 거라고 가정하고 계획하지 마세요.

안전한 선택은 더 이상 안전하지 않아요. 얻을 수 있었던 기회를 그냥 포기하는 것일 뿐이에요.

박사, 포스닥, 테뉴어로 이어지는 전통적인 길도 예외는 아니에요.

글쓰기는 곧 생각입니다. 글쓰기를 맡겨 버리면 생각도 맡기는 거고, 그러면 내가 뭘 하고 있는지 제대로 이해하지 못하게 돼요.

AI한테 글에 대한 피드백은 받으세요. 하지만 초안을 쓰게 하지는 마세요. 대신 내가 틀린 부분을 하나하나 짚어 달라고 하는게 좋아요.

AI는 꼭 매일 쓰세요. 지수 곡선 위에 올라타 있으면 그 곡선에서 뒤처지지 않습니다.

지금이야말로 여러분의 결정이 미래에 가장 큰 영향을 줄 수 있는 때예요. 의도를 갖고 선택하세요.

요약