Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 글은 의학의 발전 과정과 과학적 이해의 관계를 비판적으로 분석합니다. 현대 의학이 작동 원리를 완전히 이해하지 못한 채 임상적 효과에 기반하여 진보해 왔음을 지적하며, AI가 개발한 신약 역시 '작동 원리'보다 '효과 입증'을 통해 수용될 가능성이 높다고 주장합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기“혈관에 이 약물을 주입하기 전에 작동 원리를 이해하는 인간 암 전문가가 최소 한 명은 있는지 알고 싶지 않겠느냐”는 질문에 내 답은 아니오임. 당장 죽게 생겼기 때문임.
아무리 지능이 높아도 평범한 사람들과는 별로 지내보지 않은 듯함. 이미 대부분은 몸에 넣는 물질이 어떤 효과를 내는지 이상으로는 거의 이해하지 못함. 아무도 원리를 모르는 암 치료제라도 먹겠고, 수십억 명도 마찬가지일 것임. 거의 유일한 조건은 암을 치료해 주는 것임.
공정하게 말하면 현재 의학도 그렇게 작동함. 몸에 들어가는 물질을 완전히 이해하지 못하기 때문에 임상시험을 하는 것임. 약이 출시되고 수년에서 수십 년이 지나서야 부작용을 발견하기도 함.
내가 알기로는 마취의 작동 원리도 아직 밝혀지지 않았음. 의학은 매우 실용적이어서, 합리적인 과학적 설명을 기다리기보다 원리를 몰라도 효과가 입증된 기법을 거듭 선택해 왔음.
Tao가 의학에 정통하리라 기대하지는 않지만, 그 슬라이드는 임상 현장과 동떨어져 있음. 의학은 치료의 작용 기전을 완전히 이해할 것을 요구한 적이 없음.
신체에서 벌어지는 모든 일을 엄밀하게 이해한 적이 없으므로, 현행 규제 체계도 안전성과 유효성을 확인함. 기초과학과 임상·공학적 구현 사이의 차이로 보임.
오히려 현실에서는 이해하는 다른 인간이 검토했으리라는 믿음 때문에 모든 것을 직접 이해하지 않아도 받아들이는 것임. 그런 믿음이 필요 없어지는 날이 올 수는 있지만 지금은 아님. 그 태도가 옳으냐를 따지는 것이 아니라, 현재 이 세계가 그렇다는 뜻임.
화학물질의 생물학적 효과를 확인하려면 여전히 많은 시행착오가 필요하지만, 약물의 화학 자체까지 모호한 것은 아님. 제약회사는 전문 화학자와 화학공학자를 고용하며, 화학물질을 무작위로 섞어 약을 만들지 않음.
적어도 물리적 성질을 파악하고 신뢰할 수 있는 상업적 제조 공정을 설계할 만큼은 만드는 물질을 철저히 이해해야 함.
이 중 일부는 공개적으로 격렬하게 상실을 애도하는 과정처럼 느껴짐. 합리화는 상당히 무리하고, 세상을 확실한 질서 안에 놓으려는 집착도 보임. 이 기술이 어디로 향하고 정착할지 모르는데 지금 작동할 패러다임을 확정하려는 것은 무리임. 초기에는 혼란스럽다가 안정 상태에 도달하는 시스템도 있지만, 초기 상태만으로 그 종착점을 알아낼 수는 없음.
변화의 가속도마저 바뀌는 듯한 감각은 불쾌하고 방향감각을 잃게 함. 안전하고 안정적이던 세계가 전 지구적 재편 속에서 흔들리는 것임. 세대에 걸쳐 안정적인 일자리를 누렸던 공장 노동자와, 더 느리지만 확실하게 같은 변화를 겪은 농민에게도 일어났던 일임. 희소성이 끝나가는 시기에는 여러 노동의 가치가 급락함. 노동과 식량·의료를 맞바꾸는 체계가 균열을 일으키고, 노동이 신성해서가 아니라 대안이 없어서 필요했다는 사실을 깨닫게 됨. 목적의식이 흔들리는 데다 생존까지 노동에 묶여 있으니 두려울 수밖에 없음.
하지만 우리의 목적이 고된 노동은 아닐 수도 있음. 인구가 이미 정점을 지났고, 노동의 가치가 줄어 필요한 인구도 줄어드는 것일 수 있음. 수학자가 수학을 하기 위해 자신의 가치를 정당화할 필요 없이, 그저 하지 않고는 못 배기기 때문에 연구하고 자동화가 식량과 의료를 마련해 줄 수도 있음. 다만 그러려면 언젠가 Tao 박사도 AI가 만든 암 치료제를 받아들여야 할지 모름.
그런 면은 분명 있지만, 노동 없이 식량과 의료를 보장받는 세계로 가는 다리가 완전히 빠져 있음. 그래서 영구적인 하층계급을 벗어나야 한다는 암울한 농담이 나오는 것임. 권력자 누구도 이것이 탈희소성을 향한다고 암시조차 하지 않음. 그저 “우리가 전부 갖고 남에게는 아무것도 주지 않는다”는 오래된 비열한 격언처럼 보임.
신약 개발과 AI 분야에서 일하는데, 암 치료제에 관한 슬라이드는 충분히 조사한 내용이 아님. 약의 작동 방식을 설명하는 모델과 이론은 있지만 몹시 불완전함.
만나는 의사와 의학 연구자 거의 모두에게 “AI가 만든 약이 환자의 암 치료 성적을 크게 개선한다면, 아무도 작동 원리를 모른다는 이유로 처방을 주저하겠느냐”고 물어봄. 그렇다는 답은 아직 듣지 못했고, 대부분 효과가 있는 치료를 거부하는 것이 잔인하다고 답함.
Tao는 AI가 수학과 다른 분야에 미칠 2차적 영향에 지나치게 집중하는 듯함. 인간은 그런 영향을 추론하는 데 서툴며, 최첨단 수학 모델이 실시간으로 역동적인 변화를 일으키는 상황에서는 더욱 그러함.
AI가 약을 만들어도 괜찮다는 데는 모두 동의할 것임. 다만 모델을 다루다 보면 버그나 누락 때문에 실제보다 성능이 좋아 보이는 경우가 있음. AI도 이런 허점을 찾아 시험에서는 완벽하지만 현실에서는 실패하는 결과를 낼 수 있음. 모델 검증은 가장 어려운 작업 중 하나임. 나는 시험을 통과하려고 의도적으로 허점을 쓰지는 않지만, 결과 극대화가 목표인 AI는 허점을 이용할 수도 있음. 물론 생사가 걸리면 결국 득실을 따지게 되고, 좋은 결과가 시험의 허점을 이용한 것일 수 있다는 단서가 붙어도 대부분 약을 시도하려 할 것임. 여기서 ‘의도’라는 말을 많이 썼지만, LLM에는 의도가 없다는 점도 유념해야 함.
일곱 항목 중 하나만 문제 삼고 있음. 핵심은 “AI의 해법이 임상시험이나 수학 모델의 약점을 이용해 목표와 어긋날 수 있지 않은가”라는 다음 항목이라고 봄.
제도와 문화적 관행은 인간을 중심으로 진화했지, 무자비한 종이클립 극대화자를 상정하지 않았음. 선행 연구 문헌이 전혀 없는 새로운 AI 신약이 승인 절차를 통과했다는 이유만으로 안전하다고 여길 만큼 현재 절차가 빈틈없다고 보는가?
Tao는 수학의 제도와 관행이 AI가 생성한 수학을 감당할 준비가 안 됐다고 보는 것임. 소프트웨어에서도 채용 면접, 코드 검토, 테스트 등이 AI나 AI를 쓰는 인간에게 쉽게 공략된다는 사실이 드러나고 있음. 다른 사회 제도도 비슷한 이유로 바뀌어야 할 가능성이 충분함.
의학과 신약 개발에는 기계학습에 쓸 실증 데이터가 턱없이 부족함. OpenAdmet을 보면 됨. “그래도 암을 치료할 수 있잖아”라는 반박은 현재로서는 과장에 불과함. DeepMind도 이 분야로 방향을 틀었지만 입증된 개선은 없음. 수년에 걸친 통상적인 임상 1·2·3상 과정에서도 아직 입증된 개선이 없음.
AI가 만든 약은 누군가의 생명을 구하고, AI가 만든 증명은 수학자가 수년간의 연구를 포기하고 연구비와 상을 잃으며 경력까지 망가지게 함. 여기서 유일한 차이는 우리의 감정적 반응임!
치료 원리를 이해하는 인간 연구자가 있어야 하느냐는 질문은 Tao의 전문 영역을 벗어남. 작용 기전을 모르는 약은 많고, 전신마취의 원리조차 완전히 규명하지 못함. 종양을 제거하려고 몸을 절개할 때도 마취를 포기하겠는가?
AI는 지난 10여 년간 컴퓨터과학을 생물학처럼 바꿔 왔음. 신경망은 경험적으로 조사해야 하며, 기호로 완벽하게 표현할 수 없을 만큼 복잡하고 혼란스러운 현실을 탐구하는 생물학·의학과 비슷한 방법론과 도구가 필요함.
이제 수학도 같은 현실을 마주하게 됨. 이전의 Lean 증명으로 이미 그 방향에 들어섰지만, 이번에는 그 너머로 밀려났으며 일부 수학자가 준비돼 있는지는 모르겠음.
임상시험은 작동 원리가 아니라 효과를 기준으로 하지 않는가? 효과가 입증된 약과 원리는 학문적으로 흥미롭지만 실제로 효과가 없는 약 중 무엇을 택하겠는가?
특히 약물 재창출에서 특정 물질이 질환에 효과적인 원리를 완전히 모른다는 것과, 약물을 놓고 그냥 추측한다는 것은 다름. 임상·생의학의 ‘완전히 이해하지 못함’과 LLM 업계의 ‘완전히 이해하지 못함’ 을 같은 것으로 취급하는 것은 말장난에 가까움.
12~13번 슬라이드는 10월 8일 공개된 100개 이상의 해법과 그에 대한 100개 이상의 반응에서 내가 얻은 결론을 잘 요약함. OpenAI가 공개한 답이 수년간 연구하던 문제를 끝내 버렸거나, 막 제출한 연구비 신청서를 전면 수정해야 한다는 경우가 있었음. 오래된 친구나 연인을 잃은 것 같다는 표현도 있었고, 차라리 20세기 초에 태어나 이 시점 전에 경력을 마쳤으면 좋았겠다는 분위기였음.
하지만 이제 기존 문제는 더 이상 충분히 야심적이지 않으며, 새로운 최전선을 찾는 것이 당장의 과제라는 사실을 받아들여야 함.
AI 버튼을 반복해서 누르면 통찰력 있는 새 방법 없이 미해결 문제만 풀게 된다는 Tao의 추측은 의심스러움. OpenAI의 공개 결과가 반례처럼 보임. 예를 들어 DFT의 O(nlogn) 미만 증명은 오래된 인간의 가정을 깨뜨렸음. 수십 년 동안 충분히 의심받지 않은 차선의 방법을 조금씩 개선해 온 셈임. 초인적 AI에게 “이전에 시도한 방법은 쓰지 말고 풀어 보라”고 요청할 수도 있음.
두 번째 문단은 Tao의 취지를 공정하게 재현하지도, 반박하지도 못한다고 봄. Tao는 AI가 인간의 수학적 이해를 돕는 데 유용할 수 있다고 하며, 제시한 예가 바로 그것임. OpenAI가 버튼을 반복해서 눌렀더라도 수학자들이 결과를 검토하면서 이해를 발전시켰으므로 양쪽 과정이 모두 필요함.
불분명한 것은 비용 대비 효과임. AI 실행 비용과 수학자가 결과를 공부하는 시간을 모두 합쳤을 때, AI 없이 연구하는 것보다 분야를 더 잘 발전시키는가?
소프트웨어 엔지니어는 주로 결과 지향적이고 수학자는 주로 이해 지향적임. 진정한 이해 없이 AI로 새 영역을 개척하면 수학자를 엔지니어로 바꾸게 됨.
특정 결과를 증명했다는 것이 어떻게 새 증명 기법을 만들고 이해했다는 증거가 되는가? 현대 수학의 상당 부분은 바로 그런 기법을 만들고 이해하는 데 목적이 있음. 그 논리적 연결이 보이지 않으며, 현재로서는 Tao가 맞는 쪽에 기울어짐.
결과도 중요하지만, 기존 기법만으로 결과를 채굴하다 멈추면 미래의 가능성을 스스로 꺾게 됨.
자동화 도구가 하려던 일을 해 버려서 수학자가 연구비 신청서를 다시 써야 한다면 안타까워해야 하는가? 답은 잘 모르겠음. 나는 내 일이 자동화 도구로 대체되면 기쁨. 6개월마다 스크립트로 내 일을 없애자는 쪽임.
Primeagen의 영상을 봤는데, Tao의 요지는 신진 수학자가 증명을 통해 필즈상으로 향하던 경로가 사라지고 있다는 것임. 과거에는 발표와 협업 초청으로 이어졌던 기회를 AI가 가져가면서 공동체도 손상된다는 것임. 판도라의 상자는 닫을 수 없으니 공동체가 적응해야 함.
Prime은 소프트웨어 개발은 제품이 목표이므로 수단이 뒤바뀌어도 업계 자체가 잠식되지는 않는다고 함. 반면 수학 연구는 과정 자체가 결과물이어서 연구 과정을 빼면 남는 것이 별로 없음. 그렇다면 OpenAI가 공개한 증명들을 계기로 수학도 새 증명을 찾는 대신 기존 증명을 활용해 세상을 바꾸는 쪽으로 이동할까?
신진 수학자의 필즈상 경로가 사라지는 것은 수학계가 해결할 문제이지, AI 회사의 문제는 아님.
소프트웨어 업계도 똑같이 잠식되고 있음. 아니라고 여긴다면 AI에 지나치게 몰입했거나 특권적인 위치에 있는 것임. 기업 입장에서는 더 작은 팀으로 같은 제품을 만들면 이득임.
기업 컨설팅에서는 평균 20명이 필요하던 개발 프로젝트에 이제 약 5명이 투입됨. 온프레미스에서 자체 클라우드 운영, 관리형 컨테이너, 서버리스, SaaS·iPaaS 완제품으로 이동한 것과 해외 인력 활용이 모두 팀 규모를 줄여 왔음. 여기에 AI 도구가 더해져 인원은 더 줄어듦.
결국 잘나가는 것은 업계의 몰락에 기여하는 데 도덕적 거리낌이 없는 AI 회사 직원들뿐임. 직접 코드를 짜고 인간의 문화를 무단으로 가져오는 것은 CEO가 아니기 때문임.
Primeagen은 유튜브에서 반응 영상을 만드는 사람임. 그가 뭐라고 했는지 전하는 것은 hbomberguy, Jay Leno, Ben Shapiro의 반응을 전하는 것과 별 차이가 없음.
AI가 새 증명을 만들었다면 기존 원리를 검증했거나 새 원리를 발견한 것 아닌가? 그 결과도 연구할 가치가 있지 않은가? 수학자들은 AI 증명 검토가 직접 증명하는 것보다 재미없어서 불평하는 것인가? 프로그래머의 세계에 온 것을 환영함!
AI가 상상력이 없어 새 원리를 발견하지 못한다면 오히려 도움이 됨. 새 원리가 필요 없는 문제를 지워 주므로, 남은 문제와 추측은 더 흥미로운 것들이 됨.
전혀 그렇지 않음. 새 증명과 새 증명 기법은 다름. AI는 아직 새 기법을 만들지 못하며, 기계적인 증명이 흥미롭더라도 인간 수학자에게 맡겼다면 같은 문제에서 새 기법이 나올 가능성이 훨씬 높았을 것임.
신입을 채용하지 않으면서 미래의 고급 엔지니어가 어디서 나올지 걱정하는 기술 업계처럼, OpenAI의 접근은 수학에 질문을 고갈시키는 문제를 만들었음. 잘 설계하면 수학과 AI가 공존할 수 있지만, 지금대로라면 누구도 적절한 질문을 만들거나 연구하지 않게 될 것임.
암 이야기는 제쳐 두고, Tao가 왜 미래가 아니라 현재 모델의 능력에 집착하는지 모르겠음. 모델이 증명을 설명하고 제시하는 능력까지 더 좋아지는 것은 충분히 현실적인 가능성임.
자신의 능력, 어느 정도는 내 능력도 더 이상 유효하거나 가치 있게 여겨지지 않는 미래를 감정적으로 받아들일 준비가 안 된 것일 수 있음. 마음이 아프고 내가 틀리기를 바라지만, 더 높이 피할 곳이 없어진 듯함.
수학 능력을 말하는 것인가, 소프트웨어 엔지니어링 능력을 말하는 것인가?
Pepto Bismol과 Tylenol이 왜 작동하는지도 아직 완전히 이해하지 못함. Tao를 무척 좋아하지만, AI의 폭풍에 크게 흔들려 이제는 십 대도 쉽게 반박할 논리를 쓰는 듯해 안타까움.
“자동화 도구로 미해결 문제라는 등대에 너무 일찍 도달하면, 가지 않은 경로의 탐험을 방해하고 주변 분야를 메마르게 할 수 있다”는 슬라이드의 대목이 핵심임. 이는 수학자의 심리와 학계의 보상 구조에 관한 문제임.
앞으로 수학이 번성하려면 수학적 진보의 본질을 다르게 생각하도록 사고방식을 바꿔야 함. 제도적 보상도 더 이상 진보를 충실히 반영하지 못하는 대리 지표가 아니라 의미 있는 수학적 진보 자체를 촉진하도록 재편해야 함.
Tao가 말한 황폐화의 정확한 성격이나 원인이 무엇이든, 이를 바로잡는 일은 우리 수학 공동체 스스로 맡아야 함. 다만 이해관계자가 많고 기득권이 엇갈리는 경직된 학술 제도를 근본적으로 바꿔야 하므로, 과정은 느리고 답답하며 논쟁적일 것이고 성공도 보장되지 않음.