Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
이 글은 o(n log n) 정수 곱셈 알고리즘을 언급하며, 복잡한 수학 논문을 AI가 이해하는 능력에 대해 비판적으로 접근합니다. 저자는 AI의 설명 능력이 진정한 지식 습득인지, 아니면 단순히 설득력 있는 환각일 수 있는지 의문을 제기하며 기술적 한계를 탐구하고 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기모델들에게 큰 도전 과제를 줘 보면 어떨까? 실제 증가율은 O(n(log(n))^(1-f(n))) 이며, f(n)은 n에 따라 천천히 증가하는 함수라고 추측함. 즉 정수가 커질수록 곱셈이 상대적으로 더 효율적이 된다는 뜻임. 전 세계 AI가 이 목표를 붙들고 몇 세기 동안 즐겨 보길 바람!
논문 세 편 모두 읽으려다 설명이 난해해서 포기하고, 대신 Fable이 이해하고 옳다고 판단한다는 데 기대는 상황은 건전해 보이지 않음.
수학 박사 행세를 아주 그럴듯하게 하는 사기꾼이 준비한 전문적인 말을 늘어놓으며 증명을 이해했고 타당해 보인다고 하면, 그 증명이 옳아지는 걸까? 사기꾼인 줄 아는 사람은 당연히 아니라고 하겠지만, 모르는 사람은 설득될 수도 있음. “이해했다”거나 동의한다는 말 자체는 타당성의 근거가 전혀 되지 않음..
AI가 작성한 코드베이스에서도 같은 일이 벌어지고 있음. 코드를 직접 읽지 않고 AI에게 설명해 달라고 함. 이 역시 건전한 상황은 아닌 듯함.
그래도 Fable은 사람이 논문을 이해하도록 도움을 줬으니, 겉보기에 올바른 Lean 증명만 있고 설명하려는 시도는 모두 환각인 상황보다는 훨씬 나음. 사람이 몇 달간 집중해서 공부하면 증명을 완전히 이해하지 못할 뚜렷한 이유도 없어 보임.
왜 안 되는 걸까? 해당 분야 수학자들이 논문을 이해하지 못하지만 사용할 수 있는 도구는 이해할 수 있다면, 왜 활용하지 말아야 할까? 무엇이 “건전하지 않다”는 걸까? 그저 지금 세상의 현실인 듯함.
저자는 2주간 애써도 논문의 일부만 이해했는데 Fable은 새 문맥에서도 몇 분 만에 전체를 이해하고 까다로운 세부 질문까지 정확히 답한다고 함. 하지만 이는 내가 이런 시스템을 써 본 경험과 전혀 맞지 않아 의아함.
대체로 자신감 있게 말하기는 하지만, 내가 이해하기 어려운 코드는 기계도 어려워함. 나보다 지치지 않을 뿐 더 똑똑하지는 않음. 이 수학자는 Fable의 이해 여부를 평가하기에 아주 적합한 위치에 있지만, 그래도 내 경험과는 정반대임.
모델이 틀리는 건가? 아니면 아주 엉망인 코드베이스를 완전히 이해하려다가 포기하는 건가?
이런 모델에는 자기 인식이 없음. 목표를 아주 명확히 제시하고 며칠간 테스트 프레임워크를 작성하게 했는데, 원하는 것을 정확히 이해했다며 자신만만하더니 결과물은 완전히 엉터리였음. 쓸모없다고 한마디 하자 바로 “전적으로 맞습니다. 제 잘못입니다”라고 함.
제목에는 O(n log n)이라고 되어 있지만, 핵심은 O(n log n)이 아니라 o(n log n) 이라는 데 있음. 후자는 전자의 진부분집합임. 두 n비트 정수를 FFT로 O(n log n) 시간에 곱하는 방법은 이미 알고 있었음.
대략 O(n log n) 은 어떤 상수 k에 대해 k(n log n)보다 빠르게 증가하지 않는다는 뜻이고, o(n log n) 은 모든 양의 상수 k에 대해 k(n log n)보다 엄밀히 느리게 증가한다는 뜻임.
잘 모르는 사람을 위해 묻자면, O와 o는 어떻게 다른가?
나도 시드니에 사는데, 같은 지역 사람이 쓴 도입부와 글에 푹 빠져 읽었음. 수학 전문가는 아니라 세부 기술 내용은 이해하지 못했지만, 수학계가 받은 충격에 깊이 공감할 수 있었음. 이번 수학 결과의 대량 공개가 이렇게 큰 사건인지 몰랐음. 결국 우리 모두 필요할 때 바로 꺼내 쓰는 지능이라는 것을 함께 이해해 나가는 중인 듯함.
수학 전문가일 필요는 없음. 논문을 AI에 올리고 다섯 살 아이에게 설명하듯 설명해 달라고 한 뒤, 후속 질문마다 가정하는 나이와 전문 지식 수준을 높여 가면 됨.
AI가 사람을 위해 논문을 쓰지는 않는 듯해서 흥미로움. 전문가도 이해하기 어려워하지만 다른 AI는 이해함. 결국 AI가 다른 AI를 위해 논문을 쓰는 셈임.
이런 방식의 강화학습이 바로 그렇게 작동함. AI는 가장 효율적으로 해답에 도달하도록 자기 자신에게 글을 쓰는 훈련을 받음. 문장을 어느 정도 자연스럽게 유지하려는 추가 미세조정도 하겠지만, 본질은 그러함.
핵심에서 벗어난 질문인 줄 알지만, 이것이 당장 컴퓨팅을 바꿀 실용적인 돌파구인가? 내 제한적인 이해로는 아닌 듯함. 그랬다면 그것이 제목에 나왔을 것 같고, 기존 진전에 비하면 엄청난 개선이더라도 실용적인 관점에서는 아직 작다고 이해했는데 맞는지 궁금함.
글에서 잘 전달한 어려움을 깎아내리려는 뜻은 아님. 앞으로도 큰 걸림돌이 될지, 아니면 지금 기저귀를 찬 미래의 수학자들이 이런 세상에서 자라 도구와 이해력을 갖추게 될지 궁금함. 어쩌면 지금은 힘든 전환기일 뿐일 수도 있음.
철저히 이론적인 결과임. 글에 인용된 농담대로라면, 이전 O(n log n) 결과의 실용적 가치는 실제 정수 곱셈보다 논문 작성에 있었음. 관측 가능한 우주에 저장할 수 있는 정수로는 기존 알고리즘보다 빠르지 않을 가능성이 크지만, 복잡도를 적을 때 소프트 O 표기법, 작은 o가 들어간 지수, 양의 ε, 반복 로그를 동원하지 않고 O(n log n) 하나로 끝낼 수 있었기 때문임. 이번 결과 덕분에 다시 수식 조판이 고통스러워짐.
“이번 사건이 수학계에 준 고통과 깊은 상실감을 이제 회사 직원들도 알 것”이라는 대목을 나도 받아들이려 애쓰는 중임. 이런 미래는 피할 수 없고 진보는 어쨌든 계속될 거라고 봄. 지금은 《쥬라기 공원》의 Grant가 된 기분임.
그 불가피하다는 체념이 그들의 개인 섬, 초호화 요트, 전용기, 저택, 기소를 피할 특권이 됨.
수십 년간 일자리 상실을 우려하면 조롱당하고 “코딩이나 배워라”라는 말을 듣던 저학력·소외 계층 노동자들은, 자신들을 깔보던 이들이 같은 일을 당하는 모습을 보며 통쾌해할지도 모름. 이제 AI가 일자리를 뺏는다고 불평하지 말고 새 데이터센터에 전력을 공급할 석탄 캐는 법이나 배워야 하는 걸까?
저자가 “모델은 g < m인 프로그램을 찾지 못했고, Fable은 불가능하다고 하지만 그 논증은 아직 이해하지 못했다”고 한 부분은 조금 의외임. Fable이 어떤 논증을 했는지는 모르지만, 이 부분은 증명이 아주 어렵지는 않아 보임. 내가 이런 수학에 능숙하지 않아 무언가 놓쳤을 수도 있음.
핵심은 slice 호출 한 번으로 0이 아닌 원소 수를 최대 두 배까지만 늘릴 수 있다는 것임. 필요한 변환은 0이 아닌 원소 하나를 2^m개로 만들어야 하므로 g < m으로는 불가능함. permute는 위치만 바꿔 0이 아닌 원소를 늘리지 못하니, slice와 permute만 허용하는 초기 두 명령 모델에서는 정확히 m번의 slice 호출이 필요함.
Astra도 이 논증의 변형을 제시함. https://gist.github.com/dberlin/e785c51aff0285c9c0a3ea0f24fa....