최첨단 모델에서 보이는 지능이 정말 아키텍처를 확장할 때만 나타나는 창발 현상인지 궁금함
같은 구조의 100만 매개변수 모델은 기본 퍼즐도 못 풀다가 1조 매개변수 모델은 야코비안 추측의 반례까지 만들어내는 게 직관에 어긋나 보임. 단순 정렬 알고리즘에 연산을 더 준다고 퀵정렬을 이기지는 못하는데, 현대 LLM 연구는 같은 알고리즘과 구조를 계속 키우며 해답이 나오길 기대하는 경쟁처럼 보임

요즘은 이 분야를 떠났고 전공도 LLM보다 강화학습에 가깝지만, 결국 의미와 지능은 내부 표현에 담긴다고 봄. 작은 모델은 입력을 의미와 출력으로 연결하는 내부 매핑을 처음부터 학습할 용량이 부족하거나, 단순 정렬처럼 이론상 가능해도 현실적으로 감당하기 어려운 시간이 필요할 수 있음
큰 모델은 그 내부 표현 공간에 발판을 마련하기 쉬우며, 최적화가 진행된 뒤에는 가중치 대부분이 별일을 하지 않을 수도 있음. 이 공간을 학습하는 데 필요한 표현력은 아직 명확하지 않지만 지금까지는 수십억 매개변수가 필요한 듯함
더 흥미로운 질문은 모델이 데이터에 얼마나 불변적이어야 하느냐임. 수학적 추론과 프로그래밍이 전반적인 성능을 크게 높인 이유는 넓은 작업군에서 반복 가능한 기술이기 때문이라고 봄. 언어나 작업에 구애받지 않는 프로그래밍 논리를 집중적으로 학습시키는 것이 더 작은 모델로 가는 길일 수 있음

모델 규모 확대는 지능을 높이는 가장 일관되고 신뢰할 만한 방법 중 하나임. AI 학습은 알고리즘으로 다른 알고리즘을 계산적으로 찾고 다듬는 과정이며, 규모를 키우면 목표에 맞는 더 나은 알고리즘을 탐색할 자원이 늘어남
비유하면 작은 모델은 용량과 학습 신호의 제약 때문에 내부적으로 버블 정렬 수준에 머물지만, 큰 모델은 더 깊이 탐색해 퀵정렬에 가까운 방식을 찾을 수 있음
지능은 이분법적이지 않으며, 10억 매개변수와 10조 매개변수 모델 모두 어느 정도의 지능을 가짐. 전자는 통계적 규칙성에 지나치게 의존해 무시하기 쉽고, 후자는 미해결 추측의 새로운 반례를 찾을 만큼 발전했을 뿐임. 둘 사이도 갑작스러운 도약보다는 작은 향상이 쌓여 눈사태가 되는 형태에 가까움
수학 능력 같은 구체적 성과는 급격히 뛰는 것처럼 보여도, 그 밑에는 실수를 줄이고 실수에서 회복하는 범용 능력이 점진적으로 쌓여 있음. 이런 능력이 충분히 좋아지면 전혀 새로운 유형의 논리 문제도 풀리기 시작함

딥러닝 이론 관점에서 보면 지능은 주로 규모 확장에서 오며, 잘 설계된 모델·최적화기 조합이 단순성을 향한 강한 암묵적 편향을 가질 때 모델 크기에 따라 성능이 계속 향상될 수 있음
Marcus Hutter 연구실은 이를 솔로모노프 귀납법으로 표현해 이 편향이 보편적으로 효과적임을 보였음. 효과적인 편향은 차원의 저주를 역으로 활용해, 데이터가 많을수록 더 나은 답을 얻는 것과 비슷하게 큰 모델에서 성능을 계속 높일 수 있음
다만 이런 특성을 보이는 모델 부류는 극도로 좁으며, 운 좋게 그 지점에 도달한 것에 가까움. 일반적인 통계 원칙에서는 여전히 이런 동작을 대체로 기대하지 말라고 가르치는 이유임

인간이 기본 문제와 매우 어려운 문제로 구분하는 것들이 절대적인 척도에서는 서로 매우 가까울 수 있음. 차이는 주로 문제를 풀 수 있는 인간의 비율인데, 인간 능력의 하한조차 상당히 높음. 대다수 인간에게 기본적인 문제를 푸는 동물은 드물지만 복잡한 행동과 학습이 가능하며, 뉴런 규모도 인간과 터무니없이 다르지는 않음
100만에서 1조 매개변수로의 증가는 100만 배 확장임. 인간 뇌를 각 방향으로 1% 크기, 즉 수 mm 수준까지 줄이는 것과 비슷함

중국 연구소가 인상적인 혁신을 하고 있다는 사실과 증류로 이득을 얻었을 가능성은 양립함. 어느 쪽이 얼마나 기여했는지는 모르지만, 둘 중 하나만 참이어야 한다는 건 거짓 양자택일임

증류을 비난하는 건 카지노가 카드 카운팅을 비난하는 것처럼 들림

미국이 AI 경쟁에서 이기길 바라지만, 오늘날의 발명 대부분도 과거 지식의 증류가 아닌지 이해하기 어려움. Anthropic은 자신들이 가져온 데이터를 영업비밀이라고 주장하는 것인지 궁금함

최첨단 모델은 한 가지 요소만으로 만들 수 없음. 이것은 점진적 개선일 뿐 모델 성공 전체를 설명하지 못하며, 증류에 대한 입장과 무관하게 학습 데이터셋이 엄청나게 중요함

같은 크기의 완전 어텐션 모델과 비교했을 때 장문 맥락 검색, 특히 needle-in-a-haystack이나 RULER 성능이 어떤지 궁금함. 효율 향상은 훌륭하지만 선형 어텐션 혼합 모델은 대개 이 부분에서 무너짐

이런 비표준 Transformer가 널리 쓰이기 시작하면 Etched 같은 회사는 곤란해지는지 궁금함

이 논문은 2025년 자료이며 이미 9개월이 지났고, 그사이 주요 모델이 새로 출시됐음

K3에 관해서는 이 논문을 읽는 편이 나음: https://arxiv.org/abs/2607.24653
K3 논문의 핵심 기여는 Stable LatentMoE임. 다른 일부 모델처럼 계층 사이에 전달되는 데이터를 압축하므로 라우터에 특정 조건이 요구되며, K3는 더 균형 잡힌 전문가 선택 전략으로 성능을 높임