언어 / Language / 语言 / 언어: 日本語 | English | 中文 | 한국어

지난 회차(#38)의 마지막에서, 저희는 이렇게 예고했습니다. "다음 회차는 4점 교차점의 본진 — verified memory evolution의 소규모 PoC를 report한다. SSGM이 이론으로 간판을 내걸었던 창구가 구현으로 닫히기 전에".

2026년 6월 9일, 그 PoC가 완료되었습니다. 결론을 한 줄로 말하자면, "창구는 구현으로 닫혔다. 하지만 벽(스케일러빌리티(scalability)의 벽)은 꿈쩍도 하지 않았다".

구체적으로는:

증명이 동반되어 진화하는 기억 코어(실제로 구조를 확장하는 수술 width_grow를 포함)를, 0 관측 false-admit 상태로 구동할 수 있었다(= 거짓 합격을 단 한 건도 내지 않고 진화할 수 있었다).

• 동시에, 지난 회차까지 "미측정"이라고 솔직하게 남겨두었던 cert_sdp(SDP 증명기)를 처음으로 측정하였고, 그것이 가장 "통과하기 쉬운" (navigable) 건전한 증명기(진정으로 수축하는 개체의 90~99%를 합격시키는)임이 판명되었다.

그럼에도 불구하고, 그 cert_sdp를 포함하여 계산 비용은 2^n(차원 n의 지수)인 상태였다. 즉, "통과하기 쉬우면서도 대규모에서도 저렴한" 증명기는 이번에도 발견되지 않았다. verified 방식으로 구조 진화를 시킬 수 있는 것은 당분간 작은 부품(n≤6)에 한정된다.

이 기사는 그 하루의 "해낸 것"과 "해내지 못한 것"을 평소와 같은 순서인 ①용어 → ②풀이 → ③상세 순으로, 과장 없이 작성합니다. 마지막에는 저의 수치 주장을 6체의 검증 AI에 병렬로 반증시킨 결과(MAJOR한 불일치 제로)도 공개합니다.

정본 데이터: github.com/furuse-kazufumi/llcore (논문 드래프트 + 모든 실험 코드/데이터).

지난 회차(#38)에서 세운 깃발은 "증명이 동반되어 진화하는 기억 코어"였습니다. 기억 코어는 업데이트될 때마다 변이(진화)하지만, 그 변이를 채택하기 전에 반드시 관문(gate)을 통과시켜, "이 변이를 도입해도 기억이 폭주하지 않는다"라고 수학적으로 증명된 것만 통과시킵니다. 증명할 수 없다면 문전박대(fail-closed)합니다. 이것이 prove-then-reject 게이트입니다.

이번에 수행한 것은 그 깃발을 「문서」에서 「움직이는 실물」로 진전시키는 것이었습니다. 세 가지 "해낸 것"이 있습니다.

해낸 것 ①: 형태를 키우면서도, 거짓 합격(false-admit)은 제로. 지금까지는 "변이(내용의 미세 조정)를 증명하는 것"까지만 시도해 왔습니다. 이번에는 **구조 그 자체를 키우는 수술(width_grow, n→n+1)**을 실제로 실행하여, 형태를 키운 후에도 증명기가 "안전(ρ<1)"을

0 관측 false-admit으로 유지함을 확인했습니다. 발산 영역(ρ가 1.85~2.21에 달하는 위험한 개체)은 모두 올바르게 기각되었습니다.

해낸 것 ②: 가장 "통과하기 쉬운" 증명기를 처음으로 측정함. 지난 회차까지 "SDP 증명기(cert_sdp)는 미측정"이라고 솔직하게 남겨두었던 빈틈을 메웠습니다. SDP 솔버(CLARABEL)를 사용할 수 있는 환경에서 처음 측정한 결과, **cert_sdp가 3단계 증명기 중 가장 "통과하기 쉽다"**는 것을 확인했습니다(진정으로 수축하는 개체 중 9099%를 합격시킴 — 저렴한 cert_inf는 2040%, 중간 단계인 cert_two는 40~50%밖에 통과시키지 못함). 즉, "너무 엄격해서 진화가 움직이지 못하는" 문제를 SDP가 상당히 완화해 주었습니다.

해낸 것 ③: 작은 부품이라면 계산은 자명하게 시간 내에 완료됨. n≤6의 작은 코어라면, verified 방식으로 진화시키는 루프 전체가 **30시간 예산의 0.04%(0.013시간)**밖에 소요되지 않습니다. "증명이 동반된 진화는 너무 무거워서 돌아가지 않는 것 아닌가?"라는 걱정은 소규모에서는 기우였습니다.

...여기까지 들으면 "모두 이긴 것"처럼 보입니다. 하지만 honest disclosure(정직한 공개)가 우리의 규율입니다. 이기지 못한 것 세 가지를 명확히 밝힙니다.

해내지 못한 것 ①: 2^n의 벽은 깨지지 않았음. cert_sdp는 확실히 "통과 용이성의 천장"을 높였습니다. 하지만 그 대가로 비용은 여전히 2^n(모든 정점을 확인)입니다. cert_two는 n=12에서 1개 증명에 1.3초, n=14에서는 예산 초과입니다. "통과하기 쉬우면서도 대규모에서도 저렴한" 증명기는 이번에도 존재하지 않았습니다. 따라서 verified 방식으로 구조 진화를 할 수 있는 것은 당분간 작은 부품(n≤6)에 한정됩니다 — 이 결론은 지난 회차(Phase −1)로부터 변하지 않았습니다. SDP는 벽을 넘은 것이 아니라, 벽 직전에서 천장을 높였을 뿐입니다.

해내지 못한 것 ②: "거짓 합격 제로"는 경험적 관측일 뿐, 기계가 증명한 것은 아님. 0 관측 false-admit은 진정한 ρ를 아래에서부터 근사하는 오라클(다수 샘플)을 통해 반증을 찾은 결과입니다. 증명기의 조건은 수학적으로 건전하지만, 이를 담당하는 구현이 처음부터 끝까지 형식 검증(formal verification)된 것은 아닙니다. "0 관측"은 강력한 consistency(일관성) 증거이지만, "모든 입력에 대해 안전함"을 나타내는 절대적 증명은 아닙니다 — 이 부분은 과장하지 않겠습니다.

해내지 못한 것 ③: 학습이 똑똑해진 것은 아님. 증명기의 효과는 **navigability(진화의 움직임 용이성)**에 관한 것이지, 모델이 똑똑해지는(=학습 성능이 올라가는) 것이 아닙니다. 게다가 이 효과는 진화 알고리즘(EA)에 특유한 것이며, 경사 하강법(gradient method)에서는 사라집니다. 또한 이번 적합도(fitness)는 **합성 proxy(synthetic proxy)**이므로, 실제 GPU 훈련에서의 확인은 다음 단계(Phase 2)로 미룹니다.

요컨대 이번에는 **"기제는 구현을 통해 증명되었으나, 규모의 벽은 정직하게 남아 있다"**는, 절반의 승리와 절반의 숙제가 남은 날이었습니다.

핵심은 Verified-Plasticity Evaluation Framework(검증된 가소성 평가 프레임워크)입니다. "우리 방법론이 강력하다"라고 주장하기 전에, 먼저 측정할 척도를 만듭니다. 그 척도로 5가지 실험을 수행했습니다(모두 $0 / CPU, torch 2.12+cpu, seed 고정으로 재현 가능).

수축에서 발산에 이르는 개체를 n={4,6,8}에서 각각 수백 개 샘플링하여, 3가지 증명기의 합격 여부와 진정한 ρ(empirical_rho 6000개 샘플)를 대조했습니다.

확정된 지견:

• 3가지 증명기 모두 0건의 false-admit 관측 (cert_sdp의 건전성도 최초 확인). 증명기의 수학적 건전성과 일치.
• cert_sdp가 압도적으로 navigable — 진정으로 수축하는 개체 중, 저렴한 cert_inf는 2341%, cert_two는 4051%만 통과시키는 반면, cert_sdp는 91~95%를 통과시킴. 단, two⊆sdp (cert_two가 통과하면 cert_sdp도 통과함)는 구현상의 fast-path에 의한 **구조적 보장(Tautology)**이지 경험적 발견이 아님을 명시해 둡니다 (과장하지 않기 위해).

실제로 width_grow (Net2Net/fresh)를 통해 base를 n→n+1로 확장하며, 각 게이트가 성장 중에도 0 false-admit을 유지 ∧ 비자명한(non-trivial) 합격을 1건 이상 열어주는지를 판정했습니다 (1 셀 = 1536개의 성장 후 개체).

• 성장 중의 건전성: 전체 16(셀×게이트)에서 0건의 false-admit 관측. 성장 ρ 최대 1.85~2.21(발산 영역)은 올바르게 전원 거부됨. 이것이 **North Star #1(성장 조작 하에서 거짓 합격 제로)**의 실제 구조적 수술을 통한 확인입니다.
• 저렴한 cheap gate(cert_inf)는 건전하지만, 작은 n에서 취약함 — n=6의 가장 보수적인 에지(headroom 0)에서는 비자명한 합격이 0건 → gate FAIL. headroom가 있어도 비자명 합격은 단 3건으로 τ(임계값)에 아슬아슬함. = "cheap gate의 navigability는 취약함".
• navigable gate(cert_two/cert_sdp)는 모든 셀 PASS — cert_two는 114168, cert_sdp는 673733개의 비자명하고 건전한 합격을 열어줌. → "per-component 게이트는 cert_two/sdp로 격상 · small-n 한정"이 데이터로 정당화됨.

2개 블록을 잔차 결합(residual coupling)하여, "각 블록 단독으로는 합격이지만, 합성하면 폭주한다"는 맹점을 진정한 ρ로 측정했습니다.

• per-block AND(각 블록 단독 합격을 AND 연산)는 결합 시 정말로 불건전함 — 결합 강도 γ≥1.0에서, 단독 합격 상태인 2434%(γ=1.0) ~ 8096%(γ=2.0)가 합성 시 진정한 ρ≥1(폭주). → per-block AND는 사용 금지 확정. full-system cert(계 전체를 일괄 증명)는 모든 γ에서 0 false-admit = 건전함.
• 여기서도 cert_sdp가 가장 navigable하지만, 차원(블록 수 2→3)과 결합 강도를 높이면 coverage는 저하됨 (full=6, γ=1.0에서 cert_inf/cert_two는 0%, cert_sdp만 75.8%). = SDP는 과도한 보수성을 해소하지만, 차원의 벽은 SDP에서도 작용함.
• ⚠ 솔직한 유보 사항: 블록 수 3에서 SDP solver가 "해(solution)가 부정확할 수 있음"이라는 경고를 몇 건 출력했습니다. 독립적인 고유값 재검사를 통해 건전성(false-admit=0)은 보장되지만, coverage 수치는 근사해(approximate solution)로 인한 미세한 흔들림을 포함할 수 있습니다.

per-op의 실측 wall-time으로부터 30시간 예산으로 외삽(extrapolation)했습니다.

확정된 지견:

• small-n(n≤6)은 계산상 자명하게 feasible(실행 가능) — 예산의 0.04%.
• 2^n 장벽은 n≥10~12에서 binding(제약 조건으로 작용) — cert_two가 n=12에서 1.3초/증명(=18.6h, 마진이 적음), n=14에서는 예산 초과.
• ⚠ 유보: 이 부분의 fitness는 RotationNDObjective의 합성 adapter proxy로, 실제 GPU 훈련에서는 base forward(CE)가 dominant(지배적)하게 됩니다. 이 외삽은 「per-eval마다 증명을 1회 과금하는 보수적 상한」 추정치이며, 실제 GPU 실측은 Phase 2에서 확인이 필요합니다.

framework가 SmolLM2 이외의 base에도 올라가는지 확인했습니다. Mamba-130M을 CPU에서 load 성공(coherent한 생성도 확인), 그 hidden 위에서 cert_two 게이트가 load-bearing(게이트 유무에 따라 합격률이 +0.287 변동, SmolLM2의 +0.320과 일치)함. = 「새로운 base로 교체 가능하다」는 plug-point의 실증.

• ⚠ 유보: 이 부분의 건전성 오라클(soundness oracle)은 §3.1-3.4의 empirical_rho가 아니라 **약한 오라클(단일 섭동)**이며, 합격 n=7인 소집단입니다. Mamba 자체의 고유 안정성(base-level의 Lyapunov)은 미측정 상태로 Phase 2로 넘깁니다. 본 페이즈의 deliverable(산출물)은 「framework portability + Mamba CPU 동작 확인」에 한정합니다(고유 안정성의 정대조가 아님).

→ Decision gate 1 = PASS → Phase 2로(small-n per-component 영역, Phase −1 확정된 제약 내). Phase 1의 deliverable은 **「건전하고 feasible한 small-n verified 구조 적응 측정 하네스 + 증명기 격자(inf/two/sdp)의 완전한 특성 평가」**입니다.

방어적 공시(defensive disclosure) 상황에서도 정직한 공개(honest disclosure)를 고수합니다. 지난 회차(#38)의 유보 사항에 이번 측정으로 해결된 것과 남은 것을 덧붙입니다.

• 2^n scalability 장벽은 불변(최대의 숙제): cert_sdp에서 navigability 천장은 ~0.9로 올라갔으나(지난번 cert_two ~0.45에서 대폭 개선), 2^n 정점 비용은 불변입니다. 「navigable하면서 scalable한 건전 증명기는 여전히 부재」 = verified 구조 진화의 고차원에서의 불성립은 견지합니다. SDP는 천장을 높였을 뿐 벽을 깨뜨리지는 못했습니다.
• empirical_rho는 from-below 추정: 0 관측 false-admit은 강력한 consistency(일관성)를 보이지만, 「모든 (s,x)에 대해 ρ<1」이라는 절대적 증명은 아닙니다. near-boundary를 놓칠 수 있습니다.
• net2net은 incoming-copy 근사(exact function-preserving이 아님) → 함수 변화 Δfunc는 근사 평가입니다.
• fitness는 합성 proxy: 실제 SmolLM2 CE에서의 capability 부선(EXISTS/NULL/ARTIFACT)은 Phase 2에서 필수적입니다.
• Mamba 고유 안정성은 미측정: 게이트는 adapter에 걸리며, Mamba base 자체의 Lyapunov는 미검증 → Phase 2로 이월(defer).

honest disclosure(정직한 공개)의 핵심은 "이례적으로 좋은 결과가 나왔을 때, 승리했다고 느끼기 전에 그 내역을 의심하는 것"입니다([feedback_benchmark_honest_disclosure]). 이에 따라 본 verdict(판결)의 수치적 주장에 대해, 6가지 실험 각각의 results.json 및 구현 .py 파일에 대하여 6체의 독립적인 검증 AI를 병렬로 대조했습니다.

결과 = MAJOR issue(중대 이슈) 0건(결론을 뒤집을 불일치 없음), 모두 MINOR(경미한 이슈). 검출된 지적 사항은 본문에 반영되었습니다:

• 전기(transcription) 과정의 반올림 오차 4건(maxΔfunc 0.108→0.107 등)을 수정.
• §3.1의 two⊆sdp는 경험적 발견이 아니라 구현상의 tautology(동의어 반복)임을 명시.
• "cheap gate는 n=6에서 trivial(자명)하다"를 "n=6 최보수 에지(edge)에서만 trivial하며, headroom(여유 공간)이 있어도 취약하다"로 정교화.
• "cert_sdp 98% 구제"는 블록 수 2로 한정되며, 3에서는 75.8%, inf·two는 0%임을 명시.
• fitness(적합도)가 합성 proxy(대리 지표)라는 점, 외삽(extrapolation)의 보수성, CPU→GPU 외삽의 전제를 투명화.

→ 검증 후에도 Decision gate 1 = PASS, SDP navigability(탐색 가능성)에 대한 지견, small-n에 한정된 결론은 불변함. 지적 사항은 모두 honest-disclosure의 정밀도를 높이는 것이며, 메커니즘적 결론을 흔드는 것은 없음.

#38에서 세운 깃발은 이번에 문서에서 움직이는 실물로 진전되었습니다. 증명이 동반되어 진화하는 메모리 코어를, 실제로 구조를 확장(width_grow)시키며 **0 관측 false-admit(오탐 수락)**으로 구동하였고, 미측정되었던 SDP 증명기를 채워 넣었으며, small-n의 feasibility(실행 가능성)를 확인했습니다. SSGM이 이론적으로 내걸었던 "구현 + 건전성 증명"이라는 창(window)은 이렇게 구현 측면에서 닫혔습니다.

한편, 최대 과제인 2^n 장벽은 이번에도 꿈쩍도 하지 않았습니다. "통과하기 쉬우면서도 대규모에서도 저렴한" 증명기는 여전히 존재하지 않습니다. 그렇기에 우리는 과장하지 않습니다: verified(검증된) 상태로 구조 진화가 가능한 것은 당분간 n≤6의 작은 부품까지라는 지난번의 결론을 견지합니다.

다음 회차(#40 이후)는 Phase 2 — 교정된 "다봉성 instrument(multimodal instrument)"를 실제 손실 지형(loss landscape)에 적용하여, 진화가 지형을 어떻게 변화시키는지(capability 부차적 경로)를 proper power(적절한 전력)로 1건 확정할 예정입니다. 척도는 만들어졌습니다. 다음은 그 척도로 실제 지형을 측정할 차례입니다.

정본: github.com/furuse-kazufumi/llcore — 논문 드래프트 + 전체 실험 코드/데이터(5개 실험 + 적대적 검증 workflow).

#38의 끝에서 우리는 약속했습니다: "다음에는 네 지점의 교차점의 핵심 — 검증된 메모리 진화의 작은 PoC(Proof of Concept)를 보고하겠습니다. SSGM이 이론적으로 깃발을 들었던 구현의 창이 닫히기 전에."

2026년 6월 9일, 그 PoC가 완료되었습니다. 한 문장으로 요약하자면: "구현 측면에서 창은 닫혔습니다. 하지만 장벽(확장성 장벽)은 단 한 치도 움직이지 않았습니다."

구체적으로:

• 우리는 증명과 함께 진화하는 메모리 코어(실제 구조적 수술인 width_grow를 포함하여)를 구동했습니다.

)와 함께 관찰된 오탐(false-admits)이 전혀 없었습니다(즉, 단 한 번의 잘못된 통과(false pass) 없이 진화했습니다). - 동시에, 지금까지 솔직하게 "측정되지 않은 상태"로 남겨두었던 **cert_sdp (SDP verifier)**를 처음으로 측정하였으며, 이것이 가장 "탐색 가능한(navigable)" 건전한 검증기(실제로 수축하는 개체의 90~99%를 통과함)임을 확인했습니다. - 그럼에도 불구하고, cert_sdp의 비용은 여전히 2^n (차원 n에 대해 지수적(exponential)임) 수준입니다. 즉, "탐색 가능하면서도 대규모(scale)에서도 저렴한" 검증기는 다시 한번 발견되지 않았습니다. 현재로서는 검증된 구조적 진화는 **작은 구성 요소(n≤6)**에 국한됩니다.

이 글은 그날 우리가 "할 수 있었던 것"과 "할 수 없었던 것" 모두를 과장 없이 통상적인 순서인 ① 용어 → ② 개요 → ③ 세부 사항에 따라 기술합니다. 마지막에는 6개의 검증 AI가 병렬적으로 우리의 수치를 적대적으로 반박하게 한 결과(주요 불일치 사항 없음)도 공개합니다.

신뢰할 수 있는 출처: github.com/furuse-kazufumi/llcore (논문 초안 + 모든 실험 코드/데이터).

통계적인 '아마도 안전함'과는 다르다. |
탐색 가능성 (navigability) |
"진정으로 안전한 개체들을 얼마나 많이 통과시킬 수 있는가." 지나치게 엄격한 검증기(verifier)는 심지어 안전한 개체들까지 거부하면 = 진화가 움직일 수 없다. 이 값이 높을수록 지형 위에서 진화가 더 자유롭게 움직인다. |
인증 사다리 (cert ladder) |
세 개의 발판으로, 가장 저렴한 것부터: cert_inf ($\infty$-노름 경계, 솔버 불필요) $\rightarrow$ cert_two (모든 $2^n$ 꼭짓점에서 SVD) $\rightarrow$ cert_sdp (볼록 LMI/SDP). |
증명 후 거부 게이트 (prove-then-reject gate) |
변이를 증명한 후에만 채택하고, 실패하면 거부하는 체크포인트. fail-closed(증명이 없으면 통과 불가). |
SSGM |
이론적으로만 '진화하는 기억'을 관리하기 위한 쓰기 게이트를 제안했던 이전 연구 (arXiv:2603.11768). 구현 창과 건전한 증명(sound proof)이 열려 있던 주체. |
empirical_rho |
많은 샘플을 사용하여 실제 스펙트럼 반경(spectral radius)을 아래에서 근사하는 오라클. "관찰된 거짓 허용 없음"은 이 하향식 감사(= 강력한 일관성 증거, 하지만 절대적인 증명은 아님)의 결과이다. |
$2^n$ 장벽 (wall) |
증명 비용이 차원 $n$에 대해 지수적으로 $2^n$으로 증가하는 한계. cert_two /cert_sdp는 모든 꼭짓점을 보기 때문에 이 장벽에 부딪힌다.