에너지 기반 모델(EBM) 을 더 알아보려면 Yann LeCun 등이 이끄는 Logical Intelligence를 살펴보길 권함. LLM이 전통적으로 약한 분야에서 잠재력이 크고, EBM의 장점을 보여주려는 회사인 만큼 초등학교 수준의 수학이나 수 세기처럼 LLM이 어려워하는 예시도 찾기 좋음. 밀레니엄 난제 수준의 Lean 증명을 내놓으면서 이런 데서 헤맨다는 건 역설적임.
다만 계산용 코드를 작성하면 빠르고 정확하게 셀 수 있는데, LLM 자체가 정확하게 수를 셀 수 있어야 하느냐는 질문도 타당함. https://logicalintelligence.com/blog/energy-based-model-sudo...
Logical Intelligence는 사기라고 봄. 진지하게 받아들일 곳이 아니며, LeCun의 이름만 내걸고 막대한 투자금을 끌어모을 수 있는 몇 안 되는 회사 중 하나임. 지난해 벤처캐피털에서 돈을 받아내기 좋은 수법이었음. EBM만 나오면 이 회사 이름을 꺼내는 게 우스운데, 정작 하는 일이 전혀 없음.
Lean 증명은 앞뒤 안 맞는 삼단논법을 엄청나게 생성한 뒤, Lean으로 걸러 유효한 조각을 찾는 식으로 만드는 것임. 못 찾을 수도 있음. 그렇다면 여기서 ‘밀레니엄 수준’이라는 건 대체로 인간이 일일이 뒤지기에는 너무 지루한 작업이라는 뜻에 가까움.
“See the live benchmark”를 누르면 제대로 작동하지 않는 로그인 장벽에 막힘.
EBM을 1년 동안 다뤄봤는데, 검증기로서는 인상적이지만 학습이 엄청나게 어렵고 적용 분야도 매우 좁음. 반면 LLM은 틀리기도 하고 서툴기도 하지만, 결국 사람들이 일을 끝내도록 도와줌.
작은 규모의 스도쿠를 EBM으로 푸는 건 그리 어렵지 않지만, Logical Intelligence의 풀이기는 규모가 커지면 대응하지 못함. 내가 틀렸다면 원하는 만큼 큰 스도쿠도 풀 수 있게 제공해주길 바람. 몇 달씩 EBM을 학습하다 보면 정말 그만한 가치가 있는지 묻게 됨.
EBM 학습이 어려운 이유가 무엇인지 궁금함. LLM 학습에도 GPU와 TPU의 발전, JAX·PyTorch 같은 도구와 관련 컴파일러 개발을 포함해 오랜 시간과 규모 확대가 필요했음. EBM은 아직 그처럼 수십 년에 걸친 전 계층 최적화를 거치지 못함.
음성 제거처럼 아주 특정한 작업을 하는 로컬 LLM에도 도움이 될까?
스도쿠로 생각하면 에너지에 따른 확률적 탐색을 이해하기 쉬움. 주어진 숫자는 같은 행·열에서 다시 뽑힐 확률을 0으로 만들고, 단서가 놓인 칸 자체를 수정할 확률도 0으로 설정함.
수정할 칸은 에너지가 높을수록 먼저 선택되도록 무작위로 고름. 충돌하는 칸에는 에너지 1.0을 더하고, 빈칸에는 0.1, 충돌 없이 채워진 칸에는 0을 부여함. 같은 행에 7이 두 개라면 두 칸 모두 에너지가 1씩 올라감.
선택한 칸에 넣을 숫자는 같은 행·열에 그 숫자가 나타날 때마다 선택 확률을 90%씩 낮춰서 뽑음. 예를 들어 다른 칸이 비어 있다고 단순화하면, 7이 없을 때 7을 뽑을 확률은 10%, 하나 있으면 1%, 둘이면 0.1%가 됨.
본질적으로 이런 모델이 하는 일이 이것임. 파동 함수 붕괴와 비슷하게 에너지에 따라 무작위 탐색을 수행하며, 여기서 에너지는 충돌이나 미해결 정도를 뜻함. 미로라면 끊어진 경로 조각이나 벽 등이 에너지가 됨.
논문에서 ‘에너지 기반’의 의미를 정의하지 않는 듯함. “EBM은 입력이 주어졌을 때 후보 예측에 에너지를 부여하는 스칼라 함수를 학습한다”고 하는데, 그 함수의 공역은 무엇인가? 실수로 추측되는데, 그렇다면 ‘에너지’는 그냥 실수의 다른 이름인가?
에너지는 탐색 대상 시스템의 상태 간 관계를 학습한 행렬에서 나오는 숫자임. 스도쿠라면 칸 사이의 가중치 W_ij가 있고, 각 칸 쌍마다 두 숫자의 조합에 해당하는 9×9개 값이 있음. W[0, 1](4, 4)는 두 칸에 모두 4를 놓아 규칙을 어기므로 높고, 4와 2처럼 충돌하지 않는 조합은 에너지가 0임. 단서 칸은 고정한 채 전체 판의 에너지를 가장 낮추는 숫자를 찾음.
단서로 2가 주어지면 같은 행·열에 2를 놓는 에너지는 높아지고 다른 숫자는 낮게 유지됨. 값을 합산해 에너지가 낮은 숫자를 고르며, 같은 행에 7이 두 개 생기면 둘 중 하나를 바꾸는 것이 다음의 낮은 에너지 이동이 됨.
이상적으로는 주변 숫자를 반영한 가중 확률로 빈칸을 채우다가, 이미 채운 칸에서 충돌이 생기면 그 칸부터 바꿈. 빠른 구체적 알고리즘에 확률성을 조금 섞은 형태이며, 여기서 에너지는 학습으로 얻은 숫자 간 충돌 정도임. 모든 칸이 채워지고 에너지가 0이면 해결된 셈임.
더 단순하게 말하면, 에너지 기반 모델과 전통적 모델의 실질적인 핵심 차이는 정규화를 없앤다는 것임.
관련 연구에서 에너지 기반 인지의 바탕인 자유 에너지 원리(FEP) 를 인용하지 않은 점이 특히 걸림. FEP와 능동 추론에서 정의하는 에너지가 아니라면 어떤 에너지를 뜻하는가? 엔트로피를 말하는 건가? 논문만으로는 이해하기 어려움.
내가 이해한 바로는 매우 특정한 논리 퍼즐 문제군에서 잘 작동하는 방식임. 후속 논문이 기대됨.
이것이 LLM이나 RNN 같은 ‘추론’ 모델을 대체하거나 크게 보강할 거라 생각한다면 주의가 필요함. 그래프 색칠·미로·스도쿠 같은 이산 문제의 에너지 기반 탐색에 더 가까움.
다양한 정답을 이용해 N 대 N 가중치 행렬을 학습함. 스도쿠라면 81개 칸의 모든 쌍에 대해 9×9개 값을 학습하므로 약 24만 개의 가중치가 필요함. 칸 쌍 ij와 숫자 쌍 (a, b)에 대한 W_ij(a, b)로 이동의 에너지를 평가하고, 전체 공간에서 에너지가 가장 낮은 이동을 반복해서 선택하는 방식임.
제약도 여럿 있음. 이산적이고 한정된 공간을 전제로 하므로 임의의 추론을 어떤 크기와 모양의 그래프로 나타낼지부터 어려움. 9×9 격자와 숫자 9개처럼 문제 구조를 미리 알아야 하고, 규칙은 검사기에 들어가 있음. 탐색 알고리즘도 과제별 맞춤 성격이 있어 에이전트 추론에 적용하기가 불분명함. 미로와 달리 언어나 코드는 유효한 경로나 완료 조건에 해당하는 규칙을 정하기 어려움.
또한 간선과 색이 이산값이므로, 연속 벡터가 유용한 언어·이미지 시스템의 유연한 추론과 쉽게 결합되지 않음. 변형은 가능하겠지만 현재 방식은 결정론적이고 문제 크기가 고정된 영역에 잘 들어맞음.
학습에는 명확하게 표시된 정답과 반례도 필요함. 방대한 비라벨 데이터를 활용하는 LLM과 달리, 자연어나 모호한 논리에서 명확한 정답·반례를 만들기는 어려움. 코드라면 학습 전에 올바른 코드와 충분히 잘못된 코드를 생성할 방법부터 있어야 하고, 그 차이를 어떻게 표현할지도 불분명함.
이런 제약과 맞춤 로직을 감안하면 동적 계획법이 훨씬 빠르다고 봄. 임의의 추론을 그래프 색칠로 바꿀 수 있더라도, 그래프 대비 O(N^2)개 매개변수와 분야별 수백만 학습 예시가 필요한 모델보다 기존 동적 계획법이나 재귀가 효율적일 가능성이 큼. 스도쿠도 전통적인 CPU 풀이가 아마 10~100배 빠를 것이고, 같은 H200을 쓰면 전체 스도쿠 데이터셋을 1초 안에 풀 수 있을 것임.
그래도 에너지에 유망한 추측을 담는다는 점은 흥미로움. 무차별 탐색에 가까운 동적 계획법보다 아주 큰 탐색 공간에서 효율적일 수도 있지만, 그때는 매개변수 공간이 폭증하는 문제가 생김.
모델에 연결해서 직접 학습해보고 싶은데, 구할 방법을 찾을 수 없음.
이 모델들이 어떻게 작동하는지 설명해줄 수 있는가? 실제로 아무 하드웨어에서나 실행할 수 있는지도 궁금함.
스도쿠 모델의 매개변수가 180만 개이므로 실행 가능함. 칫솔에서도 돌릴 만한 크기임.
기본적인 방식이며 순환 추론 논문들과 비슷함. 규칙이 제한적이고 정답이 하나이거나 적은 스도쿠와 기초 게임에서만 작동함. 체스나 바둑에서는 이런 추론기가 어떻게 수행할지 궁금함. 효율적인 추론도 유용한 일을 할 때 의미가 있음.