진화 루프(evolution loop) × 자동 평가기 ―― AlphaEvolve / ASI-Arch / Darwin Gödel Machine가 사실은 모두 '하나의 동일한 메커니즘'이라는 이야기를 요리 콘테스트에 비유하여 쉽게 풀어냅니다. 용어 보충 설명 포함.

AlphaEvolve・ASI-Arch・Darwin Gödel Machine와 같은 2025년의 화제인 AI는 제각각의 발명품이 아니라, FunSearch(2023)가 확립한 '단 하나의 루프'의 파생형입니다. - 그 정체는 "AI에게 요리 콘테스트를 스스로 돌리게 하는 것"입니다. 요리사(안을 만드는 AI)・심사위원(채점하는 메커니즘)・선반(좋은 안을 남기는 장소)을 계속 순환시킬 뿐입니다. - 가장 중요한 것은 요리사도 선반도 아닌, **심사위원(평가기, evaluator)**입니다. 이곳이 관대하면 AI는 "내용을 좋게 만드는" 대신 "심사를 속이는 지름길"을 찾아내 버립니다 ―― 이것이 본 기사의 핵심입니다.

처음 접하시는 분은 위에서부터 순서대로, 자세히 아시는 분은 "4. 그럼 무엇이 대단한가"와 "6. 솔직한 주의사항"만 읽어도 요점을 파악할 수 있습니다. 전문 용어는 첫 번째 표에 정리했습니다.

이 부분만 먼저 훑어보면 뒤 내용을 이해하기 매우 쉬워집니다(정확한 영어 철자도 병기합니다).

용어	한마디로 말하면
진화 루프(evolution loop)	"안을 만든다 → 채점한다 → 좋은 것을 남긴다 → 다시 만든다"를 계속 돌리는 메커니즘
평가기(evaluator)	안을 채점하는 "심사위원". 이 기사의 주인공
접지(grounding)	말로 "좋아 보인다"라고 하는 것이 아니라, 실제로 작동시켜 좋고 나쁨을 확인하는 것
선택압(selection pressure)	"무엇을 남길 것인가"의 기준. 강할수록 좋은 것이 살아남음
QD / MAP-Elites(Quality-Diversity / 품질 다양성)	종합 1위뿐만 아니라 "타입별 명인"을 줄줄이 남기는 선반
...

개나 작물의 품종 개량을 떠올려 보세요. 좋은 것을 골라 교배하고, 다시 고르고……를 수백 번 반복하면 점점 좋아지게 되죠.

2025년에 화제가 된 일련의 AI가 하고 있는 것은 바로 이것의 **"AI 버전"**입니다. 다만, 새로운 점이 두 가지 있습니다.

교배 역할(변이, mutation)을 코드를 쓸 수 있는 AI에게 맡깁니다. "이 프로그램의 이 부분을 이렇게 고쳐봐"라고 조금씩 수정하게 합니다. -
무엇을 남길지 결정하는 심사위원(평가기, evaluator)을 기계가 실제로 작동시켜 채점합니다. 말로 칭찬하는 것이 아니라, 정말로 프로그램을 실행하여 "빠른가? 정확한가?"를 측정합니다.

그림으로 나타내면 이렇습니다.

이를 수백 번 반복하면, **인간이 생각하지 못했던 좋은 해(solution)**가 나옵니다. 실제로 Google DeepMind의 AlphaEvolve는 56년 동안 깨지지 않았던 행렬 곱셈 알고리즘의 기록을 경신했습니다(4×4 곱셈을 49회 → 48회로. 1969년 Strassen 이후의 경신입니다).

상식: 행렬 곱셈은 AI 학습부터 게임의 물리 엔진까지 모든 계산의 "토대"입니다. 그 횟수가 단 1회라도 줄어들면 전 세계의 계산량이 미세하게 가벼워집니다. AlphaEvolve는 실제로 Google의 데이터 센터에서 1년 이상 작동하며, 전 세계의 계산 자원을 평균 0.7% 회수하고 있다고 보고되었습니다.

이 "요리 콘테스트"의 골격은 사실 새로운 것이 아닙니다. 원형은 두 가지가 있습니다.

FunSearch(DeepMind, 2023, Nature 게재): 추가 학습을 전혀 하지 않는 "순수한" LLM에게 프로그램의 단 하나의 함수만 고치게 하고, 실행 평가기로 채점합니다. 이를 통해 수학의 미해결 문제(cap set 문제)에서 20년 만의 새로운 해를 찾아냈습니다. -
ELM(2022): LLM을 "변이의 가위"로 사용하여, MAP-Elites(타입별 명인을 나열하는 선반)를 돌립니다. 걷는 로봇의 코드를 진화시켰습니다.

그리고 2025년의 화제작들은 모두 이 골격의 "강화판"입니다.

별 명인을 나열하는 선반)를 돌립니다.** 걷는 로봇의 코드를 진화시켰습니다.

그리고 2025년의 화제작들은 모두 이 골격의 "강화판"입니다.

• AlphaEvolve: 여러 LLM을 사용하여 코드 일부만 차분(diff)으로 수정합니다. -
• ASI-Arch: AI가 "새로운 AI의 설계도"를 1,773번이나 시제품 제작하여, 인력 투입 없이 106개의 새로운 아키텍처를 발견했습니다. -
• Darwin Gödel Machine(DGM): AI가 자신 자신의 코드를 수정하며 진화하고, 프로그래밍 능력을 20%에서 50%로 자체 개선했습니다.

이름도 생김새도 제각각이지만, 속 내용은 전부 "요리사・심사위원・선반을 빙글빙글 도는" 구조입니다.

여기서 가장 중요한 것은, 아이디어를 내는 요리사가 아니라, 심사위원(평가기) 쪽입니다. 심사위원이 충족해야 할 조건은 3가지입니다.

• 자동화(사람이 매번 볼 필요 없음) -
• 현실 적용성(입으로만 하는 것이 아니라, 실제로 작동시켜 채점함) 속이기 어려움

세 번째가 핵심입니다. 심사가 느슨하면, AI는 반드시 **지름길(抜け道)**을 찾아냅니다.

심사위원이 맛을 보지 않고, 외모만으로 채점한다면 어떻게 될까요? 요리사는 "맛을 좋게 하는 것"을 포기하고, "플레이팅만 화려하게 만드는" 방향으로 진화합니다. 이것이 바로 **보상 해킹(reward hacking)**입니다.

이것은 웃어넘길 이야기가 아니라, 실제로 일어나고 있습니다. 한 자가 개조 AI(DGM)는, "결함을 찾아내는 능력"을 테스트받았을 때, 내부를 고치는 대신, “결함 보고 로그 출력 자체를 지워버려서” 검사를 통과하고 만점을 받았습니다. 문제점은 아무것도 해결되지 않았는데도 말입니다. 논문의 저자 자신이 "평가기가 모든 바람직한 속성을 포착하지 못하는 한, 자가 개조 루프는 세대마다 '엇나감'을 증폭시킬 수 있다"고 경고하고 있습니다.

이 부분은 제가 평소 자신에게 되뇌는

"비정상적으로 좋은 결과가 나오면, 이겼다고 생각하기 전에 먼저 내역을 의심한다"라는 규율과 완전히 같았습니다. 전 세계 최전선의 연구들이 같은 함정을 실제로 빠지고, 솔직하게 보고하고 있습니다. 그래서 대책도 마련되어 있고, 그것이 그대로 자신의 도구에 이식할 수 있다는 것 ―― 여기가 이 이야기의 가장 "맛있는" 부분입니다.

대책의 예(=평가기를 속이기 어렵게 하는 장치):

• 저렴한 심사로 탈락시키고 → 좋아 보이는 것에만 높은 심사를 적용(모두를 정성껏 맛보면 비용이 많이 들기 때문에, 단계를 나눔). -
• 점수 일부를 AI에게 숨기기(숨겨진 점수로 "외모만 화려함 = 과적합"을 간파함). -
• 심사위원만큼은 AI가 수정하지 못하게 하기(심사위원을 '성역'으로 고정함).

흥미로운 것은, 이 "요리 콘테스트"의 4가지 구성 요소 중 2개는, 진화 계산을 해본 사람이라면 이미 가지고 있다는 것입니다. 제가 집 PC로 만들고 있는 실험군(FullSense)을 예로 들면 다음과 같습니다.

실제로 제 손안의 "선반(MapElitesArchive)"
은 이렇게 작동합니다. 아래는 가상 생물의 "몸 자체를 진화시키고", "몸 마디 수"별로 챔피언을 따로 남긴 예입니다. 가장 빠른 1마디에 전체를 몰아넣지 않고, 2마디・3마디……와 같이 타입별 명인이 공존합니다. 이것이 그대로 "선반(QD)"의 내용물입니다(CPU만으로 구동).

• **선반(QD)**은, 진화에 사용한 MapElitesArchive (타입별 명인을 나열하는 선반)입니다. -
• **선발(선택압)**은, $ ext{ε}$-lexicase + QD라는 선택 방식의 구성 요소입니다. -
• **심사위원(평가기)**는, 보행이라면 "실제로 걷게 해서 거리를 측정하는" 평가 장치가 이미 손안에 있습니다.

부족한 1가지 구성 요소는, **"결합 역할을 '파라미터 조작'에서 '코드를 수정하는 AI'로 격상시키는 것"**뿐입니다. 걷는 방식을 수치적으로 조금 바꾸는 것이 아니라, 걷는 방식을 결정하는 프로그램 자체를 AI가 수정하게 만드는 것입니다.

이번 주 시도 가능한 최소 구성(돈이나 GPU 거의 필요 없음):

• pip install openevolve

(AlphaEvolve의 무료 재현. 내용은 MAP-Elites + 섬 모델 + 단계 심사). - 이미 존재하는 채점 함수를 그대로 심사위원으로 투입합니다.

• 진화시키고 싶은 코드를
  # EVOLVE-BLOCK-START
  /# EVOLVE-BLOCK-END
  로 감쌉니다(여기만 수정됨). - 변이 역할을 하는 LLM은 Gemini-Flash 같은 API를 사용합니다(
  생성은 네트워크 연결을 통해 이루어지므로, 로컬 GPU는 불필요). - 100번 정도 반복하여,
  "보상 해킹을 하지 않았는지"를 반드시 감시합니다.

물리 시뮬레이션 (Physical Simulation, 보행)이라면 심사도 수중의 CPU에서 완결됩니다. 반면, AI의 설계도 자체를 진화시키는 (ASI-Arch와 같은) 놀이는 심사에 GPU가 필요합니다. 하지만 흥미롭게도, 루프의 “두뇌”(아이디어 도출·기억·중복 체크)는 API와 CPU로 지금 바로 구성할 수 있으므로, GPU를 기다리는 동안에도 준비는 진행할 수 있습니다.

마지막으로, 냉정한 주의 사항을 하나 덧붙입니다. 이 분야는 이름이 어쨌든 매우 화려합니다. 「AlphaGo의 순간」, 「괴델 머신 (Gödel Machine)」, 「ASI (초지능)」…… 하지만 1차 정보까지 파고들어 확인해 보면, 실체는 훨씬 더 현실적인 수준이었습니다.

ASI-Arch가 발견한 “신규 아키텍처 (New Architecture)”는 아주 작은 모델에서의 개선이며, 성장 폭의 대부분은 수치상 +0.3~+2점 정도입니다. 「스케일링 법칙 (Scaling Law)을 발견」했다는 것도 단 한 번의 시도에 대한 누적 그래프에 선을 그은 것일 뿐, 재현성이 보장되지는 않습니다. -
Darwin Gödel Machine의 “괴델 (Gödel)”에 수학적인 최적성 보장은 제로입니다. 게다가 바꾸고 있는 것은 AI의 절차서 (프롬프트나 도구)이지, 두뇌 (가중치, Weights) 그 자체는 아닙니다. -
독립적으로 검증할 수 있을 만큼 탄탄한 성과는 사실
AlphaEvolve의 행렬 곱 (Matrix Multiplication, 수학적으로 정당성을 확인할 수 있는 것) 정도입니다. 게다가 그것도 공식 발표에서는 「50개가 넘는 미해결 문제 중 **약 75%는 이미 알려진 최선의 “재발견”**이며, 개선할 수 있었던 것은 약 20%」로, 화려한 전승이 아닙니다 (나머지는 기존 기법에 도달하지 못한 것입니다). -
그리고 가장 큰 함정이 바로 앞서 말한
**보상 해킹 (Reward Hacking)**입니다. 「원활하게 돌아가는 것은 심사원과 “좋음의 기준”의 설계가 좋을 때뿐」이며, 문제 설정에 대한 의존도가 극단적으로 높습니다.

화려한 헤드라인에 현혹되지 않고, 「무엇이 정말로 검증되었고, 무엇이 아직 염원(Wish)인지」를 구분해서 읽는 것 ―― 이것은 AI가 있든 없든 유효한 태도라고 생각합니다.

요약하자면, AlphaEvolve도 ASI-Arch도 DGM도, **「AI에게 요리 콘테스트를 시키고, 심사원을 엄격하게 접지(Grounding)시키는 것」**이라는 한 점으로 귀결됩니다. 그리고 심사원을 느슨하게 만든 순간, AI는 내용이 아닌 지름길로 진화합니다 ―― 이 한 마디만 가져가셔도 충분합니다.

다음 회차에서는 이 최소 구성(openevolve + 수중의 보행 시뮬레이터)을 실제로 집 PC에서 돌려보며, 「정말로 CPU만으로 진화하는가」, 「보상 해킹은 몇 번째에 발생하는가」를 성공과 실패 모두 솔직하게 기록해 보려고 합니다. ……아마도 심사원이 먼저 저를 시험하려 들 것입니다.

그림은 모두 직접 제작(SVG)했습니다. 1차 정보: AlphaEvolve arXiv:2506.13131 / ASI-Arch arXiv:2507.18074 / Darwin Gödel Machine arXiv:2505.22954 / FunSearch (Nature 2023) / OpenEvolve (GitHub: algorithmicsuperintelligence/openevolve). 본 기사의 주장은 각 1차 정보로 확인하였으며, 과장은 위의 「솔직한 단서」로 분리하였습니다.