이 새로운 MIT 논문은 자기 진화형 (self-evolving) AI 과학자를 위한 훌륭한 아이디어를 담고 있습니다.

AI 과학자가 현재의 사고 방식이 너무 협소하다는 것을 인지하게 하고, 단순히 더 열심히 검색하는 대신 새로운 과학적 개념을 추가하도록 시도합니다.

문제는 대부분의 AI 과학 시스템이 여전히 고정된 설정 (fixed setup) 내에서 검색을 수행한다는 점입니다. 하지만 실제 과학은 때때로 새로운 종류의 변수, 도구, 테스트 또는 주장이 필요합니다.

이 논문의 핵심 아이디어는 모든 데이터 포인트, 모델, 도구 출력, 실패 및 주장을 유형화된 산물 (typed artifact)로 만드는 것입니다. 여기서 유형화 (typed)란 시스템이 그것이 어떤 종류의 것인지, 그리고 어떻게 생성되었는지를 기록함을 의미합니다.

이를 통해 시스템은 이미 알려진 것을 추가하는 검색 (retrieval), 고정된 설정을 탐색하는 탐색 (search), 그리고 설정 자체를 변경하는 발견 (discovery) 사이의 차이점을 구분할 수 있습니다.

따라서 새로운 발견을 하는 AI 과학자는 놀라움, 유창함, 또는 벤치마크 점수 상승에 의해 정의되는 것이 아니라, 이전 스키마 (schema) 내에서는 표현될 수 없었던 것에 의해 정의됩니다.

이는 대부분의 AI 시스템이 여전히 흉내만 내고 있는 것, 즉 언어 내부에서 답을 찾는 것과 언어를 바꿀 권리를 얻는 것 사이의 차이를 공식화하려는 진지한 시도입니다.

---

arxiv. org/abs/2606.01444

제목: "과학을 위한 자기 수정형 발견 시스템: 에이전트형 AI를 위한 범주론적 프레임워크 (Self-Revising Discovery Systems for Science: A Categorical Framework for Agentic AI)"
[IMG:1]