자동 연구 시스템(Auto-Research Systems)에서 워크플로우 종결은 과학적 종결이 아니다

본 논문은 자동 연구 시스템(Auto-Research Systems)에서 워크플로우 종결(Workflow Closure)이 과학적 종결(Scientific Closure)이 아니라고 주장합니다. 현재의 시스템들은 아이디어 생성에서 실험 실행, 작성, 그리고 자기 평가(Self-evaluation)에 이르기까지 연구와 유사한 루프를 내부적으로 점점 더 완벽하게 완료할 수 있게 되었습니다. 이러한 성취는 실질적이지만, 그 자체만으로 결과물에 과학적 지위를 부여하지는 않습니다. 우리는 신뢰할 수 있는 자동 연구(Auto-research)가 자율적인 자기 충족성(Self-sufficiency)을 목표로 삼는 것이 아니라, 비자율적인 인식론적 통제(Non-autonomous epistemic control) 하에서의 자율적 실행을 목표로 삼아야 한다고 주장합니다. 이 급격히 부상하는 분야의 최근 논문 및 리포지토리 100여 개에 대한 조사와 21개의 대표적인 시스템에 대한 구조적 감사(Audit)를 바탕으로, 우리는 반복적이고 구조적으로 연결된 실패 패턴을 진단합니다: 단일 대리 목표(Single-proxy targets)가 다중 목표의 과학적 지향점을 대체하는 목적 붕괴(Objective collapse), 내부 자기 평가가 독립적 검증을 대체하는 검증 붕괴(Validation collapse), 그리고 벤치마크 점수나 출판 형태의 결과물이 도메인 수준의 비판, 재사용 및 통합 메커니즘을 대체하는 수용 붕괴(Acceptance collapse)입니다. 이러한 붕괴는 자율성의 내재적 한계가 아니라 교정 가능한 설계 선택의 문제입니다. 이에 따라, 우리는 커뮤니티의 논의를 촉발하기 위해 목적 신호(Objective signal), 검증(Validation), 그리고 출력 경로(Output pathway) 전반에 걸친 잠재적 해결책을 제시합니다.