Noesis 소개: 인식적 정직성 (Epistemic Honesty)을 위한 AI 네이티브 런타임

AI 시스템은 놀라울 정도로 유창해졌지만, 유창함이 곧 정직함을 의미하지는 않습니다. 많은 LLM (Large Language Model) 애플리케이션은 여전히 더 깊은 문제로 어려움을 겪고 있습니다. 바로 불확실성 (uncertainty)을 표현할 네이티브한 방법이 없다는 점입니다. 이들은 증거가 취약하거나, 모호하거나, 불완전하거나, 혹은 모순될 때조차 확신에 차서 답변합니다.

Noesis는 인식적 정직성 (epistemic honesty)을 중심으로 설계된 AI 네이티브 인지 런타임 (cognitive runtime)입니다. Noesis는 불확실성을 사후 처리 점수나 UI 경고로 취급하는 대신, 시스템의 핵심 아키텍처의 일부로 만듭니다. 인식적 커널 (Epistemic Kernel), 의미론적 인지 유닛 (Semantic Cognitive Units), 그리고 구조적 추론 (Structured Reasoning)을 통해, Noesis는 AI 시스템이 믿음 (belief), 의구심 (doubt), 확신 (confidence), 그리고 모호성 (ambiguity)을 일급 개념 (first-class concepts)으로서 어떻게 관리할 수 있는지 탐구합니다.

GitHub: https://github.com/xbox002000/Noesis

간과된 문제: 인식적 정직성 (epistemic honesty)

대부분의 LLM 시스템은 유창한 답변을 생성하도록 최적화되어 있습니다. 이는 유용하지만, 미묘한 실패 모드 (failure mode)를 만들어내기도 합니다. 즉, 시스템이 불확실하거나, 정보가 부족하거나, 혹은 틀렸을 때조차 일관성 있게 들릴 수 있다는 점입니다.

실제 AI 워크플로우, 특히 에이전트 (agents), 연구 보조 도구 (research assistants), RAG (Retrieval-Augmented Generation) 시스템, 그리고 코딩 도구에서 이는 작은 문제가 아닙니다. 과도한 확신은 계획 (planning), 도구 사용 (tool use), 메모리 (memory), 검색 (retrieval), 그리고 최종 결정에 이르기까지 전파될 수 있습니다.

Noesis는 다른 전제에서 시작합니다: 불확실성은 런타임 (runtime) 자체의 일부여야 합니다.

Noesis가 구축하고 있는 것

Noesis는 또 다른 일반적인 AI 프레임워크가 아닙니다. Noesis는 LLM 애플리케이션 하단의 인지적 기질 (cognitive substrate)에 집중합니다.

핵심 구성 요소는 다음과 같습니다:

• 인식적 커널 (Epistemic Kernel): 불확실성, 믿음 상태 (belief state), 그리고 확신을 관리하기 위한 런타임 계층
• 의미론적 인지 유닛 (Semantic Cognitive Units, SCU): 의미와 추론을 담은 조밀하고 구조화된 단위
• 구조적 추론 (Structured Reasoning): 검사 및 제어가 가능한 명시적 추론 상태
• 토큰 효율성 (Token efficiency): 조밀한 인지 표현을 통해 중복되는 프롬프트/컨텍스트 사용을 줄임

이것이 중요한 이유

만약 AI 시스템에 “확신할 수 없습니다”, “이 주장은 취약한 증거에 기반합니다”, 또는 “이 결론들은 서로 충돌합니다”를 표현할 수 있는 네이티브 (native) 방식이 없다면, 확신에 찬 추측이 기본값이 되어버립니다.

Noesis는 자신이 무엇을 알고 있는지에 대해 더 신중하고, 더 검사 가능하며 (inspectable), 더 정직한 AI 시스템을 구축하려는 시도입니다.

이 프로젝트는 오픈 소스 (open source)이며 계속 발전하고 있습니다. 피드백, 비판, 그리고 기여자를 환영합니다.

GitHub: https://github.com/xbox002000/Noesis