knot을 소개합니다. 저는 이 모델이 스스로와 논쟁하도록 만드는 데 한 달을 보냈습니다.

이것이 KNOT이며, 이것은 첫 공개 프로토타입 쇼케이스입니다. 한 달 동안 구축하고, 파괴하고, 재구축한 결과물로, 마침내 제대로 정리할 가치가 있는 단계에 도달했습니다.

KNOT은 챗봇이 아닙니다. 추론 자체를 검사 가능하게 만드는 실험입니다. 단순히 어떤 결론이 나오는지뿐만 아니라, 그 주장이 어떻게 추론되는지를 검토하도록 구축된 시스템입니다.

왜 (Why)

대부분의 LLM 도구는 좋은 최종 답변에 최적화되어 있습니다. KNOT은 의도적으로 정반대의 방식을 취합니다: 속도를 늦추고, 주장이 의존하는 가정을 표면화하며, 서로 대립하는 에이전트(adversarial agents)들을 실행하고, 단순히 가짜 해결책이 더 깔끔하게 들린다는 이유만으로 진정한 모순을 허위 해결책으로 무너뜨리는 것을 거부합니다.

이것을 보여주는 가장 명확한 방법은 다이어그램이 아니라, KNOT 자체를 대상으로 삼아 실행하는 것이었습니다.

아래 캐러셀에 실제로 담긴 내용

이것은 UI 목업(mockup)이 아니며 여기에 있는 어떤 것도 효과를 위해 조작된 것이 아닙니다. 모든 슬라이드는 KNOT을 그 자체의 디자인 원칙 중 하나와 실행하여 생성된 실제 추론 흔적(reasoning trace)으로부터 재구성되었습니다: 모순을 심문하도록 구축된 시스템이 스스로를 심문하는 것을 신뢰할 수 있는가?

시각 자료는 제가 만들었고, 추론 흔적은 KNOT의 것입니다.

아키텍처

현재 프로토타입은 로컬 LLM 추론(inference), 의미 검색(semantic retrieval), 모순 감지(contradiction detection), 규칙 기반 추론(rule-based reasoning), 그리고 영속적인 추론 산출물(persistent reasoning artifacts)을 하나의 파이프라인으로 엮어냅니다.

스택:

• 백엔드: FastAPI + Python
• 추론: Ollama 기반 로컬 LLM (추론 루프에서 외부 API 호출 없음)
• 의미 유사성: Sentence-Transformers
• 모순 감지: DeBERTa-v3 NLI
• 추론 제어 흐름: 추론 단계 간 규칙 기반 라우팅(rule-based routing)
• 영속화 계층: 제가 '패러독스 시드(Paradox Seeds)'라고 부르는 추론 산출물 — 단순히 최종 출력이 아니라, 하나의 추론 에피소드의 원자적이고 저장 가능한 단위
• 평가: 벤치마킹 및 회귀 테스트를 위한 구조화된 파이프라인 (아직 안정화 중)

1. Shadow Recovery — 원래의 틀짓기가 언급하지 않고 남겨두는 주장(claim), 비용(cost), 또는 결과에 의존하는 것을 재구성합니다.
2. Fight Club — 두 개의 적대적 에이전트(Axiom: 숨겨진 가정과 잘못된 등가성을 공격하는 구조적 적대자; Virtus: 주장이 효율적이 될 때 누가 보이지 않게 되는지 추적하는 인간 비용 증인)가 병렬적인 독백이 아닌, 반박을 포함하여 직접 논쟁합니다.
3. Forge — 두 가지 입장을 압축하여 미해결된 핵심을 피할 수 없게 만들고, 이를 밋밋한 종합으로 평균화하지 않습니다.
4. DoubleSpace — 어느 한쪽도 종속시키지 않으면서, 근본적으로 양립 불가능한 두 진실을 동시에 유지합니다.
5. Belief Autopsy — 시스템의 초기 주장과 검토를 통해 드러난 것을 비교하고, 원래 주장이 자신을 보호하기 위해 사용하던 방어 기제를 명명합니다.
6. Archive — 답이 도출된 후 폐기되는 대신, 미해결된 모든 것을 포함하여 사례가 계보적 아티팩트(lineage artifact)로 영구 저장됩니다.

스스로에게 질문했을 때 실제로 배운 것
가장 유용한 결과물은 깔끔한 답변이 아니었습니다. 그것은 제가 KNOT에게 '당신의 모순을 기억하는 시스템이 그 모순들을 판단하는 것도 신뢰할 수 있는가?'라고 물었을 때, KNOT이 생성해낸 이 문장이었습니다:

"위험한 것은 KNOT이 기억한다는 사실 자체가 아닙니다. 위험한 것은 기억하는 것이 판단이 될 수 있다는 점입니다."

자신을 평가하도록 요청받았을 때 모델이 정직하게 생산하기 어려운 종류의 발견입니다. 쉬운 실패 모드는 자신의 설계를 칭찬하거나 가짜 자기 비판을 수행하는 시스템입니다. Belief Autopsy가 토큰상의 양보가 아닌 실제 방어 기제를 실제로 명명하도록 하는 것은 프롬프트와 파이프라인 설계의 여러 반복 과정을 거쳐야 했습니다.

현재 실제 상황

솔직히 말씀드리자면, KNOT은 완성된 제품이 아니라 초기 연구 프로토타입입니다.
구축되었으며 스트레스 테스트 중입니다:

• 모순 감지 및 섀도우 복구 (Contradiction detection and Shadow Recovery)
• 적대적 합성 (Adversarial synthesis) (Fight Club, Forge, DoubleSpace)
• 신념 부검 (Belief Autopsy)
• 영속적인 추론 아티팩트 (Persistent reasoning artifacts) (Paradox Seeds)

아직 설계 단계에 있음:

• 세션 간 종단 기억 (Longitudinal memory across sessions)
• 시간 경과에 따른 정체성 표류 감지 (Identity drift detection over time)
• 시간적/미래 투영 추론 모듈 (Temporal/future-projection reasoning modules)

아직 출시되지 않았습니다. 오픈 소스도 아닙니다 — 아직은요. 저는 출시하는 것이 좋다는 느낌 때문에 반쯤 검증된 것을 배포하기보다는, 핵심 추론 아키텍처를 제대로 검증하는 데 집중하고 있습니다.

이 분야에서 작업하시는 분들께

추론 시스템, LLM 평가, 모순/일관성 감지, 또는 광범위한 인지 아키텍처(cognitive architectures)에 대해 작업하시는 모든 분들과 진심으로 의견을 나누고 싶습니다. 첫 몇 번의 시도에서 작동하지 않았던 부분들을 포함하여 파이프라인의 어떤 부분이든 댓글에서 더 깊이 논의할 준비가 되어 있습니다.