인간의 글쓰기에서 사고 루프(Thought Loops)를 감지하는 시스템을 구축했습니다

대부분의 사람들은 과도한 생각(overthinking)을 감정의 문제로 규정합니다. 저는 이를 시스템의 문제로 다루기 시작했습니다.

만약 과도한 생각이 너무 많이 생각하는 것이 아니라, 종료 조건(termination condition)에 도달하지 못한 채 동일한 연산(computation)이 반복적으로 실행되는 것이라면 어떨까요? 만약 뇌가 기저 사례(base case)가 없는 재귀 루프(recursive loop)에 빠져 있는 것이라면 어떨까요?

이러한 관점의 전환은 제가 NexoMind를 구축하는 방식을 바꾸었습니다. 그리고 제품이 실제로 수행하는 역할도 바꾸어 놓았습니다.

문제: 탈출 조건이 없는 재귀적 사고

과도한 생각을 구조적으로 모델링하면 다음과 같습니다:

function think(problem, emotionalState) {
  const newEmotion = reprocess(problem, emotionalState)
  // 종료 조건 없음
...

사고의 내용은 정체되어 있습니다. 감정적 외피(emotional wrapper)만이 매 사이클마다 변이(mutate)합니다. 이러한 변이는 진전이 있다는 착각을 만들어냅니다. "이 문제를 해결하는 데 점점 가까워지고 있어."라고 말이죠. 하지만 그렇지 않습니다. 당신은 그저 다른 감정적 파라미터(parameter)를 가지고 재귀(recursing)하고 있을 뿐입니다.

그렇다고 스택 오버플로(stack overflow)가 발생하지는 않습니다. 뇌는 이 과정을 즐겁게 영원히 실행합니다.

제가 식별한 5가지 루프 유형

사용자들의 패턴 데이터(우리는 패턴의 유형과 빈도만을 확인하며, 내용은 절대 확인하지 않습니다 - 종단간 암호화(E2EE) 적용)를 읽은 후, 다음과 같은 구조들이 계속해서 나타났습니다:

1. 재생 루프 (Replay Loop) - 결과가 바뀌는 분기점을 찾으려고 과거의 사건을 재실행하는 것입니다. 결과는 절대 바뀌지 않습니다. 과거는 불변 상태(immutable state)입니다.

2. 준비 나선 (Preparation Spiral) - "계획"이라는 이름 아래 점점 더 파멸적인 시나리오를 생성하는 것입니다. 실행 항목(action items)은 생성되지 않습니다. 완화 조치(mitigations)가 없는 위협 모델(threat models)만 고조될 뿐입니다.

3. 만약(What-If) 분기 (What-If Fork) - N개의 나쁜 결과들 사이를 오가는 것입니다. 전형적인 바쁜 대기(busy-wait) 상태입니다. CPU 사용률은 100%이지만, 처리량(throughput)은 0입니다.

4. 명료함의 착각 (Clarity Illusion) - 사이클이 반복될수록 결국 수렴(convergence)할 것이라는 믿음입니다. 하지만 수렴 조건(convergence condition)은 존재하지 않습니다. 함수는 결코 반환(return)되지 않습니다.

5. 정체성 루프 (Identity Loop) - 메타 재귀(Meta-recursion)입니다. "내가 이런 생각을 한다는 것이 나에 대해 무엇을 말해주는가?" 사고에 대한 사고입니다. 자기 성찰로 위장된 무한 퇴행(infinite regress)입니다.

감지 원리 (개념적 설명)

흥미로운 기술적 과제는 다음과 같습니다: 누군가가 루프(looping)에 빠져 있는 것인지, 아니면 진정으로 사고를 처리(processing)하고 있는 것인지를 어떻게 감지할 것인가?

신호는 단일 항목(single entry)에 들어있지 않습니다. 시간이 흐름에 따라 여러 항목에 걸쳐 나타납니다.

우리가 찾는 것:

• 의미론적 유사성 클러스터링 (Semantic similarity clustering) - 사용자가 "서로 다른 문제"라고 규정하는 항목들에서 동일한 주제가 나타나는 현상
• 내용의 변화 없는 감정적 변동 (Emotional variance without content variance) - 감정은 변하지만 근본적인 우려는 변하지 않는 현상
• 트리거 재발 (Trigger recurrence) - 동일한 환경적 트리거가 동일한 반응 패턴을 생성하는 현상
• 해결의 부재 (Resolution absence) - 동일한 주제에 대해 여러 항목에 걸쳐 새로운 정보, 결정, 또는 실행 항목(action items)이 나타나지 않는 현상

단일 항목 분석은 명백한 루프(반복, 만약에(what-if) 분기)를 잡아냅니다. 항목 간 패턴 감지(Cross-entry pattern detection)는 미묘한 루프(정체성 루프, 몇 주에 걸쳐 지속되는 준비의 소용돌이)를 잡아냅니다.

이를 구축하며 배운 점

AI 출력물이 적을수록 = 더 나은 UX. 초기 버전은 300단어 분량의 응답을 제공했습니다. 사용자들은 이를 읽고 "도움이 된다"라고 말했지만, 다시 돌아오지는 않았습니다. 이를 4줄로 줄였습니다. 재방문율이 두 배로 뛰었습니다. AI의 역할은 설명하는 것이 아니라 명명(naming)하는 것입니다.

기본 사례는 외부에 있습니다. 루프 내부에 있는 상태에서는 자신의 루프를 감지할 수 없습니다. 그것이 바로 이 도구가 존재하는 이유입니다. 시스템 외부의 무언가가 "이것은 지난 화요일에 가졌던 것과 동일한 패턴입니다"라고 말해줘야 합니다.

정확도 > 편안함. 사용자들은 단순히 자신의 의견이 확인(validated)되기를 원하지 않습니다. 그들은 자신이 제대로 관찰되기를(seen) 원합니다. "당신은 반복 루프(replay loop)를 경험하고 있으며, 근본적인 우려는 존중(respect)에 관한 것입니다"라는 말은 공감 위주의 미사여구 두 단락보다 더 강력하게 와닿습니다.

개인정보 보호는 핵심 지지대입니다. 누군가 읽고 있다고 생각하면 사람들은 솔직하게 글을 쓰지 않을 것입니다. 입력 데이터가 자기 검열(self-censored)된다면 전체 감지 시스템은 무용지물이 됩니다. 종단간 암호화 (E2EE)는 단순히 체크박스에 표시하는 기능이 아닙니다. 데이터가 유용할 만큼 솔직해질 수 있도록 만드는 근간입니다.

이 접근 방식이 검증된 순간

화요일 새벽 3시. 협업자와의 상호작용에 대한 동일한 사고 루프에 빠져 있던 두 번째 밤이었습니다. 내 뇌가 "거의" 다 파악해 가고 있다고 속삭인 지 이틀째였습니다.

메모 앱을 열었다. 그리고 한 문장을 적었다: "사람들이 나를 존중하지 않는 것 같아 두렵고, 나는 그 댓글을 증거로 사용하고 있는 것 같다."

루프(Loop)가 깨졌다. 문제를 해결했기 때문이 아니다. 그 생각이 무엇에 관한 것인지에 몰두하는 대신, 그 생각이 무엇을 하고 있는지(기능)를 명명했기 때문이다.

이것이 단 한 번의 상호작용에 담긴 제품 테제(Thesis)의 전부다. 사람들에게 전달되는 인자(Argument)뿐만 아니라, 그 인자가 수행하는 기능(Function)을 명명할 수 있도록 돕는 것.

현재 상태

NexoMind가 수행하는 기능:

• 단일 진입 루프 감지 (패턴 유형 명명)
• 교차 진입 패턴 클러스터링 (시간에 따른 반복적 테마 표출)
• 인지 왜곡 라벨링 (표준 인지 행동 치료 (CBT) 분류 체계)
• 한 줄 재구조화 (에세이가 아닌 정밀함에 집중)

여전히 고민 중인 부분:

• 패턴을 직접 제시할 것인가, 아니면 사용자가 자연스럽게 발견하도록 둘 것인가
• 과거의 맥락(Historical context)이 감지 정확도를 높이는 정도와 노이즈를 추가하는 정도 사이의 균형
• "이것은 패턴이다"와 "이것은 두 번 발생했다"를 구분하는 적절한 임계값 (현재 보정 중)

만약 당신이 사고를 위한 AI (AI-for-thinking) 분야에서 무언가를 구축하고 있다면, 함께 의견을 나누고 싶다. 흥미로운 문제는 LLM 호출이 아니다. 무언가를 다시 반영(Reflect)해 줄 때와 침묵이 더 나을 때를 결정하는 데이터 모델링과 UX 제약 조건들이다.

직접 시도해보고 싶다면 NexoMind를 확인해 보세요.