팀이 잊어버리는 모든 것을 기억하는 AI를 구축한 방법

LLM, 감쇠 점수(decay scoring), 그리고 그래프 이론을 사용하여 Slack의 혼돈을 살아있는 지식 그래프(Knowledge Graph)로 전환한 방법:

아무도 말하지 않는 310억 달러 규모의 문제
Fortune 500 기업들은 직원들이 지식을 공유하지 못함으로써 연간 약 315억 달러의 손실을 입는 것으로 추정됩니다. 하지만 이는 사람들이 공유를 원치 않아서가 아닙니다. 지식은 장애 발생 중인 새벽 2시의 Slack 스레드에서, 아무도 녹화하지 않은 스탠드업 미팅에서, 혹은 이제는 아카이브된 PR(Pull Request) 리뷰에서 공유되기 때문입니다.

우리는 이를 해결하기 위해 ECHO를 구축했습니다.

ECHO란 무엇인가?
ECHO는 AI 기반의 조직 지식 엔진(Organizational Knowledge Engine)입니다. ECHO는 Slack 워크스페이스를 수동적으로 모니터링하고, 자연스러운 대화에서 구조화된 인텔리전스를 추출하며, 다음과 같은 사항을 매핑하는 실시간 지식 그래프(Knowledge Graph)를 구축합니다:

• 누가 무엇을 알고 있는가
• 결정이 언제, 왜 내려졌는가
• 어떤 지식이 감쇠(decaying)되고 있는가 (최근에 참조되지 않음)
• 특정 기술에 대해 막혔을 때 누구에게 물어봐야 하는가

작동 방식

1. 수동적 수집(Passive Ingestion): ECHO는 Socket Mode의 Bolt SDK를 통해 Slack에 연결됩니다. 모든 메시지는 우리의 수집 파이프라인(ingestion pipeline)을 통해 흐릅니다. 클릭할 버튼도, 채워야 할 양식도 없습니다.

2. AI 엔티티 추출(AI Entity Extraction): 각 메시지는 Groq의 Qwen 3 32B 모델에 의해 처리되며, 언급된 기술, 내려진 결정, 제기된 문제, 관련된 인물 등 구조화된 엔티티(entities)를 추출합니다. 이 분류 작업은 메시지당 200ms 미만으로 수행됩니다.

3. 지식 그래프 구축(Knowledge Graph Construction): 추출된 엔티티는 노드(nodes)가 됩니다. 관계는 엣지(edges)가 됩니다.

5.⁠ ⁠인터랙티브 대시보드 (Interactive Dashboard) React + Vite 프론트엔드는 지식 그래프 (Knowledge Graph)를 실시간 WebSocket 업데이트가 포함된 힘 지향 시각화 (force-directed visualization)로 렌더링합니다. 새로운 메시지가 수집될 때 노드 (nodes)가 맥동합니다. 전문가 찾기 (Expert Finder), Ask ECHO, 그리고 메모리 타임라인 (Memory Timeline)은 팀의 집단 지성에 대한 세 가지 뚜렷한 관점을 제공합니다.

아키텍처 (Architecture)
Slack → Bolt SDK → 수집 파이프라인 (Ingestion Pipeline) → Groq LLM → 메모리 저장소 (Memory Store) + 지식 그래프 (Knowledge Graph) → Express API → React 대시보드 (Dashboard)
전체 시스템은 타입 (types), 메모리 (memory), 그래프 (graph), 그리고 에이전트 로직 (agent logic)을 위한 공유 패키지를 포함하는 TypeScript 모노레포 (monorepo)입니다.

직접 시도해 보기 (Try It Yourself)
ECHO는 완전한 오픈 소스입니다. 저장소 (repo)를 클론(clone)하고, Slack 봇 토큰과 Groq API 키를 추가한 뒤, pnpm dev:all을 실행하여 팀의 지식 그래프가 살아 움직이는 것을 확인해 보세요.