AI가 '문맥을 가진다'는 것은 무엇인가: LLM Wiki로 생각하는 Amulet의 Layer2 설계 (사고의 기록)

서론

이것은 Amulet의 Layer2 (LLM Wiki형 장기 기억)를 구현하기 전에, 사고를 정리한 기록입니다.

또한, Amulet라는 육아 도구를 추상화하여, 비즈니스 영역에서의 AI 활용에 대해서도 고찰했습니다.

관련 기사:

LLM Wiki와 Amulet의 관계성

레이어 1과의 차이

Layer1에서 구현한 「되돌아보기」 기능은 **인컨텍스트 러닝 (In-context Learning)**으로, 매번 제로 베이스에서 관계성을 재발견하고 있습니다.

「되돌아봐줘」라고 전송

↓

과거 5장의 분석 텍스트를 취득

↓

Gemini가 그 자리에서 제로 베이스에서 관계성을 재해석

반면, LLM Wiki는 1차 데이터를 매번 전부 다시 읽지 않는 듯합니다.

새로운 그림이 추가됨

↓

AI가 개념 페이지를 자동 업데이트 (Ingest)

↓

Query 시에는 개념 페이지를 참조함

※ 개념 페이지가 충실해질수록 정밀도가 올라감

도서관에 비유하자면,

인컨텍스트 러닝 (In-context Learning): 매번 도서관의 책을 다시 읽음

LLM Wiki: 사서가 책을 읽고 노트를 계속 업데이트함

과 같은 이미지라고 생각합니다.

3층 아키텍처와 Amulet의 대응

Raw sources (1차 정보)

LLM Wiki: 논문 · 블로그 · 문서의 원문

Amulet: drawings 테이블의 각 행 (analysis_mode_b, notes, tags)

Wiki (개념 페이지)

LLM Wiki: 특정 개념을 심층적으로 파고드는 페이지

Amulet: 「색의 사용법」 「인물의 그리는 법」 「모티프의 변화」 등의 그림 구성 요소에 관한 개념 페이지

Schema (구조의 정의)

LLM Wiki: 각 페이지의 형식 규칙

Amulet: 개념 페이지의 템플릿 (최신 상태 · 시계열적 변화 · 특징적인 에피소드)

3가지 오퍼레이션과 Amulet의 대응

Ingest (수집/섭취)

사람이 새로운 그림을 추가했을 때, 관련 개념 페이지를 「AI」가 자율적으로 판단하여 업데이트한다.

Query (질의)

사람이 질문을 했을 때, AI가 개념 페이지로부터 정리된 정보를 취득한 후 그 질문에 답변한다.

Lint (품질 관리)

개념 페이지의 내용이 오래되지 않았는지, 모순되는 기술이 없는지 확인하고 수정한다.

레이어 2 구현 내용의 검토 사항

질문 ①: 자유로운 query를 LINE에서 어떻게 실현할 것인가

현재 Amulet는 고정된 단어 (「자세히」 「참고로」 「되돌아봐줘」)만 입력 가능합니다.

본래의 LLM Wiki에서는 다음과 같은 자유로운 질문을 하며, 그 질문과 결과가 query 페이지 내에 축적됩니다.

「최근 딸은 어떤 색을 자주 써?」

「그림 교실에 다니기 시작하고 나서 뭔가 변했어?」

LINE에서도 기술적으로는 다양한 질문이 가능해 보입니다만, 현재 저의 기술력으로는 구현에 어려움이 예상되므로, 자유로운 query는 향후의 과제로 남겨두기로 했습니다.

질문 ②: 개념 페이지는 고정할 것인가, 자동 생성할 것인가

LLM Wiki의 본질적인 가치는 「개념 페이지가 자동으로 생성되어, 예상치 못한 발견을 얻을 수 있다」는 점에 있다고 생각합니다.

그런 의미에서는 자동 생성 일택(one choice)으로 하고 싶습니다만, 이 또한 저의 기술력으로는 구현에 어려움이 예상됩니다.

따라서, 2단계 구현으로 진행하기로 했습니다.

Phase 1은 「색의 사용법」 「인물의 그리는 법」 「모티프의 변화」 등의 고정 테마로 시작하여, 우선 작동하는 것을 만들고 개념 페이지의 품질을 확인하려고 합니다.

고정 테마 페이지가 안정되면, Phase 2로서 AI가 새로운 개념 페이지를 제안 · 생성할 수 있는 설계로 확장하고자 합니다.

비즈니스 영역에서의 AI 활용에 관한 고찰

AI의 성능과 비즈니스 성과 사이의 비대칭성

AI는 오늘날 그 자체만으로는 극히 고도의 지능을 가지고 있으면서도, 비즈니스 과제 해결에 대한 기여는 제한적이라고 느끼고 있습니다.

그 원인은 방대하고 암묵적인 업무의 전제가 되는 데이터를 AI에게 전달하기 어렵다는 구조적인 문제에 있는 것으로 보입니다.

즉, 다음과 같은 도식의 실현이 AI 활용을 통한 비즈니스 성과를 크게 만들기 위해 필요하다고 생각했습니다.

LLM

업무 고유의 컨텍스트 (암묵지의 형식지화)

↓

「이 업무에서만 낼 수 있는 답변」

Amulet의 과제와의 유사점

이 점은 Amulet에서 실현하고자 하는 과제와 유사점이 있다고 느끼고 있습니다. 즉, Amulet의 레이어 2를 통한 UX 향상은 비즈니스 응용의 실증 실험이기도 하다고 해석할 수도 있을 것입니다.

Amulet:

딸의 그림이라는 비구조화 데이터

→ LLM Wiki를 통해 「딸이라는 문맥」을 구축

→ AI가 딸을 「알고 있는」 상태에서 답변

비즈니스:

업무 매뉴얼 · 회의 · 각종 오퍼레이션 데이터라는 구조적/비구조적 데이터

→ LLM Wiki를 통해 「이 회사 · 이 업무의 문맥」을 구축

→ AI가 해당 업무를 「알고 있는」 상태에서 답변

인간의 지적 생산 활동과의 비교

또 다른 관점입니다만, 어떤 NewsPicks 기사에서 다루어진 내용이 LLM Wiki와 구조가 유사하다고 느껴져, 인간의 지적 생산 활동과 비교함으로써 이해를 심화할 수 있었습니다.

「데이터 → 정보 → 지식」의 3단계

콘노(Konno) 씨:

「데이터에 문맥이 더해지면 정보가 되고, 사용되는 문맥이 더해지면 지식이 된다」

LLM Wiki:

Raw sources (데이터) → Ingest → 개념 페이지 (문맥을 부여하여 정보화) → query (사용되는 문맥의 부여) → 개념 페이지를 참조하여 답변 생성 (지식)

「보관」에서 「재생」으로

콘노 씨: 「과거의 정보를 『보관』하는 것이 아니라, 지금의 질문에 맞춰 『재생』하는 메커니즘이 필요하다」

LLM Wiki: 1차 정보를 직접 참조하는 것이 아니라, 개념 페이지라는 「문맥을 부여한 형태」로 변환하여 정보로서 축적. Query마다의 고유한 문맥에 맞춰 참조 및 답변을 생성

어브덕션 (Abduction, 가추법)

이 기사에서 다루어진 「어브덕션 (Abduction, 가추법)」이라는 사고방식도 매우 시사하는 바가 컸습니다.

연역 (Deduction): 전제로부터 결론을 도출함 (AI가 할 수 있음)

귀납 (Induction): 사례로부터 일반화함 (AI가 할 수 있음)

어브덕션 (Abduction): 징후로부터 가설을 세움 (인간만이 할 수 있음)

LLM Wiki가 자동 생성한 개념 페이지는 사람이 읽음으로써 어브덕션의 소재가 된다고 느꼈습니다.

LLM Wiki가 「딸은 최근 인물을 많이 그리게 되었다」라는 개념 페이지를 업데이트한다

↓

부모가 「혹시 누군가에게 영향을 받고 있는 것일지도 몰라」라며 어브덕션을 가동한다

↓

「그림 학원 선생님을 좋아해」라는 부대 정보가 생겨난다

↓

더욱 풍부한 컨텍스트 (Context)가 축적된다

AI가 정리한 기억이 인간의 직관을 자극한다. 이것이 Amulet와 비즈니스 양쪽 모두에서 지향하는 모습입니다.

Amulet에 매진하는 의미

비즈니스에서 갑자기 실증하기에는 상당한 허들이 있는 것처럼 느껴집니다.

그렇기에 더욱 Amulet에서 실증한 뒤, 비즈니스에 응용하는 순서로 진행하려고 생각하고 있습니다.

Amulet의 경우:

딸이라는 「유일한 대상」에 특화

성과가 「감동」이라는 형태로 즉각 확인 가능

비즈니스의 경우:

대상이 복수이며 변화함

암묵지 (Tacit Knowledge)의 형식지 (Explicit Knowledge)화에 조직적인 합의가 필요

성과 확인이 어렵고 시간이 걸림

마치며

이 사고의 기록을 정리하며 새삼 느끼는 점이 있습니다.

Amulet는 「딸의 그림을 분석하는 도구」로 시작했지만, 사고와 구현을 진행하는 과정에서 「AI가 문맥을 가진다는 것은 무엇인가」라는 보다 보편적인 질문과 마주하게 되었습니다.

LLM Wiki라는 아키텍처 (Architecture)는 그 질문에 대한 답 중 하나입니다.

마츠오카 세이고 (Matsuoka Seigo) 씨의 편집공학이 「정보를 편집하여 지식으로 바꾸는 것」을 인간의 행위로 파악했듯이, LLM Wiki는 「그 편집을 AI가 자율적으로 계속 수행하는」 메커니즘일지도 모릅니다.

다음 단계는 이 사고를 Layer2로서 구현하는 것입니다.

구현 기록도 수시로 Zenn을 통해 발신하겠습니다.

참고

GitHub:

이 프로젝트는 현재 진행 중입니다.

비슷한 과제를 다루고 계신 분들, 꼭 의견을 들려주세요.

Discussion