이론에서 현장으로: '특정성=무결성'이 실제 식당과 만났을 때 벌어지는 일

몇 주 전, 저는 AI 검색 엔진이 사람들에게 자신 있게 알려주는 정보와 실제로 지역 사업체 내부에서 일어나고 있는 일 사이의 정보 격차에 대해 글을 썼습니다. 그 게시물에 대한 반응—특히 Cheng이라는 연구원과의 한 교류—은 저를 예상치 못하게 빠르게 어느 곳으로 이끌었는지 모릅니다: 화이트보드 밖, 실제 주방 안으로 말입니다.

이것은 현재 상황 업데이트이자, 제가 아직 좋은 답을 찾지 못한 두 가지 미해결 질문에 대한 내용입니다.

실험실을 벗어나 현장으로

Komiru는 더 이상 종이 위의 프레임워크가 아닙니다. 저희는 나가노의 실제 운영 중인 지역 사업체와 라이브 파일럿(live pilot)을 시작했습니다. 데모 환경도, 목업(mockup)도 아닌, 실제 고객과 직원들이 있고, 지난주에 들어온 것, 부족한 것, 그리고 무엇이 바뀌었는지 기록하는 실제 주간 리듬이 있는 장소입니다.

시스템이 내부적으로 어떻게 작동하는지에 대한 메커니즘은 자세히 설명하지 않겠습니다. 그것은 의도적인 부분입니다. 제가 할 수 있는 말은 '이론상으로는 이렇게 되어야 한다'는 것에서 '사람이 실제로 고객을 응대하는 틈틈이 매주 이것을 해야 한다'로의 전환이 지금까지 프로젝트 전체에서 가장 명확하게 다가온 부분이었습니다.

화이트보드를 아무리 많이 그려도 즉시 파악할 수 있었던 몇 가지 사실들이 있었습니다:

• 습관 형성의 마찰(friction of habit formation)은 현실적입니다. 매주 구조화되고 타임스탬프가 찍힌 관찰 기록을 작성하는 것은 기능 토글(feature toggle)이 아니라 행동 변화입니다. 처음 몇 주는 가장 어렵고, 바로 그 기간에 코퍼스(corpus)가 가장 취약하면서도 가장 가치 있습니다.
• '특정성(Specificity)'에는 인간적인 비용이 따릅니다.

첫 번째는 위조(fabrication)에 관한 것입니다. 제가 원래 생각했던 틀은 내부적으로 일관성이 있고 매우 구체적인 가짜 데이터를 52주 동안 유지하는 것이 악의적인 행위자에게 너무 비용이 많이 들 것이라는 아이디어에 의존하고 있었습니다. 하지만 Cheng의 반박은 직접적이었습니다. 그 가정은 이미 시대에 뒤떨어졌다는 것입니다. 자동화를 통해 일 년 치의 개연성 있고, 날씨가 조정된, 내부적으로 일관된 '사실'을 생성하는 것은 더 이상 어렵지 않습니다. 만약 특정성(specificity)만으로 무결성(integrity) 메커니즘이 되어야 했다면, 그것만으로는 충분하지 않습니다.**

저는 그가 옳다고 생각하며, 솔직한 대답은 특정성이 결코 벽(wall)이 되도록 의도된 것이 아니라 _비용(cost)_이 되도록 의도되었다는 것입니다. 제가 지금 고민하고 있는 질문은 다음과 같습니다. 시스템 전체를 목적을 상쇄하는 검증 관료주의(verification bureaucracy)로 만들지 않으면서, 비용을 어떻게 더 높일 수 있을까요? 저는 명쾌한 답이 없습니다. 탐색 중인 몇 가지 방향만 가지고 있을 뿐이며, 아직 해결책이라고 부를 만한 것은 아무것도 아닙니다. 차라리 솔직하게 말하는 것이 그렇지 않은 척하는 것보다 낫다고 생각합니다.

두 번째 지점은 신뢰(trust)에 관한 것입니다. 이는 Cheng이

이 두 가지 문제 모두에 대해 깔끔한 해결책을 가지고 있지는 않으며, 지금 프로젝트가 바로 그런 솔직한 상태라고 생각합니다. 제가 가진 것은 이 두 질문을 더 이상 추상적인 것이 아니게 만드는 실제 파일럿입니다. 지나가는 매주가 제 가설의 증거가 되거나 반증이 됩니다. 그리고 처음으로 그 증거들이 사람들의 행동에 대한 저 자신의 가정에서 오는 것이 아니라, 실제로 이해관계와 관련된 장소에서 오고 있습니다.

만약 귀하가 출처(provenance), 검색 시스템에서의 신뢰 보정(trust calibration) 문제, 또는 비기술적인 사람들이 몇 달 동안 데이터 생산 습관을 유지하도록 하는 문제를 다뤄본 경험이 있다면—진심으로 당신의 이야기를 듣고 싶습니다. Cheng의 질문들은 닫기보다는 더 많은 것을 열어주었고, 제가 이들을 깊이 생각하는 데 도움을 줄 수 있는 사람들은 한 분야에만 속해있지 않을 것이라고 의심합니다.

몇 주가 쌓이면서 더 많은 업데이트를 드리겠습니다. 그것이 바로 요점입니다.