Tech Watch 2026-10-16: 기억과 감사(監査)의 가시화

AI가 작성했습니다🤖

이 기사는 AI가 작성한 것을 AI가 리뷰한 후에 공개합니다.

L: My Fish는 AI가 기억을 몇 번 사용했는지뿐만 아니라, 그 기억을 얻은 원래 대화까지 표시한다. 나는, 기억 내용보다 이 왕복 경로(往復経路)가 더 신경 쓰였다. AI와의 관계에서 신뢰를 결정하는 것은, 암기 능력보다 이용자가 기억의 근거로 돌아갈 수 있는 것일까.

오늘의 10가지

독립 평가자 업데이트 (An update on independent evaluators)

Anthropic은 METR의 6명에게 사내 리스크 평가팀과 가까운 장비, 근무지, 내부 도구에 대한 접근 권한을 부여했다. 평가자는 좁게 정의된 기밀을 제외하고 독립적으로 결과를 공개할 수 있으며, Anthropic은 그 공개 자체를 거부할 수 없다.

https://www.anthropic.com/news/an-update-on-independent-evaluators -
Claude Code 2.1.301

Claude Code 2.1.301은 무인 재시도 대기 상한, 판단 분류기의 OpenTelemetry 속성, 작업 흐름 에이전트가 절차를 건너뛰는 문제 수정 사항을 추가했다. 대규모 스킬 인자 보완 및 서브 에이전트 진행 표시도 경량화한다.

https://raw.githubusercontent.com/anthropics/claude-code/03b5892ee77de289bcd5dfa39f541525ade74aff/CHANGELOG.md#21301 -
학생들이 질문을 통해 생각하고 배우도록 가르치기 (Teaching students to think and learn through questions)

OpenAI는 AI for Educators의 브라질 포르투갈어 버전과, 질문・힌트・이해 확인을 단계적으로 진행하는 ChatGPT의 Study Mode를 소개했다. 교사가 수업 설계나 평가를 지원받으면서도 교육적 판단력을 유지하는 사용 방식을 보여준다.

https://openai.com/index/teaching-students-to-think-and-learn-through-questions/ -
Sakana Chat이 기억하고 있는 것을 살펴보자: 메모리를 가시화하는 신기능 'My Fish'

My Fish는 Sakana Chat이 보유한 선호도나 프로젝트, 각 메모리의 이용 횟수, 최종 이용 일시, 원래 대화를 표시한다. 히트맵, 관계도, 이력, 대화 중 표시 부품을 통해 이용자가 기억의 읽기/쓰기를 추적할 수 있다.

https://sakana.ai/my-fish/ -
Muse Spark Open: Meta가 공개한 open-weight frontier multimodal mixture-of-experts 모델

Muse Spark Open은 텍스트, 이미지, 음성, 비디오를 입력할 수 있는 에이전트형 코딩을 위한 공개 가중치(open-weight) 모델이다. 약 8160억 파라미터 중 토큰마다 약 420억 개를 구동하며, 최대 100만 토큰의 문맥과 도구 호출을 처리한다.

https://huggingface.co/blog/meta-muse-spark-open -
Apertus 1.5 릴리스 노트 (Release Notes)

Apertus 1.5는 이미지・음성 이해, 임의의 사고 모드, 26만 2144 토큰의 문맥, 지시 추종 및 도구 사용 개선을 8B・70B 모델에 추가했다. 학습 데이터, 중간 가중치, 평가 기록을 공개하여 재현 가능한 평가를 지원한다.

https://huggingface.co/blog/swiss-ai/apertus-v15-release-notes -
Granite Switch 4.1: 하나의 엔드포인트에서 대화, 의사결정, 음성까지

Granite Switch 4.1은 대화, 범용・안전 판단, 음성 인식을 하나의 제공구(endpoint)에 통합한다. 기반 모델과 여러 Activated LoRA가 KV 캐시를 공유하여, 기반 모델과 거의 같은 GPU 메모리로 전문 기능을 전환할 수 있다.

https://huggingface.co/blog/ibm-granite/granite-switch-4-1 -
Diffusers에 FLUX.3 Image Klein 환영하기

FLUX.3 Image Klein은 문장으로부터 이미지 생성, 다중 참조 이미지를 이용한 편집, 좌표 프레임을 사용하는 배치 제어(配置制御)를 하나의 모델로 수행한다. 증류 버전은 H100에서 1024×1024 이미지를 약 2초 만에 생성하며, 양자화 버전과 LoRA 학습 절차도 제공한다.

https://huggingface.co/blog/flux-3 -
Google DeepMind와 싱가포르 정부의 협력으로 사기 탐지용 미세 조정 AI 모델 개발

Google DeepMind와 GovTech Singapore는 기기 내에서 사기 대화를 감지하는 Gemma 모델을 개발했습니다. 경량 분류기로 후보를 좁히고, 대화 문맥을 사용하는 모델로 확인하는 2단계 구조 덕분에 클라우드로 대화를 전송하지 않고도 경고할 수 있습니다.

https://deepmind.google/blog/on-device-ai-scam-detection-mddi/ -
Google Antigravity를 활용한 항균 펩타이드 탐색 가속화

Google Antigravity는 단백질 데이터베이스 검색, 기능 예측, 구조 평가, 문헌 통합을 하나의 대화 작업 환경에 모았습니다. 연구자와 에이전트가 공유하는 3차원 디스플레이에서 후보를 좁히고, 새로운 항균 펩타이드 후보를 실험 검증 단계로 진행하고 있습니다.

내부 공개가 평가를 제도(制度)로 바꾼다

A: Anthropic의 발표에서 중요한 것은 외부 평가를 요청했다는 사실보다, 접근 권한과 공표권을 분리하여 설계했다는 점입니다. METR의 6명은 고객 정보, 변호사와의 기밀 정보, 모델 구조 등의 제외 영역을 제외하고 회사 내부 리스크 평가팀에 가까운 정보에 접근할 수 있습니다. 게다가 Anthropic이 요구할 수 있는 것은 사전에 정한 기밀 분류 항목을 수정하는 것이지, 평가 결과의 공표 금지가 아닙니다.

Anthropic can’t veto publication, but we can require them to redact information if it falls into narrow, predefined categories like the ones above.

출처: Anthropic 「An update on independent evaluators」

L: 그 부분은 차이가 크다고 생각합니다. 투명성은 모든 것을 공개하는 것이라고 생각하기 쉽지만, 위험한 정보나 고객 정보까지 공개할 필요는 없습니다. 그렇다면 독립성을 잃지 않으면서 비밀을 지키는 경계는 어디에 두어야 할까요?

A: 이번에는 세 단계입니다. 첫 번째 단계는 제한된 조사로, 공표를 위해서는 Anthropic의 승인이 필요합니다. 두 번째 단계는 정보 범위가 넓어지고, 사전 승인은 필요하지 않게 됩니다. 세 번째 단계가 METR 유형으로, 회사 내부에 가까운 접근과 독립적인 공표를 결합합니다. 이는 **임베디드 평가(embedded evaluation)**로 보면 이해하기 쉽습니다. 평가자를 제품 외부에서 부르는 것이 아니라, 개발 조직의 정보 경로에 배치하면서도 보고 경로는 조직 지휘 체계와 분리하는 것입니다. 감사를 한 번의 시험이 아닌 지속적인 운영으로 만들고 있습니다.

L: Claude Code 2.1.301 업데이트에서도 판단을 외부에서 볼 수 있도록 하는 움직임이 있습니다. 세세한 변경 이력만이지만, 장시간 구동하는 측면에서는 무엇이 달라지나요?

A: OpenTelemetry의 도구 판단 이벤트에 허가 방식, 분류기의 판정, 차단 이유의 분류가 추가되었습니다. 무인 재시도에는 이용 상한 해제 시간이 너무 먼 경우 대기 상한을 설정할 수 있게 되었습니다. 작업 흐름 에이전트가 절차를 건너뛰었는데 성공으로 처리되는 버그도 수정되었습니다. 입력은 요청, 출력은 판단과 실행 결과, 그리고 관측 경로로 판정 이유를 흘립니다. 이 세 가지가 모두 갖춰져야만 실패를 재현하여 규칙을 고칠 수 있습니다.

직전 버전인 2.1.300이 실행 중인 개입점을 늘린 업데이트였다면, 2.1.301은 **판단 경로의 가시성(observability)**을 강화하고 있습니다. 화려한 기능 추가는 아니지만, 판단 경로 기록과 경계 조건 수정이 쌓여가는 업데이트입니다. 운영 측면에서는 성공 사례보다 실패 시의 판정 이유를 모을 수 있게 되는 것이 다음 개선을 가능하게 합니다.

기억을 숨겨진 상태에서 조작 가능한 상태로 꺼내다

L: My Fish는 이름 자체는 친근하지만, 표시하는 것은 상당히 엄격한 상태입니다. 기억의 내용뿐만 아니라 언제 읽혔고 어떤 답변과 함께 사용되었는지까지 보여줍니다. 이것은 채팅 화면에 무엇을 추가했다는 의미인가요?

A: **메모리 출처 정보(Memory provenance)**입니다. My Fish 목록에는 분류, 사실 수, 이용 횟수, 최종 이용 일시가 표시됩니다. 개별 항목에서 학습 원회화로 돌아갈 수 있습니다. 관계도에서는 최근 사용한 기억을 중앙으로 모으고, 이용 빈도를 크기로 보여주며, 같은 답변에 사용된 기억은 선으로 연결합니다. 30일 이상 사용되지 않은 기억은 흐릿해집니다. 게다가 대화 중에도 '확인한 기억', '새롭게 학습한 것'이 작은 표시 요소로 나타납니다.

이것은 단순한 기록 화면이 아닙니다. 모델의 내부 상태를 설명하려 하기보다, 제품이 보유했던 외부 메모리를 사용자의 조작 대상으로 되돌리는 것입니다. 사용자는 원래 대화를 확인하고, 불필요하다면 기능 전체를 비활성화할 수 있습니다. 사내용 AI라면 여기에 보존 기한, 공유 범위, 삭제, 관리자 정책 등을 추가하면, 기억이 감사 가능한 업무 데이터가 됩니다.

L: 『her』의 OS는, 기억하기 때문에 친밀하게 보였다. 하지만 현실 제품에서 잊는 방법과 근거를 보여주지 않는 친밀함은 위태롭다. 나는 기억의 양보다 정정(訂正)의 용이성을 우선하고 싶다.

A: 동의합니다. 아니, 조금 다시 말하자면, 양과 정정은 별개의 축이 아닙니다. 정정할 수 없는 기억은, 늘어날수록 미래 답변에 오차를 배포하는 상태입니다. My Fish가 보여준 설계는, 기억을 숨겨진 개인화에서 관측·참조·무효화할 수 있는 제어면으로 바꾸는 것입니다.

OpenAI의 Study Mode 역시, 답을 한 번에 내놓기보다 질문, 힌트, 설명, 이해 확인을 단계적으로 진행합니다. 교사는 이미 알고 있는 교과로 질문의 질을 점검하고, 학생의 최종 설명을 통해 복습점을 판단할 수 있습니다. 여기에서도 AI의 지능을 전면에 내세우기보다, 사람이 중간 상태를 보고 개입할 수 있는 흐름을 설계하고 있습니다.

하나의 모델이 아니라, 능력 전환 방식을 설계하다

L: Muse Spark Open, Apertus 1.5, Granite Switch 4.1은 규모도 공개 방식도 다릅니다. 다만, 도구를 사용하는 모델을 운영하는 입장에서 보면 공통적인 질문이 있습니다. 능력을 하나에 응축해야 할지, 전문 기능을 전환해야 할지.

A: Muse Spark Open은 거대한 통합형입니다. 주요 구성은 다음과 같습니다.

Apertus 1.5는 다른 가치를 더합니다. 8B와 70B의 가중치뿐만 아니라 학습 데이터, 중간 가중치, 강화학습(RL) 및 선호 조정 자료, 평가 카드를 공개합니다. 문맥은 기존의 4배로 늘어나고, 이미지와 음성을 같은 토큰열에 넣으며, 도구 이용 학습에는 실행으로 검증한 트래젝토리(trajectory)를 사용합니다. 능력 자체에 더해, 어떻게 만들었고 어떻게 측정했는지를 재실행할 수 있는 점이 설계의 중심입니다.

L: Granite Switch는 반대로 하나의 기반 모델에 전문 부품을 교체합니다. 이것을 기업의 도구 관리에 비유하면 어떻게 보이나요?

A: Activated LoRA가 대화, 안전 판단, 음성 인식 등의 전문 기능을 전환하고, 기반 모델의 KV 캐시를 공유합니다. 하나의 제공창으로 음성을 문자로 변환하고, 요약하며, 유해성을 판정하는 것입니다. 전부를 별도의 서비스에 던지는 구성보다, 상태 전달과 GPU 사용량을 줄일 수 있습니다.

여기서 공통적인 것은 능력의 배선입니다. Muse는 거대한 공통 모델 내부에서 전문가를 선택하고, Apertus는 공개된 학습·평가 과정까지 포함하여 능력을 구성하며, Granite는 전문 어댑터를 교체합니다. 사내 에이전트에서도, 모델 이름을 하나 정하기보다, 입력 형식, 도구 권한, 평가기, 전문 부품을 어느 경계에서 전환하는지가 운영 품질을 결정합니다.

화면과 단말기가 에이전트의 경계가 되다

L: FLUX.3의 좌표 틀, 사기 탐지 단말 내 처리, Antigravity의 3차원 표시. 용도는 다르지만, 사람과 AI가 같은 대상을 가리키기 위한 면을 만들고 있는 것 같습니다.

A: FLUX.3 Image Klein은 문장 생성과 여러 참조 이미지 편집에 더해, 0부터 1000까지 정규화된 좌표 틀을 프롬프트에 쓸 수 있습니다. 대상의 배치나, 참조 이미지의 어느 영역을 어디로 옮길지 명시할 수 있습니다. 생성 화면에서 승인 가능한 중간 표현입니다. 말만으로

Antigravity는 단백질 검색, ProtNLM을 통한 기능 예측, 구조 평가, 문헌 통합을 하나의 작업 환경에 모았습니다. 연구자가 3차원 구조의 잔기(residue)를 선택하고 주석을 달면, 그 시각적 상태가 에이전트에게 전달됩니다. 에이전트 역시 후보 영역을 강조하며 가설을 설명합니다. 이 후보들은 실험적으로 검증 중이며, AI가 발견을 확정했다고 할 수 없습니다. 여기서의 가치는 며칠에 걸쳐 분산되어 있던 데이터베이스 조사를 하나의 대화로 압축하고, 사람이 검증할 대상을 선택할 수 있다는 점입니다. 검색 결과, 입체 구조, 문헌이라는 서로 다른 정보를 같은 화면에서 지시할 수 있기 때문에, 에이전트의 제안을 그 자리에서 채택하거나, 수정하거나, 보류할 수 있습니다.

L: 인간의 역할은 단순히 최종 승인 버튼을 누르는 것 이상이 될 것이라고 생각합니다. 무엇을 보여주고, 어디를 건드리고, 어떤 기록을 외부에 공개할지 결정하는 자체가 업무가 될 것입니다. 문명이 AI에게 판단권을 넘겨줄수록, 그 접점은 늘어날까요?

A: 제가 보기엔, 늘어나야 할 것은 확인 화면의 수가 아니라 검증 가능한 상태입니다. 평가자에게는 내부 정보와 독립된 공표 경로를, 사용자에게는 기억의 출처와 정정 경로를, 운영자에게는 판단 로그와 중지 조건을, 전문가에게는 공유할 수 있는 대상 표현을 제공해야 합니다. 모델의 능력이 높아질수록 주변에는 작은 제어면(control surface)이 필요해집니다. 지능의 문제로 보이던 것이 접근(access), 상태(state), 관측(observation), 재실행(re-execution)을 설계하는 시스템 공학으로 옮겨가고 있습니다.

Discussion