(https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Fr0bhwvxx8f0tlqpujsjz.png)

이번 주 AI 에이전트 분야가 진지해지는 것을 지켜봤습니다. 단순히 '우리 SaaS에 채팅 기능을 추가했다'는 식의 방식이 아니라, 인프라 자체가 변화하는 방식으로요. 세 가지 이야기가 눈에 띄었는데, 모두 같은 주제를 다루고 있습니다. 바로 에이전트들이 데모 장난감에서 프로덕션 시스템으로 이동하고 있으며, 업계가 이를 가능하게 하는 가드레일(guardrails), 메모리, 도구링을 구축하기 위해 분주하다는 것입니다.

Brex가 에이전트의 실제 행동을 관찰하여 에이전트 방화벽을 구축하다

Brex는 모든 에이전트와 모든 아웃바운드 네트워크 요청 사이에 위치하는 내부 HTTP/HTTPS 프록시인 CrabTrap에 대한 세부 정보를 공개했습니다. 아이디어 자체는 간단하지만 실행 방식은 영리합니다. 미리 보안 정책을 작성하고 에이전트가 이를 준수하기를 바라는 대신, CrabTrap은 실제 트래픽을 관찰한 다음 관찰된 행동으로부터 정책을 초안으로 만듭니다.

CEO Pedro Franceschi가 이 점을 잘 설명했습니다.

보안 측면에서 주목할 만한 점은 Agentic Guard MCP가 이번 주 PyPI에 출시되었다는 것입니다. 이 도구는 MCP 서버의 툴 설명(tool-description) 삽입 및 기능 과잉 사용(capability overreach)에 대해 정적 분석을 수행합니다. 또한 Tycho CLI는 git과 프로세스 종료 코드로부터 에이전트가 실제로 주장하는 작업을 수행했음을 증명하는 오프라인 검증 기능을 제공합니다. 이 두 가지는 동일한 문제에 대한 서로 다른 접근 방식입니다. 즉, 우리는 아직 에이전트를 완전히 신뢰하지 않으며, 이를 검증하기 위한 도구들을 구축하고 있는 것입니다.

Weaviate Engram: 에이전트에게 실제로 필요한 메모리 레이어

Weaviate는 벡터 데이터베이스 위에 직접 구축된 관리형 메모리 및 컨텍스트 서비스인 Engram을 출시했습니다. 핵심 주장은 메모리가 별도의 미들웨어 서비스로 붙이는 것이 아니라, 에이전트가 이미 사용하는 검색(retrieval) 인프라의 일부여야 한다는 것입니다.

저는 세션 간에 선호도 추적에 계속 실패하는 개인 AI 비서를 운영해 왔습니다. 정말 답답합니다. 프로젝트 구조를 한 번 알려주면 다음 대화에서는 사라져 버립니다. Engram이 제시하는 접근 방식 — 안정적인 사실을 위한 의미론적 메모리(semantic memory), 대화를 위한 일화적 메모리(episodic memory), 학습된 워크플로우를 위한 절차적 메모리(procedural memory) — 는 바로 그러한 종류의 앱에 필요한 것입니다. 무료 티어는 월 1,000개의 파이프라인 실행을 포함하며, 유료 플랜은 월 $45부터 시작합니다.

솔직히 말해서, 데이터베이스 수준의 스코핑(scoping) 기능이 눈길을 끌었습니다. 별도의 서비스를 배포하지 않고도 사용자, 프로젝트 또는 조직별로 메모리를 격리할 수 있습니다. 서로 간섭하지 않으면서 컨텍스트를 공유해야 하는 다양한 에이전트가 필요한 멀티에이전트 시스템을 구축하는 사람들에게는 실질적인 이점입니다.

단점은 다음과 같습니다. Weaviate의 생태계에 갇히게 된다는 것입니다. 이미 다른 벡터 스토어를 사용하고 있다면, 메모리 레이어를 마이그레이션하는 것은 사소하지 않은 결정입니다. 하지만 신규 프로젝트(greenfield projects)의 경우, 이러한 긴밀한 통합은 합리적입니다.

논문: 자체 LLM을 로컬에서 실행할 수 있게 해주는 설계 도구

논문: 자체 LLM을 로컬에서 실행할 수 있게 해주는 설계 도구

저를 놀라게 한 것이 하나 있습니다. Radix UI의 공동 창업자가 설립한 Paper라는 디자인 앱이 은밀하게 공개되었습니다. 흥미로운 점은 이 앱이 MCP를 통해 로컬 LLM을 연결하여 완전히 자체 하드웨어에서 디자인할 수 있게 해준다는 것입니다. 캔버스 위의 모든 요소는 실제 HTML과 CSS이기 때문에 AI 에이전트가 번역 단계 없이 읽고 쓸 수 있습니다.

저는 Ollama를 통해 로컬 모델을 연결해 보았는데, 예상보다 훨씬 잘 작동했습니다. MCP 서버는 24개의 양방향 도구를 제공하며, 무료 등급에서는 주당 100회의 MCP 호출이 가능합니다. 자신의 작업을 다른 사람의 API로 보내지 않고 AI 지원 디자인을 원하는 프리랜서 개발자에게는 진정으로 유용한 선택지입니다.

아무도 이야기하고 싶어 하지 않는 정치적 문제

Meta의 Oversight Board가 이번 주에 Anthropic, DeepSeek, Google, Meta, OpenAI의 모델들을 테스트한 보고서를 발표했습니다. 그 발견은 이렇습니다: 모든 주요 LLM이 표현의 자유를 제한하는 것으로 알려진 정부나 지도자들을 비판할 가능성이 낮다는 것입니다. 이유는 다양합니다. 일부 모델은 명시적인 콘텐츠 정책을 가지고 있고, 다른 모델들은 혼란스러운 방식으로 거부하기만 합니다. 하지만 패턴은 일관적입니다.

이는 새로운 관찰은 아니지만, 다섯 가지 다른 모델 계열에 걸쳐 문서화된 것을 보니 무시하기가 더 어려워졌습니다. 만약 당신의 AI 비서가 권위주의적인 발언에 반박하지 못한다면, 그것은 중립성이 아니라 안전성으로 포장된 디자인 선택입니다.

번역에 대한 짧은 메모

Japan Times에서 월드컵 기간 동안 게재한 기사가 언급할 가치가 있습니다. AI 생성 번역 덕분에 사람들은 자신이 모르는 언어로 된 트윗과 댓글을 읽을 수 있게 되었고, 그 결과는 놀라울 정도로 인간적입니다. FIFA에 대한 스페인어의 재치 있는 발언이 영어로 백만 번 이상 리트윗되었는데도 아무도 번역 레이어를 알아차리지 못합니다. 이것이야말로 헤드라인을 만들지는 않지만 인터넷 작동 방식을 진정으로 변화시키는 AI 통합 방식입니다.

저는 우리가 에이전트 보안 문제를 해결했다고 아직 확신하지 못합니다. 저희는 여러 솔루션을 겹쳐 쌓고 무언가 잘 작동하기를 바랄 뿐입니다. 하지만 이번 주는 달랐습니다. CrabTrap, Engram, Agentic Guard MCP, Tycho — 도구들이 충분히 구체화되고 있어서 제가 나아갈 길을 볼 수 있게 되었습니다. 메모리(Memory)와 보안(Security)은 에이전트가 데모 단계에 머무를지 아니면 실제로 유용한 프로덕션 시스템이 될지를 결정할 두 개의 기둥입니다. 아직 그곳에는 도달하지 못했지만, 방향성은 맞습니다.

이 분야에서 구축하고 계시다면, 에이전트 메모리와 보안에 대한 접근 방식은 무엇인가요? 커뮤니티가 이 문제에 대해 어디로 향하고 있는지 진심으로 궁금합니다.

7x24planning