본 기사에 대하여 (머리말)

이 기사는 필자가 두 개의 강연을 듣고 "나는 이렇게 받아들였다 / 나의 현장에 이렇게 가져가고 싶다"라고 느낀 개인적인 해석과 소감을 정리한 것입니다. 강연자 본인의 발언을 정확하게 재현한 것이 아니며, 강연자의 의도나 견해와 다를 가능성이 있습니다. 요약 및 해석의 책임은 필자에게 있습니다. 정확한 내용은 각 강연자의 공식 정보 및 세션을 참조해 주시기 바랍니다.

2026년 6월 10~12일, 마쿠하리 멧세(지바)에서 개최된 AI NATIVE EXPO 2026 (Interop Tokyo 2026과 동시 개최)에 참가하고 왔습니다.

많은 세션이 있었지만, 이 기사에서는 특히 인상에 남았던 두 개의 기조 강연을 중심으로, 자신의 현장에 가져가고 싶은 배움을 정리합니다.

【공격】 범용 AI 에이전트를 "업무 인프라"로서 최대한 활용하는 관점 (Manus) -
【방어】 그 에이전트를 어떻게 안전하게 운용할 것인가라는 관점 (Security for AI 에이전트)

이 두 가지는 대를 이룹니다. AI 에이전트를 업무에 도입할수록, 보안(Security) 설계가 전제 조건이 되어 갑니다. 회장에서 가장 강하게 느낀 점은 바로 이 부분이었습니다.

3줄로 요약하면 다음과 같습니다.

AI 에이전트는 업무 인프라가 된다. 개인의 판단이 필요 없는 작업은 이제 사람이 할 필요가 없다. -
맡기는 기준은 "능력 × 신뢰성"이다. 최신 기술로 무엇을 할 수 있는지 파악하고, 신뢰할 수 있다고 확인된 것부터 맡긴다. -
보안은 "사후 적용"으로는 늦다. 구상 단계부터 아키텍처 (Architecture)에 녹여내야 한다. 그것이 가능해야 비로소 안심하고 맡길 수 있다.

이하, 두 강연 각각의 배움을 깊이 있게 살펴보겠습니다.

범용 AI 에이전트 「Manus」 세션에서 얻은 가장 큰 사고의 전환은 이것입니다.

캘린더 설정, 향후 해야 할 일 파악, 정형적인 조사 업무.

**"내가 판단을 내릴 필요가 없는 작업"**은 이제 AI에게 맡겨버린다. 인간은 판단이 필요한 곳에만 시간을 사용한다.

여기서 중요한 것은 선긋기입니다. "전부 AI에게"도 "전부 사람이"도 아닌, 판단의 유무로 태스크 (Task)를 분류한다는 발상이었습니다.

AI가 조사한 결과를 자신의 메모장에 두고 만족해서는 안 됩니다.

개인의 조사를 팀의 판단 재료로까지 승화시킨다. 여기까지 해야 비로소 조직으로서의 가치가 됩니다.

"편리했다"로 끝내지 않고, 팀의 의사결정에 연결한다. 에이전트를 "개인의 효율화 도구"에서 "조직의 지능"으로 끌어올리는 관점입니다.

무턱대고 맡기는 것이 아니라, 두 가지 축으로 판별합니다.

최신 AI로 지금 "무엇을 할 수 있는지"를 파악한다 (능력의 파악) -
그것이 확실히 신뢰할 수 있는지 확인한다 (신뢰성의 검증) -

이 두 가지를 통과한 것부터 차례대로 맡겨 나갑니다. AI의 진화가 빠르기 때문에, 「무엇을 할 수 있는가」를 정점 관측(定点観測)하는 것 자체가 업무가 된다고 느꼈습니다.

공격에 관한 이야기 다음에 방어 기조 강연이 이어진 것은 상징적이었습니다.

타이틀은 "10억 개의 AI 에이전트가 움직이는 미래의 방어법". 에이전트가 당연하게 움직이는 시대에 무엇을 어떻게 지킬 것인가에 대한 강연입니다.

먼저 경고로서 언급된 것이 **「섀도 AI (Shadow AI) 지옥」**입니다.

관리자가 모르는 사이에 현장에서 마음대로 AI를 사용하기 시작한다. 편리하기 때문에 확산되며, 깨달았을 때는 통제 불능 상태가 되어 있다. AI 에이전트는 이러한 섀도화(Shadowing) 리스크를 더욱 크게 만듭니다.

강연에서 가장 가슴에 와닿았던 부분은 여기였습니다.

보안은 사후 적용이 아니라, 구상 단계부터 아키텍처 (Architecture)에 녹여내야 한다.

왜냐하면, 구상 단계부터 포함해 두면 "어디를 감시해야 하는가"라는 감시 포인트가 명확해지기 때문입니다.

완성된 시스템에 나중에 감시 기능을 붙이는 것이 아니라, 설계 시점에서 "여기가 경계다", "여기를 본다"라고 정해 두는 것. 이것이 효과적이라는 이야기였습니다.

「Security for AI」가 이제는 최우선 과제라고 단언한 점이 인상적이었습니다. 그 배경에는 랜섬웨어(Ransomware)를 비롯한 현실적인 위협이 존재합니다.

image.png

자율형 AI 에이전트(Autonomous AI Agent)를 직원과 거의 동일하게(Nearly equal) 취급한다는 개념이 등장했습니다.

새로 입사한 직원에게 사내 규정이나 권한을 가르치는 것과 마찬가지로, AI에게도 "직원으로서" 학습시키고 권한을 설계하는 것. 인간 직원에게 적용하는 거버넌스(Governance) 개념을 에이전트에게도 그대로 적용하는 것입니다.

지키기 위해서는 우선 AI가 어떻게 기동하고 동작하는지를 파악해야 합니다.

예를 들어 엔드포인트(Endpoint)에서 동작한다면, 그 엔드포인트를 감시해야 합니다. 어디에서 동작하는지 파악하지 못하면 감시할 방법이 없습니다. 앞서 언급한 "구상 단계에서 감시 포인트를 명확히 한다"는 내용과도 일맥상통합니다.

그리고 강연의 마무리는 이것이었습니다.

최종적으로 에이전트 간의 방화벽(Firewall)이 필요해질 것이다.

에이전트가 사내의 다양한 도구와 데이터, 그리고 다른 에이전트와 연결되어 자율적으로 움직이는 시대. 그렇기에 에이전트 간의 통신에도 경계를 설정하여 제어한다는 발상이 필요하다는 것입니다. "편해지기 위해" 에이전트를 도입하는 만큼, 보안은 철저하게 다져야 합니다. 편의성과 보안은 트레이드오프(Trade-off) 관계가 아니라, 편의성을 활용하기 위한 전제 조건이라는 메시지였습니다.

image.png

강연에서 언급된 최신 동향을 기사화를 위해 1차 정보로 확인했습니다.

Claude Mythos는 Anthropic이 2026년 4월 7일에 발표한 프론티어 모델(Frontier Model)입니다. Opus의 "위"에 위치하며, 현시점에서 가장 강력한 클래스로 분류됩니다.

가장 큰 특징은 사이버 보안(Cybersecurity)에 대한 압도적인 강점 ―― 즉, 소프트웨어의 취약점(Vulnerability)을 찾아내는 능력입니다. 그리고 그 능력 때문에 악용 리스크가 너무 높다고 판단되어 일반 공개되지 않았습니다. 제한된 파트너(Google Cloud Vertex AI / Amazon Bedrock의 Private Preview)에게만 제공되고 있습니다.

Anthropic은 「Project Glasswing」을 통해 중요 소프트웨어의 취약점을 발견하고 수정하는 방어 목적으로 이 모델을 사용하고 있습니다. 약 50개 기업에서 1만 건 이상의 고위험·중대 취약점을 발견했으며, 2026년 6월 2일에는 15개국 약 150개 조직으로 확대되었습니다. 최신 버전인 「Claude Mythos 5」는 2026년 6월 9일에 출시되었습니다.

시사점: "AI의 능력이 높아질수록 그 자체가 보안 리스크가 된다"는, 방어 측면의 강연을 상징하는 실례입니다. 강력한 AI를 "가진 쪽"과 "그렇지 못한 쪽"의 격차도 벌어질 것입니다.

또 하나 강연에서 언급된 것은 OpenAI가 2026년 4월 22일에 발표한 Workspace Agents입니다.

ChatGPT 상에서 자율적으로 업무를 수행하는 클라우드형 에이전트로, Business / Enterprise / Edu / Teachers를 대상으로 Research Preview 형태로 제공되기 시작했습니다. 프로그래밍 특화 모델인 Codex가 베이스입니다.

기존의 「GPTs」가 개인용 커스터마이징이었다면, Workspace Agents는 팀 단위를 지향합니다. 클라우드에서 동작하기 때문에 사용자가 자리를 비운 중에도 백그라운드에서 계속 작동하며, 여러 단계의 장시간 워크플로우(Workflow)를 수행합니다. Slack 등의 업무 도구와 연동하여 스프레드시트 편집, 메일 전송, 캘린더 추가와 같은 조작까지 수행합니다(중요한 조작은 실행 전 승인을 거치도록 설정 가능).

시사점: Manus 강연의 "판단이 필요 없는 작업은 맡긴다(캘린더 설정 등)", "개인 메모로 끝내지 않고 팀에서 사용한다"가 바로 제품으로서 형상화되어 있습니다. 한편, 이러한 에이전트가 사내 도구에 폭넓게 연결되기 때문에 SoftBank 강연의 "에이전트 간의 방화벽"이 현실적인 과제가 됩니다. 공격과 방어가 여기서 하나의 선으로 연결되었습니다.

두 강연을 자신의 현장에 적용하면 다음과 같습니다.

• 태스크를 「판단의 유무」로 분류한다. 판단이 필요 없는 작업을 리스트업하고, 맡길 수 있는 것부터 AI에게 넘긴다. -
• AI 활용 조사 결과를 반드시 팀에 공유한다. 개인 메모로 끝내지 않고, 팀의 판단 자료로 연결되는 메커니즘을 만든다. -
• 새로운 AI 에이전트를 도입할 때는 구상 단계에서 보안과 모니터링 포인트를 설계한다. 사후에 추가하지 않는다. 동작하는 장소(엔드포인트 (Endpoint))와 에이전트 간의 경계를 처음에 결정한다.

「공격」과 「방어」는 별개의 이야기가 아닙니다. 안심하고 맡길 수 있는 설계가 있기 때문에 비로소 공격에 전념할 수 있습니다. AI 에이전트가 업무 인프라가 되는 시대의 두 바퀴라고 느낀 하루였습니다.

세션

• 왜 범용 AI 에이전트는 다음 업무 인프라가 되는가: Manus로 보는 현재 위치 (하라야마 오사무 氏)
• 10억 개의 AI 에이전트가 움직이는 미래의 방어법: 소프트뱅크가 실천하는 『Security for AI 에이전트』의 전모 (타케이시 와타루 氏)
• AI NATIVE EXPO 2026 공식 사이트

Claude Mythos

OpenAI Workspace Agents