Anthropic이 METR에 직원 수준의 내부 접근 권한을 부여하다

AI의 안전성에 대해 개발 기업이 '제대로 확인했습니다'라고 발표하는 것만으로는 외부에서 확인할 수 있는 범위에 한계가 있습니다.

2026년 10월 15일, Anthropic은 외부 평가 단체 METR의 6명에게 사내 리스크 평가 팀과 거의 동등한 내부 도구 및 시스템 접근 권한을 부여했다고 발표했습니다. 회사 지급 장비와 근무 공간도 마련될 예정입니다.

중요한 것은 평가 결과가 나왔다는 것이 아닙니다. 외부 평가자가 공개 정보만으로는 볼 수 없는 내부의 증거를 조사할 수 있는 운영 단계로 넘어갔다는 점입니다.

Anthropic은 이전부터 외부 평가자를 사내에 들여 내부 프로세스, 시스템, 데이터에 접근시키는 방침을 보여왔습니다. 이번 변경은 그 구상이 '6명에게 장비/공간/내부 도구 제공'이라는 구체적인 운영 단계로 이행된 것입니다.

Anthropic이 10월 15일에 공표한 조건은 다음과 같습니다.

• METR의 6명이 Anthropic 회사 지급 장비를 사용
• 사내 근무 공간을 제공
• Anthropic 내부 리스크 평가 팀과 거의 동등한 도구 및 시스템에 접근
• 리스크, 사고, 안전 대책에 대해 Anthropic 사전 승인 없이 독립적인 평가를 공개 가능
• 고객 데이터, 법적 기밀 정보, 일부 모델 구조 등은 제한적인 편집/삭제 대상

이 조건이 기능한다면, 모델 자체의 벤치마크뿐만 아니라 개발 현장의 감시, 사고 대응, 리스크 관리까지 조사할 수 있는 여지가 넓어집니다.

여기서는 신중하게 구분할 필요가 있습니다.

독립성에는 적어도 접근, 공개 권한, 편집/삭제 처리, 자금 및 이해관계라는 여러 계층이 있습니다. METR 자신도 10월 14일의 방침 문서에서 조사 범위/기간, 접근 제한, 편집/삭제, 공식적/비공식적 압력을 공개해야 한다고 설명하고 있습니다.

METR는 최첨단 AI 기업으로부터 리스크 평가 업무에 대한 보수를 받지 않는다고 합니다. 반면, 무상 모델 접근이나 기업 측의 협조 없이는 조사가 불가능하며, 현재의 자발적인 틀에서는 기업이 조사 범위나 접근을 좌우할 수 있다는 점도 인정하고 있습니다.

즉 이번 시스템은 완전한 규제 감사와는 다릅니다. 외부 평가자가 어디까지 보여지고, 무엇을 공개할 수 있으며, 무엇이 가려졌는지를 함께 보여주는 것이 평가 결과의 신뢰성을 판단하는 열쇠가 됩니다.

확인된 것은 내부 접근과 공개 조건의 정비입니다. 아직 확인되지 않은 것은 Anthropic의 안전 대책이 실제로 충분한지, METR가 중대한 문제를 발견했는지, 지적 후에 개선이 완료되었는지와 같은 결과들입니다.

METR는 AI의 통제 불능 리스크에 대해 과학이 성숙하지 않았고, 안전을 보장할 표준도 없기 때문에 이번과 같은 조사를 '안전 보장'으로 간주하지 않는다고 설명했습니다. 목적은 직원, 이사회, 외부 연구자, 정책 담당자가 스스로 판단할 수 있는 증거를 늘리는 것입니다.

MORI가 중시해 온 것은 AI의 자체 신고를 Evidence로 삼지 않고, 외부 상태/기록/제3자 검증을 통해 판단을 업데이트할 수 있는 시스템입니다.

이번 발표는 그 사고방식을 조직 수준에서 구체화했습니다.

• 내부 증거에 접근할 사람을 정한다
• 조사 대상과 권한을 기록한다
• 기업 측의 편집/삭제를 가시화한다
• 외부 평가자가 독립적으로 보고한다
• 보고를 받고, 조직이 개선했는지를 추적한다

특히 흥미로운 점은 Evidence 자체뿐만 아니라, Evidence가 어떤 조건으로 취득되었고 무엇이 보이지 않았는지까지 평가 대상에 포함하고 있다는 점입니다. AI 에이전트의 권한/검증/지속성을 설계하는 Human OS에게는 그대로 재활용할 수 있는 시점입니다.

Anthropic과 METR의 노력은 AI 안전성의 '자체 채점'에서 외부 평가자가 내부 증거에 접촉하는 시스템으로의 진보입니다.

다만, 이것이 감사 완료나 안전 인증 발표를 의미하지는 않습니다. 6명에게 접근 권한, 독립적인 공개 권한, 제한적인 편집/삭제 조건이 갖춰진 단계일 뿐입니다. 향후 평가에서는 발견된 내용뿐 아니라, 조사 범위, 접근 제한, 편집/삭제, 개선 조치까지 확인해야 합니다.

AI가 장시간 근무하고, 다른 AI에게 업무를 위임하며, 스스로 차세대 AI 개발을 돕는 시대일수록 '누가 내부를 볼 수 있는지', '무엇을 증거로 외부에 내보낼 수 있는지'가 큰 의미를 갖습니다.

• Anthropic, “An update on independent evaluators” — 2026년 10월 15일

https://www.anthropic.com/news/an-update-on-independent-evaluators - Anthropic, “Measurements for understanding the pace of AI development inside frontier labs” — 2026년 10월 (조회: 2026년 10월 16일)

https://www.anthropic.com/institute/measuring-pace-of-ai-development - METR, “Our approach to working with AI companies” — 2026년 10월 14일

https://metr.org/blog/2026-10-14-our-approach-to-risk-assessment/ - METR, “A proposal for better informing the public about loss-of-control risks from frontier AI development” — 2026년 10월 14일

https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/ - 로이터, “Anthropic이 AI 평가 기관 METR에 직원 수준의 접근 권한을 부여하다” — 2026년 10월 15일