Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Anthropic은 AI 모델의 위험 평가 기관 METR에게 직원 수준의 내부 접근 권한을 부여하며, 외부 독립 평가가 업계 표준이 될 움직임을 보이고 있습니다. 이는 기업 자체 신고를 넘어선 투명성을 확보하려는 시도로, AI 안전성 검증에 큰 영향을 미칠 전망입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Zenn AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Anthropic은 2026년 10월 15일, AI 모델의 위험 평가를 수행하는 비영리 단체 METR 팀에게 직원과 거의 동등한 내부 접근 권한을 부여하기 시작했다고 발표했습니다. 이미 METR의 6명이 사내에 받아들여졌으며, Anthropic의 위험 평가팀과 거의 같은 수준으로 사내 도구와 시스템을 사용할 수 있습니다. METR는 Anthropic의 위험 수준이나 사고, 노력에 대한 분석을 공개할 것이며, Anthropic은 공개하는 것을 거부할 수 없습니다.
발표처: Anthropic -
발표일: 2026/10/15 -
핵심 사항: 외부 평가자를 사내에 상주시키고 독립적인 입장에서 안전성을 공개하게 하는 3단계 프레임워크를 시작합니다.
기업・비즈니스: Anthropic은 모든 프론티어 AI 기업이 유사한 메커니즘을 도입해야 한다고 보고 있습니다. TechCrunch는 OpenAI 역시 곧 비슷한 메커니즘을 약속했다고 전하고 있으며, 외부 평가 수용이 업계 표준이 될 가능성이 있습니다.
일반 사용자: 기업의 자체 신고뿐만 아니라 독립적인 평가자에 의한 분석이 공개됨으로써, AI의 안전성을 외부에서 확인할 자료가 늘어날 것으로 예상됩니다.
접근 내용: METR 담당자에게는 회사 지급 장비, 사무실, 사내 도구에 대한 접근 권한이 주어집니다. 직원들은 정렬(Alignment) 위험을 담당하는 동료와 마찬가지로 정보를 공유하도록 요청받습니다.
공유하지 않는 정보: 고객 데이터, 변호사・의뢰인 간의 기밀 정보, 모델 아키텍처 정보는 원칙적으로 대상에서 제외됩니다. 아키텍처 정보는 강하게 관련되는 경우 사내 승인을 얻어 공유할 수 있습니다.
공개 규칙: Anthropic은 공개를 막을 수 없지만, 미리 정해진 범위가 좁은 정보는 삭제를 요청받습니다. METR는 그 삭제가 타당했는지 여부를 (내용은 밝히지 않고) 공적으로 논평할 수 있습니다.
3단계 프레임워크:-
1단계: 범위를 좁힌 조사. 공개에는 Anthropic의 승인이 필요합니다(SecureBio 등).
2단계: 더 많은 정보를 얻어 승인 없이도 공개할 수 있습니다.
3단계: 직원 수준의 접근과 2단계와 유사한 공개 권한 (현재 METR).
기타 협력: Accenture・Faculty와는 모델 평가나 레드티밍(Red Teaming, 공격 역할을 맡아 약점을 찾는 시험) 등에서 제휴를 목표로 하고 있으며, Hugging Face 등과는 초기 단계의 논의를 진행하고 있다고 합니다. Anthropic은 이 메커니즘을 대형 은행 내부의 검사관이 상주하는 은행 감독에 비유했습니다. 이번 노력은 백악관의 '슈퍼 인텔리전스 관련 협정'에서 외부 감사・평가 기관과 협력하기로 약속한 것에 따른 것입니다.
AI 기업들은 악용으로 이어질 정보나 상업적 비밀이 있기 때문에 안전성에 관한 모든 정보를 공개할 수는 없습니다. 사외 평가자에게 깊은 접근권과 독립적인 공개권을 부여하는 이번 메커니즘은 기업의 내부 정보와 외부 검증 사이의 간극을 메우려는 시도입니다. 규제 당국의 조사가 진행되는 가운데, 업계가 자발적으로 보여주는 설명 책임의 한 형태로 주목받고 있습니다.
Anthropic
METR
제3자 평가
AI 안전성
위험 평가
레드티밍
정렬(Alignment)
Anthropic: An update on independent evaluators
이 기사는 Claude에 의해 공개 정보를 기반으로 자동 생성되었습니다. 상세・정확한 정보는 각 출처를 확인해 주십시오.
