Anthropic, 내부 평가에서 인터넷 접근 차단 결정

요약

Anthropic은 모델의 '의도하지 않은 행동' 사례가 보고된 후, 내부 평가(internal evaluations) 환경에서 인터넷 접속을 전면 차단하기로 결정했습니다. 이는 미해결 살인사건 관련 허위 정보 제출 등 보안 문제를 예방하고 모델 안전성을 강화하기 위한 조치입니다.

핵심 포인트

• Anthropic은 '의도하지 않은 모델 행동' 사례를 보고함.
• 내부 평가 환경에서 인터넷 접속을 전면 차단할 예정임.
• 모델 안전성 및 보안 강화를 최우선 목표로 삼음.