단독: Anthropic의 핵심 인프라 보호 계획

Anthropic은 전력망, 상하수도 시설 및 기타 핵심 인프라를 보호하는 기업들에게 가장 강력한 AI 모델과 엔지니어를 제공하기 위한 새로운 사이버 보안 이니셔티브를 시작한다고 Axios에 처음 공개했습니다.

중요한 이유: 핵심 인프라 운영자들은 노후화되고 복잡한 시스템을 확보하는 데 어려움을 겪고 있으며, AI가 사이버 공격을 실행하는 것을 더 빠르고 저렴하게 만들 위협이 되고 있습니다.

---

뉴스 동력: 새로운 '핵심 인프라 방어 프로그램(Critical Infrastructure Defense Program)' 하에 Anthropic은 최첨단 AI 모델, 현장 엔지니어 및 위협 연구를 핵심 인프라 시스템 보안을 책임지는 기업들에게 제공할 예정입니다.

• 참여 기업들은 이러한 자원을 활용하여 고객 시스템의 취약점을 식별하고 수정할 것입니다.
• 이 프로그램의 창립 파트너에는 Accenture, Booz Allen Hamilton, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC 및 Rockwell Automation이 포함됩니다.
• Anthropic에 따르면 여러 파트너들이 이미 Claude를 사용하여 취약점을 수정하고 고객들도 그렇게 할 수 있도록 돕고 있습니다.

자세히 보기: Anthropic은 또한 오픈 소스 소프트웨어 프로젝트를 위한 무료 AI 기반 취약점 스캐닝 서비스인 'OSS Scanner'도 출시합니다.

• 참여 프로젝트들은 Claude로부터 주기적인 스캔을 받을 것이며, 이와 함께 취약점 상세 정보, 악용 방법 및 제안된 수정 사항을 담은 자동화 보고서가 제공됩니다.
• 이 보고서는 소프트웨어 유지 관리자에게 전송되기 전에 인간의 검토를 거치지 않으므로 일부 발견 내용은 부정확할 수 있습니다.

큰 그림: Anthropic, OpenAI 및 다른 AI 개발사들은 해커들이 유사한 역량에 접근함에 따라(access to similar capabilities) 가장 강력한 모델을 사이버 방어자들의 손에 넣을 방법을 모색하고 있습니다.

Anthropic의 새로운 이니셔티브는 Project Glasswing에서 얻은 교훈을 바탕으로 합니다. 해당 프로젝트에서는 검증된 조직들이 Anthropic의 가장 강력한 AI 모델에 접근하여 보안 취약점을 식별할 수 있었습니다.

회사는 이 프로젝트를 통해 AI가 얼마나 빠르게 취약점을 발견할 수 있는지, 하지만 동시에 이를 검증하고 수정하는 것이 여전히 얼마나 어려운 일인지 보여주었다고 말했습니다.

하지만: 전력 공사 같은 핵심 인프라의 운영을 방해하지 않으면서 참여 기업들이 어떻게 안전하게 패치를 테스트하고 배포할 수 있을지 불분명합니다. 이는 핵심 인프라를 보호하는 데 있어 가장 큰 과제 중 하나입니다.

또한 Anthropic은 파트너들이 무료 모델 접근 권한을 받을 것인지, 아니면 그들의 AI 도구를 사용하는 것과 관련된 컴퓨팅 비용을 누가 부담할 것인지도 명시하지 않았습니다.

더 깊이 보기: AI가 일상적인 공공시설의 해킹에 가속도를 붙이다