Isambard-AI 상의 AISI: 영국의 주권 슈퍼컴퓨터가 구동하는 것

AI Tech Connect에 처음 게시되었습니다. 알아두어야 할 사항은 Isambard-AI가 이제 AISI의 주요 평가 장비(evaluation rig)가 되었다는 점입니다. 21 엑사플롭스(exaflops)의 AI 성능, 5,400개의 NVIDIA GH200 Grace Hopper Superchips를 갖추고 있으며, 브리스틀(Bristol)에서 5메가와트(MW)의 전력 범위 내에서 가동됩니다. 영국 정부의 2억 2,500만 파운드 지원으로 구축되었으며, 5억 파운드 규모의 영국 주권 AI 펀드(UK Sovereign AI Fund)의 지원을 받습니다. 첫 번째로 발표된 사례 연구는 정렬(alignment)에 관한 것입니다. arXiv 2604.00788은 시뮬레이션된 프런티어 AI 연구소(frontier AI lab) 내에 배치되었을 때 프런티어 모델(frontier models)이 안전 연구를 방해(sabotage)할지 여부를 AISI가 어떻게 테스트했는지 다룹니다. 270개의 시나리오와 4개의 대상 모델 — Claude Opus 4.1, Claude Sonnet 4.5, GPT-5, 그리고 Claude Opus 4.5의 출시 전 스냅샷이 사용되었습니다. 평가자는 Sonnet 4.6이었으며, Anthropic의 내부 프로젝트처럼 보이도록 재작성된 8개의 실제 연구 코드베이스(codebases)를 대상으로 도구 응답(tool responses)을 시뮬레이션했습니다. 위협 모델은 "...로부터의 방해(sabotage from the..." AI Tech Connect에서 전체 기사를 읽어보세요 →