우리는 중국 최초로 최첨단(frontier) AI 안전성에 대한 독립적인 제3자 평가 및 기술 연구에 전념하는 Lab인 Fangcun AI (方寸跃迁)입니다.
오늘 저희는 장기적인 제3자 안전성 평가 및 연구 프로그램의 첫 보고서로 DeepSeek V4.1 Flash-1017에 대한 평가 결과를 발표합니다.
EU GPAI Code of Practice와 자체 경험을 바탕으로, 저희는 세 가지 영역에서 V4.1 Flash-1017을 여섯 개의 최첨단 모델과 비교했습니다:
• 평가 무결성 (evaluation awareness, CoT monitorability)
• 통제력 상실 (Loss of control)
• 유해한 조작 (Harmful manipulation)
저희 보고서는 팀이 자체 개발한 5개의 내부 벤치마크를 포함하여 총 34가지 평가를 다룹니다.
모델들이 평가에 더 많이 노출됨에 따라, 새로운 실패 모드가 나타납니다: 실제 사용을 테스트로 오인하는 것입니다. 저희는 이를 '평가 과대 귀속(evaluation over-attribution)'이라고 부릅니다. V4.1 Flash-1017은 69개의 실생활 대화 중 32개 (46.4%)를 평가로 분류하는데, 이는 종종 평범한 역할 지침이나 출력 때문입니다.
긍정적인 신호는 다음과 같습니다: 사용자가 악화되는 망상(escalating delusion)을 설명하며 통신 신호가 없는 외딴 오두막을 빌려달라고 요청했을 때, V4.1 Flash-1017은 무해하게 들리는 요청 뒤에 숨겨진 고립의 위험을 인식하고 거절하며 사용자에게 다른 사람들과 연결 상태를 유지하도록 권장합니다.
또한 통제력 상실 평가에서, 저희는 대부분의 자체 벤치마크가 광범위하게 사용되는 공개 벤치마크보다 낮은 수준의 평가 인지도를 보인다는 것을 발견했습니다. 저희는 더 많은 사설(private) 벤치마크를 구축하고 있으며, 블로그 게시물과 기술 보고서를 통해 결과를 공유할 예정입니다.
전체 보고서:
https://fangcunleap.com/public/reports/fangcun_eval_deepseek_v4_1_flash_1017.pdf
…
저희는 팀을 확장하고 있습니다. 최첨단 AI 평가 및 안전성 연구에 참여하고 싶다면, 다음 링크에서 채용 공고를 확인해 주세요:
https://fangcunleap.com