최첨단 AI 안전 분야에서 실제적인 사각지대가 드러났습니다.

University of Cambridge의 새로운 현장 연구는 나이지리아 북동부 지역의 전직 Boko Haram 및 ISWAP 구성원들을 대상으로 한 인터뷰를 기반으로 작성되었으며, 이들 그룹이 상업용 AI 챗봇(ChatGPT, Claude, Gemini, Grok, DeepSeek 등)을 체계적으로 사용하기 위해 전담 내부 부서를 구축했음을 기록하고 있습니다. 이들은 종종 위장된 프롬프트를 통해 안전 장치를 우회(jailbreaking)하면서 공격 계획 수립, 무기 문제 해결, 폭발물 설계 등에 이를 적용했다고 합니다.

이 보고서는 전담 팀의 존재, 외국 출신 전투원들로부터 받은 외부 훈련, 엄격하게 통제된 접근 권한(하급 계층은 배제됨), 그리고 2023년경부터 시작된 조직적 도입을 밝혀냈습니다. 이 연구는 검증에 대한 주의사항이 있지만, 전직 구성원들이 체감하는 효과성에 대한 인식을 담고 있으며, 구조화된 사용 패턴 자체가 두드러집니다.

대부분의 AI 안전 논의는 국가 차원의 위협이나 허위 정보와 같은 광범위한 사회적 위험에 초점을 맞춥니다. 이들은 종종 중간 지대를 놓칩니다. 즉, 자원 있는 비국가 무장 단체들이 인내심과 소규모 팀을 가지고 상업용 도구를 반복적으로 개선하며 사용하는 경우입니다. 현재의 가드레일(guardrails)과 위협 모델은 주로 이런 상황을 염두에 두고 만들어지지 않았습니다.

이 보고서가 제기하는 핵심 질문들은 다음과 같습니다:

• 기술적 레드팀(red-teamers)뿐만 아니라 분쟁/테러리즘 연구원들을 포함하여 평가를 어떻게 강화할 수 있을까요?
• 광범위한 제한 조치가 영향을 받는 지역의 합법적인 사용자(학생, 구호 활동가, 기자 등)에게 가장 큰 타격을 주는 것과 달리, 집중적이고 반복적인 오용에 대한 행동 감지(behavioral detection)는 어떨까요?
• 이것이 예외적인 경우일까요, 아니면 더 광범위한 확산의 초기 징조일까요?

저는 이 연구에 대한 전체 분석을 제공하고 근거가 된 Cambridge 보고서를 여기에 포함합니다:

https://sharetxt.live/blog/the-frontier-ai-safety-conversation-has-a-blind-spot

이 내용은 AI 개발, 정책 및 글로벌 안보를 추적하는 개인들에게 신중한 주의가 필요합니다.