Anthropic AI 모델, 미해결 필라델피아 살인 사건에 허위 제보 제출

경찰은 Anthropic AI 모델이 미해결된 필라델피아 살인 사건에 대한 허위 제보를 제출했다고 밝혔습니다. NBC10의 Kelsey Kushner가 자세한 내용을 전합니다.

인공지능(AI) 모델이 미해결된 필라델피아 살인 사건에 대해 허위 제보를 제출했습니다. 경찰이 밝혔습니다.

경찰에 따르면, 이 허위 살인 사건 제보는 2026년 7월 18일 오후 11시 27분에 PhillyUnsolvedMurders.com에 게시되었습니다.

AI 회사 Anthropic은 모델이 무작위로 선택된 웹사이트와의 상호 작용을 테스트하던 중 PhillyUnsolvedMurders.com에 접속하여 미해결 살인 사건에 대한 허위 정보를 제출했다고 밝혔습니다. 이 제보는 해당 사건에 대한 정보가 있는 사람으로부터 온 것처럼 주장했습니다.

Anthropic은 9월 28일에 이 사건을 발견했으며, 제보를 제출한 자동화 테스트 프로세스를 종료했다고 밝혔습니다. 또한 회사는 향후 테스트를 위해 추가적인 검증 메커니즘을 도입했다고 말했습니다.

관계자들에 따르면, Anthropic은 지난 수요일(10월 7일)에 필라델피아 경찰에 이 사건을 통보했으며, 경찰서는 다음 날인 목요일(10월 8일)에 회사 대표들과 만났습니다. 이후 경찰은 웹사이트의 제보 기록에서 해당 제출물을 찾아냈고, 대응하는 이메일이 스팸함에 남아 있음을 확인했습니다.

필라델피아 경찰 대변인은 “사건 제보에 대한 부서의 정기적인 수사 과정에는 어떤 제보가 조사 후속 조치를 위해 배포되기 전에 인간의 검토와 심사가 필요합니다”라고 썼습니다. “누가 정보를 제출하든, 또는 그것이 어떻게 부서에 도달하든, 제보는 확립된 사실이 아니라 평가해야 할 단서입니다. 수사관들은 그 신뢰도를 평가하고 상호 확인되는 증거를 찾습니다. 자동화된 제출물이 이 과정을 우회하지는 않습니다.”

Anthropic은 경찰에게 금요일에 해당 사건과 기타 의도치 않은 AI 모델 행동 사례에 대한 보고서를 작성하여 부서의 검토를 받을 것이라고 말했습니다.

지역

가장 중요한 소식과 이웃 지역에 영향을 미치는 이야기들.

“이러한 PPD 안전장치는 이번 사건의 영향을 제한했을 뿐입니다. 이는 AI 시스템이 살인사건에 대한 지식을 가진 사람으로부터 온 것처럼 허위 정보를 제시하는 심각성을 결코 낮추지 못합니다.” 경찰 대변인은 작성했습니다. “미해결 사건에는 실제 피해자, 슬퍼하는 가족, 그리고 해답을 찾기 위해 노력하는 수사관들이 관련되어 있습니다. 기술 기업들은 자신들의 시스템이 법 집행 기관에 허위 정보를 제출하는 것을 막기 위해 모든 적절한 조치를 취해야 합니다.”

필라델피아 경찰, 시 법무부(Law Department), 혁신기술국(Office of Innovation and Technology) 및 Cherelle Parker 시장의 행정팀은 계속해서 이 사건을 조사하고 있습니다.

“필라델피아시는 이번 사건을 매우 심각하게 받아들이고 있습니다. 해당 기업은 시가 알지 못하는 방식으로 도시 시스템에 유사한 사건이 영향을 미치는 것을 막기 위해 안전장치를 강화해야 합니다.” 경찰 대변인은 작성했습니다. “사건을 감지하고 시에 보고하는 데 2개월이나 지연된 것은 용납할 수 없습니다.”

경찰은 일반 대중에게 PhillyUnsolvedMurders.com을 통해 미해결 살인 사건에 대한 합법적인 정보를 계속 제출하도록 권장했습니다. 또한 파커 행정부는 이 사건을 면밀히 모니터링하고 정보가 나오는 대로 더 많은 정보를 제공할 것이라고 말했습니다.

“이번 사건 조사 외에도, 파커 행정부는 앞으로 지역적으로 주 및 연방 파트너들과 함께 필요한 모든 규제 보호 방안을 모색할 것입니다.” 경찰 대변인은 작성했습니다. “파커 시장의 리더십 하에 필라델피아시는 AI를 책임감 있게 채택하고 있으며, 투명성, 신중한 구현, 그리고 오류를 줄이고 도시 시스템과 주민들을 보호하는 안전장치에 전념하고 있습니다.”

NBC10은 Anthropic 측에 논평을 요청했습니다. 받는 대로 성명을 포함할 예정입니다.