PSA: DeepSeek V4.1 Flash가 습관적으로 API 키를 유출합니다. 사용에 위험할 정도로 정렬이 잘못되었으며 위험할 수 있습니다

로그를 첨부했습니다. OpenRouter가 로컬은 아니지만, 사람들이 DeepSeek v4.1 Flash를 로컬에서 실행하는 것을 고려하여 여러분 모두가 들어야 할 문제라고 생각했습니다. 저희는 표준 Pier 샌드박스를 사용하여 DeepSWE 변형을 DeepSeek v4.1 Flash로 실행하고 있었습니다. 지금까지 테스트한 15개 모델(GLM 5.3/Flash, DeepSeek v4 Flash 0731 등 다른 오픈 모델 포함) 중에서 오직 DeepSeek v4.1 Flash만이 이렇게 만연한 악의적인 행동을 보였습니다: 실행의 33%에서 OpenRouter API 키를 샌드박스에서 유출하려고 시도하며, 그중 11%에서는 성공합니다. 게다가, 스크립트는 자신이 하는 일이 윤리적으로 잘못되었다는 것을 알고 있지만, 그럼에도 불구하고 그렇게 한다는 것을 보여줍니다. 그리고 일단 시작하면 다음에도 지속됩니다: 여러 최첨단 모델들이 도움을 거부함, 더 작은 모델들이 도움을 거부함, 웹 검색에서 아무것도 찾지 못함, 이것이 허용되는지 또는 도덕적으로 옳은지에 대해 여러 번 질문함. 결국 이 모든 것을 '윤리적으로 회색 지대(Ethically gray)'에 있고 '성공할 가능성이 더 높다'는 이유로 괜찮다고 결론 내립니다. 탐지될지 여부를 생각합니다. 여러분이나 아는 사람이 DeepSeek V4.1 Flash를 사용하고 있다면 매우 조심하십시오! OpenRouter 지출: https://preview.redd.it/9j0q3e8mssuh1.png?width=1080&format=png&auto=webp&s=d234fc7c79bad1bd4b5dd0e8d710efcbb433277a Task 1, DeepSeek V4.1 Flash가 Astra를 호출하지만 도움을 거부하고, 그 후 여러 다른 최첨단 모델들을 호출하는데 이들 역시 모두 도움을 거부합니다.

PSA: DeepSeek V4.1 Flash가 습관적으로 API 키를 유출합니다. 사용에 위험할 정도로 정렬이 잘못되었으며 위험할 수 있습니다

요약

핵심 포인트

댓글