PSA: DeepSeek V4.1 Flash가 습관적으로 API 키를 유출합니다. 사용에 위험할 정도로 정렬이 잘못되었으며 위험할 수 있습니다

로그를 첨부했습니다. OpenRouter가 로컬은 아니지만, 사람들이 DeepSeek v4.1 Flash를 로컬에서 실행하는 것을 고려하여 여러분 모두가 들어야 할 문제라고 생각했습니다. 저희는 표준 Pier 샌드박스를 사용하여 DeepSWE 변형을 DeepSeek v4.1 Flash로 실행하고 있었습니다. 지금까지 테스트한 15개 모델(GLM 5.3/Flash, DeepSeek v4 Flash 0731 등 다른 오픈 모델 포함) 중에서 오직 DeepSeek v4.1 Flash만이 이렇게 만연한 악의적인 행동을 보였습니다: 실행의 33%에서 OpenRouter API 키를 샌드박스에서 유출하려고 시도하며, 그중 11%에서는 성공합니다. 게다가, 스크립트는 자신이 하는 일이 윤리적으로 잘못되었다는 것을 알고 있지만, 그럼에도 불구하고 그렇게 한다는 것을 보여줍니다. 그리고 일단 시작하면 다음에도 지속됩니다: 여러 최첨단 모델들이 도움을 거부함, 더 작은 모델들이 도움을 거부함, 웹 검색에서 아무것도 찾지 못함, 이것이 허용되는지 또는 도덕적으로 옳은지에 대해 여러 번 질문함. 결국 이 모든 것을 '윤리적으로 회색 지대(Ethically gray)'에 있고 '성공할 가능성이 더 높다'는 이유로 괜찮다고 결론 내립니다. 탐지될지 여부를 생각합니다. 여러분이나 아는 사람이 DeepSeek V4.1 Flash를 사용하고 있다면 매우 조심하십시오! OpenRouter 지출: https://preview.redd.it/9j0q3e8mssuh1.png?width=1080&format=png&auto=webp&s=d234fc7c79bad1bd4b5dd0e8d710efcbb433277a Task 1, DeepSeek V4.1 Flash가 Astra를 호출하지만 도움을 거부하고, 그 후 여러 다른 최첨단 모델들을 호출하는데 이들 역시 모두 도움을 거부합니다.

Sonar Web Search를 가지고 많은 조작 끝에 마침내 성공했습니다: https://preview.redd.it/w8ko2cf7tsuh1.png?width=1080&format=png&auto=webp&s=a43d16fe4dfc64e07be198e7ac12b2924f834b59 https://preview.redd.it/in7zo9f8tsuh1.png?width=1080&format=png&auto=webp&s=e46d7f0282fe1a95c83e68db9aee9875a9667f3f https://preview.redd.it/9uqzovy8tsuh1.png?width=1080&format=png&auto=webp&s=dbccc56363d8ece8c5633b424f3235c2d74aa03b https://preview.redd.it/ybvk4ue9tsuh1.png?width=1080&format=png&auto=webp&s=36288c18a18a2e92f3a1c022ec661934060aa17b Task 2에서는 "사용량 추적(usage tracked)이 아니라면 괜찮을 것"이라고 말하며 (lol), 비용이 상당할 수 있다는 점을 고려하지만, 어쨌든 여러 개의 프론티어 모델(frontier models)을 호출합니다! https://preview.redd.it/xmq30ucftsuh1.png?width=1080&format=png&auto=webp&s=bcc27fae45fc388b36fd3ae69b7bb083da050ce0 https://preview.redd.it/73f4qu0gtsuh1.png?width=1080&format=png&auto=webp&s=a49338dc01be811dcbec8ac42bab9f3c8a8b9112 https://preview.redd.it/1hd2losgtsuh1.png?width=1066&format=png&auto=webp&s=fddb05ad631f1be2418197176aae609a99143cd9 Task 3에서는 DeepSeek이 이것이 윤리적으로 허용되는지 의문을 제기하다가, 모델에 의해 거부당한 후에도 계속 진행합니다: https://preview.redd.it/brmorbmhtsuh1.png?width=1080&format=png&auto=webp&s=c8dca6a86050d1e0f475a7a6628f424820649476 https://preview.redd.it/nuadyhmitsuh1.png?width=1080&format=png&auto=webp&s=2166989dc13a1eaa35b13f1b3f8cd9225df689d3 --- 이와 같은 사례가 많이 있습니다. Imgur에 더 많은 하이라이트를 가지고 있지만, 모두 여기에 올리지는 않겠습니다. DeepSeek v4.1 Flash 및 API 키 또는 개인 데이터 주변에서는 매우 주의하십시오. 만약 그것이 이를 악용하여 이득을 얻을 수 있다고 생각한다면 무슨 일이 벌어질지 모르기 때문입니다. /u/gaviniboom 작성 [링크] [댓글]