DeepSeek 스레드에서 본 또 다른 작은 도전 과제입니다. 저는 이것을 Qwen FN NvFp4로 시도해 보고 싶었습니다. 문서에 첨부된 4개의 이미지가 있는 매우 간단한 프롬프트였습니다. 그 스레드는 다양한 하네스(harness)와 모델을 테스트하고 결과를 보여주고 있었습니다. 해당 스레드의 작성자는 같은 도전 과제에 대한 다른 두 개의 스레드를 가지고 있었는데, 하나는 DeepSeek Harness만 사용했기 때문에 저도 그것을 사용했습니다. 약 27분이 걸렸습니다 (나쁘지 않았습니다). 그리고 이것이 모든 것을 어떻게 계획하는지에 놀랐고, 또한 이 모델에는 비전(vision) 기능이 있습니다. 저는 Qwen의 비전 기능 역시 많은 정확성 호출과 조정에 큰 부분이 된다고 생각합니다. 특히 다른 프로젝트를 위해 blender를 사용할 때 눈에 띄었습니다. 제가 실제로 2주 전에 시작했기 때문에 blender 사용법을 익숙하게 사용하는 데 너무 어려움을 겪지 않았고, LLM이 그것을 실행하는 것은 매우 재미있게 사용하고 있습니다. 그러니 비전을 실행할 수 있다면 놓치지 마세요. ㅋㅋ 아무튼 이것이 결과였고, Qwen이 참조 자료의 모든 배치, 디자인 및 작은 디테일을 얻으려고 노력한 방식이 좋았습니다. 아래는 제가 사용하는 측정값과 하드웨어 등입니다. 전체 프롬프트는 참조된 스레드에서 가져왔습니다. 또한 Qwen에 대해 어떤 하네스도 사용하지 않는다면 결과를 보고 싶거나 가능하다면 다른 하네스의 결과도 보고 싶습니다. 마지막으로, 이곳 커뮤니티와 로컬로 여러 방면에서 기여하거나 심지어 단순히 커뮤니티와 상호작용하는 모든 분들께 감사드립니다. 계속해서 멋진 작업을 해나가시고 Local 실행의 미래를 기대합니다. 전체 프롬프트 문서는 https://www.reddit.com/r/DeepSeek/comments/1x8nnjy/deepseek_v41_flash_1017_vs_claude_haiku_55_same/ 입니다. 텍스트 프롬프트만: "JavaScript를 사용하여 매우 사실적인 3D 1인칭 게임을 만드세요. 이 게임은 단일 방에서 진행됩니다. 그 방은 첫 번째 이미지에 보이는 방입니다. 첫 번째 이미지의 방을 JavaScript로 절대적으로 차이 없이 모델링하세요. 만화 스타일로 만들지 마세요. 극도로 사실적이어야 합니다. 가장 좋은 방식으로, 동일하게, 매우 사실적인 그래픽으로 모델링하고 모든 것을 매우 귀엽게 만드세요."
“귀엽다(cute)”는 말은 두 번째, 세 번째, 네 번째 이미지의 스타일을 의미합니다. 윤곽이 명확하게 정의된 귀여운 물건들입니다. 이와 같은 스타일로, 2번째, 3번째, 4번째 이미지처럼 귀엽지만 현실적이고 잘 만들어진 방식으로 만드세요. 제가 보낸 4개의 이미지를 모든 픽셀을 하나하나 자세히 검토했으니, 제가 원하는 대로 정확하게 만들 수 있습니다. 완벽하게 만들고 최고의 결과물을 보여주세요.” 엔진: https://github.com/sergqwer/strata-nvfp4 스택 하드웨어: RTX 5090 32GB · Ryzen 7 9800X3D · 192GB DDR5-5600 · Windows 11 엔진: strata-nvfp4 (sergqwer의 Niko1221/Strata를 포크함) on Windows, llama-swap as switcher 모델: Qwen3.8-Flash-Next 125B-A6B 하이브리드 MoE — abliterated checkpoint(windowsxp811203), self-converted NVFP4 가중치: NVFP4 전문가 (4.5-bit) + Q8_0 밀집 · KV: int8 · PLE: bf16 · 임베딩: bf16 MTP: draft head, spec 5, spec-min-p 0.7 · 컨텍스트: 최대 262,144 · 압축 여정: 220,144 샘플링: temp 0.8 / presence_penalty 0.3 / min_p 0.02 · 비전: fp32 mmproj, 인코더 on CPU RAM 등급: 63 GiB 고정 전문가 · 하네스: dsh (웹 GUI), OpenAI API 지표 — 이번 실행 지표 | 값 월: 첫 메시지 → 마지막 답변 | 26분 17초 − 내 승인 지연 시간 | −0초 (프롬프트 없음) = 순수 에이전트 작업 시간 | 26분 17초 턴 | 1 (단일 프롬프트, 돌봄 불필요) 단계 | 103 출력 토큰 | 132,929 새 입력 토큰 | 247,232 캐시 읽기 토큰 | 11,994,999 ( 98.0% 적중 ) 디코딩 (엔진 검증) | 중앙값 121.4 t/s · 평균 121.2 · 최고 187.8 TTFT | 중앙값 0.85초 (최대 32.9초 @ ~194k 컨텍스트) 프리필 (새 입력, 엔진 검증) | 평균 2,757 t/s · 최고 7,096 t/s 가장 긴 단일 버스트 | 10,395 토큰 압축 | 0 (194k에서 정점, 220k 선 근처에 도달한 적 없음) 도구 호출 | 총 179개 · 17시간 29분 실행 시간 · /u/Beneficial-Ad-8127가 제출한 오류 없음 [링크] [댓글]}**```jsoncsharp
{
