스토리 타임: Strix Halo 노트북에서 Qwen3.8-Flash-Next와 동일한 기능을 가진 Claude Opus 5.5 비교

지난 몇 주 동안 제가 작성한 코딩 작업 대부분은 Qwen3.8-Flash-Next를 사용하여 로컬로 진행했기 때문에, LlamaStash(복잡하고 큰 Rust 프로젝트)에 구축할 수 있는 매우 복잡한 기능을 부여하여 Opus 5.5와 비교해 보았습니다.

설정: ASUS ROG Flow Z13 (Strix Halo, 128GB), Pi를 하네스로 사용하여 Flash-Next는 xhigh 노력으로 진행했습니다. Opus 5.5는 Claude Code에서 medium 노력으로 실행되었습니다. 저 역시 Opus에 대해 xhigh를 원했지만, 최신 모델을 선택했을 때 Claude가 이를 medium로 변경했고 작업이 끝날 때까지 알아차리지 못했습니다. 하지만 어쨌든 medium가 더 공정한 설정일 것 같습니다.

작업: 기존의 시작 및 중지 코드를 재사용하는 llamastash 데몬 재시작 명령 추가하기. 의도적으로 프롬프트를 모호하게 유지했고, 두 모델에게 동일한 프롬프트를 제공했습니다.

단계별 비교:

최종 결과는 흥미로웠습니다. GPT 5.6, Opus 5.5, 그리고 Flash-Next에게 두 PR을 검토하고 비교하도록 요청했습니다(새 세션). GPT와 Flash-Next는 Flash-Next의 PR(#89)을 선택했고, Opus는 자신들의 PR(#88)을 선택했습니다. 저 역시 직접 검토해보고 더 나은 테스트를 가지고 있고 엣지 케이스를 더 잘 처리하는 Flash-Next가 더 낫다고 판단했습니다. 결국 #89를 병합했으며, 리뷰에서 가져온 #88의 수정 사항들을 포팅했습니다.

명심하세요: Opus는 medium 노력으로 진행되었습니다. xhigh로 했다면 훨씬 많은 토큰을 사용했을 것이고, 시간이 조금 더 걸렸으며, 아마도 더 나은 구현을 했을 것입니다. Flash-Next는 이전 Halogen 버전(0.14.0)에서 실행되었고, Halogen이 연결을 한 번 끊었기 때문에 마지막 부분은 Gufo로 실행되었습니다. 현재 Halogen은 제 노트북에서 70W로 약 1,400 t/s의 prefill과 46 t/s의 decode를 수행하므로, 테스트를 다시 한다면 시간이 많이 줄어들 것이라고 생각합니다.

7.53달러는 Claude Code가 PR에 대한 나중 수정까지 포함한 전체 Opus 세션에서 보고한 수치입니다. 0.15 kWh는 전체 130분 동안 70W를 가정합니다. Opus는 여전히 2배에서 10배 더 빠르며, 저는 계획 및 검토 작업에 여전히 사용하고 있습니다. 하지만 실제 코딩은 이제 제 노트북에서 이루어지며, 저에게는 이처럼 최첨단 모델(frontier model)과 경쟁할 수 있는 로컬 모델을 구동할 수 있다는 것이 놀랍습니다. 제 설정, 엔진 벤치마크 및 두 번째 작업 비교가 담긴 전체 게시물: https://deepu.tech/local-ai-qwen3.8-flash-next-best-local-llm /u/deepu105 제출 [링크] [댓글]