저는 50세이고 자폐 스펙트럼이 있습니다. 젊었을 때 대학에서 C++을 배웠지만 실제로 많이 사용하지는 않았습니다. 또한 게임 해킹을 위해 Cheat Engine을 사용하면서 어셈블리(Assembly)를 약간 배웠고, 그 덕분에 LUA 경험도 조금 쌓았습니다. 저는 항상 코딩을 싫어해 왔습니다. 마치 "벽에 머리를 들이받는" 것 같은 활동이지만, 컴퓨터가 내가 원하는 대로 움직이게 만들 수 있다는 점이 꽤 멋져서 시작하게 되었습니다. 하지만 코딩은 제 적성이 아니었기에 이러한 태도는 아주 오래전에 사라졌습니다. 제 자폐 때문일 수도 있고, 제가 못해서일 수도 있으며, 그냥 단순히 좋아하지 않는 것일 수도 있습니다. AI 초기에는 모델에게 복사해서 붙여넣을 수 있는 간단한 것들을 만들어 달라고 요청하곤 했는데, 결국 로컬 모델(Local model)을 사용하여 리포지토리(Repo)를 클론하고 빌드할 수 있는 수준까지 도달했습니다. 이건 정말 너무나 재미있습니다. 자, 본론으로 들어가죠. 제가 만드는 게임에는 3D, 경로 탐색(Path finding), 루틴(Routines) 등 수많은 기능이 포함되어 있습니다. 그중 더 까다로운 부분 중 하나는 게임이 LLM을 사용한다는 점입니다. 저는 이 모든 것을 작동시키기 위해 벽에 머리를 들이받으며 고군분투해 왔고, 오늘 qwen 3.8을 LLM으로 가져오기로 결정했습니다. 제가 겪고 있는 문제들을 설명했더니 10분 만에 모든 것을 해결해 주었습니다. 완벽하지는 않았지만, llama.cpp와 Godot의 커스텀 애드온(Addon)이 포함된 작업이었습니다. 모델 사용의 영향력 순서대로 제 생각을 정리해 보겠습니다.

1. 제대로 작동할 때는 정말 말도 안 되게 잘 작동합니다. 이 녀석은 코딩을 정말 강력하게 해내며, llama.cpp가 포함된 복잡한 작업조차 한 번에(One shot) 해결합니다. 이렇게 코딩을 잘하는 모델은 본 적이 없습니다. 처음 이 모델이 코딩하는 것을 보았을 때 제 몸의 무언가가 정말 작아지는 기분이었습니다.
2. 현재 루프(Loops)에 빠지기 매우 쉽습니다. 2~3번의 프롬프트(Prompt) 후에 상황이 엉망이 되어 그냥 격렬하게 반복만 하는 세션들이 있었습니다. (눈을 잘 보세요). 이 부분이 개선되기를 바랍니다.
3. 이전 모델들에서 나타나던 과도한 생각(Over thinking)이 사라졌습니다.
4. Alibaba의 공식 토큰 플랜을 사용 중인데, 이 녀석의 속도는 미쳤습니다.
5. 다섯 번째 포인트는 계획에 없었습니다. 왜 여기에 있는지 모르겠네요.
   그냥 저의 가벼운 관찰 결과입니다. 전반적으로는 어떠신가요?

이 글을 쓰면서 웃음이 나기도 하지만, 솔직히 말해서 이 모델은 많은 튜닝 (tuning)이 필요합니다. 하지만 지금 당장은 제대로 작동할 때 말도 안 되게 강력합니다. 이렇게 복잡한 코드 (code)를 다루면서도 마치 아무것도 아니라는 듯이 처리하는 모델은 본 적이 없습니다. 제 형편없는 3060 Ti에서 이 모델을 돌릴 수 있다면 좋을 텐데 말이죠. 아마 몇 년 뒤에는 가능할지도 모르겠네요 ;) /u/Uncle___Marty가 r/LocalLLaMA에 게시함 [link] [comments]