https://modu-print.com/tags/gguf/Hugoko-KRFri, 13 Mar 2026 23:42:20 +0900https://modu-print.com/posts/16296/Fri, 13 Mar 2026 23:04:42 +0900https://modu-print.com/posts/16296/DGX-Spark 를 클러스터로 사용중인 지인이 한분 계신데요 몇일 전에 Nemotron 새 모델이 나왔다고 꽤 쓸만 하다는 말씀을 해주셔서.. 간단히 테스트를 하는 중입니다. 사실 llama-nemotron 계열 모델은 잠시 사용을 해봤었는데 일단 llama 자체가 저와는 좀 안맞는 모델이어서 아무리 nvidia 가 파인튜닝을 했다 한들 근본이 어디 가진 않을거라 생각 해서 nemotron 은 그리 관심을 두지 않았습니다. 그래도 llama가 아닌 nvidia 가 처음부터 학습 시켰다는 글들을 보고 몇 달 전에 나온 Nemotron-3-nano 의 경우에는 사용을 잠시 해봤습니다만. 아무래도 제가 사용하는 장치가 NVIDIA 가 아닌 애플 Metal 기반 장치다보니 자잘한 문제가 있었습니다.https://modu-print.com/posts/16236/Fri, 06 Mar 2026 10:51:59 +0900https://modu-print.com/posts/16236/최근 주로 사용하는 minimax m2.5 모델의 gguf/mlx 모델과 unsloth 모델의 단순 프롬프트 tps 차이에 대해서 기록을 남깁니다. Bash minimax-m2.5:Q4_K_S - unsloth Prediction Stats: Stop Reason: eosFound Tokens/Second: 45.72 Time to First Token: 13.356s Prompt Tokens: 6057 Predicted Tokens: 166 Total Tokens: 6223 minimax-m2.5:4Bit - lmstudio-community Prediction Stats: Stop Reason: eosFound Tokens/Second: 38.61 Time to First Token: 9.598s Prompt Tokens: 6153 Predicted Tokens: 1217 Total Tokens: 7370 minimax-m2.5:Q4_K_S - unsloth Prediction Stats: Stop Reason: eosFound Tokens/Second: 45.72 Time to First Token: 13.356s Prompt Tokens: 6057 Predicted Tokens: 166 Total Tokens: 6223 minimax-m2.5:4Bit - lmstudio-community Prediction Stats: Stop Reason: eosFound Tokens/Second: 38.61 Time to First Token: 9.598s Prompt Tokens: 6153 Predicted Tokens: 1217 Total Tokens: 7370https://modu-print.com/posts/16223/Fri, 06 Mar 2026 10:42:29 +0900https://modu-print.com/posts/16223/앞서 qwen3 계열 모델들이 Tool calling 에 문제가 있다는 글을 여러번 작성 했는데요 .. 현재까지 제가 찾아보고 해본 정보로는 qwen3 모델의 경우 qwen 전용 툴로 학습되었다는 것이고 .. chat template 를 수정해서 극복 가능하지 않을까 라는 생각으로 여러 짓을 해봤으나 .. 그리 결과가 좋지는 못했습니다. 현재까지는 tps의 이점 때문에 gguf/mlx 모델을 선호해 왔습니다만 .. 아무래도 mlx 진영이 Ai 모델 시장에서는 사용자가 소수인 상황이라 상대적으로 발전이 느린 느낌이네요 ..https://modu-print.com/posts/16045/Fri, 20 Feb 2026 09:45:15 +0900https://modu-print.com/posts/16045/이번에는 많은 곳에서 언급하곤 하는 좀 큰 모델에 대한 기록을 남겨봅니다. qwen3-coder의 480b 모델이구요.. 여러 블로그나 유튭 영상등에서 제 맥스튜디오와 동일사양에서 이 모델을 올려 쓴다느니 하는 글을 봐서 받아본 모델입니다. 일단 모델 파일 용량만 290GB 정도라 다운로드받는데 2시간 가까이 걸리는 관계로 .. ollama pull 걸어두고 자고 일어났네요. 우선 제가 뭘 잘못 한건지 ollama 문제인지 mlx 모델이 아닌 gguf 모델을 써서 그런지는 모르겠습니다만.. 좀 뭔가 이상해요..