https://modu-print.com/tags/opencode/Hugoko-KRWed, 04 Mar 2026 08:23:00 +0900https://modu-print.com/posts/16187/Tue, 03 Mar 2026 19:21:19 +0900https://modu-print.com/posts/16187/여전히 클로드코드니 코덱스니 이런저런 다양한 놈들을 사용하는 와중에 틈틈히 LocalLLM 만으로 어느정도 수준까지 사용이 가능하지에 대한 많은 연구와 테스트를 해보고 있습니다. 새로운 모델이 등장하는 텀이 좀 길어지는 느낌이긴 합니다만 .. 현재까지 정말 다양한 모델을 LM Studio, Ollama, mlx-ml, llama.cpp, exo 등에서 사용을 해봤습니다만 .. Openai API 를 통한 채팅 기반의 사용에서는 어떤 모델이든 대체로 큰 문제 없이 사용이 가능합니다만 ..https://modu-print.com/posts/16150/Sat, 28 Feb 2026 01:58:26 +0900https://modu-print.com/posts/16150/맥 스튜디오 M3 Ultra 512g 모델로 이런짓 저런짓을 좀 해보고 있는 와중에 중간 중간 관련 글을 정리해 올려보고 있습니다. Bash pirogom@pirogom-Mac-Studio ~ % lms ls You have 12 models, taking up 599.66 GB of disk space. LLM PARAMS ARCH SIZE DEVICE google/gemma-3-27b (1 variant) 27B gemma3 16.87 GB Local llama-3.3-70b-instruct@4bit 70B Llama 39.71 GB Local llama-3.3-70b-instruct@8bit 70B Llama 74.98 GB Local llama-4-scout-17b-16e@4bit 17B llama4 61.14 GB Local llama-4-scout-17b-16e@8bit 17B llama4 115.46 GB Local minimax/minimax-m2.5 (1 variant) 230B minimax_m2 128.68 GB Local qwen2.5-coder-3b-instruct-mlx 3B Qwen2 1.75 GB Local qwen3-coder-next@4bit qwen3_next 44.86 GB Local qwen3-coder-next@8bit qwen3_next 84.67 GB Local zai-org/glm-4.6v-flash (1 variant) 9B glm4v 7.09 GB Local zai-org/glm-4.7-flash (1 variant) 30B glm4_moe_lite 24.36 GB Local EMBEDDING PARAMS ARCH SIZE DEVICE text-embedding-nomic-embed-text-v1.5 Nomic BERT 84.11 MB Local pirogom@pirogom-Mac-Studio ~ % lms ls You have 12 models, taking up 599.66 GB of disk space. LLM PARAMS ARCH SIZE DEVICE google/gemma-3-27b (1 variant) 27B gemma3 16.87 GB Local llama-3.3-70b-instruct@4bit 70B Llama 39.71 GB Local llama-3.3-70b-instruct@8bit 70B Llama 74.98 GB Local llama-4-scout-17b-16e@4bit 17B llama4 61.14 GB Local llama-4-scout-17b-16e@8bit 17B llama4 115.46 GB Local minimax/minimax-m2.5 (1 variant) 230B minimax_m2 128.68 GB Local qwen2.5-coder-3b-instruct-mlx 3B Qwen2 1.75 GB Local qwen3-coder-next@4bit qwen3_next 44.86 GB Local qwen3-coder-next@8bit qwen3_next 84.67 GB Local zai-org/glm-4.6v-flash (1 variant) 9B glm4v 7.09 GB Local zai-org/glm-4.7-flash (1 variant) 30B glm4_moe_lite 24.36 GB Local EMBEDDING PARAMS ARCH SIZE DEVICE text-embedding-nomic-embed-text-v1.5 Nomic BERT 84.11 MB Localhttps://modu-print.com/posts/16110/Sat, 21 Feb 2026 22:16:02 +0900https://modu-print.com/posts/16110/이런 저런 ai 서비스 업체들의 모델들도 사용하면서 LocalLLM 을 병행하거나 휴일에는 100% LocalLLM 만 가지고 에이전트를 물리거나 하는 등의 실험? 프로젝트를 돌려보고 있습니다. 클로드 코드가 익숙해서 가능하면 클로드 코드를 사용하고 싶지만 .. 클로드 코드의 경우 LocalLLM 을 사용하기 위한 환경변수 설정을 하더라도 Opus, Sonnet, Haiku 같은 모델 명칭으로 픽스된 내부 기능들의 경우 LocalLLM 커넥션인 상태에선 문제가 발생하기도 해서 Opencode 를 좀 활용해 볼까 하고 .. 이짓 저짓을 해보고 있습니다.