https://modu-print.com/tags/deepseek-v4-flash/Hugoko-KRWed, 16 Sep 2026 09:53:07 +0900https://modu-print.com/posts/17886/Tue, 15 Sep 2026 12:36:08 +0900https://modu-print.com/posts/17886/GitHub - antirez/ds4: DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm - antirez/ds4 Redis 개발자로 유명한 Antirez의 ds4.c 가 정말 하루가 다르게 엄청나게 발전을 하고 하나둘씩 다양한 모델을 지원하기 시작하면서 ..https://modu-print.com/posts/16988/Tue, 09 Jun 2026 10:19:37 +0900https://modu-print.com/posts/16988/최근에 DS4.c 를 활용해서 LocalLLM 으로 Deepseek v4 Flash 모델을 정말 잘 활용 해 오고 있었습니다. 그런 와중에 DS4.c 에서 Pro 모델에 대한 지원도 추가를 해줘서 Pro 모델도 살짝 돌려보긴 했습니다만. Flash 모델의 경우도 25tps 정도로 약간 답답한 속도를 보여 줫는데 Pro 모델의 경우 모델을 로딩만 해도 일단 512g 의 통합 메모리인 맥 스튜디오 m3 Ultra 라 해도 1M 컨텍스트는 꿈도 못꿉니다. 컨텍스트 타협을 해야 돌려는 볼 수 있고 속도 자체도 5~7tps 정도로 나와서 .. 사실 실 사용 하기엔 좀 많이 답답합니다.https://modu-print.com/posts/16948/Sun, 24 May 2026 20:15:36 +0900https://modu-print.com/posts/16948/GitHub - antirez/ds4: DeepSeek 4 Flash local inference engine for Metal and CUDA DeepSeek 4 Flash local inference engine for Metal and CUDA - antirez/ds4 DwarfStar4 (ds4.c) DeepSeek v4 Flash만을 위한 추론 엔진 앞서 DS4.c 에 대해 간단히 글을 작성 했는데요, 대략 거의 코딩을 위한 로컬LLM은 Claude Code + DS4.c(Deepseek-v4-flash) 만으로 2주를 보낸 것 같습니다.https://modu-print.com/posts/16908/Fri, 15 May 2026 15:49:54 +0900https://modu-print.com/posts/16908/앞서 몇몇 글에서도 DeepSeek v4 Flash 에 대해서 좀 기대를 하고 있단 말을 적었습니다만 .. 아직 llama.cpp 쪽에서 deepseek v4 에 대해서 작업이 끝나지 못해서 인지 어떤 이유인지 모르지만 아직 LM Studio 나 Ollama 에 클라우드용 모델외에 직접 다운로드 해서 쓸수 있는 형태로 업데이트가 올라오고 있진 않습니다. 이미 HuggingFace 에 이런저런 양자화 모델로 등장을 하고 있는지도 꽤 지났는데 말이죠 .. 그런 와중에 제 기준으론 꽤 반가운 놈이 출시가 되어서 어제부터 이짓 저짓에 매우 열심히 써보고 있습니다.