Redis之父新作:专为Mac打造DeepSeek V4 Flash原生推理引擎ds4.c

由Redis开发者antirez发布的ds4.c是一款高度专精的本地推理引擎,专为在Apple Metal平台上运行DeepSeek V4 Flash而设计。不同于llama.cpp等通用方案,该项目采用了极致的非对称2-bit量化技术,使得配备128GB内存的MacBook即可运行千亿参数级别模型。其核心亮点在于引入磁盘级KV缓存机制,成功将原本受限于内存的长上下文推理能力扩展至百万Token级别。项目内置OpenAI及Anthropic兼容API,旨在通过极致的垂直优化,让本地Coding Agents在高性能个人设备上实现无需联网的“类前沿模型”体验。

原文链接:Hacker News

抢沙发

评论前必须登录!

立即登录   注册