Ollama 宣布支持 Apple MLX 框架,Mac 设备本地 AI 推理性能实现飞跃

大语言模型运行工具 Ollama 近日发布重要更新,宣布正式支持 Apple 的机器学习框架 MLX。此次更新针对 Apple Silicon 芯片进行了深度底层优化,显著解锁了更快的运行速度,旨在加速 macOS 上的高负载 AI 任务。无论是个人智能助手还是复杂的编程代理,用户现在都能在 Mac 上获得更接近数据中心的响应体验。这一举措不仅优化了硬件利用率,也进一步巩固了 Mac 在端侧 AI 开发与应用领域的领先地位。

原文链接:Linux.do

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册