硬件故障?iPhone 16 Pro Max运行本地大模型输出完全错误

一名开发者尝试在iPhone 16 Pro Max上运行基于MLX框架的本地大模型,却遭遇持续输出乱码的怪象。在耗费三天排查软件与代码逻辑后,他发现同一模型在旧款iPhone 15 Pro和MacBook上运行完美。通过深入对比底层张量数据,发现故障手机的数值偏差高达数个数量级。最终证实,这台手机的A18芯片神经引擎存在硬件缺陷,导致浮点运算彻底失效。

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册