一名开发者尝试在iPhone 16 Pro Max上运行基于MLX框架的本地大模型,却遭遇持续输出乱码的怪象。在耗费三天排查软件与代码逻辑后,他发现同一模型在旧款iPhone 15 Pro和MacBook上运行完美。通过深入对比底层张量数据,发现故障手机的数值偏差高达数个数量级。最终证实,这台手机的A18芯片神经引擎存在硬件缺陷,导致浮点运算彻底失效。
原文链接:Hacker News
一名开发者尝试在iPhone 16 Pro Max上运行基于MLX框架的本地大模型,却遭遇持续输出乱码的怪象。在耗费三天排查软件与代码逻辑后,他发现同一模型在旧款iPhone 15 Pro和MacBook上运行完美。通过深入对比底层张量数据,发现故障手机的数值偏差高达数个数量级。最终证实,这台手机的A18芯片神经引擎存在硬件缺陷,导致浮点运算彻底失效。
原文链接:Hacker News
评论前必须登录!
立即登录 注册