AMD正式发布名为Lemonade的开源本地大语言模型(LLM)服务器。该工具旨在利用AMD的GPU和NPU硬件资源,为用户提供快速、私密的本地AI推理体验。Lemonade的推出不仅是AMD应对英伟达CUDA生态的重要举措,也通过优化异构计算调度,显著降低了在AMD平台上部署AI模型的门槛,有力推动了端侧AI的普及与应用。
原文链接:Hacker News
AMD正式发布名为Lemonade的开源本地大语言模型(LLM)服务器。该工具旨在利用AMD的GPU和NPU硬件资源,为用户提供快速、私密的本地AI推理体验。Lemonade的推出不仅是AMD应对英伟达CUDA生态的重要举措,也通过优化异构计算调度,显著降低了在AMD平台上部署AI模型的门槛,有力推动了端侧AI的普及与应用。
原文链接:Hacker News
评论前必须登录!
立即登录 注册