显存瓶颈被打破:RTX 5090搭配512GB CXL内存,单机运行超大规模模型

硬件厂商zett-ai推出了名为zettEngine的深度学习工作站,其核心突破在于配备了512GB的CXL内存。该方案通过CXL技术允许GPU直接调用大容量系统内存,使得单张RTX 5090显卡也能运行显存需求高达数百GB的超大规模大模型,彻底打破了传统显存限制。对于需要本地部署DeepSeek或Llama全量模型的团队而言,相比租用昂贵的H100集群,这款售价15000美元起的工作站提供了一种极具性价比的替代方案。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册