能否打造 AI 界的“CDN”?构想通过分布式迷你 PC 聚合众包算力运行大模型

一项关于分布式 AI 硬件的构想引发了社区关注。该设想提出开发一款类似路由器的迷你 PC,用户购买设备后可获得本地算力(如 8G 显存)。通过互联网,所有购买该设备的用户将互联互通,形成一个分布式的算力网络,共同支撑运行像 120B 这样的大规模语言模型。拥有该硬件的用户,理论上可以无限使用这一通过“共创”汇聚的庞大算力资源,试图以去中心化的硬件方案解决大模型的高昂算力成本问题。

原文链接:V2EX 分享发现

抢沙发

评论前必须登录!

立即登录   注册