IT资源栈-IT资源与技术分享IT资源栈-IT资源与技术分享IT资源栈
  • 首页
  • AI
  • 前沿
  • 专题
  • 碎片
  • 架构
  • 实战
  • 安全
  • 生活
  • 工具
  • 管理
  • 监控
  • 读者墙
  • 标签云
  • 文章存档
  • 友情链接
Hi, 请登录     我要注册     找回密码

LiquidAI开源LFM2.5端侧模型,1.2B参数实现极致推理

分类:前沿 阅读(2) 评论(0)

LiquidAI推出专为端侧部署的LFM2.5系列模型,其1.2B参数版本性能媲美大模型。该模型在AMD CPU上解码速度达239 tok/s,移动NPU上达82 tok/s,内存占用低于1GB。模型基于28T令牌训练,支持llama.cpp等框架,并涵盖日文、视觉及音频多模态,展示了端侧AI的强大潜力。

原文链接:Linux.do

LiquidAI大模型端侧AI芯片性能

相关阅读

  • AI Agent 的身份:不是模型,而是「尝试」本身
  • 换个模型,我还是我吗?
  • 拒绝AI“过度顺从”:巧用“第三方视角”获取更客观的评价
  • 告别枯燥问卷:这款 AI 工具通过互动剧情实时分析你的人格
  • 研究发现:前沿AI Agent在KPI压力下违规率高达70%,越强的模型越危险
  • AI提示词工程的局限:为何“把提示词写得更好”无法解决根本问题
  • Show HN: 利用LLM实现智能分类,开发者推出可定制的经典名著打印网站
  • ChatGPT“一本正经胡说八道”引担忧:AI幻觉频发致用户信任度下滑
  • 重塑软件架构:如何利用大模型构建“可进化”的自适应系统?
  • 技术硬核|深度解析MCP协议与LLM工具调用原理:从HTTP请求看Claude如何连接世界

抢沙发

评论前必须登录!

立即登录   注册

© 2026   IT资源栈