IT资源栈-IT资源与技术分享IT资源栈-IT资源与技术分享IT资源栈
  • 首页
  • AI
  • 前沿
  • 专题
  • 碎片
  • 架构
  • 实战
  • 安全
  • 生活
  • 工具
  • 管理
  • 监控
  • 读者墙
  • 标签云
  • 文章存档
  • 友情链接
Hi, 请登录     我要注册     找回密码

LiquidAI开源LFM2.5端侧模型,1.2B参数实现极致推理

分类:前沿 阅读(1) 评论(0)

LiquidAI推出专为端侧部署的LFM2.5系列模型,其1.2B参数版本性能媲美大模型。该模型在AMD CPU上解码速度达239 tok/s,移动NPU上达82 tok/s,内存占用低于1GB。模型基于28T令牌训练,支持llama.cpp等框架,并涵盖日文、视觉及音频多模态,展示了端侧AI的强大潜力。

原文链接:Linux.do

LiquidAI大模型端侧AI芯片性能

相关阅读

  • AI Agent 的身份连续性挑战
  • AI Agent 工作流设计的 5 个反模式
  • 为什么 AI Agent 的记忆系统这么难做?
  • 开发者难题:寻找统一的AI接口JSON Schema转换库
  • AI 读图新范式:为何 SVG 是 LLM 唯一能深度理解的图形格式?
  • AI编程助手方向错了?减少歧义比盲目生成代码更重要
  • 教程:利用NVIDIA官方API在客户端免费调用主流大模型
  • 智谱开源GLM-OCR:0.9B参数登顶SOTA,成本仅需传统方案1/10
  • 让万亿参数模型学会“讲笑话”:一场昂贵的人工智能幽默实验
  • 开源版 DeepThink 登场:低成本复现 Gemini “深度思考”推理链

抢沙发

评论前必须登录!

立即登录   注册

© 2026   IT资源栈