一名开发者发布了开源AI客户端servllama,该项目同时支持云端大模型调用与本地模型运行,并集成了离线语音识别与语音合成功能,代码托管于GitHub,目前已发布Alpha测试版本。据作者介绍,现有主流AI客户端功能大多单一:rikkahub等仅支持云端模型,pocketpal等只能运行本地模型,而同时支持两者的chatterui偏向酒馆类玩法,缺少Agent能力。为填补这一空白,作者基于此前开发的本地大模型运行项目进行改造,推出了servllama。功能方面,该客户端允许用户自选模型供应商进行云端对话,同时内置本地大模型支持,兼容llama.cpp与MNN双引擎,可在移动设备上直接运行量化模型。语音工坊模块支持下载ASR/TTS模型,实现离线语音识别与合成。此外,项目还集成了SKILL与MCP协议,内置部分工具调用能力。作者表示,由于功能较多,当前版本仍处于Alpha测试阶段,欢迎用户通过issue反馈问题。后续开发计划包括逐步完善Agent能力、优化UI设计、打通聊天与语音功能的闭环,以及添加语音克隆功能。用户可通过GitHub仓库ArkaneFans/servllama获取源码,并从GitHub Releases下载最新版本安装包。
事件分析
核心观点:端云一体的AI客户端切中了隐私与灵活性的双重需求,但移动端本地大模型的实用性不足仍是行业未解的硬骨头。
原文链接:Linux.do

评论前必须登录!
立即登录 注册