树莓派 5 本地运行 35B 参数 Qwen 模型，打造完全离线的车载 AI 智能体

CarWatch 是一个实验性的开源项目，旨在将汽车转变为一个完全离线的聊天室智能体。该项目基于树莓派 5（16GB 内存）构建，本地运行 35B 参数规模的 Qwen3.6 模型（经过 Unsloth 动态量化），在无云服务、无互联网连接的情况下实现了每秒 3.5 个 token 的生成速度。系统集成了多项技术功能：通过 whisper.cpp 实现免提语音监听与转录；利用 RAG（检索增强生成）技术基于本地 745 页的汽车手册回答问题，且严格遵守不幻觉原则；通过 OBD 电缆实时监控引擎数据（转速、电压等）；并能从行车记录仪抓取事件片段。所有组件通过 systemd 自启动，并具备自我更新和反向隧道功能，以便在移动热点后也能进行维护。该项目的核心哲学是“本地优先”，确保在车库、隧道等无信号区域，核心安全提示和车辆状态查询功能依然可用。

事件分析

核心观点：边缘算力的突破让“本地优先”的智能体成为现实，彻底解决了车载场景下的隐私泄露与网络盲区痛点。