本地AI知识库搭建遇阻：AnythingLLM+Qwen效果不佳，RAG落地痛点何在？

一位开发者在尝试基于本地杂乱数据（Excel、会议记录等）搭建私有知识库时遭遇挫折。虽然使用了AnythingLLM配合Qwen 2.5 7b模型的组合，但在处理文档总结和特定问答（如按钮功能查询）时效果不佳，调整提示词也无济于事。这一案例反映了当前RAG（检索增强生成）技术在落地本地化部署时的典型痛点：非结构化数据的清洗与向量化质量、以及中小参数模型在特定垂直领域的检索精度仍有待优化。