一位开发者在 V2EX 分享了其开发的开源项目 ShotAI,这是一个面向内网离线环境的一体化 AI 工作台,可在完全断网的隔离网络中部署使用。该项目通过 9090 端口提供统一入口,聊天、图片理解和 Embedding 功能基于 Ollama 运行,图片生成则由独立的本地图片运行组件承担。用户可在同一工作台内完成对话、查询文件与资料库、识别图片、生成或修改图片,并查看主机运行状态。并发方面,多人共用时默认最多接纳五条活跃请求,其中两条同时推理、三条排队等待。项目当前正式版为 v1.2.0,提供 Windows 10/11 x86_64 与 Ubuntu 22.04 x86_64 完整安装包,Windows 完整版自带图片运行组件。模型权重不随安装包附带,需根据自身硬件配置与用途自行准备;Ubuntu 平台的图片生成功能还需另备兼容系统环境的 Linux sd-server。作者特别提醒,该服务面向可信局域网设计,不应将 9090、Ollama 或图片组件端口直接暴露至公网,模型运行效果与速度取决于具体模型和机器配置。项目仓库、安装说明及模型兼容范围已在 GitHub 公开。
事件分析
核心观点:离线内网 AI 工具的涌现,反映数据安全合规已成大模型落地硬约束,私有化部署正从可选项变为刚需。
原文链接:V2EX 分享发现

评论前必须登录!
立即登录 注册