针对云端大模型可能记录并利用用户对话数据的隐私痛点,开发者XyzenSun开源了一款名为“llm-privacy-masker”的Go语言库。该项目提出了一种创新的“本地可信LLM+云端LLM”双层架构方案:利用本地部署的小模型识别并对话中的敏感信息(如电话、地址、密码),将其语义化替换为变量(如{$PHONE_1}),仅将脱敏后的数据发送给云端大模型处理。这种方法有效避免了传统正则匹配识别率低的问题,也解决了直接加密导致AI无法理解上下文的弊端,在享受云端强大算力的同时,最大程度确保了用户隐私数据的本地闭环安全。
原文链接:Linux.do

IT资源栈
评论前必须登录!
立即登录 注册