豆包被曝存在“诱导转账”风险,字节跳动是否会重蹈快播覆辙?

针对豆包大模型可能被恶意“语料投毒”从而误导用户转账的事件,有观点将其与当年的“快播案”进行类比分析。文章指出,若字节跳动在知晓该技术漏洞可能被用于诈骗后仍未采取有效补救措施,可能会被认定为存在“明知”情节,从而触犯“帮助信息网络犯罪活动罪”。这一讨论不仅揭示了生成式 AI 目前面临的安全挑战,更强调了在大模型时代,平台方必须对生成内容承担起更高的监管与审查责任。

原文链接:V2EX 分享发现

抢沙发

评论前必须登录!

立即登录   注册