一位开发者过年期间利用 Codex 和 Gemini 快速搭建了一个新年祝福生成网站。原本设计的趣味玩法是诱导 AI 说出“马”字以触发自动写祝福和画图,但现实非常骨感:由于大模型过于“聪明”或防御机制过强,导致诱导难度极高。连开发者自己都不得不依赖“每满三轮”的保底机制才能通关。这一趣事不仅侧面反映了当前大模型在指令遵循上的鲁棒性,也揭示了个性化 AI 应用在交互设计上面临的尴尬困境。
原文链接:V2EX 分享发现
一位开发者过年期间利用 Codex 和 Gemini 快速搭建了一个新年祝福生成网站。原本设计的趣味玩法是诱导 AI 说出“马”字以触发自动写祝福和画图,但现实非常骨感:由于大模型过于“聪明”或防御机制过强,导致诱导难度极高。连开发者自己都不得不依赖“每满三轮”的保底机制才能通关。这一趣事不仅侧面反映了当前大模型在指令遵循上的鲁棒性,也揭示了个性化 AI 应用在交互设计上面临的尴尬困境。
原文链接:V2EX 分享发现
评论前必须登录!
立即登录 注册