受AlphaGo到AlphaZero强化学习思路启发,研究团队推出AlphaNIST项目,将该理念应用于接触密集、高精度的机器人装配任务。项目以美国国家标准技术研究院(NIST)装配任务板#1为基准,该任务板包含二十项装配任务,最小零件仅4毫米,配合公差极小,倾斜的螺母可能卡死或错扣螺纹。与传统依赖人工示教或分阶段编程的方式不同,AlphaNIST采用端到端策略,仅提供任务成功与否的二元奖励,通过大规模仿真训练让机器人自主探索装配方法。训练中,单一策略需覆盖全部二十项异构装配任务,起始状态包括散落零件、手内抓握及仿真缓存的半成品组件;近完成的起始状态让机器人先练习收尾步骤。成功引导采样机制优先练习策略约半数可解的状态,并随学习进展动态调整采样权重。实验显示,跨二十项任务统一训练的单一策略,训练成功率超过二十个各自专精的独立策略;而增加到达与对齐等辅助奖励反而降低成功率。训练过程还涌现出多种未经设计的技能,如重新抓取销钉留出插入空间、借助板面接触翻转连接器、指尖敲击旋合螺母、绕行拧紧螺纹等类人操作行为,团队已演示连续完成十个零件的完整装配流程。
事件分析
核心观点:放弃示教、只给目标,机器人反而涌现出工程师想不到的装配技巧,通用操作技能的获取范式正在被改写。
原文链接:Hacker News

评论前必须登录!
立即登录 注册