向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

机器人到底要几条腿才能走路?

2018-07-02
导语:四条腿的猎豹机器人,时速堪比博尔特,两条腿的Atlas现在也能跑起来了,那一条腿的机器人能走路吗?迪士尼的机器人告诉我们,不管剩几条腿 (n>0) ,都能学会走路。那么,是怎么学的?

本文经AI新媒体量子位(公众号 ID: QbitAI)授权转载,转载请联系出处64K机器人网

迪士尼的机器人,不管剩几条腿 (n>0) ,都能学会走路。64K机器人网

那么,是怎么学的?64K机器人网

研究团队不用模拟器,直接在硬件上修炼深度强化学习 (DRL) 的策略。64K机器人网

真实世界,或许比模拟器要单调一些。不过,有物理支持的经验,可能更加珍贵。64K机器人网

除了有清新脱俗的训练环境,这只机器人,也并不是一只机器人而已。64K机器人网

想要几条腿,问过机器人吗?

20180702_02_robot02.gif64K机器人网

机器人的腿是模块化的,就是说,你想给它装上一条、两条、三条腿,都可以。64K机器人网

嫌腿太多,拔掉一些也可以。反正只要有腿,机器人还可以重新学走路。64K机器人网

另外,机器人的腿还分三种,运动方式各不相同——64K机器人网

在分别介绍之前,先给各位一些方向感。64K机器人网

20180702_02_robot03.jpg64K机器人网

A腿,Roll-Pitch,横轴加纵轴。64K机器人网

20180702_02_robot04.gif64K机器人网

B腿,Yaw-Pitch,竖轴加纵轴。64K机器人网

20180702_02_robot05.gif64K机器人网

C腿,Roll-Yaw-Pitch,横轴加竖轴加纵轴。64K机器人网

20180702_02_robot06.gif64K机器人网

于是,C腿比另外两条腿粗壮一些,似乎也可以理解了。64K机器人网

如果按最多能装六条腿来算,一共可以拼出多少种不同的机器人?64K机器人网

这样一来,即便不是模拟器,也算多姿多彩了。64K机器人网

两种DRL同步走

由于,不知道机器人什么时候,就会多条胳膊少条腿,迪士尼团队准备了两种深度强化学习算法。64K机器人网

20180702_02_robot07.gif64K机器人网
64K机器人网

一是TRPO (信赖域策略优化) 算法,沿用既定策略 (On-Policy) 的批量学习方法,适合优化大型非线性的策略。64K机器人网

二是DDPG (深度确定性策略梯度) 算法,用演员-评论家 (Actor-Critic) ”的方法,优化策略。64K机器人网

不同的算法,不同的姿势

那么,在三次元学习过程中优化的策略,有多优秀?64K机器人网

按照腿的数量,分别来看一下。64K机器人网

一条腿64K机器人网

20180702_02_robot08.gif64K机器人网

图中下者,是用TRPO学习完毕的A腿,与没有学过的A腿相比,走路姿势已经明显不同,速度也真的加快了一点点。64K机器人网

两条腿64K机器人网

20180702_02_robot09.gif64K机器人网

这是两条B腿在TRPO熏陶之下形成的姿势,轻快地触地,轻快地弹起。64K机器人网

20180702_02_robot10.gif64K机器人网

这同样是两条B腿,但算法换成了DDPG,姿势又完全不同了,好像慵懒地向前翻滚。64K机器人网

三条腿64K机器人网

20180702_02_robot11.gif64K机器人网

这次,机器人长了三条B腿。有了TRPO的加成,它用欢脱地节奏点着地,和双腿TRPO的操作很相似。64K机器人网

总体看上去,用TRPO训练过后,机器人会比较活跃,用DDPG修炼之后,机器人就有了佛系属性。64K机器人网

不管它有怎样的个性,研究人员都很开心。毕竟,那表示深度强化学习算法,是有效的。一看就知道,是谁带出的徒弟。64K机器人网

本文为机器人网原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。

您可能感兴趣的文章

相关推荐

广告
推荐使用浏览器内置分享