没有任何技术演示。
她来自一个做认知与机器人交叉研究的小组,年纪大概三十多岁,上台以后第一句话是:“前面两位都在讲怎么让机器更懂世界,我想讲一个相反的问题——不要太快说它懂了。”
她放出几段机器人完成任务的视频。
第一段非常顺利。机器人听到“把红色方块放进左边盒子”,识别、抓取、放置,一次成功。第二段把两个盒子换了位置,仍然成功。第三段只改变桌布图案,机器人却开始连续抓错对象。
如果只看第一段,很容易得到“它理解颜色、对象、左右和指令关系”的印象;加入几个环境变化以后,真正支撑成功的可能只是训练环境里某些人没有意识到的相关性。
“行为成功不等于内部原因是你以为的那个原因。”
她说这句话时,没有刻意加重声音。
原既白却听得很清楚。
这和考试有一点像。
一个学生做对一道题,可能是理解,也可能是见过,也可能只是恰好猜中;一个模型在标准环境里持续成功,也可能通过完全不同的捷径实现。真正困难的是怎样设计变化,让那些捷径失效,逼出系统是否保存了你关心的关系。
讲者又展示一个更有意思的实验。
桌上有几种从未见过的物体,系统被要求按照一个新规则分类。第一次它错得很多,研究人员给少量反馈以后,很快学会。但当物体颜色和形状之间的相关性被打乱,准确率再次下降。讲者说,这类问题最后会不断逼向“表示”——系统内部究竟把什么当成稳定关系,什么只是一起出现。
江遥如果在,大概会喜欢这一段。
这个念头比刚才强。
原既白拿手机拍了那张实验图,但没有立即发。
讲座中途休息十分钟。
罗野起身去看那台小车。周围已经围了七八个人,有人问电机,有人问传感器型号,也有人想知道为什么不用更好的激光雷达。罗野站到旁边听了一会儿,回来时说实验室的人很抠,这个传感器精度放到商业机器人上早该换。
“那为什么不换?”原既白问。
“说教学演示够。”
原既白看了一眼那台不断积累误差的小车。
忽然觉得“够”这个词开始变得很重要。
过去他容易把更精确、更完整、更高性能当成自然方向。现在越来越多事情提醒他:任何系统都必须相对于目的谈“够不够”。
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 词令书屋 All Rights Reserved.kk