高一时这会让他不舒服,因为目标一旦变化,标准也变化,似乎失去统一性;现在他倒越来越能接受,局部适用并不等于没有原则。
后半场改成自由讨论。
最先的问题还是技术:现实世界学习怎样保证安全,探索会不会撞坏设备,模拟器能不能代替真机,怎样处理稀有事件。几位老师彼此也不同意。自动化系老师更愿意先在模拟环境里把大多数危险情况跑掉,再逐渐迁移;计算机系那位老师强调模拟环境本身也是模型,最危险的恰恰可能是模拟里不存在的东西;认知方向讲者则说,安全要求越高,系统允许主动探索的空间越小,这不仅是工程约束,也会改变它能学到什么。
一个高年级学生问:“那是不是最终一定需要一个足够完整的世界模型?”
计算机系老师没有马上回答。
“什么叫足够完整?”
学生说至少要能预测行动结果。
“预测多久?”
“五秒?十秒?”
“那做长期任务呢?”
学生停了一下。
老师继续问,如果机器人要穿过房间,十秒预测也许足够;如果要照顾一个老人一天呢?如果要和人一起生活一年呢?需要保存哪些长期关系,哪些东西不能因为眼前任务结束就忘掉?反过来,如果什么都保存,计算和学习又是否可能承担?
报告厅慢慢静下来。
“所以完整大概不是正确方向。”老师最后说,“更像是持续知道什么现在重要,什么以后可能重要,以及什么时候发现自己原来漏掉了重要的东西。”
原既白没有记这句话。
不是因为不同意,而是它太容易变成一句漂亮结论。他更愿意记住前面那个具体问题:照顾一个老人一天和穿过房间,需要的是不是同一套世界。
最后一个问题来自一个坐在边上的女生。
她问:“一个系统如果能预测、能行动、能自我修正,我们什么时候才可以说它真的理解了?”
三位老师都没有抢答。
最年轻的那位先笑,说这个问题今天大概不会有结论。认知方向讲者想了一会儿,说在工程上,有时候并不需要先解决“理解”的哲学定义才能做东西;可如果未来系统越来越复杂,这个词会越来越难绕开,因为人会根据“它是不是懂”赋予不同信任、责任甚至权利,而这时仅凭几个任务成功率可能远远不够。
她说到“权利”时,只是一带而过。
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 词令书屋 All Rights Reserved.kk