优恪网>快讯>正文

“机器人觉醒”?并非专属科幻议题

2016-11-20 15:14:53 优恪网 分享

社论

所谓“全国首例机器人伤人事件”是一场乌龙,但这并不妨碍探讨背后的严肃意义。

事情发生在深圳举办的第十八届中国国际高新技术成果交易会上。最初有媒体报道称,一台名为小胖的机器人“在没有指令的前提下”突然自行打砸展台玻璃,最终导致部分展台破坏,还砸伤了一名现场观众。

一时间网络上出现大量有关“机器人觉醒”、“机器人反抗人类暴政”的段子。人们也自然地联想到《西部世界》,这是一部探讨机器人获得自主意识的美剧。然而事实证明,人类又想多了。

高交会官方对该事故做出了澄清,事故原因为人为操作失当,误将“前进键”当成“后退键”。这回的主角机器人“小胖”与《西部世界》里的host还不可同日而语。

这件事和去年德国发生的所谓“机器人杀人”事件一样,吃瓜群众脑补了太多的剧情。事故本身其实更接近传统的安全事故范畴,没有太多的科幻情节。但也不能怪人们多想,“机器人”这个称呼本身就有强烈的暗示意味。

真正意义上的“机器人觉醒”或者“机器人失控”可能还在未来,但已出现的机器人事故是有益的提醒。比如,一个操作失误就发生伤人事件,说明厂家的安全设计不及格,至少没有达到“机器人”应该达到的水平。而安全无疑是任何智能层次的机器人都必须过的头道关。要说明的是,“小胖”本来就是一台儿童伴侣机器人,安全必须是底线。

人工智能近年的突飞猛进,将以前只属于科幻领域的问题抛到了人类面前。比尔•盖茨、特斯拉汽车总裁马斯克等人不断对人工智能发表悲观言论,并非无稽之谈。

两个月前,英国标准协会发布了一套机器人伦理指南。这份指南给出了一些原则,比如:人类是负责任的主体,而不是机器人;要确保找出某个机器人的行为负责人的可能性。同时机器人欺骗、令人成瘾、具有超越现有能力范围的自学能力,都被列为危害因素。这些原则都已经有了现实针对性。

也许,机器人会“原力觉醒”。不是说机器人必然会获得与人类一样的自主意识,毕竟人类连自身意识的产生和运作还搞不太清楚,而是说,随着计算机自主学习能力越来越强,机器人做出一项行为的真实“动机”终将超出普通人乃至专家的理解范围。

人类必须在机器人的“幼年”阶段,给它们立好“规矩”。这个议题的确有必要开始严肃探讨了。

【更多新闻解读,微信添加公众账号“今日话题”收听】

责编:优优