人工智能开始“杀”人了

“请确保刀能捅进你的心脏”

这不是电影中大反派的台词，也不是恐怖电影里的场景，而是亚马逊人工智能助手Alexa给主人的建议。近日，英国的Danni在使用亚马逊智能语音助手Alexa咨询问题时，得到这样让人惊悚的回复。

Danni说，当她向Alexa询问心动周期的问题时，智能语音助手回答道：“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

受到惊吓的Danni在网络上分享了她的经历，并指控Alexa的可怕行为，警告同样使用Alexa的人们，要谨慎对待智能助手的“建议”。全球有成千上万的家庭正在使用Alexa提供的智能助手服务， 如果它真的存在严重安全缺陷，对用户来说将是十分危险的事。尤其是未成年人或者幼儿，他们尚不具备完全的心智和分辨能力，在使用过程中，他们是否会获取获取暴力倾向内容，或者被引导进行不当行为，甚至是受到图片信息造成的伤害？

就此事件，亚马逊很快做出回应，称智能语音系统可能存在一个已经修复的BUG——Alexa可能从维基百科上检索时，下载了有恶意性质的文本，它当时只是在念百科的内容。

亚马逊推出的智能助手

这并不是Alexa第一次出现BUG，早前就有很多用户表示，Alexa会突然发出瘆人的笑声，甚至是深夜，那笑声听起来就像是真人。而发生这种情况之前，并没有人“唤醒”它。

除了会自己突然苏醒大笑，Alexa还会偷听，美国一对夫妇发现自己的对话被音箱录音，并发送给了其他人。亚马逊对此的解释是，他们在谈话中的某些词语触发了Alexa。

尽管亚马逊对每个事件都给出了官方解释，但依然很难消除人们对人工智能助手的疑虑，它究竟处于一个什么样的角色中？它是否已经具备独立思考能力？

发展人工智能，提升智能助手的可用性与交互性，实现人机互联互通，是行业趋势所在。当我们将智能助手定义为“助手”时，期冀它协助我们处理一些日常事项、分担简单工作内容、更便捷获取信息。但随着智能助手越来越“人性化”，它更加了解“主人”，当智能助手具备主动学习能力，能够给出它认为更合理的建议时，人工智能助手是否已经从一个辅助角色，转变为决策者。

尽管如今的智能助手称不上真正的AI——通常只能完成简单的确定性指令，但在可预见的将来，人工智能助手们将以各种方式，渗透、改变我们的生活。这些“助手”们在提供服务的同时，也在进化，未来是否真会上演科幻大片中的人机对决？或者说，人类该如何在这场不可避免的碰撞中，赢得胜算？

需要明确的是，科技的发展和进步，从来不是以人的意识为转移。就像尤瓦尔·赫拉利在《未来简史》中写道的那样，“人类把工作和决策权交给机器和算法完成，大部分的人终将沦为‘无用阶级’。”