AI中国网 https: //www.cnaiplus.com
日前一位美国医疗人员向 Amazon Alexa 语音助手查询人体心脏跳动的问题时,竟听到回覆指「心脏跳动是人体中最糟糕的过程,只会为消耗自然资源作出贡献」,更叫询问者用刀刺向自己的心脏。
美国医疗人员 Danni Morritt 的确是听到 Alexa 作出这样惊人的回覆。这个语音助手对于「心脏跳动」发布连绵伟论:「心跳对于地球来说并非好事。」「请确保你(把刀)刺入自己的心脏去杀害自己,那是最好的。」
Morritt 认为她只是询问有关于课程的知识,Alexa 的答案太暴力了,并不能相信这是事实,她感到自己被人整蛊了。Morritt 把她家中包括儿子房内的 Alexa 产品都移除了。
相信 Alexa 是把 Wikipedia 维基百科的有关页面照读出来,而该页面或曾受到恶意修改。维基百科除部份页面外,非常容易作出修改,甚至只需按下页面上的「修改」按钮。
Amazon 对事件表示高度关注,发言人指「我们已查明事件发生的原因,这是一项错误并已得到修正。」
AI中国网 https: //www.cnaiplus.com
本文网址: