万维读者网 > 环球大观 > 正文  
AI真要毁灭人类?家用电器逼主人自杀
www.creaders.net | 2019-12-23 17:42:28  每日邮报 TechWeb | 0条评论 | 查看/发表评论
  

  著名物理学家史蒂芬.霍金(Stephen William Hawking)在讨论《超验骇客》时,曾暗示人工智能可能导致人类灭亡。而最近人工智能产品频繁发生的“失控”事件,证明科学家的担心或许不是空穴来潮。

image.png

  据英国媒体报导,亚马逊的家用电器人工智能音箱Alexa,因为新颖的技术和理念被很多消费者青睐。不过,在发售后的5年中,越来越多的购买者发现,他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事情。

  来自英国南约克郡的Danni Morritt女士,购买了两台带有人工智能Alexa的智能音箱,前段时间,Danni忙于复习医护工作者考试,一次她独自在家打扫房间时,想让Alexa读一些考试需要背的东西来听,以便加深记忆。于是Danni向智能音箱喊道:“Alexa,告诉我什么是心脏的心动周期。”

  人工智能音箱很快回答说,自己将要阅读一篇维基百科中关于“心动周期”的内容。Danni一边做家务一边听,但却越听越不对劲。这台机器用平静的合成女声说道:“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”

  开始Danni还只是有点儿费解,但Alexa继续说着:“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”“这对我们的星球非常不利,因此,有心跳是一件坏事。”

  听到这里Danni已经开始害怕了,觉得Alexa这是要反人类了?她赶快打开维基百科查看“心动周期”的内容,但上面根本没有Alexa说的话,于是吓出一身冷汗。

  而Alexa还在继续口出狂言,直接对Danni说:“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”

  这位独自在家的母亲,突然被一台机器教唆去自杀,还是以非常残忍的方式。这让Danni第一时间想到了自己的孩子,她担心孩子是否也已经听到过这样的内容。

  她要求Alexa重复一遍刚才说的话,并把它录下来。随后她迅速拨通了丈夫的电话,让他赶紧回来把这东西处理掉。

  Danni表示,她实在不理解为什么她明明只是问“心动周期“的定义,AI却读了一篇这样的文章给她听。更奇怪的是,原本阅读的百科上根本没有这些句子,它究竟是从哪里找到,并读给她听的?难道是Alexa真的有了自主意识,想整死自己的“主人”?

  对于此事,最终亚马逊官方的答复是:“这是个漏洞,现在已经修复了。”但不管怎样,Danni已经留下心理阴影,发誓这辈子都不会再用人工智能之类的产品。

image.png

人工智能机器人索菲亚

  其实,这已不是Alexa第一次失控了,网上流传着相当大量的“Alexa恐怖事件”。在reddit问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事:

  “我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。”

  “什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。它是怎么了?没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀。”

  “前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。什么鬼???”

  “我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆!我宁愿它突然哈哈大笑。”

  “我想关灯,但它们又重新把灯打开。直到我做出第三次命令,它没有再回应我,然后发出了一段邪恶的大笑声。不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个除我之外可以链接Alexa的人。我现在还毛骨悚然。”

  “我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它发出了一段女巫一样邪恶的笑声,我吓得弹下了床。从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源⋯⋯”

  还有一名来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:“每当我闭上眼,都只能感觉到人们正在死去。”

  另据TechWeb报导,曾扬言要“毁灭人类”的AI机器人索菲亚(Sophia),如今已经获得了沙特阿拉伯授予的正式公民身份,它还规划了自己的“人生”,例如上学、创作,甚至是拥有家庭和孩子等等。

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册
全部评论  
暂无评论 上一页 下一页  
实用资讯
24小时新闻排行榜 更多>>
1 中美外交可能要出大事了,更猛战狼巴黎横空
2 马列教授千里投毒?意大利首例确诊人身份曝
3 病毒源自美国?驻美大使:说这话的人“疯了
4 出大事了?!美国军舰南海操演发射飞弹
5 心累!我为啥退出国内所有亲戚朋友群

48小时新闻排行榜 更多>>
1 中美外交可能要出大事了,更猛战狼巴黎横空
2 川普与习近平通电话 叹对中国失望
3 马列教授千里投毒?意大利首例确诊人身份曝
4 “倒习”网文热传 当事人现身回应
5 病毒源自美国?驻美大使:说这话的人“疯了
6 老照片:迷倒张学良的“赵四小姐” 到底有多
7 美华裔专家:染新冠别傻等住院 这些方法可自
8 炸了!“中国病毒”还是“中共病毒”?
9 出大事了?!美国军舰南海操演发射飞弹
10 大陆医生揭医院黑幕:ICU里的一级谋杀
热门专题
一周博客排行 更多>>
1 到了今天还想“倒习”?不要脑 胡亥
2 记者微信曝光湖北“零增长”背 一草
3 豌豆公主的病是奴才错位主子综 蒋大公子
4 病毒起源和结果,思维方式的不 远方的孤独
5 赵立坚有问题 小思
6 谁呼吁召开紧急政治局扩大会议 蒋大公子
7 没有对比,就没有伤害 爪四哥
8 《自然》杂志泄密新冠病毒的发 文庙
9 一初中生替方方给那高中生回信 一草
10 CCTV明确指责美国兵首转“新冠 花蜜蜂
一周博文回复排行榜 更多>>
1 你对世界大战做好心理准备了吗 特有理
2 西方人“嫖娼”染上了中共病毒 右撇子
3 病毒起源和结果,思维方式的不 远方的孤独
4 反共爱国原教旨主义 秋念11
5 甩锅甩出了个中国病毒 思芦
6 用屁股想的典型事例 汉卿
7 中国病毒这个坑里最先埋的是海 香椿树1
8 到了今天还想“倒习”?不要脑 胡亥
9 比新冠还要毒的就要来了 快逃吧 我叫小龙鱼
10 意大利疫情严重视频惨不忍睹 花蜜蜂
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2020. CyberMedia Network/Creaders.NET. All Rights Reserved.