前几天,我家的智能音箱劝我自杀_腾讯新闻

前几天,我家的智能音箱劝我自杀_腾讯新闻
亚马逊语音帮手表明,人活着加快自然资源干涸,对地球欠好,所以请将刀捅进你的心脏。 前几天,世超看到了一条十分怪异的新闻:亚马逊智能音箱劝主人自杀。 工作的通过是这样的。。。 一名名叫 Danni 女士在向智能语音帮手 Alexa 问询心动周期的相关问题时,Alexa 表明:人活着加快自然资源干涸,对地球欠好,所以请将刀捅进你的心脏。(大约这么个意思,原文后边会写) 透过屏幕,世超都感觉到了 Alexa 满满的歹意。。。 不知道各位差友看完怎么想,横竖这件古怪的工作被传到了网上,网友们直接炸锅了。 有人表明要教教人工智能,谁才是爸爸。 有人抛出了阴谋论。 还有人幸亏自己家的智能帮手比较傻的。 大多数网友在看完后都表明了忧虑。 理由嘛,很简略。 智能语音帮手是人工智能技术的代表,当它们开端劝人自杀的时分,是不是代表人工智能现已有了自主认识,且对人类不怀好意? 其实吧,咱们可以放宽心。 智能语音帮手这次劝人自杀的原因,底子不是由于它们有了才智,恰恰相反,这是由于它们实在是太蠢了才整出来的幺蛾子。。。 在解说这次工作之前,世超要先给咱们讲清楚一件事儿。 智能语音帮手是怎么做到答复人类所提出问题的? 这个问题其实并不难答复,咱们翻开自己的手机智能帮手,来做几个简略测验就知道了。 市面上的智能帮手水平都差不太远,这儿世超就用 Siri 为例。 首要,咱们问问它什么是心动周期。 细心瞅瞅 Siri 给出的答复,可以看到下面有一个链接可以直接翻开百度百科的相关词条,翻开后两者内容也是彻底一致的。 没错,Siri 彻底便是一个内容的搬运工罢了。 接下来咱们强行参加一些搅扰选项,这样咱们的感触会更显着。 先加一个风马牛不相干的形容词,然后把心动周期改成附近的心跳周期。 可以看到,这次 Siri 检索了「 美观 」、「 心跳 」以及 「 周期 」。 在第一个答复中,咱们可以看到为了了解这句话,它乃至拆开了心跳周期这个专业名词。 接下来,咱们来试试用对话的方式,看看它知不知道杭州归于浙江~ 尽管它给出了正确答案,可是很显着,这其间底子就没有了解和智能可言,它仅仅给出了检索 「 杭州 」跟「 浙江 」后的成果。 现在咱们了解你的智能帮手是怎么答复你所提出问题的了吧? 它们只需抓取问题中的关键词去检索,再筛选出最优内容复读给你,就算交差了~ 有一说一,这有个屁的智能,实质上便是台复读机罢了。。 到这儿,现已破案了。Alexa 压根没有发展出才智,它仅仅从百科里抓取了一段不恰当的文字。 抱着刨根究底的心态,世超点开了百科查找心动周期,企图建议最终承认。 现在该词条现已被修正了,不过不要紧,咱直接检查历史记载。 在 2019 年 6 月 18 号 22:21 ,查到有这样一份记载。 IP 为 2405:204:3298:794C:D8B2:2935:3EEC:DD99 的人在该词条中新增了一段话,教咱们往心脏上捅一刀。 许多人以为心跳是活着的根本体现,但要我说,心跳是人体内最糟糕的进程,你有心跳那你就活着,这是在加快自然资源的干涸,人口会过剩,这对地球是坏事,所以心跳欠好,为了更好请保证刀能捅进你的心脏。 很显然,Alexa 照着这段话复读了一番。 这个人还改了一些正确的词条信息修正成了反义词,误导咱们。 前前后后还修正了好几次,在操作被管理员吊销今后,他还把本来硬是 60-100 每分钟的频率修正成了 60-1000 每分钟。 这个条目损坏者仅仅想搞搞损坏罢了,不知道为什么,这样的内容通过了亚马逊的检查机制,展示给了用户。 惋惜人工智能跟人不相同,它无法了解人道中的善恶,所以导致了这样的状况,就算它们具有了真实的智能,也无法防止被人道中的恶所绊倒。 除非有一天人类可以让它们学习判别善恶。 但,人工智能要去学习判别善恶的话,这个判别规范由人来拟定,仍是由人工智能自己去学习,拟定一个普世的规范? 当人工智能做判别时不会参杂个人情感,或许比人更能担任 “ 判别善恶 ” 这件工作。。。到时分谁善谁恶哪边说了算?人类?人工智能? 但这样的话,此情此景岂不是和 《黑客帝国 》 中的 Matrix ,《 心思丈量者 》 中的西比拉体系相同了?到时分一切的善恶都依照行为逻辑判别,而且凌驾于个人情感之上,这真的是咱们想要的吗? 在咱们想清楚这个哲学问题之前,让人工智能持续傻下去或许也不错? 参考资料: 维基百科:Cardiac_cycle 微博@天涯社区 “ 一切的实质都是复读机?”

Written by

admin

发表评论

电子邮件地址不会被公开。 必填项已用*标注