论文部分内容阅读
2015年初，谷歌放出了一段机器狗的视频。这只名叫Spot的机器狗重约70千克。它具有强大的电力续航能力，可以完成行走、快跑、翻越各种地形等一系列的动作。视频中Spot正如同一只真狗那样在行走，为了测试它的坚固及可靠性能，突然从旁边冲出来一个彪形大汉对着Spot的身子猛踹了一脚。Spot先是一个踉跄，然后立即加快步伐以保持平衡，同时似乎还发出了几声悲催的“叫唤”。这段视频热播之后，就有评论说：“人工智能结束世界的方式不是大爆炸，而是在被你踹了之后，机器狗转身扑向你。”
差三错四
“过而能改，善莫大焉”这句话出自《左传》，前面一句是“人谁无过”。指一个人犯了错误后，能够认识并改正错误，就是最好的事情。但是，对于人工智能的机器人来说，它们一旦出了错自己并不能意识到，反而需要人类来找出错误的根源。然后编写补丁程序，再检验补丁，甚至还需要补丁的补丁。最后才是检测整个程序、代码等。
对人工智能的程序，修正差错或是遗漏似乎永远没有尽头，让人烦不胜烦。这一点从我们现在使用的计算机程序就能得知，你是不是经常需要为软件更新升级、下载补丁程序呢？
人类研发人工智能，制造机器人的初衷其实是想当然的，以为机器能够按照我们事先编排好的程序工作，既能提升效率，还不会出差错。不过，机器出错的概率并不比人低多少，因为它们不但有软件的问题，还存在硬件损坏等问题。由此带来的烦恼更是不胜枚举。比如说，声音识别模式下误听语音指令，或者是遇到说方言的指令识别不了。正在你心急火燎的时候，它却无动于衷……
更为可怕的是，明明出了差错，必须立即停止工作，但机器人仍然继续按照错误的方式执行下一步操作。因为它们本身意识不到错误，只要程序不中断，人工智能就不会停止任务。想想科幻大片里面那些人工智能机器人，因为无法停止错误的任务而产生的诸多杀戮，真是让人不寒而栗啊！
对于犯错误来说，一个人只需语重心长地告诉他：“不能再这么干了……”而对于人工智能来说修正错误则需要耗费更多的时间、人力及物力。
喧宾夺主
假如将来你家有了一台智能机器人，它的任务类似于我们现在家庭的保姆工作。在它程序中不但设置好了各种各样的营养食物搭配模式，还可以帮助主人测量各种身体健康指标，并且能够按照主人健康指标来安排每天的膳食搭配。
在下班的路上，辛苦疲惫一天的你为了犒劳一下自己订购了烧鸡、卤鹅、啤酒、可乐等自己喜欢的外卖。但是，当你推开家门的时候却发现智能机器人觉得这些食物不适合今天的你，为了你的健康着想，它在网上帮你把内容改成了咸菜加白粥。此情此景，你能奈何它吗？
再假如，周末的你准备跟朋友到公园散步。但是，智能机器人认为今天外面雾霾太重，不适合出门暴露于旷野之中。它为了你的健康着想，把你锁在家中死不开门。此时你除了翻窗、跳墙之外，似乎也没有其他办法，才能够跟朋友来交代吧？
更为可怕的是，假如你的单位请了机器人保安，亦或更进一步有一天你突然发现，你部门的领导竟然也是一个机器人，你又该做何打算啊？
无情无义
最近风靡一时的无人驾驶汽车，实际上也是人工智能的一种表现形式。它们也可以被称为轮式移动机器人，主要依靠车内的以计算机系统为主的智能驾驶仪来实现无人驾驶。人类研发、使用它们的终极目的是安全稳定，避免交通事故的发生。
然而，2016年美国加州便发生了一起谷歌无人驾驶汽车撞上公交車的事故。当时谷歌无人驾驶汽车向左变道时蹭撞了后方的公交车，据说此次事故与路侧排水系统的沙袋有关。无人驾驶汽车为避让沙袋而没注意到公交车，这说明在面对复杂的交通状况时，机器人也会出现很严重的判断失误。
这次事故虽然没有人员伤亡，但是问题来了。假设无人驾驶汽车在行驶过程中，发现面前有障碍物而采取规避动作过程中发生事故，障碍物可能是一个垃圾桶，但是也可能是一个人或者是其他什么动物。人工智能的汽车是优先选择保证车上的几名乘客的安全，直接撞上去，还是考虑障碍物的安全而直接开沟里去呢？
毋庸置疑，如果是一个真人在开车，他立马就能做出正确的选择。而真出现上面的情况，智能汽车恐怕就会酿出惨祸。不论机器多么先进，多么的智能，它们都无法作出道德的判断。
再者说了，无人驾驶汽车出了事故，交警肯定是第一个傻了的，我罚谁的款？
毁形灭性
使用人工智能的目的无非是让我们的生活更美好。某一天，机器人可以帮我们洗衣做饭、打扫清洁等。除了少数从事研发的人之外，其他人只需要惬意地逛街、旅游、聚会、派对……只不过，在商场接待你的也不过是机器人罢了。
但实际上，这是很危险的场景之一。一旦成为现实，大多数的人会变得更为懒惰，更危险的是会有很多年轻人丧失学习和工作的愿望。比如说，很多当代大学生的周末是什么样子的呢？告诉你吧，是集体窝在宿舍的被窝里面玩手机。他们现在户外活动越来越少了，而是通过手机和网络互相沟通，而下一步智能机器更会为他们包办一切。
说到知识，到那个时候谁还傻乎乎地学习知识呢？人工智能什么问题都能回答，什么事情都能帮你解决。我们会越来越懒惰，不学习也不用工作，更不会运动，身体机能开始退化。直至沦为一种除了吃喝之外啥也不会的高级动物，实质上已经被智能机器们“圈养”起来了。
更有甚者，目前西方一些国家已经在计划给智能机器人装上枪炮。战场上机器人固然能减少人类的伤亡，不过谁又敢保证它们的枪口会永远朝外呢？显然，这一做法无疑是提前给自己挖好了坟墓。
如此一来，终有一天，世界将被智能机器人所占领、所统治。那时便是人类的末日来临，或许只因为机器人被人植入了“保护地球”之类冠冕堂皇的程序，它遵照我们的命令而行，把我们当成了地球的“癌症”。当然这只是一种猜测，因为那时候我们已经被灭亡了，也就不可能知道确切的原因了……
“我们人类之所以存活于世，从来不是因为我们是这个星球最强壮、行动最快的物种，而是因为我们最聪明。所以当比我们更聪明的力量出现在这个星球上的时候，它将接管地球。”
2016年年初，霍金、比尔·盖茨等几位人类科技界的“顶梁柱”在一封提倡控制人工智能发展的公开信上签下了自己的名字。在他们看来，飞速发展的人工智能已经成为“我们现存的最大威胁”。
差三错四
“过而能改，善莫大焉”这句话出自《左传》，前面一句是“人谁无过”。指一个人犯了错误后，能够认识并改正错误，就是最好的事情。但是，对于人工智能的机器人来说，它们一旦出了错自己并不能意识到，反而需要人类来找出错误的根源。然后编写补丁程序，再检验补丁，甚至还需要补丁的补丁。最后才是检测整个程序、代码等。
对人工智能的程序，修正差错或是遗漏似乎永远没有尽头，让人烦不胜烦。这一点从我们现在使用的计算机程序就能得知，你是不是经常需要为软件更新升级、下载补丁程序呢？
人类研发人工智能，制造机器人的初衷其实是想当然的，以为机器能够按照我们事先编排好的程序工作，既能提升效率，还不会出差错。不过，机器出错的概率并不比人低多少，因为它们不但有软件的问题，还存在硬件损坏等问题。由此带来的烦恼更是不胜枚举。比如说，声音识别模式下误听语音指令，或者是遇到说方言的指令识别不了。正在你心急火燎的时候，它却无动于衷……
更为可怕的是，明明出了差错，必须立即停止工作，但机器人仍然继续按照错误的方式执行下一步操作。因为它们本身意识不到错误，只要程序不中断，人工智能就不会停止任务。想想科幻大片里面那些人工智能机器人，因为无法停止错误的任务而产生的诸多杀戮，真是让人不寒而栗啊！
对于犯错误来说，一个人只需语重心长地告诉他：“不能再这么干了……”而对于人工智能来说修正错误则需要耗费更多的时间、人力及物力。
喧宾夺主
假如将来你家有了一台智能机器人，它的任务类似于我们现在家庭的保姆工作。在它程序中不但设置好了各种各样的营养食物搭配模式，还可以帮助主人测量各种身体健康指标，并且能够按照主人健康指标来安排每天的膳食搭配。
在下班的路上，辛苦疲惫一天的你为了犒劳一下自己订购了烧鸡、卤鹅、啤酒、可乐等自己喜欢的外卖。但是，当你推开家门的时候却发现智能机器人觉得这些食物不适合今天的你，为了你的健康着想，它在网上帮你把内容改成了咸菜加白粥。此情此景，你能奈何它吗？
再假如，周末的你准备跟朋友到公园散步。但是，智能机器人认为今天外面雾霾太重，不适合出门暴露于旷野之中。它为了你的健康着想，把你锁在家中死不开门。此时你除了翻窗、跳墙之外，似乎也没有其他办法，才能够跟朋友来交代吧？
更为可怕的是，假如你的单位请了机器人保安，亦或更进一步有一天你突然发现，你部门的领导竟然也是一个机器人，你又该做何打算啊？
无情无义
最近风靡一时的无人驾驶汽车，实际上也是人工智能的一种表现形式。它们也可以被称为轮式移动机器人，主要依靠车内的以计算机系统为主的智能驾驶仪来实现无人驾驶。人类研发、使用它们的终极目的是安全稳定，避免交通事故的发生。
然而，2016年美国加州便发生了一起谷歌无人驾驶汽车撞上公交車的事故。当时谷歌无人驾驶汽车向左变道时蹭撞了后方的公交车，据说此次事故与路侧排水系统的沙袋有关。无人驾驶汽车为避让沙袋而没注意到公交车，这说明在面对复杂的交通状况时，机器人也会出现很严重的判断失误。
这次事故虽然没有人员伤亡，但是问题来了。假设无人驾驶汽车在行驶过程中，发现面前有障碍物而采取规避动作过程中发生事故，障碍物可能是一个垃圾桶，但是也可能是一个人或者是其他什么动物。人工智能的汽车是优先选择保证车上的几名乘客的安全，直接撞上去，还是考虑障碍物的安全而直接开沟里去呢？
毋庸置疑，如果是一个真人在开车，他立马就能做出正确的选择。而真出现上面的情况，智能汽车恐怕就会酿出惨祸。不论机器多么先进，多么的智能，它们都无法作出道德的判断。
再者说了，无人驾驶汽车出了事故，交警肯定是第一个傻了的，我罚谁的款？
毁形灭性
使用人工智能的目的无非是让我们的生活更美好。某一天，机器人可以帮我们洗衣做饭、打扫清洁等。除了少数从事研发的人之外，其他人只需要惬意地逛街、旅游、聚会、派对……只不过，在商场接待你的也不过是机器人罢了。
但实际上，这是很危险的场景之一。一旦成为现实，大多数的人会变得更为懒惰，更危险的是会有很多年轻人丧失学习和工作的愿望。比如说，很多当代大学生的周末是什么样子的呢？告诉你吧，是集体窝在宿舍的被窝里面玩手机。他们现在户外活动越来越少了，而是通过手机和网络互相沟通，而下一步智能机器更会为他们包办一切。
说到知识，到那个时候谁还傻乎乎地学习知识呢？人工智能什么问题都能回答，什么事情都能帮你解决。我们会越来越懒惰，不学习也不用工作，更不会运动，身体机能开始退化。直至沦为一种除了吃喝之外啥也不会的高级动物，实质上已经被智能机器们“圈养”起来了。
更有甚者，目前西方一些国家已经在计划给智能机器人装上枪炮。战场上机器人固然能减少人类的伤亡，不过谁又敢保证它们的枪口会永远朝外呢？显然，这一做法无疑是提前给自己挖好了坟墓。
如此一来，终有一天，世界将被智能机器人所占领、所统治。那时便是人类的末日来临，或许只因为机器人被人植入了“保护地球”之类冠冕堂皇的程序，它遵照我们的命令而行，把我们当成了地球的“癌症”。当然这只是一种猜测，因为那时候我们已经被灭亡了，也就不可能知道确切的原因了……
“我们人类之所以存活于世，从来不是因为我们是这个星球最强壮、行动最快的物种，而是因为我们最聪明。所以当比我们更聪明的力量出现在这个星球上的时候，它将接管地球。”
2016年年初，霍金、比尔·盖茨等几位人类科技界的“顶梁柱”在一封提倡控制人工智能发展的公开信上签下了自己的名字。在他们看来，飞速发展的人工智能已经成为“我们现存的最大威胁”。