论文部分内容阅读
错误的推断，有限的想象力，以及一些其他常见的错误，这些都使得我们无法有效地思考未来。
我们对于人工智能和机器人技术的未来充满了一种狂躁的臆想——幻想着它们将会变得多么强大、多么迅速以及它们将会对就业产生怎样的影响。
最近，我在 MarketWatch 上面看了一个故事——在 10 ～ 20 年内机器人将会取代目前人类一半的工作——它甚至用到了一张图表来描绘这个数字。
这样的说法十分荒谬！（我试着去保持专业的语言，但有时……）举个例子，这个故事似乎表明，在 10 至 20 年内，美国的路面维修工人将由100万人减少到50万人，因为机器人会接管这些工作。而目前又有多少机器人在这些岗位上呢？零。又有多少机器人在这个领域工作的实际案例呢？零。类似的道理同样也适用于那些指出我们将会看到 90%的工作在未来逐渐消失的故事。
错误的预测会引发我们对那些不会发生的事情的恐惧，无论是对现有工作的大规模破坏，奇点或是人工智能的出现，这些都与我们的价值观相悖，并且可能会试图毁灭我们。我们应该抵制这些错误。但是人类为何要犯下这些错误呢？我发现了以下七个常见的原因。
高估和低估
罗伊·阿玛拉是未来研究所（the Institute for the Future）的联合创始人。他最广为人知的是他的格言——现在被称为阿玛拉定律：我们总是倾向于高估一项科技所带来的短期效益，却又低估它的长期影響。
这一个句子中包含了很多东西。乐天派可以从一方面解读，而悲观者则可以有不同的解读。
美国的全球定位系统是解释阿玛拉定律两个方面的一个很好的例子。自 1978 年起，有 24 颗卫星（目前包括备件有 31 颗）不断地被放置在地球轨道上。全球定位系统目的是让美国军方精确地提供军火。但是在 20 世纪 80 年代，这个项目多次面临被取消。它的第一个实际用途是在 1991 年的尘暴中，美国军方接受了它的作用，并取得了一些成功。
现在给牛顿展示一部苹果手机。从你的口袋里拿出一部 iPhone，解锁它，这样布满了图标了的屏幕就会发光，然后把它递给牛顿。通过使用棱镜将太阳光分解，揭示了白色光是如何由不同颜色的光组成的，然后将其重新组合起来的牛顿无疑会对这个在漆黑的小教堂发出了生动色彩的小玩意儿感到惊讶。现在播放一个关于英国乡村场景的电影，还有一些他曾听过的教会音乐。然后，给他展示一个有500多页他自己关于他的杰作原理注释的网页，教他如何使用缩放手势来放大细节。
牛顿能解释这个小设备是如何做到这一切的吗？尽管他发明了微积分并解释了光和重力，但他却无法把化学从炼金术中区别开来。所以我认为他会感到困惑，甚至无法回想起这个设备最开始的相关轮廓。这与他十分感兴趣的超自然的体现没有什么区别，它和魔法是无法区分的。记住，牛顿是一个极其聪明的家伙。
如果一件事物是魔法，那我们就很难去发现它的局限性。假设我们进一步的向牛顿展示这个设备如何在黑暗中照明，它是如何拍摄照片录制视频及录制声音，如何将它用作一个放大镜和镜子。然后我们向他演示，这个设备如何用不可思议的速度进行算术运算并精确到多位小数。就在教堂里，我们指导他操作设备时应采取的详细步骤，并告诉他可以用这个设备同世界上任何地方的人即时交流。
牛顿还能推测出这个设备的其他用途吗？棱镜无需能源就能永远工作下去。他是否会推断出 iPhone 会永远工作下去，而忽略了它需要充电的情况呢？回想起来，我们在法拉第诞生 100 年前我们就抓来了他，所以他缺乏对电能的科学理解。既然 iPhone 在无需火的情况下就能成为光的来源，那么它也许会将铅转化为黄金？
这就是我们想象未来科技时都会出现的问题。如果它距离我们如今拥有且能够理解的科技足够遥远的话，我们就发现不了它的局限性。如果它变得和魔法无二，人们所说的关于它的一切都不再被证伪。
当我与人们争论是否我们应该为通用人工智能（即 AGI， 我们将建立像真实生物一样运行的有着自主意识的实体）感到恐惧，我经常会遇到这样的问题。我被告知，不了解通用人工智能将会有多么强大。这不仅仅只是一场争论而已。
我们不知道是否它应该存在。我更希望它存在——这一直是我在机器人技术及人工智能领域工作的动力。但如今通用人工智能研究在普及和支撑实际存在的独立实体方面做的并不好。
在至少 50 年内，人工智能在推理及常识方面都会遇到同样的问题。我所见到的证据都表明我们还没有办法去建立一个可以独自思考的实体。它的属性是完全未知的，所以它很快就会被形容为魔法，强大到没有界限。
宇宙中没有任何东西是没有界限的。
注意关于未来科技的争论，这是不可思议的。这样的争论永远不会被驳倒，因为这是一个基于信仰的争论，而不是基于科学。（摘自美《深科技》）
（编辑/华生）
我们对于人工智能和机器人技术的未来充满了一种狂躁的臆想——幻想着它们将会变得多么强大、多么迅速以及它们将会对就业产生怎样的影响。
最近，我在 MarketWatch 上面看了一个故事——在 10 ～ 20 年内机器人将会取代目前人类一半的工作——它甚至用到了一张图表来描绘这个数字。
这样的说法十分荒谬！（我试着去保持专业的语言，但有时……）举个例子，这个故事似乎表明，在 10 至 20 年内，美国的路面维修工人将由100万人减少到50万人，因为机器人会接管这些工作。而目前又有多少机器人在这些岗位上呢？零。又有多少机器人在这个领域工作的实际案例呢？零。类似的道理同样也适用于那些指出我们将会看到 90%的工作在未来逐渐消失的故事。
错误的预测会引发我们对那些不会发生的事情的恐惧，无论是对现有工作的大规模破坏，奇点或是人工智能的出现，这些都与我们的价值观相悖，并且可能会试图毁灭我们。我们应该抵制这些错误。但是人类为何要犯下这些错误呢？我发现了以下七个常见的原因。
高估和低估
罗伊·阿玛拉是未来研究所（the Institute for the Future）的联合创始人。他最广为人知的是他的格言——现在被称为阿玛拉定律：我们总是倾向于高估一项科技所带来的短期效益，却又低估它的长期影響。
这一个句子中包含了很多东西。乐天派可以从一方面解读，而悲观者则可以有不同的解读。
美国的全球定位系统是解释阿玛拉定律两个方面的一个很好的例子。自 1978 年起，有 24 颗卫星（目前包括备件有 31 颗）不断地被放置在地球轨道上。全球定位系统目的是让美国军方精确地提供军火。但是在 20 世纪 80 年代，这个项目多次面临被取消。它的第一个实际用途是在 1991 年的尘暴中，美国军方接受了它的作用，并取得了一些成功。
现在给牛顿展示一部苹果手机。从你的口袋里拿出一部 iPhone，解锁它，这样布满了图标了的屏幕就会发光，然后把它递给牛顿。通过使用棱镜将太阳光分解，揭示了白色光是如何由不同颜色的光组成的，然后将其重新组合起来的牛顿无疑会对这个在漆黑的小教堂发出了生动色彩的小玩意儿感到惊讶。现在播放一个关于英国乡村场景的电影，还有一些他曾听过的教会音乐。然后，给他展示一个有500多页他自己关于他的杰作原理注释的网页，教他如何使用缩放手势来放大细节。
牛顿能解释这个小设备是如何做到这一切的吗？尽管他发明了微积分并解释了光和重力，但他却无法把化学从炼金术中区别开来。所以我认为他会感到困惑，甚至无法回想起这个设备最开始的相关轮廓。这与他十分感兴趣的超自然的体现没有什么区别，它和魔法是无法区分的。记住，牛顿是一个极其聪明的家伙。
如果一件事物是魔法，那我们就很难去发现它的局限性。假设我们进一步的向牛顿展示这个设备如何在黑暗中照明，它是如何拍摄照片录制视频及录制声音，如何将它用作一个放大镜和镜子。然后我们向他演示，这个设备如何用不可思议的速度进行算术运算并精确到多位小数。就在教堂里，我们指导他操作设备时应采取的详细步骤，并告诉他可以用这个设备同世界上任何地方的人即时交流。
牛顿还能推测出这个设备的其他用途吗？棱镜无需能源就能永远工作下去。他是否会推断出 iPhone 会永远工作下去，而忽略了它需要充电的情况呢？回想起来，我们在法拉第诞生 100 年前我们就抓来了他，所以他缺乏对电能的科学理解。既然 iPhone 在无需火的情况下就能成为光的来源，那么它也许会将铅转化为黄金？
这就是我们想象未来科技时都会出现的问题。如果它距离我们如今拥有且能够理解的科技足够遥远的话，我们就发现不了它的局限性。如果它变得和魔法无二，人们所说的关于它的一切都不再被证伪。
当我与人们争论是否我们应该为通用人工智能（即 AGI， 我们将建立像真实生物一样运行的有着自主意识的实体）感到恐惧，我经常会遇到这样的问题。我被告知，不了解通用人工智能将会有多么强大。这不仅仅只是一场争论而已。
我们不知道是否它应该存在。我更希望它存在——这一直是我在机器人技术及人工智能领域工作的动力。但如今通用人工智能研究在普及和支撑实际存在的独立实体方面做的并不好。
在至少 50 年内，人工智能在推理及常识方面都会遇到同样的问题。我所见到的证据都表明我们还没有办法去建立一个可以独自思考的实体。它的属性是完全未知的，所以它很快就会被形容为魔法，强大到没有界限。
宇宙中没有任何东西是没有界限的。
注意关于未来科技的争论，这是不可思议的。这样的争论永远不会被驳倒，因为这是一个基于信仰的争论，而不是基于科学。（摘自美《深科技》）
（编辑/华生）