论文部分内容阅读
忘事，是人们经常碰到的事。有时忘了这，有时忘了那，甚至有时还会忘了自己的生日。或许某些人有超强的记忆天赋，把一副扑克牌随机打乱，他随意扫两眼，就能记住所有牌的顺序。但这只是少数特例，人似乎永远不会完全掌控自己的记忆。
那么，现在发展火爆的人工智能和智能机器人是不是能克服遗忘？或者说，遗忘必须要克服吗？
首先，应该弄清楚人类为什么会遗忘。一般有两种解释，第一种比较通俗，即人的大脑容量有限，记的东西多了，自然要清理，以便“腾空间”，也就是遗忘。
然而，世界上有一种非常罕见的人，就是“超忆症”患者。超忆症的表现是，大脑有自动记忆系统，不加选择，会将经历过的一切事一丝不落都记住，并且很长时间后还能清晰回忆起来，对数字、时间尤其敏感。若从这个角度讲，大脑容量似乎超乎想象的大，应该不会出现不够用的情况。
第二种解释，就是遗忘有助于人类认识世界。记住与理解是不一样的。当忘掉一些没什么价值的信息，只保留一些有用的、有价值的、有关联的信息时，才会更好地理解世界。
研究也表明，一些重复的、单调的信息，人们很难记住；对于一些矛盾的、有冲突的信息，人们则更容易记住，因为这代表着对世界的某些“理解”。还有某些重要的、新颖的信息，以及当时人们的情感体验，也很容易记住。如2001年9月11日，许多人能清楚忆起当天事件发生时，自己当时在哪里，在做什么。
智能机器人记忆信息，与计算机的原理非常类似。它包括两部分，一是内存储器，俗称内存，暂时存放数据，由中央处理器运算后将结果输出。二是外存储器，一般指硬盘，可以与内存储器交换数据，也可以长久存放数据。
内存的容量一般不大，它需要经常退出程序，清除数据，从而释放空间进行其他运算。外存储器也是同样道理，也是有限的。这都类似于“遗忘”，并且也都适用于智能机器人。
人工智能和智能機器人，它们的运算结构不同于计算机，是一种网状运算结构联结，如同大脑的神经网络结构一般。理论上，它们可以有几乎无限的存储空间（如Gmail邮箱的存储空间一直在增长，即使它们算法不同），但实际运行中，智能机器运转时间长了，存储的信息就会越来越多，而后续有些运算、预测不需要用到这么多信息，这时它附载的信息超过了它所需调用的信息，就会妨碍智能机器的深度学习，尤其妨碍其预测能力。
显然，智能机器也要学会遗忘。而且，它还要克服遗忘的另一个极端——“灾难性遗忘”。
人类会把某种旧技能迁移至新能力上。但是与人类不同，目前智能机器做不到这一点。它在不断学习的过程中，信息总量也会不断增加。当再增加一项新任务，学习新内容时，它的“神经网络”需要重置，即抹去先前的所有记忆而从头开始。这就是灾难性遗忘。
谷歌DeepMind就有这个缺陷，但是目前有了初步改进，不过未来还有很长的路要走。
毋庸置疑，智能机器需要忘记，但又不能全部忘记。那么它究竟要忘记什么？
与人类一样，遗忘的原则就是，记住重要的、有用的信息，忘记没价值的、不相关的信息。但实际操作起来，涉及很多方面，绝没那么容易。
美国亚马逊公司有一款蓝牙音箱，其实它的真正身份是智能家庭助手，取名为Echo。人们可以通过语音对它进行控制，并进而控制其他设备。因此它总是时刻在听“命令提示符”，也因此存储了大量信息。阿肯色州警方曾经要求亚马逊公司配合，去查询一个杀人嫌犯家里的Echo，试图提取更多证据。
问题在于，Echo存储的数据属于谁？亚马逊公司、嫌犯还是Echo自己？谁拥有所有权？谁可以决定信息的取舍？所有权不同，决定遗忘的信息内容也是完全不一样的。
还有，假如你学会了抽烟，但被父母发现后，就起誓保证今后绝不再抽，可是趁没人时又偷偷抽了，而恰巧你家里的智能机器人看到了，该怎么办，要忘记吗？又假如，它看到你伤害别人，做了非法的事呢，它应该选择记忆还是遗忘呢？
决定智能机器遗忘什么，不单单是由它目前正在处理的事决定，也不单单是技术问题，而是涉及隐私、法律以及伦理道德的社会大问题。表面上看，这是关于一个机器人的记忆问题，但实际上，这是对人类社会的一种深刻挑战。
（摘自2017年11期《大科技·百科新说》）
那么，现在发展火爆的人工智能和智能机器人是不是能克服遗忘？或者说，遗忘必须要克服吗？
人类为什么会忘记
首先，应该弄清楚人类为什么会遗忘。一般有两种解释，第一种比较通俗，即人的大脑容量有限，记的东西多了，自然要清理，以便“腾空间”，也就是遗忘。
然而，世界上有一种非常罕见的人，就是“超忆症”患者。超忆症的表现是，大脑有自动记忆系统，不加选择，会将经历过的一切事一丝不落都记住，并且很长时间后还能清晰回忆起来，对数字、时间尤其敏感。若从这个角度讲，大脑容量似乎超乎想象的大，应该不会出现不够用的情况。
第二种解释，就是遗忘有助于人类认识世界。记住与理解是不一样的。当忘掉一些没什么价值的信息，只保留一些有用的、有价值的、有关联的信息时，才会更好地理解世界。
研究也表明，一些重复的、单调的信息，人们很难记住；对于一些矛盾的、有冲突的信息，人们则更容易记住，因为这代表着对世界的某些“理解”。还有某些重要的、新颖的信息，以及当时人们的情感体验，也很容易记住。如2001年9月11日，许多人能清楚忆起当天事件发生时，自己当时在哪里，在做什么。
智能机器需要遗忘吗
智能机器人记忆信息，与计算机的原理非常类似。它包括两部分，一是内存储器，俗称内存，暂时存放数据，由中央处理器运算后将结果输出。二是外存储器，一般指硬盘，可以与内存储器交换数据，也可以长久存放数据。
内存的容量一般不大，它需要经常退出程序，清除数据，从而释放空间进行其他运算。外存储器也是同样道理，也是有限的。这都类似于“遗忘”，并且也都适用于智能机器人。
人工智能和智能機器人，它们的运算结构不同于计算机，是一种网状运算结构联结，如同大脑的神经网络结构一般。理论上，它们可以有几乎无限的存储空间（如Gmail邮箱的存储空间一直在增长，即使它们算法不同），但实际运行中，智能机器运转时间长了，存储的信息就会越来越多，而后续有些运算、预测不需要用到这么多信息，这时它附载的信息超过了它所需调用的信息，就会妨碍智能机器的深度学习，尤其妨碍其预测能力。
灾难性遗忘
显然，智能机器也要学会遗忘。而且，它还要克服遗忘的另一个极端——“灾难性遗忘”。
人类会把某种旧技能迁移至新能力上。但是与人类不同，目前智能机器做不到这一点。它在不断学习的过程中，信息总量也会不断增加。当再增加一项新任务，学习新内容时，它的“神经网络”需要重置，即抹去先前的所有记忆而从头开始。这就是灾难性遗忘。
谷歌DeepMind就有这个缺陷，但是目前有了初步改进，不过未来还有很长的路要走。
智能机器该忘记什么
毋庸置疑，智能机器需要忘记，但又不能全部忘记。那么它究竟要忘记什么？
与人类一样，遗忘的原则就是，记住重要的、有用的信息，忘记没价值的、不相关的信息。但实际操作起来，涉及很多方面，绝没那么容易。
美国亚马逊公司有一款蓝牙音箱，其实它的真正身份是智能家庭助手，取名为Echo。人们可以通过语音对它进行控制，并进而控制其他设备。因此它总是时刻在听“命令提示符”，也因此存储了大量信息。阿肯色州警方曾经要求亚马逊公司配合，去查询一个杀人嫌犯家里的Echo，试图提取更多证据。
问题在于，Echo存储的数据属于谁？亚马逊公司、嫌犯还是Echo自己？谁拥有所有权？谁可以决定信息的取舍？所有权不同，决定遗忘的信息内容也是完全不一样的。
还有，假如你学会了抽烟，但被父母发现后，就起誓保证今后绝不再抽，可是趁没人时又偷偷抽了，而恰巧你家里的智能机器人看到了，该怎么办，要忘记吗？又假如，它看到你伤害别人，做了非法的事呢，它应该选择记忆还是遗忘呢？
决定智能机器遗忘什么，不单单是由它目前正在处理的事决定，也不单单是技术问题，而是涉及隐私、法律以及伦理道德的社会大问题。表面上看，这是关于一个机器人的记忆问题，但实际上，这是对人类社会的一种深刻挑战。
（摘自2017年11期《大科技·百科新说》）