学界关于“超级AI”的论争及其实现的可能路径

• 作 者: 王彦雨
• 机 构: 中国科学院自然科学史研究所
• 出 处: 未来与发展
• 发表日期: 2017年8期
• 关键词: 超级AI AI风险 递归性自我改良 存在性风险 动车困境 Super AI risk of AI recursive self improvement e
• 基金项目: 中国科学院自然科学史研究所重点培育方向项目“科技的社会风险”,以及中国科学院青年研教项目“机器人ELSI问题研究“项目部分成果

霍金关于人工智能取代人类的观点,引发了人们关于“超级AI（超级人工智能）”的广泛争论,那么“超级AI”是否会实现、其潜在的实现路径包括哪些？针对这些问题,该文在分析历史上关于超级AI的争论的基础上,总结了学界等关于“超级AI”如何实现的各种路径。认为当前我们不应过度夸大AI的能力,但要敬畏AI的未来发展潜力,因为无论是从技术态层面还是社会态层面上讲,AI的未来发展陷入“动车困境”,超级AI并非完全是一种科学幻想。