人类命运面临的最后挑战

人类命运面临的最后挑战
——读《超级智能：路线图、危险性与应对策略》
彭忠富
在科技日新月异的现代，各国研发团队无不卯足全力，竞相开发新一代机器人产品。如果机器人比人类聪明，如果我们制造了机器人却不能控制它们的思想和行为，如果机器人像人类一样实现了自我进化，那么我们将不再是这个星球的主宰。这看起来似乎有些杞人忧天，但是万一发生了呢，我们该怎么办？超级智能将是信息时代人类命运面临的最后挑战，如果人类不能未雨绸缪，科学应对，必将悔之晚矣。
英国哲学家和超人类主义学家尼克•波斯特罗姆认为“人类生活的最高境界是美好的。我们没有理由不相信，在这片更大的空间中会存在更多极其宝贵的生存方式。它们可能大大超越我们智慧的极限，我们甚至做梦也无法想象得到。”超越人类智慧极限的事物，极有可能就是机器人，我们能将机器人始终控制住吗？这可能是个问题。尼克在其新著《超级智能：路线图、危险性与应对策略》一书中指出，我们需要十分小心人工智能，它可能比核武器更危险，稍有不慎就会将人类毁灭。
人类之所以能控制地球，是因为我们的大脑比即使最聪明动物的大脑都要复杂得多。人类大脑拥有一些其他动物大脑没有的功能，正是这些独特的功能使我们的种族得以拥有主导地位。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。事实上，人好比孩子，超级智能好比孩子玩的炸弹。炸弹的威力和我们行为的成熟度是如此的不匹配，而最可怕的是我们不知道炸弹什么时候会爆炸。超级智能是一个我们现在还没有准备好应对的挑战，而且很长时间之内都不会准备好。一旦人类失去对机器人的控制权，超级智能就会像炸弹那样爆炸。因此超级智能对我们人类将是一个巨大的威胁。
这本书包括如下部分：人工智能：昨日成就与今日现状；通往超级智能之路；超级智能的形式；智能大爆发的动力学；决定性战略优势；超级认知能力；超级智能的意愿；结局注定是厄运吗？控制问题、战略图景和关键时刻等。作者首先讨论了超级智能的形式和能量，以及具有决定性优势的超级智能体有哪些战略选择。之后讨论的重点转向控制问题，并提出为了获得可生存并且有利的结果，如何塑造初始条件的问题。最后指出为了增加成功率，现在可以做些什么。《获取价值观》一章以及以后的《确定选择你》各章是本书的精华，具有超越本书的普世阅读价值。
作者认为，原则上，我们能够制造一种保护人类价值的超级智能。当然，我们也有足够的理由这么做。实际上，控制问题，也就是如何控制超级智能，似乎非常困难，而且我们似乎也只有一次机会。一旦不友好的超级智能出现，它将会阻止我们将其替换或者更改其偏好设置，那时我们的命运将被锁定了。这本书会带你开启一段引人入胜的旅程，将你带到对人类状况和智慧生命未来思索的最前沿，不愧是对我们时代根本任务的一次重新定义。这本书如果得到了应有的重视，那么它会成为1962年《寂静的春天》之后，甚至有史以来最重要的警钟。
超级智能好比人类手中的炸弹，不知啥时就会给我们带来厄运。当然这是一种设想，但是我们切不可因噎废食停止研发机器人，毕竟魔高一尺道高一丈，相信人类最终还是能驯服超级智能这块炸弹，让它为我们所用。