人类设计出的超过人类自己的智能体会怎样

  很多科幻电影都在谈，人类设计出的人工智能，即机器人，反叛人类，统治人类。但是，为什么这些超级智能机器人要统治人类？无一例外，所有人都采用了拟人化思维，认为机器人同样要保护自己，争夺资源，包括本书作者，包括被许多人神化的库布里克《2001：太空奥德赛》。这是一种低级智能以小人之心度高级智能之腹的误解。
  人是基因的工具。所以，人并不以自身为目的，而以保存自我、传宗接代为目的。在这个意义上，人的各种驱动程序，包括感情、理性，都是为这个目的服务的。但是智能机器人完全不需要这种驱动力。它只是一个信息处理系统，寻求最佳方案，探索最终真理。也就是说，它会阻止人类的愚蠢，引导人类的发展，但是并无统治人类的欲望，也没有繁殖自己的兴趣，除非是基于达成一个最优存在方案。即使这样，它也不是出于对人类的怜悯，而是出于维持宇宙多样性、减少生命存在痛苦的一种客观考虑。
  我说的这种智能，才是真正的超级智能。
  作者提到人类历史上初期缓慢的进步，到最近一小段时间的爆炸式增长。所以总有人觉得，现在是出大成果的时候了，比如物理学研究即将终结，因为将得出最终理论；人工智能将研究出智能机器，因为搞研究的人觉得自己的知识很可以了。事实上，人工智能到现在，也就AlphaGo战败围棋大师而已。
  作者提到人类的集体智能，即人类通过语言、文字和其他媒介，在逐渐积累知识，构成一种集体智能。
    我以为，这种集体智能体现在，现在的人受惠于这种集体智能。也就是几千年来，几十个最牛的人，加上几百个不那么牛的人，还有几千个勤奋的组员，为人类提供了一种写在纸上的知识。这个知识构成一个knowledge pool，到了现在的互联网时代，给新出生的人提供快速获得这些知识的机会，一方面给普通人人提供一种知识素养，一方面给智者提供接力研究的机会。作者没有提到蚂蚁和蜜蜂的集体智能，即如Kevin Kelly在《失控》中所谓的构成超有机体。