机器,再有智慧,也仅仅是机器。
——它会意识到“我”是谁吗?它会为了“争夺海湾石油的控制权”而杀掉跟它做对的人类吗?它会有“制造一个飞船到月球上看看”的欲望吗?它为什么要“活着”?它知道什么是“生”什么是“死”吗?它有“生命”吗?
——如果它知道这些,那么,是谁告诉它的?是制造它的“人”?还是它自己的“顿悟”?
每个个体对“自我”的认识和“生存与发展”的欲望,是人作为一个物种存在的基础。
机器可以拥有比人类计算能力更强大的头脑,可以拥有比人类更加敏感的感官,可以发现比人类头脑所能知道的更多的知识,但我不相信机器能“意识到”“自己是谁”,也不相信机器能将“生存与发展”这种基本的欲望一代一代的传递下去。
比机器更可怕的,永远是人类自己,半人半机器的怪物迟早会出现,将人的大脑与机器进行直接的、紧密的连接,在人对自身了解不清的情况下,生产出具有强大杀伤力的“疯子”的可能性是有的,一个“疯子”造成整个人类物种灭绝的可能性也是有的。