原文发表于《羊城晚报》
文/郑渝川
谷歌研发的自动驾驶汽车已经累积了数十万英里的安全驾驶记录,预计数年内,这种无需人类驾驶的车辆将广泛投放市场。但随之而来的一个伦理性问题是:如果无人驾驶汽车出了车祸,责任应该归结于谁?如果搭乘车主的无人驾驶汽车,正要经过一座狭窄的桥,桥对面忽然开来了满载儿童的校车,这座桥无法容载两辆车,必须要有一辆车马上掉下桥去,才能保障另一辆车的安全。那么,无人驾驶汽车是会毫不犹豫的冲上前去,为车主清除隐患,把校车撞下桥去呢,还是自杀性地开下桥,牺牲车主以保全更多儿童的性命安全?
类似的伦理疑问还包括:如果你或你的家人突发重病,但无人驾驶汽车却拒绝超速赶往医院,你该怎么办?如果有家长让未成年的孩子喝酒,家佣机器人是否应当马上启动报警程序?
人工智能时代已经到来,机器人的智能化程度大幅提升,机器人已拥有了从经验中自我学习的能力,还能对现实问题作出快速反应。但有关人工智能、机器人的伦理性问题,却比单纯的技术问题更难得以解决。
享誉世界的顶尖级人工智能专家、斯坦福大学人工智能与伦理学教授杰瑞·卡普兰曾创建过Go公司、Onsale(全球首家在线拍卖公司),设计了世界上首台笔触式计算机,在美国科学界、产业界和政界有着很强的影响力。他所著的《人工智能时代》(李盼译,浙江人民出版社)一书,主要从人工智能和机器人所必然带来的技术和社会风险入手,探讨了应对这些风险的可行之策。
在卡普兰看来,相比于过去的智能化机器,机器学习已有了本质的区别,已经“发展出自己的直觉力,然后用直觉来行动”,这也将使得机器人可以更为踊跃地进入人类世界,接管过去仅能由人执行完成的形形色色的工作。在过去,投放到医学、工业等多种领域的机器人,都存在精准性、力量性、持久性不足等问题,使得机器人适应环境的能力较差,只能在启动之前尽可能精准地设定,但随着机器感知领域的突破和发展,“未来的机器人可以看到、听到、做计划,还能根据混乱而复杂的真实世界来挑战自己”。
卡普兰预言,终有一天,随着传感器、反应器以及无线通信的不断进步,人工智能将以合成智能的方式,与人体甚至其他物体合而为一——“未来看起来会比你想象中的更像过去”。
智能时代毫无疑问会释放出更多的技术红利,但风险也不可小觑。卡普兰特意提到,随着在金融交易中越来越多地加入人工智能,高频交易程序一方面减少了市场震荡,另一方面却会将风险转嫁给一般的交易者,让交易者获得的交易价格偏离于最佳价格。这种情况在商业领域中也有表现,比如全球知名电商企业亚马逊通过复杂算法,使得不同顾客在不同时段获得的报价各有不同,并通过智能化的购买数据分析,推出更具诱惑力的促销方案,诱导顾客购买更多原本不需要购买的、实际上也并不那么价廉物美的商品。从目前情况来看,在合成智能方面投入最多的企业,无不热衷于将之应用于操控用户的注意力和购买力。
更进一步的风险在于,由于人工智能的设计仅仅服务于单一目的,因而未曾考虑是否存在副作用。比如,人工智能会抢在他人之前,(帮助主人)抢占车位,会在大萧条之前恶意抢购超市货架上的所有应急商品;与人对弈的机器人,不排除会使用“黑社会”式的手段,包括威胁对手的家人,破坏对手的交通工具。
要避免人工智能对社会体系甚至人类安全造成威胁,相关的智能设备、机器人开发和使用的伦理准则及立法,都应尽快提上议事日程;并且,在人工智能开发过程中,在增强单纯的技术能力的同时,也应尝试赋予它一种人类式的“感受同情和怜悯的能力”。
《人工智能时代》一书还探讨了人工智能时代将带来的另外两大风险:一是智能化潮流所可能造成的持续性失业,可能会急速扩大赤贫群体,继而引发社会震荡;二是人工智能、机器人、大数据等新科技应用,会进一步加剧社会的贫富差距。
卡普兰在书中指出,目前人们已经意识到,因为人工智能大幅度地提高了自动化作业的效能,从而产生了对工人的替代性,减少了工作机会;但人们大都还没有意识到,“很多科技进步会通过让商家重组和重建运营方式来改变游戏规则。这样的组织进化和流程改进不仅经常会淘汰工作岗位,也会淘汰技能”——无论是蓝领工作,还是律师、医生等带有很强专业性的技术岗位,传统的技能都可能被智能化所替代,变得低效,这也将迫使学校和职业培训机构改变课程体系,以确保(部分)学生、培训对象能够拥有强于智能设备的技能,这就意味着,无法通过这种新型教育、培训课程检验的人,将被未来的职场所抛弃。
这本书认为,未来社会的关键,是能否通过更为有效的再分配政策,来确保所有人获得生存发展的机会,而不至于造成一个数量很大的被剥夺者群体,继而引发严重的社会危机。