人工智能应该有道德吗？-徐瑾|经济人读书会-财新网

科幻电影场景正在变为现实，人类社会准备好了么？从数据的隐私安全到个人的职业保障再到阶层的重组，都在接近转折点。我们并非手握答案，提出关键问题是第一步。

首发于FT中文网专栏

经典科幻电影《银翼杀手》中，背景是设置在2019年。电影中，这个年份已经出现一种复制人，他们与人类几乎一致，无论美丽的外表还是机智的判断力，甚至对爱的感觉、对暴力的嗜好也一样。当然，还有追杀这些复制人的杀手。

复制人渴望成为人类，这应是死罪么？如果有杀手机器人，应该追究谁的责任？《银翼杀手》核心，其实已经涉及了一个关键问题：人工智能即AI，应该有道德观么？如今，对比科幻电影，在现实中，我们已经到了过去看起来很遥远的2019年。上述问题，其实还是没有妥善答案。现实中，阿里巴巴发起的研究机构罗汉堂于2019年6月25日提出了“最关乎世界未来的十大问题”，有人称为“世界终极十问”。

1，未来十问是啥

完整十问如下：

1、我们是应该先控制风险，还是先迎接数字技术？

2、数字技术会扩大鸿沟，还是会让世界变平？

3、数据是谁的？谁是真正的受益者？

4、数字技术会让更多的人失业，还是会让工作时间更短？

5、谁是平台经济的受益者，是所有参与者，还是少数平台公司？

6、治理机制要如何改变，才能适应数字时代？

7、金融服务在越来越平民化的同时，会不会引发更多的风险？

8、数字时代全球化会走回头路吗？

9、人工智能该不该有道德观？

10、大算力和大数据，一定会让我们离真相更近吗？

这些问题，其实没有标准答案。即使有6位诺奖得主加入的学术委员会讨论，也不意味着有一致结果。

这些问题，看起来和我们的生活也许不直接相关，其实却触及了时代紧急而隐蔽的变迁。科技在飞速迭代，但我们的灵魂和社会，却没有同步进化。这种技术与人类组织、社会与生活方式的不同步，其实是比起技术本身更难解决又更容易忽视的问题。如何应对，其实将成为未来社会能否顺利转型的关键之一。

2，平台属于谁

如同盗火的普罗米修斯，科技公司释放了技术的能力，带来物质便利以及生活水平的提升；同时，也冲击了原来的社会形态，可以说生产关系已经改变。

当科技公司越来越大，市值万亿的公司开始涌现。在2018年前10大上市公司中，有七名都是科技公司，而且前五名都是科技公司，都来自中美两国。这个时候，科技公司变得体量更大，也意味着暴露在更多社会关系中，与监管用户的关系日益复杂。

回顾经济史，创新一直存在，从蒸汽机到铁路，对世界带来的改变巨大，甚至经济的促进作用，也并不亚于互联网。随着人工智能等技术加持，互联网进入转折点。科技公司纷纷转型平台经济，甚至让“中台”成为关键词。

与此同时，平台经济也意味着公司规模扩张，利益相关者增加，对于监管以及信息的使用，都带来各种挑战。比如这些天，国内外都在热议甚至盛赞的Facebook发行数字货币Libra，然而在国外Facebook的相关新闻，不少则集中于隐私丑闻导致活跃度下降等方面。

科技的发展，对于互联网公司管理其实也提出了挑战。互联网公司从边缘的创新，一跃而为成为社会主流公司，也意味着必须承担更多社会责任。这个时候，科技公司仅仅拥抱平台战略或者进行中台整合，已经不足以应对外界无日无之的打量。

在6月罗汉堂年会上，阿里巴巴集团CEO张勇和三位诺贝尔经济学奖得主由此对话，罗汉堂秘书长陈龙主持。这场对话核心议题之一，其实就在回应，谁是平台经济的受益者？张勇表示，平台不是一个人决定的，平台是所有利益相关方的平台；甚至平台型公司并不是平台的所有者，而只是在运营这个平台，只是平台的一部分。

3，超越行业的知识思考

这些讨论见仁见智，但从超越行业的视角来看，其实有不一样的高度。当下，类似《黑客帝国》以及《三体》的科幻电影场景正在变为现实，对于人类社会冲击逐渐展现。从数据的隐私安全到个人的职业保障再到阶层的重组，都在接近转折点。人类社会如何应对这些挑战，其实是超越了我们当前的知识储备；换言之，我们并非手握答案。认识到这一点，是第一步。

例如开篇谈到的人工智能道德观问题。讨论这个问题，常常有个两难选择的经典场景，比如驾驶一辆失控汽车，假设必须选择撞向一边，左边是老人，右边是小孩，怎么办？

类似的伦理难题，在人类开发人工智能的历程中，也会遭遇不少类似的拷问。那就是，在多大的程度上、以怎样的方式处理人工智能的“类道德问题”？与此相关，罗汉堂的学术委员会成员两位诺贝尔经济学奖得主分别有所阐述。2011年诺奖得主托马斯.萨金特认为，机器并不是自己在学习，所以我们人类在给机器提供数据的时候，要努力去除掉一些偏见；2016年本特•霍姆斯特罗姆（Bengt Holmstrom）则指出，人工智能也是公司一员，有工作动机，应该给予其正确动机激励。

人工智能的道德观，这个问题并不是空想，不仅重要，甚至越来越迫切的问题。这个问题背后，不仅涉及算法以及道德问题，更是知识边界拷问的问题。正如站在人类的角度，推进人工智能当然应该有道德观，但是人工智能会不会有道德观是另外一个问题，而且人类的道德观，是否适用人工智能，则是更大的问题。

类似未来十大问题的提出，其实比起如何回答更有意义。正如艺术家杜尚所言，没有问题就没有答案；反过来说，好的问题往往也意味着解决问题的开始。

比如回顾历史，知识革命的先驱，并不一定总是来自于学院体制。比如在欧洲工业革命时期，一些民间社团对技术革新发挥不小作用。比较著名的是英国月光社，他们就是由一些科学家与工程师甚至枪炮制造商等人自发组织。他们聚会的目的，不是为了赚钱，聚会的结果却往往造成了科学可能性。制造蒸汽机的瓦特，就是其中一员。

当代智库或者社群，其实也应该发挥类似的作用。国外有一个社群Edge，也是汇集各路聪明学者，发布年度重要问题。其中，一个聪明家伙就说，我足够聪明到回答这些问题，但是我足够聪明到提出这些问题么？

好的问题，往往是成功的一半，集体智慧好过个人探索。知识边界的拓展，永远从跨界的提问开始。

你认为人工智能，应该有道德么？

话题：