图片:REUTERS/Kim Kyung-Hoon

机器人是人类品格的一种反映。

为什么人类要创造机器？因为人类渴望提高效率、节省时间，而这种渴望最终让新技术得以诞生，而新技术为人类节省的时间又被投入新的幻想和创造中，如此往复循环。 技术创新提供了人性得以充分发展的时间和空间，包括创造力、创业精神，发明精神和同情心。 它通过减轻我们的痛苦，以及创造新的解决方案，来为我们人类服务，实现我们的愿望：从治疗癌症到登录火星，皆是如此。

但正如尼采所警告的那样，人类最常犯的错误就是忘记自己的目的。 面对着自动化的浪潮，许多人担心《黑客帝国》式的后启示录会成为现实。 而在另一个相反的极端，有些人可能会过分热衷于人工智能（AI），忽略了将决策权委托给人工智能的风险（深度学习算法就像黑匣子，其学习和逻辑过程难以被重新解码）。 

今天，AI的可能性取决于其创作者设下的限制。 因此，随着人工智能在日常生活中变得越来越普遍，人类在机器人时代所扮演的角色，承担的责任，将变得越发重要。

人工智能的社会契约

由Google Deep Mind开发的人工智能Alpha Go在围棋这种高度复杂的棋类游戏中，走出了意想不到的妙招，击败了最好的人类选手。 但是，问题在于：Alpha Go的伟大胜利是人类真正意义上的发明，还是说Alpha Go由于其算法的高度复杂性，令人类选手无法企及才赢得了胜利？

机器在计算和记忆方面已经比人类优越。 但与此同时，人工智能的应用却是人类的选择，一个政治和社会的选择。 人工智能在计算交通流量方面比预期更好，还能够预测疫情发生率，管理能源利用效率。但归根结底，人工智能所分析的问题，及其提出的解决房方案，都显示出了从人类设计师那儿继承的偏见。

AI的演变和传播同时也是社会问题。 我们制定了法规和法律，才能够规范社会运作，控制经济歧视，禁止毒品和武器，甚至是最简单的道路限速。 同样的，我们也要制定自动驾驶车辆的行为规范。

当我们选择将决定委托给机器时，有哪些标准是必不可少的？ 对于每一个变得更加精致更加复杂的人工智能来说，我们需要公民社区来评估其社会目的和应用场景。

新时代、新标准

对于人类的思考过程来说，“相信本能”是一个不甚有效的建议：它起作用的概率，和掷硬币的概率差别不大。 换句话说，我们的行为和我们对于行为的理解之间，往往存在着差距。 当我们试图解释自己行为的时候，最多也只能将自己的思想或思想过程进行简化。 假如人脑的某些学习过程，与人工智能的深度学习系统有相似之处，我们也不应感到惊讶。 

这既不是说我们应该向这些现实低头，也不是说我们不应进行创新，更不是说我们能够去限制推进创新创业所不可避免的风险。 相反，人工智能的快速发展要求我们要制定技术发展相关的标准和手段。 例如，人工智能委员会有责任评估机器决策的可行性和透明度。 我们也可以在机器/人工智能中定期举办比赛，揭示他们的偏见和错误，并测试他们的能力，就像我们对银行进行压力测试的方式一样。

适应技术时代的新人类

意大利物理学家Giuliano Toraldo di Francia曾经说过：“我们需要创造出适合人类的技术;我们还需要创造适合技术的人类。” 我们选择创造机器，专注于我们作为人类的独特优势。 提醒自己人类和机器的不同，是我们应该迈出的第一步。 下一步，我们应当做好准备，应对未来与人工智能朝夕相处的日子，即使我们没有被植入人工智能，也会穿上人工智能的可穿戴式设备。

听起来像科幻小说？ 今天的智能手机已经是我们思想的延伸，也是我们身体的“准永久性”延伸。 我们需要一种“技术哲学”，为我们在这个技术爆炸的环境中设定新的行为和道德指南。 由于人工智能将会变成公共和私人生活的重要组成部分，我们需要为“人机社会”制定作为公民新的权力和责任。

本文原发表于 《LINC杂志》。

本文所表达的仅是作者个人观点，而非欧盟委员会的意见。

作者：Leonardo Quattrucci,欧洲政治战略中心政策顾问

以上内容仅代表作者个人观点

本文由世界经济论坛原创，转载请注明来源并附上原文链接

翻译：达沃斯博客翻译小组·陈达铿

责编：刘博睿

世界经济论坛·达沃斯博客是一个独立且中立的平台,旨在集合各方观点讨论全球、区域及行业性重要话题。