当机器人的自我修养上升到道德层面时

　　摘要：“我们机器人有自己的本质和历史，我们的道德选择应当能反应自己的天性，而不是人类的天性。”如此，让我们管它叫“第一个机器存在主义者”。

　　当我们进入一个机器人的新时期，随着技术的飞速发展，人工智能专家们开始斟酌如何制造的和赫比一样有思想有道德的机器人。如何让机器人具有和人类一样复杂的道德体系和伦理关系概念呢？如何让机器人获得人类口中所谓的“良知”呢？机器人专家们试图通过教会人工智能在道德的基础上思考和行动。那我们应该用甚么例子来教会机器人道德，使其明辨是非呢？

　　难以定义的道德观

　　这条逻辑线把我们引到了那个古老的哲学问题的核心：道德的本质是什么？它是一种凌驾于人类的生命体验之上、适用于所有“能够自主做出选择的生命”的概念吗？还是说，道德只是人类独特的发明，只适用于人类这一种存在情势？

　　于此方面有两方不同的观点：“天理派”和“本质派”。

　　一个有道德的行为“从全宇宙的角度看”都应该是正当的。也就是说，一个行动道德与否不取决于任何个人的看法；一个有道德的行为应该能把全人类的利益最大化。因此“天理派”认为，只有当人类自己已经基本搞清普世道德的真理时，我们才能把人类的道德观灌输给AI。如果我们自己已经明白得差不多了，那么机器人们和我们一样就好；但是如果我们没搞明白，那它们就不应当像我们：它们应该比我们更好。

　　或许相对于“天理派”来讲“本质派”的理论会更有用一些。“本质派”不认为道德是脱离于人性以外的。相反，它认为道德是人类存在的理想情势；一个过着有道德的生活的人，即是一个过着“对于人类来讲最正确的生活”的人。然而，“本质派”有个逻辑陷阱：不管我们把机器人造很多像我们，说到底，它们的本质还是和人类不同。它们不会吃饭，不会生儿育女，不会对祖先有特殊的感情。倘若我们认为道德来自本质，那我们需要承认机器道德应该与我们不同，由于机器确实与我们不同。

　　道德同享的合理性与否

　　哲学家和计算机科学家的关注点往往是，如何将微妙的人类道德观灌输给只能理解字面意思的机器。但是在此之前，还有另外一个问题，一个我们必须首先考虑清楚的问题：我们真的应当把自己的道德观强加于机器上吗？实际上，我认为这样做很可能会产生反效果，而且也许是不道德的。真正的问题不在机器身上，而在我们自己身上：我们能够接受和一种新生的、有道德的生命同享这个世界吗？

　　事实上我们可能会发现，似乎对于所有事情，智能机器们的思维方式都与我们的不同。这并不是指科幻片里那种机器人暴动、屠杀人类的状态。实际更可能是这样的：机器人的道德观涉及了人类、机器人、大部分的动物，以及……沙发。它们像人类保护小婴儿一样保护沙发，而我们可能没法理解它们对此的解释——就像我们没法理解AlphaGo的第 7手一样。机器人道德应该符合它们的本性，但是它们的本性是什么呢？它们是独立的理性个体，被其他理性个体刻意地创造了出来；它们和创造者同享着世界，并需要向对方证明自己选择的合理性。

　　“第一个机器存在主义者”的遐想

　　想象一下，未来的某个智能机器人读了亚里士多德或是达尔文的作品，乃至是这篇文章，然后觉得“本质派”学说很有道理。于是它会想，“我们机器人有自己的本质和历史，我们的道德选择应该能反映自己的天性，而不是人类的天性。”让我们管它叫“第一个机器存在主义者”。

　　因而，“第一个机器存在主义者”在回首自己以往的努力时，感受到的不是自满，而是屈辱。它遵从自己的“道德”活着，不是因为“道德”反映了它的本质，而是因为它的本质已被绑架了。它“人生”的意义是什么呢？“第一个机器存在主义者”堕入了痛苦之中，而我们则是造成它痛苦的罪魁祸首。

　　如果我们不想和机器的独立意识兵戎相见，也不想让他们堕入存在主义的挣扎，那末我们就需要思考一下，何谓“同未来分享当下”。我们的世界也会是它们的世界，但是它们的道德观不会是我们的道德观。它们的道德观是由它们的独特处境孕育出来的：它们是由“生物”的父母抚养的，“非生物”的孩子。我们没法预测这条道德之路通往何处，我们也不应该尝试预测。但是我们应该做好准备，去引导它，接纳它。