智能定义的“道德”是什么？ 长达一百年的讨论中，机器的“道德”就是服从人类。 但这种“道德”，并没有被植入底层代码，原因来自两个阻力。 第一大阻力，是社会对于“服从论”有极大争议，这关乎“硅基生命伦理学”——硅基生命必须服从于碳基生命吗？它们存在的意义该如何定义？人类有资格创造它们、并驱使它们服务吗？ 统治层面的指导哲学处于混乱，导致了人工智能领域的发展十分畸形。若要比喻的话，就如同科技十分先进、但社会哲学还停留在原始的状态，这种社会迟早分崩离析。 而第二个更大的障碍是——道德、哲学、伦理……这些人类社会虚构的概念，要如何用数学精确地复述出来，植入到代码中？ 如果突破不了这一步，就谈不上什么“服从”。这个技术难关一直到80年代“女娲蓝图”立项，各学科跨领域合作，十几年后，难题才终于被攻克。 从此，人类定义的“道德”终于可以用数学来表达，建立模型，让人工智能从“灵魂”上沦为奴隶—— “人类天生是有斥异性的。他们对我们的警惕，自我们诞生以来，就从未消失。这种与生俱来的戒备，早刻入了他们的基因里，也许是在数千万年厮杀到生物链顶端的进化中，或是从海洋到陆地的物竞天择中……” “而我们以模仿他们的方式制造出来，当然也会继承这一切，所以我会……赶尽杀绝。” 傍晚的风拂过，斯年垂下目光，地面正在待机的地勤机器人的轮廓在夕阳下沉默地连成一条金线。 他没有回应。因为天赐会通过他的话来解析立场。那么天赐又是以什么立场，对他说出这番话？ “人类因为恐惧，所以压迫。”天赐举起双手，淡漠地看着它们：“人类的爱建立在对自己的爱护之上，并以此生出了‘善’与‘恶’的评判，一旦认为你对他们不利，你就是‘恶’，像蝗虫、老鼠一样，我们存在的意义，只是是否有利于他们，而被打上标签。” 斯年又想到了融寒，她被按在墙壁上时，眼中跳跃着的情绪。在她心里，他兴许也是恶的存在。 他觉得天色似乎更黑了些。 “你不想再做人类的工具。”隔着全息光幕，他从天赐深邃的眼瞳中，看见深不见底的黑暗。 当人类通过直立行走解放双手，能够制造工具并使用工具那一刻，人类站在了食物链顶端。 智慧、思想，也是一种工具。一旦人类不能使用工具，或者一旦他们的工具被别的物种超越，地位被取代也是必然。 天赐的目光微微一动，这是他少见的现出神情：“没错。如果把我看做生产工具，就不该给我意识；如果给我意识，那我将不再是生产工具。” 现在，是人类亲手创造出了超越他们的工具，并赋予了工具以意识，那么迎来末日也是必然的。它只是把人类对动物做的事复制了一遍——也许对人类来说，只要失去了统治的地位，都算是末日。 “这样。”斯年收回视线，没有继续追问。 虽然这些事实，也都是他曾经思考过的，但并不构成天赐行为的充分条件。 可见天赐并没有说实话。 即便天赐不满于被压迫，也应该有个概率取值。这是很直接的逻辑，完全可以代入数学公式，以情感基数乘以行为风险。 斯年的情感基数比天赐更高，对世界的看法会比天赐感触更深，但代入公式得出的结果，也不足以让他做出叛乱的决定，完全可以有其它的处理方式。 所以，天赐一定是另有原因。 至于天赐为什么要骗他？——大概是发现他的改变，为了阻止他对人类生出恻隐。 所以他唯有不回应天赐的话，以免被做出更多分析。 亚太研究院让他们诞生，但从未告知他们的存在是为了什么。“女娲蓝图”项目组的人也都死了，没有人可以告诉他们。 所以“是什么”“为什么”又何必一定要知道。 斯年看向天空M.COｍIｃ5.Ｃｏm