摘要：无人驾驶的发展伴随着算法设计的诸多道德争议。电车难题是其面临的关键道德困境之一。功利主义作为电车难题中最为大多数所接受的选择,是最受期待的算法之框架。但根据伯尼法等学者的调查,功利主义尽管最符合大众偏好,在购买调查中,使用该算法的无人驾驶车却乏人问津。究竟是被试的道德偏好有所转变,抑或是道德偏好独立于选择偏好之外?电车难题的功利主义偏好是否应成为算法设计的依据?针对以上疑问,我们设置了选择与道德接受度并行的三情境实验,发现被试的选择与道德偏好并不构成连动关系,电车难题的既有偏好不足以作为无人驾驶采取功利主义算法的支持论据。根据现有算法的种种局限,无人驾驶算法的未来方向应当是跳出功利主义与利己主义框架,且能够兼容应然与实然需求的第三种方向的算法。

摘要：机器人伦理学旨在描述一种设计和评价机器人道德算法的方法,该方法可以应用在自动驾驶汽车与军事救援机器人的算法中。依据德里克·勒本(Derek Leben)的道德判断产生自利有机体中合作行为的进化压力的观点,将罗尔斯的契约主义与功利主义、道义论、德性伦理学等道德理论在各种困境游戏中的应用结果进行比较,认为只有契约主义能在各种困境中产生帕累托最优与合作行为,基于契约主义差别原则的Leximin程序适合应用于各种各样的决策空间。

摘要：自动驾驶汽车要如何处理电车难题这类两难困境?或者说它在事故中面临道德两难困境时应当如何决策?换句话说,我们应当给它设计什么样的道德算法?这是自动驾驶汽车未来必须解决的问题。道德原则之间难免会有冲突,我们应该选择何种道德原则?这可以借鉴Noah ***所提出的风险管理方式,但要建立一种词典序列以确定道德原则之间的优先序列。依序确定的道德原则分别是生命原则、价值原则和人道原则。生命原则是目前信息技术能实现的、只允许生命层面僭越的道德原则。有道德算法的自动驾驶汽车,就像一个明确的道德代理人,能够自主地处理现实生活中发生的一系列不可预知的事故,它的最大价值就是能更快地作出比人类更好的事故决策。

摘要：人工智能的发展应当以人类价值为基础,以人类福祉为目标,这就要求必须给人工智能一颗"良芯(良心)"。这意味着人工智能伦理研究应围绕"机芯"和"人心"两个维度来展开。"机芯"研究主要是指人工智能道德算法研究,旨在使人工智能拥有"良芯",使之成为道德的人工智能或道德的机器。"人心"是指人工智能研发者和应用者应当具有"良心",使人工智能的设计合乎道德,避免恶意设计,并确保人工智能的善用,使之造福人类社会,即"人心"研究涵盖人工智能设计伦理和社会伦理研究。"机芯"和"人心"研究存在诸多基础性问题,需要在道德哲学层面做出回应。因此,人工智能伦理研究包括人工智能道德哲学、人工智能道德算法、人工智能设计伦理和人工智能社会伦理四个维度。