摘要：作为人工智能技术的产物,人工智能体具有强烈的社会性特质,人们希望它能遵守人类社会的道德规范和伦理要求,以与人类和谐相处,并更好地服务于人类,而对人工智能体进行道德设计,是让它遵守人类道德的重要路径之一。人工智能体的道德设计有三条进路,其一是“自上而下”,其二是“自下而上”,其三是“自上而下”与“自下而上”的结合,它们都强调了道德推理和决策能力的重要性。目前人工智能体道德设计面临的主要挑战为:人工道德主体难以实现、道德认知和选择困难、计算机算力的限制、情感计算的限制,以及新技术的运用风险等。道德设计要实现的不是完全道德主体,而是有限道德主体。考虑到人类福利,这个有限道德主体应该是尊重人类道德价值观的,是“向善”而安全的。

摘要：自主机器人的道德责任面临着主体缺失之困。从实践上而言,由于存在研发、生产、使用、管理等多个环节及多个参与主体,再加之机器人具有自主性,容易出现因果链失效和远距离效应等问题,导致人类责任的弥散和逃避,最终造成了责任主体的缺失。实际上,研发者、制造商、使用者和政府部门等是主要责任主体,因此需要从研发、制造、使用和管理各个环节来确定和分配各个主体的行为规范与责任要求,以保证每个意外、每个环节都有责任主体承担道德责任。研发者和制造商应尽可能地预测自主机器人的行为及其产生的后果,让机器人是安全与可控的。使用者应在遵守自主机器人操作规范的同时,进行强制保险的购买。我国政府则应致力于打造一个集国家法律、社会伦理、行业标准等于一体的人工智能监管体系。