人工智能产品算法设计者的犯罪过失判断——以危惧感说的核心观点为立场

作     者：刘嘉铮 LIU Jiazheng

作者机构：东南大学法学院江苏南京211189 

基　　金：国家社会科学基金重大项目“智能技术赋能政法领域全面深化改革研究”(22ZDA074) 

出 版 物：《重庆大学学报（社会科学版）》 (Journal of Chongqing University(Social Science Edition))

年 卷 期：2024年第30卷第3期

页      码：228-241页

摘      要：判断人工智能产品算法设计者的过失时,修正的旧过失论对导致危害结果发生的因果历程设置了具体预见可能性标准,这一标准与算法的黑箱属性以相关性而不是因果关系为基础的决策过程存在冲突。同时,此立场只重视结果忽视行为的逻辑会打击算法设计者的积极性,阻碍算法进步。新过失论虽然以结果避免义务作为犯罪过失的核心,但是其对结果预见可能性的标准缺乏具体设计,在判断预见可能性时往往束手无策。因此,两种立场都不是判断人工智能产品算法设计者犯罪过失的合理方案。相比之下,虽然危惧感说(超新过失论)认为结果预见可能性只需达到危惧感的观点受到了主流观点的批评,但这种批评值得商榷:其一,只看到了这种立场对结果预见可能性的低程度要求,却没有看到这种要求背后的核心观点对于判断犯罪过失的合理性;其二,将危惧感说提出者本人对个别案件的过失判断等同于危惧感说的全部,略显片面。与修正的旧过失论和新过失论相比,危惧感说的核心观点是:结果预见可能性与结果避免义务存在相互关联性,这是判断人工智能产品算法设计者犯罪过失的合理方案。以危惧感说的核心观点为思路,犯罪过失包括客观的结果预见可能性、客观的结果预见义务和客观的结果避免义务。人工智能产品算法设计者客观的结果预见可能性的标准是:一旦遭遇包含异常因素的特殊情况,算法有可能做出不利决策,进而引发消极后果。算法设计者客观的结果预见义务的内容是:其一,应当预见到其设计的算法不仅会被用于没有异常因素出现的正常情况,而且可能被用于伴随异常因素出现的特殊情况;其二,一旦其设计的算法面临特殊情况,该系统可能会做出不利决策。算法设计者客观的结果避免义务的内容是:应当避免在设计算法时植入为社会公众普遍反对或不赞同的价值理念;在设计时检验“投喂”给算法系统的数据质量,最大程度防止缺陷数据进入算法机器学习训练的“垃圾进”风险;及时告知产品生产者算法可能面对的异常情况。

主 题 词：算法 结果预见可能性 危惧感说 结果预见义务 结果避免义务 

学科分类：12[管理学] 0301[法学-法学类] 03[法学] 030104[030104] 1201[管理学-管理科学与工程类] 081104[081104] 08[工学] 0835[0835] 0811[工学-水利类] 030609[030609] 0306[法学-公安学类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11835/j.issn.1008-5831.fx.2023.03.004

馆 藏 号：203128463...