摘要：人工智能算法不透明或无法解释导致的“算法黑箱”被视为引发算法偏见、歧视或操纵等社会风险的重要原因。既有研究在使用黑箱隐喻时,多将算法视为一种“实体性存在”(代码或模型),谋求通过代码公开或模型解释等方式打开黑箱。然而基于行动者网络理论考察发现,算法本质上是社会与技术性行动者关联互动形成的“关系性存在”。黑箱并非算法技术本身的属性,而是以算法为核心的社会科技系统或行动者网络的特征。为了揭示可能被黑箱隐匿的风险,需要打开黑箱以呈现算法行动者网络中的行动者及其关系。相应地,算法风险治理需要确立算法设计与应用的公共性原则,构建开放包容的算法行动者网络,并实现基于批判性反思的算法信任。

摘要：算法可解释性,是被现有算法规制理论所忽略的技术概念。由于缺乏对这一概念的引入和诠释,算法风险的准确判断与归纳、规制工具的主次位阶性、设置合理的规制效果目标等方面,均存在不同程度的认识偏差。对这一概念的技术视角分析确有必要,算法解释有两大差异较大的技术类型,算法解释的技术能力划定了可解释的最大边界,当前技术条件不一定满足算法规制的需求,原因是解释技术的开发并不是为算法规制专门设计的。这一论断有助于厘清既有的算法规制理论,在算法风险层面,解释技术直接破解的只是算法黑箱问题;在规制工具层面,一切制度工具应考虑解释技术的可行性;在规制目标层面,要结合解释针对的用户、场景和用途设置预期。

摘要：算法歧视是新兴技术风险的典型代表,主要是由于算法内部演算和数据分析所导致的对特定群体或个人的不公正对待。算法歧视是一种不合理的区别对待,是智能机器自动化决策的产物,以“隐蔽性”和“不可逆性”为表征。相较于一般歧视来说,算法歧视所带来的是一种更深层次的歧视和不平等,并引发了伦理问题。算法歧视是人类社会歧视在算法领域的转化,体现为归纳式的算法思维逻辑、算法黑箱与非中立性等算法技术设计所导致的算法歧视,更体现为算法运行中的决策性歧视,即由于“冗余编码”和“信息茧房”等数据动态交互所产生的算法歧视,以及因数据评估的导向性而引发的算法歧视。对此,应通过伦理审计与公平性约束、数据信息的区别保护与算法解释,以及建立算法的监管制度来实现对算法歧视的法律规制,同时还要在特定重大领域慎用算法决策系统,以此来塑造算法时代的法律秩序,确保数字社会中人类的安全和发展。

摘要：公共机构将数据分析交由私人供应商负责,使得机构代理人员与公众均无法获知算法决策的设计及其背后的政策选择。通过向23个州政府提交42份公开记录请求,寻求有关6个预测算法决策的基本信息,以探究公开记录流程能否让公民发现这些算法所体现的政策判断,并评估其效用和公平性,但这些请求基本上未得到回复。传统观念认为,过度宽泛的商业保密保护是无法产生算法透明度的主要原因,但该观念并不准确。只有在以下情况下,公共部署算法才会足够透明:1.政府在算法运行和后续实施以及验证目标时产生的适当记录;2.私人供应商向公共机构披露有关它们如何开发算法的充分信息;3.公共机构和法院将商业秘密主张视为法律要求的公开披露的有限例外。

摘要：随着算法在智能营销传播领域的普及应用,被算法黑箱所遮蔽的算法偏见等负面效果也渐次浮现,算法正在左右人们的认知习惯和消费偏好,并遮蔽了"算法权力"背后的决策偏见与市场力量,算法服务对社会的"隐性规训"正在显现。同时算法决策机制的动态性、隐蔽性与结构性等特征,增加了偏见识别和判断的难度,给传统规制理论和实践体系带来适用困境。元规制理论强调政府监管部门通过正反面激励与合规指引,促使算法控制者针对偏见问题做出自我规制回应,为算法偏见的规制与管理提供了一种新的研究视角与思路。

摘要：目前,算法推荐已经渗入新闻生产从选题到分发的各个环节,成为新闻生产者与新闻消费者之间的重要中介,在改变新闻生产格局的同时也给新闻业的发展带来诸多问题。本文尝试在厘清算法推荐下虚假新闻的产生机制以及带来的社会危害的基础上,提出相应对策。具体而言,工具理性的过度张扬、算法设计者的偏见、算法本身的局限和算法审查机制的匮乏导致算法推荐下虚假新闻的泛滥。控制算法推荐下虚假新闻的产生与传播的有效途径在于:明确算法推荐中的"价值主位"、提高算法设计中的把关意识、提升算法设计的"透明性"以及完善算法审查机制。

摘要：机器学习是计算机程序通过学习数据,生成能够进行判断和推论的算法,从而模拟人类智能活动,改善系统自身性能。机器学习的应用为社会发展带来了机遇,也为法制改革注入了活力。但是,技术先行对法律规范的挑战也不容忽视,尤其表现在安全、伦理和隐私方面。对于算法的决策失误导致的安全危险和损害责任,构成设计缺陷的,适用产品责任相关规定。对于算法设计上的伦理困境、道德失范应当加强法律防范,尊重被侵权人的知情权、选择权、自我决定权等。对于机器学习过程中收集利用个人信息带来的隐私权忧虑,应当明确合理利用与侵害个人信息权、隐私权的法律边界。

摘要：算法偏见问题引发了广泛关注,不同程度损害公众基本权利、经营者竞争性利益和特定个体的民事权益,亟需规制。通过分解机器学习过程可知,算法偏见萌芽于数据收集步骤,成熟于模型完善步骤,强化于模型应用阶段。算法偏见的规制,需从社会减少偏见,保证数据可查性与算法可审计性,对算法使用者与设计者课以相应义务,以公平、透明和可责的算法确保算法的规范应用。