摘要：随着智慧法院建设的持续推进,算法在司法审判中逐渐进入深度应用阶段,相关风险也随之激增,审判的公开透明原则、司法为民宗旨以及司法公正理念都受到了算法技术的冲击。分析可知,法律与技术衔接转换困难、权力分配格局失衡、传统司法向智能司法转型陷入困境是风险形成的深层原因。对此,在思路设计维度应当坚持司法质效和算法裁判安全并重;尊重司法规律,防止技术依赖;衡平算法裁判的权力格局。在路径厘定层面需要分类分级确定算法技术在审判中的适用尺度,吸收法院案件纠错机制,从技术的法律观视野强化算法裁判的透明度。

摘要：智能时代的特点是数据与算法在社会经济运行中发挥越来越重要的作用。然而,算法赋能社会的同时,也伴生了“信息茧房”、算法歧视、算法“黑箱”等内生风险,因此需要深刻理解算法的伦理面向,以确立算法风险的治理原则,进而构建科学有效的算法治理体系。文章基于国内外算法治理实践,从算法治理的“权力—权利”价值与“技术—社群”路径两个维度,阐述了算法风险治理及其伦理关切的四个核心面向:可控、透明、安全、公平。算法伦理风险产生于算法权力和用户权利的失衡,因此算法治理的价值在于规制算法权力并保障用户权利。算法治理的路径包括技术改进与社群约束,通过优化算法系统设计与完善算法的规制体系等方式,促进算法向善,防范或化解算法支配、算法“黑箱”、算法歧视等风险,并保障算法使用的安全性。

摘要：人工智能时代算法风险的法律规制体系须结合算法、代码、数据、智能机器等之间的内在运行机理加以分层构建。在算法设计由逻辑实现到代码实现演变中,可从算法知识产权保护、算法解释权引入、算法监管等维度对算法黑箱和算法歧视等技术风险加以规制,实现人类世界与程序世界的法治对话;在算法学习由规则学习到自主学习演变中,通过个人信息保护、企业数据保护等方式对数据缺陷、数据滥用、数据垄断等数据风险加以规制,实现理性主义与经验主义的法治对话;在算法决策由辅助系统到智能系统演变中,结合应用场景对算法共谋、算法推荐、人工智能法律责任等算法决策问题提出规制思路,实现辅助系统与智能系统的法治对话。

摘要：迈入人工智能时代,人工智能教育已是教育发展的大势所趋,而算法是人工智能教育的强中之基。算法在为人工智能教育带来快速发展的同时,也带来了不可预知的风险:算法的既定性导致教育被浅层化,“黑箱”效应催生了教育被隐形控制、算法偏见加剧了教育不公,以及算法的大规模应用易引发教育同质化,其危害不容小觑。深入究因发现,算法的固有属性与教育的特质之间的博弈是“风险”产生的本体的、深层次的缘起。防范人工智能教育应用的算法风险,让算法遵循“善法”,可通过优化算法设计、增加算法的透明度、减少算法偏见滋生、确立算法问责机制,稳步推进人工智能教育算法从善的深化发展。

摘要：算法风险触及、引发、衍生了诸多社会问题,日益成为社会各界广泛关注的热点。算法风险治理的伦理结构化进路,主要是指通过建构算法设计、开发和使用的伦理原则制度,确定相对稳定的伦理框架和逻辑体系,形成合理可靠的伦理关系结构,从而确保算法符合道德伦理要求。伦理结构化的表达与呈现方式对提升算法治理能力十分重要,是推进算法风险治理的重要范式,有助于从理论层面到实践层面全面实施和执行算法的道德规范,推动算法的伦理建设进程。算法风险伦理治理结构化的实施路径包括:建构算法风险伦理评估模型与审查体系;提升算法的伦理信任阈值与制定评估指标;设立算法风险伦理问责机制。

摘要：算法治理是数字化时代公共治理或政府管理转型的重要趋势。作为一项新兴技术,算法应用面临许多未知、不确定性和非预期后果,由此产生了“不确定风险”这种特殊风险类型。算法应用的不确定风险根据生成领域、程度与性质可以划分为多种类型。从算法治理的工具、主体与情境角度的分析表明,算法技术特性、决策主体模糊性以及公共治理复杂性是不确定风险的来源或产生原因。基于不确定风险的特殊性,需要实现“确定性思维”向“不确定性思维”的转换,在此基础上可以通过参与式算法设计、算法公共性原则和适应性治理机制来进行应对。

摘要：算法技术在数字孪生时代背景下正面临着算法偏见、算法归责难、人类主体的自主性削弱、隐私泄露和数据滥用、数字鸿沟、人与算法的矛盾等一系列算法风险挑战。算法的复杂性、人的认知限制、算法设计者的价值偏差和公众的算法素养是产生算法风险的主要原因。为保障算法技术的良性运行和创新发展,需要进行伦理治理:在秉持尊重人类主体、安全可靠、以人为本、公开透明、公正五项基本原则的基础上进行算法技术的伦理设计,创新制定伦理准则,努力引入责任伦理,集聚合力协同共治,提升公众算法素养。

摘要：人工智能算法不透明或无法解释导致的“算法黑箱”被视为引发算法偏见、歧视或操纵等社会风险的重要原因。既有研究在使用黑箱隐喻时,多将算法视为一种“实体性存在”(代码或模型),谋求通过代码公开或模型解释等方式打开黑箱。然而基于行动者网络理论考察发现,算法本质上是社会与技术性行动者关联互动形成的“关系性存在”。黑箱并非算法技术本身的属性,而是以算法为核心的社会科技系统或行动者网络的特征。为了揭示可能被黑箱隐匿的风险,需要打开黑箱以呈现算法行动者网络中的行动者及其关系。相应地,算法风险治理需要确立算法设计与应用的公共性原则,构建开放包容的算法行动者网络,并实现基于批判性反思的算法信任。

摘要：在当前的短视频生态中,形成了平台、内容创作者、用户三大主体以推荐算法为核心展开互动的行为模式,并且各主体在与算法的互动过程中呈现不同的生存状态。针对学界普遍担忧的算法风险及异化问题,本文揭示了短视频行业三大主体是如何在算法主导的生态中生存、互动乃至博弈,以适应变化的媒介环境,分析这种生存互动方式中可能出现的新问题,并由此提出技术、人性与社会共治的短视频行业未来发展路径。

摘要：如果说数据是数字经济时代的核心生产要素,那么算法则是推进这一核心生产要素资产化和价值化的运行基础。当数字技术赋能各个领域,催生了新产品、新组织模式、新商业模式和新产业业态的同时,也带来了诸如算法歧视、算法操纵、算法协同、算法黑箱等潜在风险。不同类型的算法经由设计和实施,其带来的算法应用潜在风险不同,并可能导致政府失灵与市场失灵。围绕“治理主体-治理对象-治理工具措施”探索算法治理的体系架构,可以融合多元主体协同、利益均衡和敏捷治理等三种机制,在元规制和全过程管理理念的基础上优化算法治理措施,推动三种机制并行。