摘要：[目的/意义]针对人工智能应用中表现出的偏见和歧视,本文从数据、算法和系统运维出发,分析了ai治理中公平性的影响因素和评价方法,为ai的公平性治理提供解决思路。[方法/过程]基于人工智能治理流程和ai的公平性治理机制两个维度,本文首先遵循“顶层设计—技术攻关—产业实践”思路,提出ai的公平性治理框架;其次,在ai治理公平性技术攻关层面提出了Govai-FDevOps框架并从偏见角度出发探讨了公平性影响因素和量化评价指标;最后以信贷数据集German为例,对信用评分卡模型在性别、国籍、年龄等敏感属性上的表现进行了公平性检测和评价。[结果/结论]从本文研究来看,ai治理中的公平性是一个具有相对性的复杂概念,不存在满足各群体、各统计意义上的绝对公平。ai治理公平性的实现需要政策、法律和技术的多方协同努力。

摘要：过去十年,得益于深度学习算法、大数据、ai专用芯片、开源软件框架等诸多技术要素的汇聚发展,ai迅速成为新的通用技术并被广泛应用于经济社会的各个领域。与此同时,ai也带来了一系列法律、伦理和社会问题,ai治理由此成为“必选项”和“必答题”。政府、企业、行业组织等各主体,围绕宏观政策、科技伦理治理、算法监管、传统强监管领域的监管创新、ai知识产权规则、ai标准化建设、行业自律、全球ai治理合作八大方面,推进ai治理走向深入。展望未来,ai治理的完善,需要持续推进精准敏捷监管,采取ai“监管沙盒”、ai治理社会化服务等多元化方式,推动ai治理从原则迈向实践,探索ai风险管理、嵌入设计、技术解决方案等多元化路径。同时,推动全球ai治理合作持续深化,实现各国普惠发展,让ai的发展持续造福全人类利益。

摘要：生成式人工智能在数字金融市场的应用不仅带来新式的信息技术风险,而且加剧传统金融风险的累积。当前,金融监管在时效滞后、对象错配以及组织碎片化的弊端使之陷入规制困境,需引入以“试错”为核心的试验型规制范式,围绕实用主义、极简主义以及演进主义的多重逻辑,指导数字金融市场生成式人工智能应用的规制变革。试验型规制的实施机制应以构造协同架构、廓清立法限度与设置日落条款为核心设计规范内容,在拓宽信息渠道的基础上完善内嵌于监管沙盒的算法影响评估机制,并加强外部监督与内部问责机制的约束作用,保障试验型规制实现金融业务创新发展与生成式人工智能安全的双重目标。

摘要：在ai技术促进数字化转型的时代,未成年人正面临着以ChatGPT为代表的生成式ai带来的风险和挑战。当前,ai治理战略中对未成年人的关注仅提及了教育资源和健康资源,而鲜少就未成年人的成长和数字权益展开讨论。基于此,文章首先分析了发展以未成年人为中心的ai驱动因素。之后,围绕联合国儿童基金会与其他国际组织合作展开的“儿童人工智能”项目,文章系统梳理了以未成年人为中心的ai国际行动和实践方向,以深度剖析ai技术如何保护、支持和赋能儿童。最后,文章基于人本主义理论,从技术、伦理、未成年人三个维度出发,提出了我国发展以未成年人为中心的ai新路径,包括鼓励参与式设计、坚持伦理化治理、优化数字教育环境等。文章旨在维护未成年人的数字权益,并培养未成年人适应未来数字世界的能力,以驱动教育数字化转型的持续推进。