人工智能教育应用的偏见风险分析与治理

作     者：沈苑 汪琼 SHEN Yuan;WANG Qiong

作者机构：北京大学教育学院北京100871 

基　　金：教育部—中国移动科研基金2018年度项目“中小学编程教育与人工智能工程素养研究”(项目编号:MCM20180611) 

出 版 物：《电化教育研究》 (E-education Research)

年 卷 期：2021年第42卷第8期

页      码：12-18页

摘      要：在倡导教育包容与公平的时代背景下,教育面临着以个性化、自适应为特征的智能技术所带来的偏见风险。在智能教育产品的研发过程中,潜在的设计偏见、数据偏见和算法偏见会使教育领域面临多重风险,如教育活动的公平性受阻、教育系统内部的歧视加剧、教育中的多元化特质消解和学生思想窄化。学校、科技公司、监管机构等组织应当携手共进,提前侦测偏见风险并加强治理,包括:提升研发团队的教育理解和多元眼光,让师生成为产品的合作创造者,加强偏见检测和道德评估过程,建立可解释、可审查、可纠正的系统优化机制,开展面向师生的人工智能素养教育,确立人工智能在教育中的应用范围和伦理规范,从而争取实现人机良性互动,打造多元包容的智能教育环境。

主 题 词：人工智能教育应用 人工智能伦理 教育包容 算法偏见 数据偏见 

学科分类：0401[教育学-教育学类] 04[教育学] 040110[040110] 

核心收录：

D　O　I：10.13811/j.cnki.eer.2021.08.002

馆 藏 号：203104644...