摘要：【目的】主要探讨可解释人工智能在想象力领域的具体应用以及面临的的一些问题与挑战,然后对其未来发展趋势提出一些可行性建议与展望。【方法】采用文献研究法、跨学科研究法、案例分析法相结合的方法。【结论】通过在想象力领域应用可解释人工智能技术,可以帮助人们更好的理解和应用想象力,从而提高创新能力和创作效率,对于推动可解释人工智能在想象力领域的发展具有重要意义,并为未来相关研究领域提供有益启示,以更好推动可解释人工智能在想象力领域应用中的持续发展与创新。

摘要：随着人工智能(artificial intelligence,AI)的高速发展,“黑盒”模型已逐渐展示出逼近甚至超越人类的能力,尤其在智能医疗等高风险应用场景中,其可解释性是用户在应用中信任和理解AI的关键基础.虽然已有工作提供了大量事前和事后的AI可解释方法,但大都采用通用型解决思路,未考虑不同用户在不同场景下多维度的理解和信任需求.以人为本的AI可解释方法能够针对用户实际需求对AI模型进行可解释分析,近年来逐渐受到国内外学者的关注.文中聚焦智能医疗应用,对近5年人机交互国际顶级会议的文献进行分析,回顾现有辅助诊断、辅助用药、未病预警方面以人为本的AI可解释方法及系统,从决策时间花费、用户专业度和诊疗工作流程3个维度梳理和定位可解释需求的系统性方法,得出4类典型用户画像和对应案例;并从考虑资源受限、不同用户的多样需求、与现有流程结合3个方面,为如何设计可解释的医疗辅助诊断系统提出建议.

摘要：智能导学系统能够提供个性化的自主学习服务,但仍然面临诸多挑战,如对学习者理解不足、用户体验较差、自动化程度有限等。针对这些挑战与问题,本研究设计并实现了涵盖领域知识层、基础模型层和用户接口层的三层架构新型导学系统,并以“雷达数学”系统为例进行介绍。领域知识层借助知识空间等理论,构建符合教学和认知规律的学科知识图谱和教学策略库;基础模型层利用深度学习、自然语言处理等技术,实现更精准的学习者模型、个性化教学策略模型和自动批阅模型,提升系统对学习者的理解和自动化程度;用户接口层基于可解释人工智能技术与游戏化设计理论,构建可解释的认知地图和个性化导航等服务,改善系统用户的体验。在此基础上,本研究针对学习者、教师、家长等不同角色,阐述了新型智能导学系统的三类典型应用场景并对其发展趋势进行了展望。

摘要：可解释人工智能(explainable artificial intelligence, XAI)近年来发展迅速,已出现多种人工智能模型的解释技术,但是目前缺乏XAI可解释性的定量评估方法.已有评估方法大多需借助用户实验进行评估,这种方法耗时长且成本高昂.针对基于代理模型的XAI,提出一种可解释性量化评估方法.首先,针对这类XAI设计一些指标并给出计算方法,构建包含10个指标的评估指标体系,从一致性、用户理解性、因果性、有效性、稳定性5个维度来评估XAI的可解释性;然后,对于包含多个指标的维度,将熵权法与TOPSIS相结合,建立综合评估模型来评估该维度上的可解释性;最后,将该评估方法用于评估6个基于规则代理模型的XAI的可解释性.实验结果表明,所提出方法能够展现XAI在不同维度上的可解释性水平,用户可根据需求选取合适的XAI.

摘要：随着人工智能技术的飞速发展,军用智能软件已经成为世界主要发达国家在军事领域的重点研究方向。目前,各国都在不断增加对人工智能技术的资金投入以及产业布局,目的是加快人工智能技术的发展与实际军事应用,以提高本国的军事优势。军用智能软件作为实现人工智能技术在军事领域应用的载体,目前已在态势感知、智能决策、语音交互、协同作战等多个领域有了突破性进展,同时牵动了量子计算、脑机接口、智能芯片等多学科共同向前推进。因此,抢占军用人工智能领域的先机,是未来国家取得重大战略优势地位的必要条件。由于人工智能算法较于人类可以快速分析处理海量复杂信息,因此在未来军用智能软件将会在瞬时决策、智能侦查、自主作战、作战支持、全域协同等多个领域扮演重要角色,但同时算法的可靠性与可解释性也亟待提高。

摘要：电磁环境的不确定性和不可操控性对无线通信安全带来复杂挑战,智能超表面因其能够灵活调控无线传播环境已被广泛应用于安全通信领域。尽管通过高效可靠的波束成形算法设计,智能超表面能够大幅提升无线通信系统的安全性能。但是,传统的高复杂度安全波束成形算法无法满足实时调控的现实需求;与此同时,基于人工智能算法的安全波束成形算法缺乏必要的可解释性。针对上述挑战,提出一种可解释深度强化学习方法以增强智能超表面安全通信决策的实时性和可解释性。具体地,首先给出了一种鲁棒近端策略优化算法,以解决在非法节点信息未知条件下的最优安全策略生成问题;然后,通过引入级联决策树作为策略函数逼近器,进一步增强策略可解释性。仿真结果表明,在非法节点存在显著不确定性的无线环境下,所提算法能够实时生成可解释的安全策略并提升频谱效率。

摘要：随着全球化进程的不断推进,口译教学在新文科视域下扮演着越来越重要的角色。为了提高口译教学的效率和质量,自动测评系统被引入口译教学之中。然而,目前大多数口译教学自动测评系统在其工作原理和结果的解释方面出现了诸如模型的黑盒化、评估结果的不透明及评分标准的不明确等问题。该研究以新文科翻译学视角,通过对口译任务的要素进行分析,设计了一种可解释的口译教学自动测评系统,并基于人工智能的可解释理论分析,提出了相应的可持续性优化路径,以提高系统的透明度、可信度和准确度。

摘要：学习者模型的“复杂性”和机器智能决策的“不透明性”,使得可解释学习者建模成为教育人工智能研究的重要议题。可解释学习者建模旨在通过对学习者多维度、多层次、多场景的精准刻画,实现学习者的可表征、可理解、可干预,进而为学习策略、教学模式、教育评价的设计和开展提供科学依据。其核心价值体现在对外在学习行为的准确表征、对学习者潜在特征的深度挖掘、对学习者模型的完整构建以及对学习机理的准确阐释,且在模型构建过程中充分体现出透明度和可解释性,进而增强教育主体对机器智能分析与决策的信任度和接受度。可解释学习者建模能够实现全景化细粒度的教育诊断,提供易于理解和接受的学习干预,推动高度适配且便于实施的教学决策,支持综合化高效能的教育管理,在“人机协同”的教育教学活动中具有广阔的应用前景。未来,还需通过加强多学科理论融合、科学智能方法运用、智能教育产品研发等途径推进可解释学习者建模研究。

摘要：可信学习分析技术的发展已成为全球研究者共同关注的焦点。国内外学者已就其内涵意蕴、价值逻辑等开展广泛探讨,但也存在关键问题不明、理论边界不清和实践路径模糊等问题。为此,研究以关键问题提炼和理论框架构建为先导,以实践路径的探索和实施为主线,对可信学习分析技术的教育应用进行分析。在实践问题方面,研究分析了阻碍可信学习分析实现的关键因素,包括数据漂移现象所导致的算法失准、样本分布失衡现象导致的算法偏见以及算法黑盒现象导致的决策结果失信等一系列问题。在理论研究方面,研究结合理论与实践问题分析,建立起面向学习环境、数据治理、建模分析和干预反馈四要素的可信学习分析理论框架。随后,研究依托该理论框架,结合相关研究方法和技术,构建了可信学习分析的实践路径,如结合价值敏感设计的伦理调适等。研究为可信学习分析研究从理论到实践提供系统化的解决思路。

摘要：针对图神经网络模型普遍缺乏可解释性问题,提出一种基于进化集成的图神经网络解释方法,为模型预测提供质量更高的解释。将当前主流图神经网络解释方法GNNExplainer和PGExplainer作为初级解释器,分别为模型预测提供初级解释;基于初级解释结果设计遗传算子,采用改进遗传算法集成两种初级解释结果得到最终解释。在4个真实数据集和4个合成数据集上进行广泛试验,从定性和定量两个角度对试验结果进行评估。试验结果表明,相较于同类算法,提出算法的准确度平均提高17%,忠实度平均提高20%。与传统集成学习融合策略相比,改进遗传算法作为集成器对解释方法的优化效果更为显著,所有指标整体平均提高29%。采用进化集成策略能够显著提高图神经网络解释算法的性能。