摘要：近年来,大语言模型(large language model,LLM)在一系列下游任务中得到了广泛应用,并在多个领域表现出了卓越的文本理解、生成与推理能力.然而,越狱攻击正成为大语言模型的新兴威胁.越狱攻击能够绕过大语言模型的安全机制,削弱价值观对齐的影响,诱使经过对齐的大语言模型产生有害输出.越狱攻击带来的滥用、劫持、泄露等问题已对基于大语言模型的对话系统与应用程序造成了严重威胁.对近年的越狱攻击研究进行了系统梳理,并基于攻击原理将其分为基于人工设计的攻击、基于模型生成的攻击与基于对抗性优化的攻击3类.详细总结了相关研究的基本原理、实施方法与研究结论,全面回顾了大语言模型越狱攻击的发展历程,为后续的研究提供了有效参考.对现有的安全措施进行了简略回顾,从内部防御与外部防御2个角度介绍了能够缓解越狱攻击并提高大语言模型生成内容安全性的相关技术,并对不同方法的利弊进行了罗列与比较.在上述工作的基础上,对大语言模型越狱攻击领域的现存问题与前沿方向进行探讨,并结合多模态、模型编辑、多智能体等方向进行研究展望.

摘要：随着大规模预训练模型的广泛应用,自然语言处理的多个领域(如文本分类和机器翻译)取得了长足的发展.然而,受限于预训练模型的“黑盒”特性,其内部的决策模式以及编码的知识信息被认为是不透明的.以Open AI发布的Chat GPT和GPT-4为代表的先进预训练模型为例,它们在多个领域取得重大性能突破的同时,由于无法获知其内部是否真正编码了人们期望的知识或语言属性,以及是否潜藏一些不期望的歧视或偏见,因此仍然无法将其应用于重视安全性和公平性的领域.近年来,一种新颖的可解释性方法“探针任务”有望提升人们对预训练模型各层编码的语言属性的理解.探针任务通过在模型的某一区域训练辅助语言任务,来检验该区域是否编码了感兴趣的语言属性.例如,现有研究通过冻结模型参数并在不同层训练探针任务,已经证明预训练模型在低层编码了更多词性属性而在高层编码了更多语义属性,但由于预训练数据的毒性,很有可能在参数中编码了大量有害内容.该文首先介绍了探针任务的基本框架,包括任务的定义和基本流程;然后对自然语言处理中现有的探针任务方法进行了系统性的归纳与总结,包括最常用的诊断分类器以及由此衍生出的其他探针方法,为读者提供设计合理探针任务的思路;接着从对比和控制的角度介绍如何解释探针任务的实验结果,以说明探测位置编码感兴趣属性的程度;最后对探针任务的主要应用和未来的关键研究方向进行展望,并讨论了当前探针任务亟待解决的问题与挑战.

摘要：随着5G在全球范围内的广泛商用,5G网络安全问题广泛受到关注。针对5G核心网协议的自动化漏洞挖掘手段主要以黑盒模糊测试为主,但由于5G核心网协议设计复杂,黑盒模糊测试存在效率低、通用性差、拓展性不足等问题,不能有效检测到5G核心网协议安全漏洞。针对上述问题,深入了解5G核心网架构和重点接口协议的工作原理,总结在5G核心网场景下基于静态分析的自动化漏洞挖掘方法相较传统黑盒模糊测试方法的优势。对5G核心网的开源解决方案进行了源代码审计,发现在5G核心网协议实现中一类变量生命周期管理不当而导致的内存泄露安全问题,可导致5G核心网网元被拒绝服务攻击。基于此,提出了针对此类安全问题的通用漏洞模型,设计并实现了基于控制流和数据流混合分析的自动化漏洞挖掘方法。通过实验对该方法进行了有效性测试和效率评估,成功挖掘到了通用5G开源解决方案——Open5GS中的5个未公开安全漏洞,涵盖多个接口协议应用场景,获得了4个CVE编号。通过模拟环境,验证了该系列漏洞的影响范围广且利用条件低,充分证明了所提自动化漏洞挖掘方法的有效性,并向相关厂商进行了披露。

摘要：随着网络的普及和网民群体的壮大,网络水军、网络公害社群等互联网公害组织严重威胁我国网络环境的安全。针对这类组织远离国内监管、隐蔽性和伪装性强的特点,提出了面向网络公害社群的社交网络特性分析方法。在用户特性层面,通过中心性测量对组内成员的影响力分布进行计算,找出影响力最大的核心用户,并分析核心成员的匿名性特点。在复杂网络特性层面,通过小世界效应和无标度特性的分析,研究了该社群内部的集群状况和资源分布状况。在时序特性层面,对核心成员的发文内容进行预处理后,利用BERTopic进行动态主题建模,得到社群主题随时间的变化关系。大量的实验性能分析验证了本文方法的有效性,研究成果可用于分析公害社群相关特征,追踪犯罪活动轨迹,为公害组织的侦查和打击工作以及自动化检测系统的设计工作提供理论参考。

摘要：为使依赖深度学习框架的应用在LinuxBoot固件环境下发挥应有效能,提出一种在LinuxBoot固件环境中植入深度学习框架的技术方案。通过对Linux操作系统环境中正常运行深度学习框架所需依赖进行分析,设计一种将深度学习框架移植入LinuxBoot固件环境的技术路线,构建将二者合二为一的系统结构及交互流程,提出借助USB闪存驱动器存储移植内容的技术方案,给出具体的移植操作指令及初始化脚本。在Thinkpad固件中进行真机实验,展示移植后的深度学习框架在图像分类、自然语言处理、恶意代码检测、恶意代码分类等多种任务上均能正常运行,在各项评估指标上表现良好。

摘要：针对深度神经网络模型易遭受完整性破坏问题,提出一种基于可逆水印和模型压缩剪枝理论的快速神经网络模型完整性验证算法Fast-MIV(model integrity verification)。基于模型压缩剪枝理论探究模型的冗余性,筛选对模型原始任务影响较小、且可被替代的权重参数进行预处理构建待嵌入参数序列;采用差值扩展可逆水印算法,在神经网络卷积层上嵌入对模型篡改敏感的神经网络水印,达到完整性验证的目的。基于ImageNet数据集,对VGG19、DenseNet-121、ResNet-50和Inception-v3等模型的实验验证结果表明,Fast-MIV在不影响模型原始分类任务精度的前提下,能够快速验证模型的完整性并报告模型的受损程度,可以应对数据中毒攻击和结构性破坏。

摘要：近年来,随着网络加密技术的普及,使用网络加密技术的恶意攻击事件也在逐年增长,依赖于数据包内容的传统检测方法如今已经无法有效地应对隐藏在加密流量中的恶意软件攻击.为了能够应对不同协议下的加密恶意流量检测,提出了基于ProfileHMM的加密恶意流量检测算法.该方法利用生物信息学上的基因序列比对分析,通过匹配关键基因子序列,实现识别加密攻击流量的能力.通过使用开源数据集在不同条件下进行实验,结果表明了算法的有效性.此外,设计了两种规避检测的方法,通过实验验证了算法具有较好的抗规避检测的能力.与已有研究相比,该工作具有应用场景广泛以及检测准确率较高的特点,为基于加密流量的恶意软件检测研究领域提供了一种较为有效的解决方案.

摘要：为了解决联邦学习节点间数据非独立同分布(non-IID)导致的模型精度不理想的问题,提出一种隐私保护的数据增强方案。首先,提出了面向联邦学习的数据增强框架,参与节点在本地生成虚拟样本并在节点间共享,有效缓解了训练过程中数据分布差异导致的模型偏移问题。其次,基于生成式对抗网络和差分隐私技术,设计了隐私保护的样本生成算法,在保证原数据隐私的前提下生成可用的虚拟样本。最后,提出了隐私保护的标签选取算法,保证虚拟样本的标签同样满足差分隐私。仿真结果表明,在多种non-IID数据划分策略下,所提方案均能有效提高模型精度并加快模型收敛,与基准方法相比,所提方案在极端non-IID场景下能取得25%以上的精度提升。

摘要：针对高敏数据上云后造成数据孤岛,从而导致数据无法互相搜索、互相发现,进而无法共享的问题,提出了一种分布式的隐私保护数据搜索方案,该方案实现了分布式场景下数据和搜索条件双向保密,并能够建立可信的搜索存证。首先对数据模型进行定义,明确了方案保护的目标和应用场景;其次提出了方案的设计框架和协议流程,重点对基于区块链的可信数据交互通道、可信密钥共享模块和密文搜索引擎3个部分的整体性流程进行描述;然后提出了一种基于可信执行环境的密文态下的全文搜索引擎Tantivy-SGX,重点对原理和实现方法进行详细分析;最后对整体流程和核心部分进行实现与验证。实验结果表明,该方案高效可行,能够有效增强分布式环境下的数据发现与搜索安全。

摘要：软件的安全性和可用性对计算机系统和用户都极为重要。无论是系统软件还是应用软件,其漏洞大多是由于代码编写实现、软件设计过程中存在缺陷造成的。本文着眼于兴起的AI(Artificial Intelligence,人工智能)技术和自动化软件漏洞挖掘方法结合的可能性,调研了相关的研究路径和应用现状,以动态测试和静态分析等传统漏洞挖掘方法为基点,探究并分析了AI技术与漏洞挖掘方法融合的应用潜力和发展方向,提出了基于图神经网络的软件漏洞挖掘方法和多模态特征的软件漏洞挖掘方法。最后本文探讨了融合AI方法的软件漏洞挖掘技术的发展道路,从政策和技术两个层面提出了对策建议。