摘要：目的针对传统基于深度学习的去模糊方法存在的伪影明显、细节模糊和噪声残留等问题,提出一种基于提示学习的多尺度图像去模糊新方法。方法首先,在详细分析传统去模糊方法的基础上,引入基于提示学习的特定退化信息编码模块,利用退化信息中包含的上下文信息来动态地引导深度网络以更有效地完成去模糊任务。其次,设计了新的门控前馈网络,通过控制各个层级的信息流动构建更为丰富和更具层次结构的特征表示,从而进一步提高对复杂数据的理解和处理能力,以更好地保持结果图像的几何结构。另外,新方法引入了经典的总变差正则来抑制去模糊过程中的噪声残留,以提高结果图像的视觉表现。结果基于GoPro和REDS(the realistic and diverse scenes)数据集的大量实验结果表明,与其他先进的基于深度学习的去模糊方法相比,本文方法在图像去模糊方面取得了更好的效果。在峰值信噪比(peak signal-to-noise ratio,PSNR)和结构相似性(structural similarity,SSIM)指标上,本文方法在GoPro数据集上分别达到33.04 dB和0.962的最优结果。在REDS数据集上分别达到28.70 dB和0.859的结果。并且,相比SAM-deblur(segment anything model-deblur)方法,PSNR提升了1.77 dB。结论相较于其他的去模糊方法,本文方法不仅能够较好地保持结果图像的细节信息,而且还能够有效地克服伪影明显和噪声残留的问题,所得结果图像在PSNR和SSIM等客观评价指标方面均有更好的表现。

摘要：构建数字孪生水利建设知识图谱挖掘水利建设对象之间的潜在关系能够帮助相关人员优化水利建设设计方案和决策。针对数字孪生水利建设的学科交叉和知识结构复杂的特性,以及通用知识抽取模型缺乏对水利领域知识的学习和知识抽取精度不足等问题,为提高知识抽取的精度,提出一种基于大语言模型的数字孪生水利建设知识抽取方法(DTKE-LLM)。该方法通过LangChain部署本地大语言模型(LLM)并集成数字孪生水利领域知识,基于提示学习微调LLM,LLM利用语义理解和生成能力抽取知识,同时,设计异源实体对齐策略优化实体抽取结果。在水利领域语料库上进行对比实验和消融实验,以验证所提方法的有效性。对比实验结果表明,相较于基于深度学习的双向长短期记忆条件随机场(BiLSTM-CRF)命名实体识别模型和通用信息抽取模型UIE(Universal Information Extraction),DTKE-LLM的精确率更优;消融实验结果表明,相较于ChatGLM2-6B(Chat Generative Language Model 2.6 Billion),DTKE-LLM的实体抽取和关系抽取F1值分别提高了5.5和3.2个百分点。可见,该方法在保障知识图谱构建质量的基础上,实现了数字孪生水利建设知识图谱的构建。

摘要：针对现有生成式自动摘要方法常常依赖模型预先设定的规则或训练过程中的数据和方法的限制,未能完全发挥预训练模型对原文语义的学习潜力,导致生成的内容在连贯性和一致性等方面存在一定的不足问题,本文以大语言模型ChatGLM3-6b为基础,借助P-Tuning v2微调技术,将大模型的下游任务调整为文本摘要生成任务.这一方法的关键在于向数据集中添加提示信息,并设计了一套人工提示模板,协助模型在微调训练时能够更好地理解并生成摘要.实验结果表明,通过合理设计提示模板,本文模型在公开数据集上的ROUGE-1、ROUGE-2和ROUGE-L比最优的基线模型提升了2%~4%.此外,通过对相同实验数据集上的不同实验指标进行比较分析,发现针对不同长度的文本,采用不同的微调方法更为有效.P-tuning v2微调更适用于处理长文本的摘要生成任务,而LoRA微调则更适用于处理短文本.综上所述,加入提示词后生成的摘要效果明显改善,进一步证实了提示学习在文本摘要生成任务中的有效性和实用性.

摘要：点击诱饵的主要目的是通过引导用户点击链接以增加页面浏览量和广告收入.点击诱饵的内容往往具有低质量、误导性或虚假性的特征,对用户产生潜在不利影响.现有的基于预训练语言模型的提示学习方法依赖外部开放知识库以检测点击诱饵,不仅性能受制于外部知识库的质量和可用性,而且不可避免地导致查询和响应的延迟.为此,文中提出基于内部知识扩展的软提示学习点击诱饵检测方法,从训练数据集本身提取扩展词,同时采用层次聚类和优化策略,在提示学习中对获得的扩展词进行微调,避免从外部知识库检索知识.此外,采用软提示学习可获得适合特定文本类型的最佳提示,避免手工模板带来的偏差.在少样本场景下,尽管文中方法只基于内部知识进行扩展,但在三个公开的点击诱饵数据集上可以以较少的时间取得较优的检测效果.

摘要：尽管大语言模型在新闻、艺术等领域的文本摘要任务上取得了良好的效果,但由于大语言模型缺乏对司法领域知识的学习,同时难以理解裁判文书的结构特征和逻辑关系,导致生成的裁判文书摘要质量不佳。该文提出结合提示学习和Qwen大语言模型的裁判文书摘要方法,将裁判文书数据作为SFT(supervised fine-tuning)技术对大语言模型微调的输入,增强其法律领域适用性;同时设计融入结构信息与角色指令的提示模板,以优化摘要生成,使其更精准地反映文书结构特征与逻辑关系。实验结果表明,该方法在ROUGE-1、 ROUGE-2和ROUGE-L的F1值上比基线模型分别提升了21.44%、 28.50%和28.97%,说明大语言模型经裁判文书数据微调并引入结构信息后,在裁判文书摘要任务中展现了卓越的性能与巨大的应用潜力。

摘要：从新闻报道中识别企业的风险可以快速定位企业所涉及的风险类别,从而帮助企业及时地做出应对措施。一般而言,新闻舆情风险识别是一种风险标签的多分类任务。以BERT为代表的深度学习方法采用预训练+微调的模式在文本分类任务当中表现突出。然而新闻舆情领域标记数据偏少,构成了小样本的机器学习问题。以提示学习为代表的新范式为小样本分类性能的提升提供了一种新的途径和手段,现有的研究表明该范式在很多任务上优于预训练+微调的方式。受现有研究工作的启发,提出了基于提示学习的新闻舆情风险识别方法,在BERT预训练模型基础之上根据提示学习的思想设计新闻舆情风险提示模板,通过MLM(masked language model)模型训练之后,将预测出来的标签通过答案工程映射到已有的风险标签。实验结果表明在新闻舆情数据集的不同数量小样本上,提示学习的训练方法均优于微调的训练方法。

摘要：针对现有谣言检测方法在微调大语言模型时导致的高内存占用,以及提示学习方法对初始点选择敏感的问题,提出一种基于元多任务提示学习的零样本谣言检测方法。首先,基于提示学习范式调整零样本谣言检测任务目标,通过设计提示模板使这一任务目标与大语言模型的训练任务目标保持一致,以充分利用大语言模型积累的先验知识。其次,利用元学习的参数更新策略以定位适用于零样本谣言检测任务的提示模板初始点,从不同的元任务中学习通用知识来实现参数优化。最后,引入情感分析作为辅助元任务进一步调整和优化模型参数。在多个公开数据集上的对比实验结果表明,所提方法在零样本谣言检测任务中表现出色,其性能指标优于基准方法。

摘要：【目的】针对现有基于标注和基于文本生成的事件抽取模型存在的不足,提出一种使用自动构造模板引出预训练语言模型知识的事件联合抽取模型。【方法】基于事件提示符设计模板自动构造策略以生成统一的提示模板,在编码层为事件提示符引入事件提示编码层,而后接入预训练的BART模型捕捉句子的语义信息,并生成对应的预测序列,从预测序列中提取对应事件类型的触发词和论元,实现事件触发词和论元的联合抽取。【结果】在包含复杂事件信息文本的事件数据集中,事件触发词抽取和事件论元抽取的F1值分别达到77.67%和65.06%,相较于最优的基准方法分别提升了2.43和1.62个百分点。【局限】模型仅局限于句子级文本,且仅在编码层对提示符进行调优。【结论】本文模型基于提示符调优,能够在减少模板构建成本的同时保持相同甚至更优的性能,并且能够识别具有复杂事件信息的文本,有效提升了事件元素多标签分类的效果。

摘要：【目的】从图书信息中快速生成书籍的宣传语。【方法】基于提示学习的思想将爬取的图书信息构造为数据集,使用数据增强、关键词抽取增加信息,最后输入T5 PEGASUS得到基础宣传语。当书评数量达到阈值时加入书评的摘要。【结果】本文模型在数据集上的 Rouge-1、Rouge-2、Rouge-L相较于最优的基线模型分别提升29.0%、37.6%、31.9%,加入书评的摘要能体现用户的兴趣点。【结论】根据图书语料特点设计的实验流程所生成的宣传语具有实际应用价值。

摘要：专利是授予发明者在一定时期内保护其发明的法定权利,在当今的社会活动中发挥着重要作用。然而现有研究并未针对专利相似度数据进行适配优化,导致其应用在专利短语相似度匹配任务中效果不佳。已有研究表明,在低资源的场景下,提示学习将文本片段(模板)作为输入,将分类问题转换为掩码语言建模问题,其关键的一步是在标签空间和标签词空间之间构造一个投影。提出一种基于知识注入的提示学习方法,将其应用于专利短语相似度匹配计算任务。为解决专利短语信息不足的问题,利用专利短语中的相似度标签信息,使用知识增强专利短语与标签信息。首先通过实体链接技术建立专利短语与外部知识的关联关系;然后设计一种基于实体影响度的邻域信息过滤机制,用于缓解专利短语信息不足的问题;最后考虑不同外部知识对专利短语相似度计算的影响,设计应用于专利短语的多种增强提示文本。实验结果表明,该方法的Pеarson相关系数(PCC)和Spеarman相关系数(SRC)相较次优对比方法分别提升6.8%和5.7%。