摘要：目的分析语言模型辅助人工智能抗体设计与优化研究领域的研究热点及进展,为抗体开发领域研究人员提供参考依据。方法通过CiteSpace软件对Web of Science、Pubmed和Scopus数据库中收集到的抗体设计与优化研究领域中3个重要研究任务(抗体预训练语言模型构建、抗体序列生成、抗体三维结构预测)的文献进行总体研究热点分析,并对各研究任务下的重要研究进展进行梳理总结,分析具体研究工作的异同点和当前研究面临的问题。结果2019年(10篇文献)至2023年(89篇文献),3个研究任务的研究规模和研究热度不断攀升。总体研究热点聚焦于通过语言模型辅助设计或优化得到人源化、亲和力高以及特异性强的抗体。在各研究任务中,模型架构多样性、训练数据一致性以及训练策略差异性反映了研究方法的特点。同时,当前研究仍然面临着抗原数据稀疏、计算算力限制以及干湿实验结合不足等问题。结论语言模型辅助人工智能抗体设计与优化的相关研究正在逐步兴起,目前已经取得了一定的成果,但研究者仍需解决模型对抗原抗体相互作用信息忽略和实验验证与模拟计算结合缺乏的问题,深化研究内容并扩展实际应用场景。

摘要：缝纫设备的智能运维与管理,关键在于解决非结构化文本的信息挖掘及语言模型构建问题。这对于加快设备缺陷和故障诊断速度、提高诊断准确性及实现设备检修的智能辅助决策,具有重要意义。该研究提出了通过基于BERT的条件随机场(bidirectional encoder representations from transformers-conditional random field,BERT-CRF)的实体抽取模型抽取关键实体信息,如设备名称、属性等,再通过基于双向门控循环单元注意力机制(bidirectional gated recurrent unit-attention,BiGRU-Attention)的关系抽取模型有效捕捉实体之间的语义关联,为缝纫设备知识图谱的构建提供支持。针对缝纫设备文本分析场景,模型在缝纫设备文本实体识别、信息抽取和故障诊断等任务场景进行了专门的训练和优化。与现有的深度学习算法相比,该研究所提方法在验证集和测试集上实现了20%到30%的性能提升,体现了其在召回率和精确度上的显著优势。缝纫设备知识的非结构化文本信息挖掘,可为平缝设备数据集成、设备故障运维、平缝工艺路线设计等方面的知识图谱构建提供参考。

摘要：自2022年12月起,生成式语言模型(Generative Language Model,GLM)作为一项重要技术,引发了学术界和工业界的巨大关注。这一技术的出现催生了一系列通用人工智能(Artificial General Intelligence,AGI)技术的迅速发展,其中包括图文生成模型和多模态语言模型等。例如,Midjourney的图文生成模型展现了高精度和高度仿真的特点,而谷歌公司推出的PaLM-E和PaLM 2等多模态语言模型也引起了广泛关注。AGI已经从简单的模拟人类思维能力发展到可以“操控身体”的具身模型,其影响已经渗透到艺术创作、代码生成、问题求解、科学发现以及问答聊天等人类智能的各个领域。AGI所带来的新一轮信息技术革命已经来势汹汹,人类正在迎来一场关于“智能”的技术革命。

摘要：大型语言模型的推广使用为出版业带来了提升出版效率的机遇。它可以辅助编辑策划组稿、审稿校对、翻译与润色译文、封面设计以及撰写推文,极大地缩短了出版周期,加速了出版进程。但是同时也要看到,大型语言模型毕竟是工具,编辑仍然应该在出版中发挥主体作用,借助现代工具,推动出版业的革新与进步。

摘要：近日,德国某非营利人工智能研究学机构的几位研究者发表了一项研究成果,揭示了当下各大语言模型在推理能力上的短板。他们设计了一系列简单的推理问题,用来测试大语言模型的推理能力,结果GPT-4、Claude、Gemini、Llama、Mistral等模型几乎全线崩塌。但是,这些大语言模型仍然展现出“迷之自信”,宣称自己的“思考过程”非常符合逻辑。

摘要：据TechXplore网站1月29日消息,美国普林斯顿大学的研究人员开发出一种人工智能工具,可利用大型语言模型预测晶体材料的特性。现有的基于人工智能的晶体特性预测工具依赖于图形神经网络,这些方法的计算能力有限,无法充分捕捉晶体中原子之间的几何形状和键长的细微差别。与传统的晶体设计模拟不同,该创新技术利用文本生成器中使用的大型语言模型,从超过14万个晶体的文本描述中提取信息(包括原子键、长度和电子特性的详细信息),实现了更准确地预测材料特性。

摘要：政策文本的量化研究近年来受到了政策研究学者的广泛关注,其研究结论以客观数据为依据,在很大程度上可以克服以往对政策定性分析的主观性和随机性。已有定量政策文本分析方法主要存在两方面的不足:一方面,对于政策文本的采集主要依靠手工收集,其数据规模较小;另一方面,在政策识别方面主要依靠人类经验,在小规模数据集上进行偏置归纳。针对以上问题,该文提出基于预训练语言模型的政策识别方法,从而克服以上问题,在较大规模的政策文本数据集上取得了较好的效果。

摘要：近一年来,以ChatGPT和GPT-4为代表的大语言模型(LLM)发展迅速,成为人工智能领域发展的最新标志。这类模型具有海量知识储备,表现出近似人类的语言理解能力,其语言生成能力的多样性远超人类个体,在不同的场景中都有非常强大的应用,成为全社会关注的热点。然而大语言模型产品时常“一本正经地胡说八道”也不禁让人产生怀疑,大语言模型真的理解人类语言了吗?围绕这一焦点.

摘要：以ChatGPT为代表的生成式预训练转化语言模型展现出了初步模拟人类心智的能力,并有可能经过持续优化和技术迭代演化成人们日常工作和生活中不可或缺的通用技术。当GPT语言模型开始具有类人心智并且获得产业化运用之后,将带来远超之前时代的新增生产力,乃至能重塑人类社会基本格局。然而,GPT语言模型在推动生产力发展的同时也会带来岗位替代等问题,进而引发技术发展过快而带来的衍生风险。GPT语言模型及其衍生应用融入社会生产生活应当是一个渐进式的稳健过程,从而避免因为缺少缓冲时间对社会造成过大冲击。

摘要：基于深度神经网络的大型预训练语言模型在众多自然语言处理任务上都取得了巨大的成功,如文本分类、阅读理解、机器翻译等,目前已经广泛应用于工业界。然而,这些模型的可解释性普遍较差,即难以理解为何特定的模型结构和预训练方式如此有效,亦无法解释模型做出决策的内在机制,这给人工智能模型的通用化带来不确定性和不可控性。因此,设计合理的方法来解释模型至关重要,它不仅有助于分析模型的行为,也可以指导研究者更好地改进模型。本文介绍近年来有关大型预训练语言模型可解释性的研究现状,对相关文献进行综述,并分析现有方法的不足和未来可能的发展方向。