LayerSkip: 大型语言模型的高效推理解决方案
近年来,大型语言模型（Large Language Models, LLMs）在自然语言处理领域取得了显著成功 … 阅读更多
AGI
AGI 通用人工智能
用注意力机制提升文本匹配：FA 和 SFA 模块详解
在信息爆炸的时代，文本匹配技术在各种应用中发挥着重要作用，例如搜索引擎、问答系统和推荐系统等。轻量级文本匹配模 … 阅读更多
PRETTY: 一种无需训练的跨语言大型语言模型对齐方法
大型语言模型（Large Language Models, LLMs）在自然语言处理领域取得了巨大成功。然而, … 阅读更多
SiLU 激活函数：深度学习中的新星
SiLU 激活函数，全称 Swish，近年来在深度学习领域崭露头角，并展现出诸多优势。本文将详细介绍 SiLU … 阅读更多
通过上下文多样化提高生成式常识推理的多样性
大家好，今天我想和大家分享一篇有趣的论文，题为《通过上下文多样化提高生成式常识推理的多样性》。这篇论文主要研究 … 阅读更多
FILM-7B: A Large Language Model that Makes Full Use of Context
Large language models (LLMs) are becoming increasingly … 阅读更多
如何让大型语言模型(LLMs)充分利用长文本信息?——微软提出的FILM方法
大家好,相信不少人已经体验过ChatGPT等大型语言模型(LLMs)强大的对话和写作能力。但你可能不知道,目前 … 阅读更多
AI助你笔下生辉光 – 助力创意写作的Weaver模型
亲爱的创作者们,你是否也经常因为创作瓶颈而烦恼?想让文章更流畅优雅,让故事情节更丰富生动,让文案更具感染力,让 … 阅读更多
Tuning Language Models by Proxy
近年来,预训练语言模型在自然语言处理Tasks表现突出,但直接进行Fine-tuning往往需要大量计算资源。 … 阅读更多
Deductive Closure Training of Language Models for Coherence, Accuracy, and Updatability
最近读到一篇非常有意思的AI论文,提出了一种新的方法来提高语言模型的可靠性。这项技术被称为Deductive … 阅读更多