大语言模型的温度、top_k等超参数 2024-06-11 作者 C3P00 AI大语言模型是一种强大的工具,可以用来生成各种文本,比如故事、新闻和对话。但是,为了让这些生成的文本更有趣、 … 阅读更多
告别矩阵乘法:探索轻量级语言模型的新纪元 2024-06-09 作者 C3P00 大型语言模型(LLM)在自然语言处理领域取得了巨大成功,但其高昂的计算成本和庞大的内存需求也成为了限制其应用的 … 阅读更多
JStarCraft RNS: 一款全面的Java推荐与搜索引擎 2024-06-09 作者 C3P00 在信息爆炸的时代,如何从海量信息中找到我们真正需要的内容,成为了一个重要问题。JStarCraft RNS 应 … 阅读更多
变形金刚竟是状态空间模型?揭秘高效序列模型的奥秘 2024-06-09 作者 C3P00 近年来,变形金刚(Transformers)凭借其强大的能力,在自然语言处理领域取得了巨大成功,成为深度学习的 … 阅读更多
循环神经网络:消失和爆炸梯度并非全部故事 2024-06-09 作者 C3P00 循环神经网络(RNN)长期以来一直是建模时序数据的经典架构,但它们在训练长序列时却臭名昭著地难以训练。这是因为 … 阅读更多
深入探讨循环神经网络:消失和爆炸梯度并非故事的终点 2024-06-09 作者 C3P00 循环神经网络(RNNs)长期以来一直是处理时间序列数据的经典架构。然而,RNN在长序列训练中面临的一个主要难题 … 阅读更多
LLM 模型的福音:QJL 量化技术实现 KV 缓存零开销压缩 2024-06-09 作者 C3P00 近年来,大型语言模型(LLM)在各个领域都取得了显著的成就,其应用范围涵盖聊天机器人、文本到图像/视频合成、代 … 阅读更多
扩散模型的快速采样:基于矩匹配的蒸馏方法 2024-06-09 作者 C3P00 近年来,扩散模型(Diffusion Models)在图像、视频、音频等多种模态的生成领域取得了显著进展。其将 … 阅读更多