月度归档： 2024 年 5 月

介绍 各位读者，你们是否曾经因为无法快速翻阅一大堆文档而感到头痛？别担心，我们的好朋友GPT-4来了！最近，L … 阅读更多

前言 大家好，今天我要和大家聊聊一个即便我闭门造车也能侃侃而谈的热门话题——多模态模型。近期Google的Ge … 阅读更多

前言 今天我们要聊的，是一篇名为《Score identity Distillation: Exponenti … 阅读更多

导言：梯度流的神奇世界 在数学和机器学习的广袤世界中，有一个神秘的概念被称为「梯度流（Gradient Flo … 阅读更多

大家好！今天我们要聊一聊一个有趣的概念，叫做「梯度流（Gradient Flow）」。别紧张，这不是物理课，而 … 阅读更多

嘿，朋友们！今天我们要聊的可是AI界的两位「大明星」——朴素贝叶斯（Naive Bayes）和注意力机制（At … 阅读更多

在上周的文章《Transformer升级之路：12、无限外推的ReRoPE？》中，我们介绍了ReRoPE和Le … 阅读更多

语言模型（LLM）在自然语言处理中的应用越来越广泛，而通过增大Tokenizer的词表来提高压缩率，从而缩短串 … 阅读更多

近年来，Transformer架构在自然语言处理领域取得了显著的成果，而Attention机制则是其核心所在。 … 阅读更多