让视觉语言模型拥有空间推理能力：SpatialVLM 的探索
视觉语言模型（VLM）在理解和回答图像相关的文本问题方面取得了显著进展，但它们在三维空间推理方面仍然存在局限性 … 阅读更多
AGI
让大型语言模型更懂“聊天”：StreamingLLM 的无限对话
大型语言模型（LLM）已经彻底改变了人们的工作方式。以 GPT 系列模型为例，它被广泛应用于各种场景，帮助我们 … 阅读更多
大型语言模型的无限对话：StreamingLLM 如何实现高效流式解码
大型语言模型（LLM）已经成为自然语言处理领域不可或缺的一部分，但它们在处理长文本时却面临着巨大的挑战。传统的 … 阅读更多
大模型推理加速新突破：FlashDecoding++
大型语言模型 (LLM) 正在改变世界，从生成文本到翻译语言，再到编写代码，LLM 的应用范围越来越广。然而， … 阅读更多
学会数数，才能理解语言：揭秘大型语言模型中的上下文位置编码
大型语言模型（LLM）在处理文本、音频、代码等序列数据时，往往需要理解其中的顺序信息。例如，在理解一段文字时， … 阅读更多
大型语言模型的“顿悟”：揭秘上下文学习背后的机制
大型语言模型（LLM）展现出惊人的“上下文学习”（In-context Learning，ICL）能力，即能够 … 阅读更多
“哪些数据对我的分类器有益？”：通过影响力数据选择提升模型性能和可解释性
近年来，机器学习模型在自动化流程和生成洞察力方面成为了社会各个领域不可或缺的工具。除了模型类型和架构的选择之外 … 阅读更多
让大模型轻装上阵：LoftQ 量化框架助力高效推理
大型语言模型 (LLM) 在自然语言处理领域取得了巨大成功，但其庞大的参数规模也带来了巨大的存储和计算负担。为 … 阅读更多