月度归档: 2024 年 6 月
巨型语言模型的 8 位量化:LLM.int8()
大型语言模型(LLM)在自然语言处理领域取得了巨大成功,但其推理过程需要大量的 GPU 内存。本文将介绍一种针 … 阅读更多
让AI成为更可靠的决策者:医疗分诊领域的语言模型对齐研究
近年来,大型语言模型(LLM)在搜索、代码助手等领域取得了显著进展,但如何将其与人类价值观对齐,使其成为更可靠 … 阅读更多
AI 聊天中的「心灵地图」:让机器理解你的世界
你是否曾想过,如何让机器像人类一样,在与你交流的过程中,不断学习和理解你的世界?想象一下,你带着一个机器人朋友 … 阅读更多
揭秘大模型问答系统背后的「秘密武器」:检索组件的评估
近年来,大语言模型(LLM)在自然语言处理领域取得了突破性进展,尤其是在问答系统(QA)方面。然而,大模型在处 … 阅读更多