person 马库斯简介
加里·马库斯 (Gary Marcus)
- 纽约大学心理学和神经科学教授
- 知名认知科学家，AI领域批评者
- Robust.AI创始人兼CEO
- 被业界称为"AI反对者"(AI contrarian)
- 畅销书作家，多本AI相关著作作者
warning AGI的现状与问题
- 幻觉问题：大语言模型无法检查自己的工作，生成不准确或荒谬的内容
- 偏见问题：AI系统存在固有偏见，十年前已知但仍未解决
- 抄袭问题：输出内容仅是已有数据的重塑，缺乏原创性
- 不稳定性：AI系统在现实中没有锚，不可靠且难以预测
AI幻觉问题解决方案示意图
"现在所用的AI在技术上和道德上都是不完整的(inadequate)。大家现在所关注的生成式AI只是一种可能性的方法，很有趣、很受欢迎，但是有很多问题。" —— 马库斯
gavel 马库斯的核心批评观点
- 将当前AI称为"Rough Draft AI"(AI草稿)，认为其不完整且不可靠
- 批评"规模超越一切"(scaling-über-alles)的理念，认为仅靠扩大模型规模无法实现AGI
- 指出硅谷过度炒作AGI，称之为"弥天大谎"，误导公众和投资者
- 反对马斯克等人的乐观预测，认为AGI不会在2025年实现
- 警告过度依赖不可靠系统可能导致严重风险，如虚假信息、市场操纵、深度造假等
// 马库斯对当前AI的批评总结
function currentAIProblems() {
return {
reliability: "低",
reasoning: "有限",
hallucination: "普遍存在",
understanding: "表面层次",
ethics: "不完整"
};
}
architecture AGI的原理与架构
- 真正的AGI需要理解世界因果关系，而非仅从统计数据中猜测
- 需要具备自我检查能力，能够验证自身输出的正确性
- 需要内在结构和先验知识，而非仅依赖大数据
- 需要符号处理能力，能够进行抽象推理
价值驱动的认知架构工作机制
lightbulb 马库斯的替代方案
- 提倡混合模型，结合深度学习与符号处理等技术
- 强调需要将更多内在结构纳入AI系统
- 建议将深度学习视为"一种非普遍的解决方法，而只是一种工具"
- 呼吁结合无监督学习与监督学习，重新概念化学习方式
- 主张AI系统需要具备认知科学基础，模拟人类认知过程
"相比纯粹的深度学习，我呼吁混合模型，不仅包括深度学习的监督形式，还包括其他技术，例如符号处理(symbol-manipulation)，以及无监督学习。" —— 马库斯
insights 结论与展望
AGI发展的可能路径
- 短期内：解决当前AI的可靠性、幻觉、偏见等问题
- 中期：发展混合模型，整合多种AI技术
- 长期：构建真正理解世界的认知架构
- 监管：建立适当的AI监管框架，确保安全可靠
马库斯认为，硅谷对AGI的过度宣传不仅误导公众，还可能导致新一轮的"AI寒冬"。他呼吁AI研究者和开发者应该更加务实，专注于解决当前AI的实际问题，而非追求不切实际的AGI愿景。只有在对AI技术进行全面审查和监管的基础上，才能确保其安全可靠，为社会带来积极的贡献。