实验结果表明,AGENTGEN在领域内任务上相比原始LLama3-8B取得了5倍以上的提升(11.67 vs. 1.67),整体表现超过了GPT-3.5。在某些特定任务上,它甚至超越了GPT-4的表现。在领域外任务中,AGENTGEN也展现了类似的实验成果。具体而言,它显著提高了成功率,在Alfworld和BabyAI上分别取得了29.1和4.47的提升。在Alfworld上,AGENTGEN甚至超越了GPT-3.5的表现(29.1 vs. 17.2)。
研究人员强调:”尽管参数规模相对较小,AGENTGEN在总体成功率上仍然优于GPT-3.5(11.67 vs. 5.0)。此外,在调酒师任务中,AGENTGEN甚至超越了GPT-4的表现(15 vs. 10)。与其他具有类似参数规模的模型相比,AGENTGEN在四个不同任务中始终表现出色。”
参考文献: [1] Hu, M. , Zhao, P., Xu, C., Sun, Q., Lou, J., Lin, Q., … & Zhang, D. (2024). AGENTGEN: Enhancing Planning Abilities for Large Language Model based Agent via Environment and Task Generation. arXiv preprint arXiv:2408.00764.✅
在人工智能领域,基于大型语言模型(LLM)的智能体正日益受到关注并广泛应用。然而,如何提升这些AI智能体的规划能力一直是一个挑战。近日,来自香港大学和微软的研究团队提出了一个名为AGENTGEN的创新框架,通过自动生成大量多样化的训练环境和任务,显著增强了LLM智能体的规划能力。这一突破性研究成果发表在最新一期的arXiv预印本平台上。
智能体规划能力的关键性与局限性
规划能力是LLM智能体的核心组成部分之一,涉及与环境交互并执行一系列动作以完成从初始状态到目标状态的任务。近期的研究表明,利用专家级轨迹数据(动作-观察对序列)对LLM进行指令微调,可以有效提升其规划能力。
然而,现有工作主要依赖于从人工设计的规划任务和环境中合成轨迹。创建这些环境和任务的劳动密集性严重阻碍了生成足够多样化和广泛的轨迹数据。正如论文作者所指出:”设计多样化环境需要定义一系列丰富而实用的场景,而实现这些环境通常需要具备编程技能的人类专家参与。此外,制定任务通常需要创建一个逐步提高难度的任务集。”
AGENTGEN:自动生成环境和任务的创新框架
为解决上述限制,研究团队提出了AGENTGEN框架,利用LLM首先生成环境,然后基于这些环境生成规划任务。该框架主要包括两个阶段:
1. 环境生成
为确保足够的环境多样性,研究人员使用了由各种领域特定文本段组成的”灵感语料库”作为生成环境规范的上下文。例如,从灵感语料库中随机选择一段文本”如何用花生酱粉提升你的饮食?”这促使生成了相关的环境规范:”你是一名营养师,负责创作一本新的健康食谱,将花生酱粉作为关键成分。”
随后,研究人员提示LLM基于此规范生成相应的代码,可能由Python、规划领域定义语言(PDDL)或其他特定领域语言组成。此外,他们还构建了一个环境库,作为上下文示例,并通过迭代纳入新生成的高质量环境来不断扩展。
2. 任务生成
在生成环境的基础上,研究团队旨在创建多个规划任务。在这个阶段,关键是要有一个从简单到困难的渐进式任务集。为实现更大的难度多样性,他们提出了一种双向演化方法BI-EVOL。
具体而言,LLM首先生成随机规划任务,然后通过应用约束条件向简化和增加难度两个方向演化这些任务。这种方法创建了一个具有平滑难度曲线的任务集,有助于LLM更顺畅地获取规划技能。
研究人员解释道:”BI-EVOL引入了两个方向的演化:简化演化和难化演化。简化演化通常涉及简化目标条件,这有助于在智能体表现不佳且无法直接从典型的困难目标中学习时促进学习。相反,难化演化通常涉及使目标条件更复杂,增加智能体完成任务所需的步骤数。这可以进一步增强智能体执行规划任务的能力。”
实验验证:AGENTGEN的显著成效
为验证AGENTGEN的有效性,研究团队基于PDDL合成了环境和规划任务,构建了一个包含592个环境的数据集,每个环境有20个任务。他们使用领域无关规划器获得了7,246个高质量轨迹。随后,他们使用这些轨迹数据对一系列LLM进行了指令微调,并在AgentBoard上展示了训练后的模型性能。
实验结果表明,AGENTGEN在领域内任务上相比原始LLama3-8B取得了5倍以上的提升(11.67 vs. 1.67),整体表现超过了GPT-3.5。在某些特定任务上,它甚至超越了GPT-4的表现。在领域外任务中,AGENTGEN也展现了类似的实验成果。具体而言,它显著提高了成功率,在Alfworld和BabyAI上分别取得了29.1和4.47的提升。在Alfworld上,AGENTGEN甚至超越了GPT-3.5的表现(29.1 vs. 17.2)。
研究人员强调:”尽管参数规模相对较小,AGENTGEN在总体成功率上仍然优于GPT-3.5(11.67 vs. 5.0)。此外,在调酒师任务中,AGENTGEN甚至超越了GPT-4的表现(15 vs. 10)。与其他具有类似参数规模的模型相比,AGENTGEN在四个不同任务中始终表现出色。”
未来展望与潜在影响
AGENTGEN框架的提出为增强LLM智能体的规划能力开辟了新的可能性。通过自动生成大量多样化的环境和任务,该方法不仅显著提升了模型性能,还展现出良好的泛化能力。
研究团队指出:”AGENTGEN不仅在领域内任务上表现出色,在领域外任务中也取得了显著进步,这进一步证实了我们方法的有效性和泛化能力。”
这项研究的成果可能对多个领域产生深远影响,包括但不限于:
尽管AGENTGEN取得了令人瞩目的成果,研究团队也指出了未来的改进方向。例如,进一步提高生成环境和任务的质量和多样性,探索更高效的训练方法,以及研究如何将AGENTGEN应用于更广泛的AI智能体场景。
总的来说,AGENTGEN为增强AI智能体的规划能力提供了一种创新且有效的方法。随着这一技术的不断发展和完善,我们可以期待看到更多智能、灵活且具有强大规划能力的AI系统在各个领域发挥重要作用,为人类社会带来更多便利和价值。
参考文献:
[1] Hu, M. , Zhao, P., Xu, C., Sun, Q., Lou, J., Lin, Q., … & Zhang, D. (2024). AGENTGEN: Enhancing Planning Abilities for Large Language Model based Agent via Environment and Task Generation. arXiv preprint arXiv:2408.00764.✅