OMAC: A Broad Optimization Framework for LLM-Based Multi-Agent Collaboration
Shijun Li, Hilaf Hasson, Joydeep Ghosh
由高级大型语言模型(LLM)驱动的代理在各种复杂应用程序中展示了令人印象深刻的功能。 最近,多代理系统(MAS)在多个代理之间相互协作和通信,在复杂的任务中表现出增强的功能,例如高质量的代码生成和算术推理。 然而,此类系统的发展往往依赖于手工制作的方法,关于基于LLM的MAS的系统设计和优化的文献仍然有限。 在这项工作中,我们介绍了OMAC,这是一个通用框架,旨在整体优化基于LLM的MAS。 具体来说,我们确定了MAS的五个关键优化维度,包括代理功能和协作结构。 在这些维度的基础上,我们首先提出了一个通用算法,使用两个称为语义初始化器和对比器的因子来优化任何单个维度。 然后,我们介绍了一种跨多个维度进行联合优化的算法。 广泛的实验证明了OMAC在代码生成,算术推理和一般推理任务方面优于最先进的方法。
Agents powered by advanced large language models (LLMs) have demonstrated impressive capabilities across diverse complex applications. Recently, Multi-Agent Systems (MAS), wherein multiple agents collaborate and communicate with each other, have exhibited enhanced capabilities in complex tasks, such as high-quality code generation and arithmetic reasoning. However, the development of such systems often relies on handcrafted methods, and the literature on systematic design and optimization of LLM...