CoA是什么
CoA（Chain-of-Agents）是谷歌推出的多智能体协作框架，用于解决大语言模型（LLM）在处理长文本任务时面临的上下文限制问题。CoA框架将长文本分割成多个较短的片段，由多个工作智能体（worker agents）依次处理这些片段，通过链式通信将有用信息传递给下一个智能体。一个管理智能体（manager agent）整合所有信息，生成最终输出。 无需额外训练、任务无关且高度可解释。
CoA的主要功能
- 分段处理与链式通信：CoA将长文本分割成多个较短的片段，由多个工作智能体（worker agents）依次处理这些片段，通过链式通信将有用信息传递给下一个智能体。
- 信息聚合与上下文推理：工作智能体在处理各自片段时，会将关键信息传递给下一个智能体，最终由管理智能体（manager agent）整合所有信息，最终生成一致输出。
- 任务无关与无需训练：CoA框架无需额外训练，适用于多种任务类型，如问答、摘要和代码补全等。
- 提升性能与效率：CoA通过多智能体协作显著提升了长文本任务的性能，最高可达10%，将时间复杂度从平方复杂度降低到线性复杂度。
- 可扩展性：CoA可以通过调整工作智能体的数量来适应不同长度的输入，具有良好的可扩展性。
CoA的设计原理
- 多智能体协作与信息聚合：在第一阶段，工作智能体依次读取和处理文本片段，将关键信息传递给下一个智能体。每个智能体都接收来自前一个智能体的信息，更新自己的处理结果。最终，管理智能体（manager agent）接收所有工作智能体的输出，整合信息生成最终答案。
- 上下文推理与任务无关性：CoA通过自然语言通信实现多智能体之间的协作，每个智能体专注于较短的上下文，缓解了长上下文中的注意力集中问题。
- 时间复杂度优化：CoA的时间复杂度从传统的平方复杂度（O(n²)）降到了线性复杂度（O(nk)），其中n是输入tokens的数量，k是LLM的上下文限制。显著降低了计算成本，处理长文本任务更加高效。
CoA的项目地址
- arXiv技术论文：https://arxiv.org/pdf/2406.02818
CoA的应用场景
- 长文本问答：CoA能处理复杂的多跳推理问题。例如，在处理家族关系推理时，长文本被分割成多个片段，工作智能体依次处理这些片段并传递关键信息，最终由管理智能体生成答案。
- 长文本摘要：在长文本摘要任务中，CoA通过分块处理和多智能体协作，能有效地提取关键信息并生成准确的摘要。
- 代码补全：CoA可以应用于代码补全任务。通过多智能体协作，CoA能处理长代码片段，提取关键信息并生成代码补全建议。
- 多领域任务：CoA框架具有高度的灵活性和任务无关性，能与多种大语言模型（LLM）协同工作。