亚马逊开源5级通用AI Agent：自动查询航班、天气，超4000颗星

全球云计算巨头亚马逊云（AWS）开源了5级通用AI Agent框架——Multi-Agent Orchestrator。

该框架能通过多层级AI Agent来处理各种复杂任务，将用户的请求找到最适合的Agent来执行，并在整个交互过程中保持上下文的一致性和连贯性。

最大亮点之一便是对Python和TypeScript的双语言支持，极大提升了Agent的部署、应用环境，满足不同类型的开发者需求。

开源地址:https://github.com/awslabs/multi-agent-orchestrator

Multi-Agent主要由5层级组成:Orchestrator，核心协调者，管理信息流动处理用户输入，编排响应生成并处理错误场景;Classifier，检查用户输入、Agent描述和对话历史，选择最适合的Agent来处理请求。

Agent:包括预构建的Agent用于常见任务，可定制的Agent允许扩展或覆盖默认行为，以及为特定任务创建的自定义Agent。

Retrievers:通过提供上下文和相关信息来提升基于LLM的Agent性能，提高效率，按需获取必要信息，而非仅依赖于模型训练的数据。

Conversation Storage:维持对话历史，支持灵活的存储选项如内存内和DynamoDB，也允许快速创建自定义存储方案。

Retrievers:通过提供上下文和相关信息来提升基于LLM的Agent性能，提高效率，按需获取必要信息，而非仅依赖于模型训练的数据。

Multi-Agent支持处理流式和非流式的Agent响应，能够适应不同的应用场景和数据传输需求。流式响应是指数据以连续流的形式被发送和接收，对于需要实时处理大量数据的应用非常有用。例如，在视频流处理或实时数据分析中，流式响应可以确保数据的即时处理和反馈。

通过支持流式响应，可以与Kafka、Amazon Kinesis等流处理服务集成，实现高效的数据处理。

而非流式响应则是指数据以完整的单元被发送和接收，能适用于不需要实时处理的场景。

例如，在处理电子邮件或批量数据导入时，非流式响应可以确保数据的完整性和一致性。通过非流式响应，可以与各种数据库和存储服务集成，实现数据的持久化和查询。

此外，Multi-Agent提供了预构建的Agent模板，包括旅行、天气、数学和健康等。旅行Agent可以处理与旅行相关的查询，如航班预订、酒店搜索和行程规划。可以通过集成航空公司、酒店和旅行社的API来提供实时的旅行信息。

天气Agent可以提供天气查询服务，包括当前天气状况、天气预报和极端天气警报。它可以通过集成天气服务API来获取准确的天气数据。

下面是一个简单的Multi-Agent的自动化执行业务流程展示:

当用户向 Multi-Agent发送请求时，流程从分类开始。首先使用Classifier分析用户的输入、Agent描述以及当前对话历史，以确定哪个Agent最适合处理这个请求。

对于新查询，比如“我想预订一张机票”或“20年期贷款的基础利率是多少”，Classifier会选择最佳匹配的Agent;而对于像“告诉我更多”、“再来一次”或“12”这样的简短后续回复，它会识别出最后响应的那个Agent并继续与之互动。这一步骤确保了即使是在多轮对话中也能维持对话的连贯性。

在选定Agent后，用户的输入被发送给该Agent进行处理。每个Agent在处理请求时，都会自动检索其自身的对话历史记录，保证其能够记住之前与用户的对话内容，而不干扰其他Agent的工作。

Agent生成的响应可以是标准模式或流式传输模式，具体取决于Agent的能力和初始化设置。接着，Orchestrator 自动保存用户的输入和Agent的响应至特定用户ID和会话ID对应的存储中，这一过程对实现多轮对话至关重要。

此外，Multi-Agent Orchestrator 支持文本和语音交互，通过集成Amazon Connect 和 Lex 等工具，增强了其在客户服务、呼叫中心等领域的应用能力。Multi-Agent开源不久，但非常火很快就突破4000颗星。