智能体运行时环境#
在基础层面,该框架提供了一个运行时环境,它促进智能体之间的通信,管理它们的身份和生命周期,并强制执行安全和隐私边界。
它支持两种类型的运行时环境:独立和分布式。两种类型都提供了一组共同的 API,用于构建多智能体应用程序,因此您可以在它们之间切换而无需更改智能体实现。每种类型也可以有多个实现。
独立智能体运行时#
独立运行时适用于所有智能体都用相同编程语言实现并在同一进程中运行的单进程应用程序。在 Python API 中,独立运行时的一个示例是 SingleThreadedAgentRuntime。
下图显示了框架中的独立运行时。
在这里,智能体通过运行时进行消息通信,运行时管理智能体的生命周期。
开发人员可以通过使用提供的组件快速构建智能体,这些组件包括路由智能体、AI 模型客户端、AI 模型工具、代码执行沙箱、模型上下文存储等等。他们还可以从头开始实现自己的智能体,或使用其他库。
分布式智能体运行时#
分布式运行时适用于多进程应用程序,其中智能体可能用不同的编程语言实现并在不同的机器上运行。
如上图所示,分布式运行时由一个主机服务程序和多个工作程序组成。主机服务程序促进跨工作程序的智能体之间的通信,并维护连接状态。工作程序运行智能体并通过网关与主机服务程序通信。它们向主机服务程序宣传它们运行的智能体并管理智能体的生命周期。
智能体的工作方式与独立运行时相同,因此开发人员可以在两种运行时类型之间切换,而无需更改其智能体实现。