回顾系列
- 场次 01:开发者的智能体架构设计路线图
- 场次 02:Amazon Bedrock 数据自动化
- 场次 03:AgentCore 上的多智能体
- 场次 04:实践中构建智能体式 AI:Nova Act 与 Strands Agents
- 场次 04:使用规格驱动开发,通过 Kiro 加速迁移项目
- 场次 06:从「匹配」到「理解」:由 AgentCore Memory 驱动的个性化 AI 搜索实践
- 场次 07:从观察到优化:从 LLM 可观测性迈向 AIOps,将实时洞察转化为智慧自动化
- 场次 08:部署 TEAM 并打造最佳工程团队
- 场次 09:五年来所谓无服务器数据库带来的五个惨痛教训
- 场次 14:如果 AI 替我工作会怎样:Q Developer CLI 与 Kiro 如何改变我的日常工作
- 场次 16:兼顾速度与警觉:Amazon Bedrock Agent 开发的安全要点
- 场次 26:在单张 H100 上运行 OSS LLM:更智能、更便宜、更快速
- 场次 28:现代统一元数据架构:打破数据孤岛的新方法
- 场次 29:无服务器 MediaOps:使用 Amazon Web Services 上的 AI 自动化视频工作流
- 场次 30:通过大规模性能测试构建兼具效率与可靠性的架构
- 场次 31:通过开源连接世界:技术、社区与全球开发者关系的实践历程
- 场次 33:构建流式 Iceberg 表以进行实时物流分析
- 场次 34:加速大规模机器人策略训练:基于 Kiro、Trainium 和 EKS 的自动化闭环架构
- 场次 35:通过规格驱动开发,从 Vibe 走向可行方案
- 场次 36:让云成本分析更智能:使用 Strands 和 AgentCore 构建 FinOps 智能体
- 场次 37:使用 CNCF Kagent、K8sGPT 和 Nova Sonic 转型 K8s 对话式智能体 AIOps
场次笔记
2025 年被称为“AI 智能体元年”,距离现在只剩两个月。
- 用户已经开发出自己的 AI 智能体。
- 编程智能体是 AI 智能体的一种类型。
- AI 智能体是各种利用 AI、且“看起来很智能的应用”。
- 示例包括:会议纪要智能体、面试准备智能体和编程智能体。LLM 时代“AI 智能体”的特征:
- 角色设定:可以定义角色或个性,实现个性化的行为和响应。
- 规划与反思:为了实现目标,智能体可以制定计划,并根据执行结果进行调整。
- 长期记忆:可以像人类一样保留长期交互信息或经验。
- 工具执行:不仅可以生成文本,还可以调用各种外部工具或 API 来执行操作。
- AI 智能体可以帮助解决实际问题,例如成本分析智能体。
- 如何使用 Amazon Web Services 开发成本分析智能体。如何构建 AI 智能体:
- Bedrock Agents
- AgentCore:以无服务器方式部署自行开发的智能体,并提供身份验证、工具、可观测性及其他功能。
- Strands Agents:一个 Python 框架,只需最少 3 行极其精简的代码即可实现 AI 智能体。
- 使用 Strands Agents 构建 FinOps 智能体。开源 AI 智能体框架——Strands Agents
- 只需 3 行 Python 代码即可创建 AI 智能体
- 优点:简单、轻量,开发体验良好
- 应用于 Amazon Web Services,例如 Amazon Q Developer
- Strands 核心概念:结合“模型”和“工具”
- 随着 LLM 能力的提升,构建 AI 智能体只需指定模型和工具
- 创建智能体:设置 LLM 和系统提示词,并通过提供提示词进行调用
- 为智能体配备工具能力:Strands 提供内置工具,例如计算和文件操作
- 可以通过为 Python 函数添加 @tool 来编写自己的工具
- 获取 MCP 服务器提供的工具,兼容本地和远程 MCP 服务器
- 构建多个智能体:Agent as Tools、Swarm、Graphs、Workflows
- Agent as Tools 示例:主管—下属模型,由主管智能体分配子任务、调用子智能体执行并汇总结果
- MCP 之后的热门趋势:支持 A2A(Agent to Agent)
- 在 Strands 上构建 A2A 的示例:有专用类可以使用 Tool Use 调用远程智能体
- 智能体部署:通过 Bedrock AgentCore 快速部署
AI 智能体部署的难题:
- 部署过程复杂
- 身份验证和授权问题
- 维护和监控方面的挑战
- 运行成本问题
- 是否支持流式输出。什么是 Bedrock AgentCore?
- 它是专为 AI 智能体打造的“便捷组件集”
- 包括 Runtime(无服务器基础设施)、Memory(记忆管理)、Gateway(工具集成)、Identity(身份验证/授权)和 Observability(维护和监控)等功能
- 可以与任何偏好的智能体框架搭配使用,按需选择功能,并通过 API 轻松集成。整个系统的核心是 Runtime
- 无论使用何种框架开发 AI 智能体,都可以轻松部署到无服务器环境
- 类似于专为 AI 智能体准备的容器化 Lambda
- 借助专用 CLI 工具包,可以轻松完成部署操作
- 后端部分已经完成,下一步是考虑前端的实现方案。前端页面的可选技术:
- 对初学者友好
- 生产级开发套件
- 可以使用 Python 轻松编写美观的界面
- 只需关联 Next.js 或 React 等代码仓库,即可实现自动部署
- 对不熟悉 JavaScript 的后端工程师来说,这是一个不错的选择
- Gen2 版本实现了显著演进和性能提升。
关键要点
- 云成本分析对企业和个人都至关重要。在 AI 智能体元年,可以使用 Amazon Web Services 的技术栈快速构建帮助分析云成本的 AI 智能体。
- Strands Agents 是一个可灵活构建多智能体系统的框架,只需 3 行 Python 代码即可设置 AI 智能体,具有极致的简洁性和高度可扩展性。
- Strands Agents 支持 MCP 和 A2A 协议,让智能体之间能够协作和共享工具。
- Strands Agents 可以与 Bedrock AgentCore 无缝集成,实现生产级部署。
- 使用 AgentCore 可以简化部署和维护过程。Runtime 组件提供可自动扩缩的无服务器运行时环境。
- Memory、Identity、Gateway 和 Observability 等组件提供记忆、身份验证、工具集成和监控的一体化能力。
- 通过 CLI 自动打包和部署,可以快速进入生产环境。
Amazon Bedrock AgentCore 架构
核心服务
- AgentCore Runtime:用于托管 AI 智能体或工具代码的安全无服务器执行环境。它提供完整的会话隔离以确保安全,并支持最长 8 小时的长时间异步任务。
- 框架:支持热门开源智能体框架(例如 LangGraph、CrewAI)以及任何基础模型。
- 智能体指令:定义智能体的行为和能力。
- 智能体本地工具:特定智能体用于执行任务的本地工具。
- 智能体上下文:管理对话中临时的、会话特定的状态。
- AgentCore Gateway:为智能体发现并连接工具和资源提供安全方式。它可以将现有 API(例如 Lambda 函数或 OpenAPI 规范)转换为智能体兼容工具,最大限度减少自定义集成工作。
- AgentCore Memory:通过管理短期和长期记忆,让智能体能够进行上下文感知对话。它会存储对话上下文,并提取跨会话的用户偏好等持久性知识。
- AgentCore Identity:为智能体提供安全、可扩展的身份和访问管理。它负责身份验证和授权,让智能体能够代表用户安全访问 AWS 资源和第三方服务。
- CloudWatch GenAI Observability(AgentCore Observability):为生产环境中的智能体性能提供全面的监控、跟踪和调试功能。它由 Amazon CloudWatch 和 OpenTelemetry 兼容的遥测技术提供支持,能够深入洞察智能体工作流的运行情况。内置工具
- AgentCore Code Interpreter:让智能体能够在隔离的沙箱环境中安全地编写和执行代码,以完成数据分析或计算等复杂任务。
- AgentCore Browser:提供快速、安全、基于云的浏览器运行时,让智能体能够大规模与网站交互并提取信息。外部交互
- 应用和模型:智能体系统与用户应用以及 Amazon Bedrock 或其他提供商提供的各种基础模型(FM)交互,以执行任务。
Amazon Bedrock AgentCore 入门工具包
- 代码:流程从 AI 智能体的源代码开始。
- 构建:工具包中的“agentcore launch”命令会自动触发 AWS CodeBuild 项目。
- 容器:CodeBuild 将智能体代码编译为针对环境优化的容器镜像(例如 ARM64 架构)。
- ECR(Elastic Container Registry):构建完成的容器镜像会被“推送”到 Amazon ECR 仓库,该仓库作为镜像的持久存储。
- AgentCore Runtime:随后将镜像部署到安全、无服务器的 Amazon Bedrock AgentCore Runtime,即 AI 智能体的执行环境。
- X-Ray:系统与 AWS X-Ray 集成以提供可观测性,并为生产环境中的智能体性能提供跟踪和调试功能。
- 自动化:底部文字表示 agentcore-starter-toolkit 会自动处理这些配置和部署步骤。
