讓雲端成本分析更智慧：使用 Strands 與 AgentCore 建置 FinOps 智慧 Agent

場次筆記

2025 年被稱為「AI Agent 元年」，距離現在只剩兩個月。

• 使用者已經開發出自己的 AI Agent。
• 程式設計 agent 是 AI agent 的一種類型。
• AI agent 是各種運用 AI、且「看起來很聰明的應用程式」。
• 範例包括：會議記錄 agent、面試準備 agent，以及程式設計 agent。LLM 時代「AI Agent」的特性：
• 角色設定：可定義角色或人格，實現個人化的行為與回應。
• 規劃與反思：為了達成目標，agent 可制定計畫，並根據執行結果進行調整。
• 長期記憶：可像人類一樣保留長期互動資訊或經驗。
• 工具執行：不只能產生文字，也能呼叫各種外部工具或 API 來執行操作。
• AI Agent 可協助解決實際問題，例如成本分析 agent。
• 如何使用 Amazon Web Services 開發成本分析 agent。如何建置 AI Agent：
• Bedrock Agents
• AgentCore：以 serverless 方式部署自行開發的 agent，並提供身分驗證、工具、可觀測性及其他功能。
• Strands Agents：Python 框架，只需要至少 3 行極為精簡的程式碼即可實作 AI agent。
• 使用 Strands Agents 建置 FinOps agent。開放原始碼 AI Agent 框架 — Strands Agents
• 只需 3 行 Python 程式碼即可建立 AI agent
• 優點：簡單、輕量，且開發體驗良好
• 應用於 Amazon Web Services，例如 Amazon Q Developer
• Strands 核心概念：結合「模型」與「工具」
• 隨著 LLM 能力提升，建置 AI agent 只需指定模型與工具
• 建立 agent：設定 LLM 與 system prompt，並透過提供 prompt 進行呼叫
• 為 agent 配備工具能力：Strands 提供內建工具，例如計算與檔案操作
• 可透過在 Python function 加上 @tool 來撰寫自己的工具
• 取得 MCP server 提供的工具，並與本機及遠端 MCP server 相容
• 建置多個 agent：Agent as Tools、Swarm、Graphs、Workflows
• Agent as Tools 範例：主管—部屬模型，由主管 agent 指派子工作、呼叫子 agent 執行，並彙整結果
• MCP 之後的熱門趨勢：支援 A2A（Agent to Agent）
• 在 Strands 上建構 A2A 的範例：有專用 class 可使用 Tool Use 呼叫遠端 agent
• Agent 部署：透過 Bedrock AgentCore 快速部署

部署 AI Agent 的難題：

• 部署程序複雜
• 身分驗證與授權問題
• 維護與監控方面的挑戰
• 執行成本問題
• 是否支援串流輸出。什麼是 Bedrock AgentCore？
• 它是專為 AI agent 打造的「便利元件組」
• 包含 Runtime（serverless 基礎架構）、Memory（記憶體管理）、Gateway（工具整合）、Identity（身分驗證／授權），以及 Observability（維護與監控）等功能
• 可搭配任何偏好的 agent 框架使用、視需要選擇功能，並透過 API 輕鬆整合。整個系統的核心是 runtime
• 無論使用哪種框架開發 AI agent，都能輕鬆部署至 serverless 環境
• 類似於專為 AI agent 準備的容器化 Lambda
• 藉助專用 CLI toolkit，即可輕鬆完成部署操作
• 後端部分已完成，下一步是考量前端的實作方案。前端頁面的選用技術：
• 適合初學者
• 正式環境等級的開發套件
• 可使用 Python 輕鬆撰寫美觀的介面
• 只要連結 Next.js 或 React 等程式碼儲存庫，即可實現自動部署
• 對不熟悉 JavaScript 的後端工程師而言，這是很好的選擇
• Gen2 版本已實現大幅演進與效能提升。

重點摘要

• 雲端成本分析對企業與個人都至關重要。在 AI Agent 元年，可使用 Amazon Web Services 的技術堆疊快速建置協助分析雲端成本的 AI agent。
• Strands Agents 是可靈活建置多 agent 系統的框架，只需 3 行 Python 程式碼即可設定 AI agent，兼具極致簡潔與高度擴充性。
• Strands Agents 支援 MCP 與 A2A protocol，讓 agent 之間能夠協作及共用工具。
• Strands Agents 可與 Bedrock AgentCore 無縫整合，實現正式環境等級的部署。
• 使用 AgentCore 可簡化部署與維護程序。Runtime 元件提供可自動擴充的 serverless runtime 環境。
• Memory、Identity、Gateway 與 Observability 等元件分別提供記憶、身分驗證、工具整合與監控的整合能力。
• 透過 CLI 自動封裝及部署，可快速進入正式環境。

Amazon Bedrock AgentCore 架構

核心服務

• AgentCore Runtime：用來託管 AI agent 或工具程式碼的安全 serverless 執行環境。它提供完整的工作階段隔離以確保安全，並支援最長 8 小時的長時間非同步工作。
• Framework：支援熱門的開放原始碼 agent 框架（例如 LangGraph、CrewAI）及任何基礎模型。
• Agent Instructions：定義 agent 的行為與能力。
• Agent Local Tools：特定 agent 用於執行工作的本機工具。
• Agent Context：管理對話中暫時且為特定工作階段專用的狀態。
• AgentCore Gateway：提供安全的方式，讓 agent 探索並連線至工具與資源。它可將現有 API（例如 Lambda function 或 OpenAPI spec）轉換為 agent 相容工具，盡可能減少自訂整合工作。
• AgentCore Memory：透過管理短期與長期記憶，讓 agent 能進行具備 context 感知能力的對話。它會儲存對話 context，並擷取跨工作階段的使用者偏好等持久性知識。
• AgentCore Identity：為 agent 提供安全且可擴充的身分與存取權管理。它會處理身分驗證與授權，讓 agent 能代表使用者安全地存取 AWS 資源及第三方服務。
• CloudWatch GenAI Observability（AgentCore Observability）：為正式環境中的 agent 效能提供完整的監控、追蹤與偵錯功能。它由 Amazon CloudWatch 與 OpenTelemetry 相容遙測技術支援，能深入掌握 agent 工作流程的營運狀況。內建工具
• AgentCore Code Interpreter：讓 agent 能在隔離的 sandbox 環境中安全地撰寫及執行程式碼，以完成資料分析或計算等複雜工作。
• AgentCore Browser：提供快速、安全且以雲端為基礎的瀏覽器 runtime，讓 agent 能大規模地與網站互動並擷取資訊。外部互動
• App & Models：agent 系統會與使用者應用程式，以及 Amazon Bedrock 或其他供應商提供的各種基礎模型（FM）互動，以執行工作。

Amazon Bedrock AgentCore starter toolkit

• Code：程序從 AI agent 的原始程式碼開始。
• Build：toolkit 中的「agentcore launch」指令會自動觸發 AWS CodeBuild 專案。
• Container：CodeBuild 將 agent 程式碼編譯成針對環境最佳化的 container image（例如 ARM64 架構）。
• ECR（Elastic Container Registry）：建置完成的 container image 會「推送」至 Amazon ECR 儲存庫，作為映像檔的持久性儲存空間。
• AgentCore Runtime：接著將映像檔部署至安全、serverless 的 Amazon Bedrock AgentCore Runtime，也就是 AI agent 的執行環境。
• X-Ray：系統與 AWS X-Ray 整合以提供可觀測性，並為正式環境中的 agent 效能提供追蹤與偵錯功能。
• Automation：底部文字表示 agentcore-starter-toolkit 會自動處理這些設定與部署步驟。