Pagpapahusay sa Cloud Cost Analysis: Pagbuo ng mga FinOps Intelligent Agent gamit ang Strands at AgentCore

Mga Tala ng Sesyon

Kilala ang taong 2025 bilang "Unang Taon ng mga AI Agent," at dalawang buwan na lamang bago ito sumapit.

• Nakabuo na ang mga user ng sarili nilang mga AI Agent.
• Isang uri ng AI agent ang mga programming agent.
• Ang mga AI agent ay iba't ibang "application na mukhang matalino" at gumagamit ng AI.
• Kabilang sa mga halimbawa ang: mga agent para sa katitikan ng pulong, paghahanda sa interview, at programming. Mga katangian ng mga "AI Agent" sa panahon ng LLM:
• Role profiling: kayang tumukoy ng mga tungkulin o personalidad upang makapagbigay ng personalized na kilos at tugon.
• Pagpaplano at pagninilay: upang makamit ang mga layunin, maaaring bumuo ng plano ang mga agent at gumawa ng mga pagbabago batay sa resulta ng pagpapatupad.
• Long-term memory: kayang panatilihin ang pangmatagalang impormasyon o karanasan mula sa interaction, tulad ng mga tao.
• Pagpapatakbo ng tool: hindi lamang kayang bumuo ng text kundi tumawag din ng iba't ibang external tool o API upang magsagawa ng mga operasyon.
• Makakatulong ang mga AI Agent sa paglutas ng mga praktikal na problema, gaya ng mga agent para sa cost analysis.
• Paano gamitin ang Amazon Web Services upang bumuo ng mga agent para sa cost analysis. Paano bumuo ng mga AI Agent:
• Bedrock Agents
• AgentCore: i-deploy ang mga sariling gawang agent sa serverless na paraan, na nagbibigay ng authentication, mga tool, observability, at iba pang function.
• Strands Agents: isang framework para sa Python na nangangailangan lamang ng hindi bababa sa 3 linya ng napakaikling code upang magpatupad ng AI agent.
• Pagbuo ng mga FinOps agent gamit ang Strands Agents. Open-source na AI Agent framework—Strands Agents
• Gumawa ng mga AI agent gamit lamang ang 3 linya ng Python code
• Mga bentahe: simple, magaan, at nagbibigay ng magandang development experience
• Ginagamit sa Amazon Web Services, gaya ng Amazon Q Developer
• Pangunahing konsepto ng Strands: pagsasama ng mga "model" at "tool"
• Dahil sa paghusay ng mga kakayahan ng LLM, kailangan na lamang tukuyin ang mga model at tool upang makabuo ng mga AI agent
• Paglikha ng agent: i-set ang LLM at mga system prompt, at tawagin ito sa pamamagitan ng pagbibigay ng mga prompt
• Bigyan ang mga agent ng kakayahang gumamit ng tool: Nagbibigay ang Strands ng mga built-in na tool, gaya ng pagkalkula at mga file operation
• Maaari kang gumawa ng sarili mong mga tool sa pamamagitan ng pagdaragdag ng @tool sa mga Python function
• Kumuha ng mga tool na ibinibigay ng mga MCP server, na compatible sa mga local at remote na MCP server
• Bumuo ng maraming agent: Agent as Tools, Swarm, Graphs, Workflows
• Halimbawa ng Agent as Tools: supervisor-subordinate model, kung saan nagtatalaga ang supervisor agent ng mga sub-task, tumatawag ng mga sub-agent upang magsagawa ng mga ito, at nagbubuod ng mga resulta
• Sumikat na trend pagkatapos ng MCP: suporta sa A2A (Agent to Agent)
• Halimbawa ng pagbuo ng A2A sa Strands: may mga specialized class na maaaring tumawag ng mga remote agent gamit ang Tool Use
• Pag-deploy ng agent: mabilis na mag-deploy sa pamamagitan ng Bedrock AgentCore

Mga problema sa pag-deploy ng AI Agent:

• Komplikadong proseso ng deployment
• Mga isyu sa authentication at authorization
• Mga hamon sa maintenance at monitoring
• Mga isyu sa gastos sa pagpapatakbo
• Kung sinusuportahan ang streaming output Ano ang Bedrock AgentCore?
• Isa itong "maginhawang hanay ng mga component" na nakalaan para sa mga AI agent
• Kabilang dito ang mga function gaya ng Runtime (serverless infrastructure), Memory (memory management), Gateway (tool integration), Identity (authentication/authorization), at Observability (maintenance at monitoring)
• Magagamit sa anumang gustong agent framework, maaaring piliin ang mga function ayon sa pangangailangan, at madaling i-integrate sa pamamagitan ng mga API Ang runtime ang sentro ng buong system
• Anuman ang framework na ginamit sa pagbuo ng mga AI agent, madali silang mai-deploy sa isang serverless environment
• Katulad ng containerized Lambda na partikular na inihanda para sa mga AI agent
• Sa tulong ng isang nakalaang CLI toolkit, madaling makukumpleto ang mga deployment operation
• Kumpleto na ang bahagi ng backend, at ang susunod na hakbang ay pag-isipan ang implementation plan para sa frontend Mga maaaring gamiting teknolohiya para sa frontend page:
• Madaling gamitin ng mga baguhan
• Production-level na development suite
• Madali kang makagagawa ng magandang interface gamit ang Python
• Iugnay lamang ang mga code repository gaya ng Next.js o React upang magkaroon ng automatic deployment
• Magandang opsyon ito para sa mga backend engineer na hindi bihasa sa JavaScript
• Nagkaroon ang Gen2 version ng malaking ebolusyon at paghusay sa performance.

Mahahalagang Punto

• Napakahalaga ng cloud cost analysis para sa mga enterprise at indibidwal. Sa Unang Taon ng mga AI Agent, mabilis kang makabubuo ng mga AI agent na tumutulong sa pagsusuri ng mga gastos sa cloud gamit ang technology stack ng Amazon Web Services.
• Ang Strands Agents ay isang framework para sa flexible na pagbuo ng mga multi-agent system, na nangangailangan lamang ng 3 linya ng Python code upang mag-set up ng mga AI agent at nagtatampok ng napakasimpleng paggamit at mataas na scalability.
• Sinusuportahan ng Strands Agents ang mga protocol na MCP at A2A, kaya maaaring magtulungan at magbahagi ng mga tool ang mga agent.
• Maaaring maayos na i-integrate ang Strands Agents sa Bedrock AgentCore upang magkaroon ng production-level deployment.
• Mapapasimple ng paggamit ng AgentCore ang proseso ng deployment at maintenance. Nagbibigay ang Runtime component ng serverless runtime environment na may automatic scaling.
• Nagbibigay ang mga component gaya ng Memory, Identity, Gateway, at Observability ng magkakaugnay na kakayahan para sa memory, authentication, tool integration, at monitoring.
• Sa pamamagitan ng automatic packaging at deployment gamit ang CLI, mabilis na makapapasok sa production environment.

Arkitektura ng Amazon Bedrock AgentCore

Mga Pangunahing Serbisyo

• AgentCore Runtime: Isang secure at serverless na execution environment na nagho-host sa iyong AI agent o tool code. Nagbibigay ito ng ganap na session isolation para sa seguridad at sumusuporta sa mga matagal tumakbong asynchronous task nang hanggang 8 oras.
• Framework: Sinusuportahan ang mga sikat na open-source agent framework (hal., LangGraph, CrewAI) at anumang foundation model.
• Mga Tagubilin sa Agent: Tinutukoy ang kilos at mga kakayahan ng agent.
• Mga Local Tool ng Agent: Mga tool na local sa partikular na agent para sa pagsasagawa ng mga task.
• Konteksto ng Agent: Pinamamahalaan ang pansamantala at session-specific na state sa loob ng isang pag-uusap.
• AgentCore Gateway: Nagbibigay ng secure na paraan upang matuklasan at makakonekta ang mga agent sa mga tool at resource. Maaari nitong gawing mga tool na compatible sa agent ang mga kasalukuyang API (gaya ng mga Lambda function o OpenAPI spec), kaya nababawasan ang custom integration work.
• AgentCore Memory: Nagbibigay-daan sa mga agent na magkaroon ng context-aware na pag-uusap sa pamamagitan ng pamamahala sa short-term at long-term memory. Iniimbak nito ang conversational context at kinukuha ang permanenteng kaalaman gaya ng mga preference ng user sa iba't ibang session.
• AgentCore Identity: Nagbibigay ng secure at scalable na identity at access management para sa mga agent. Pinangangasiwaan nito ang authentication at authorization, kaya secure na maa-access ng mga agent ang mga AWS resource at third-party service sa ngalan ng mga user.
• CloudWatch GenAI Observability (AgentCore Observability): Nagbibigay ng komprehensibong kakayahan sa monitoring, tracing, at debugging para sa performance ng agent sa production. Nagbibigay ito ng malalim na operational insight sa workflow ng agent, gamit ang Amazon CloudWatch at telemetry na compatible sa OpenTelemetry. Mga Built-in na Tool
• AgentCore Code Interpreter: Nagbibigay-daan sa mga agent na secure na magsulat at magpatakbo ng code sa mga hiwalay na sandbox environment para sa mga komplikadong task gaya ng data analysis o mga pagkalkula.
• AgentCore Browser: Nagbibigay ng mabilis, secure, at cloud-based na browser runtime upang makipag-interact ang mga agent at kumuha ng impormasyon mula sa mga website sa malaking scale. Mga External na Interaction
• App at Mga Model: Nakikipag-interact ang agent system sa mga application ng user at iba't ibang foundation model (FM) mula sa Amazon Bedrock o iba pang provider upang maisagawa ang mga task nito.

Amazon Bedrock AgentCore starter toolkit

• Code: Nagsisimula ang proseso sa source code para sa AI agent.
• Pagbuo: Awtomatikong nagti-trigger ng AWS CodeBuild project ang command na "agentcore launch" sa loob ng toolkit.
• Container: Kino-compile ng CodeBuild ang agent code sa isang container image na optimized para sa environment (hal., ARM64 architecture).
• ECR (Elastic Container Registry): "Ipinapadala" ang nabuong container image sa isang Amazon ECR repository, na nagsisilbing permanenteng storage para sa image.
• AgentCore Runtime: Pagkatapos, dine-deploy ang image sa secure at serverless na Amazon Bedrock AgentCore Runtime, ang execution environment para sa AI agent.
• X-Ray: Nag-i-integrate ang system sa AWS X-Ray para sa observability, na nagbibigay ng tracing at debugging capability para sa performance ng agent sa production.
• Automation: Ipinapahiwatig ng text sa ibaba na awtomatikong pinangangasiwaan ng agentcore-starter-toolkit ang mga hakbang na ito sa configuration at deployment.