Multi-Agent sa AgentCore

Mga Tala ng Sesyon

Hamon

Tradisyonal na Workflow Kapag may Failure

• Suriin ang status ng cloud resource
• Nagkaroon ng failure
• Tingnan ang history ng incident
• Suriin ang configuration
• Suriin ang mga alert
• Magtalaga ng work order
• Suriin ang mga log
• Bumuo ng hypothesis tungkol sa root cause
• Maghanap ng mga solusyon
• Suriin ang mga metric
• Suriin ang mga dependency
• Tingnan ang mga kamakailang update
• Hanapin ang mga call chain
• Tingnan ang O&M manual
• Mag-query sa service dashboard
• Isagawa ang mga hakbang sa mitigation
• Abisuhan ang mga kasamahan
• Mag-query ng mga abnormal na metric
• Basahin ang manual
• Subaybayan ang recovery status Mga Pangunahing Hamon
• Napapanahong mitigation ng pagkawala
• Fault isolation
• Lutasin ang mga isyu sa loob ng katanggap-tanggap na panahon
• Limitahan ang mga failure sa loob ng isolation boundary upang maiwasan ang cascading effect sa ibang mga service at sa gayon ay mabawasan ang lawak ng epekto ng failure
• Tiyaking natutugunan ng mga service ang mga inaasahan ng user at mga SLA

Ebolusyon ng Solusyon

• Ebolusyon mula single-agent patungo sa mga multi-agent solution Mainam na Solusyon Mga Notification at Alert ng System
• Metric ng Alarm: 5xx rate na lampas 30%
• Detalye ng Alarm: Service, Endpoint, Oras ng Pag-trigger Karagdagang Root Cause Analysis Mahahalagang Natuklasan: 100% ang API error rate, walang error ang DB, na-update ang S3 bucket policy.
• Agarang Aksiyon: Suriin kung Deny ang S3 bucket policy
• Kumpiyansa: 90% Kumpirmahin ang mga Awtomatikong Operasyon
• Mensahe: Naibalik na ang System.
• RCA: Naka-set sa Deny ang S3 bucket policy
• MTTR: 5 mins
• Bawasan ang recovery time mula sa failure, mula oras tungo sa minuto Saklaw ng Trabaho ng SRE Expert
• Bakit umabot sa 5% ang error rate ng aking User Service nitong nakaraang oras?
• Dahil nakaranas ang RDS MySQL instance ng 12 isyu na lumampas sa connection limit nitong nakaraang oras
• Maging pamilyar sa kasalukuyang system
• Hanapin ang mga ugnayan ng service
• Suriin ang mga log
• Suriin ang mga audit log
• Suriin ang configuration
• Suriin ang mga metric Isaalang-alang ang Dalawang Tanong

1. Kung mataas ang complexity ng system, mahaba ang troubleshooting workflow, at malaki ang volume ng log, kaya bang gumana nang maayos ng isang agent?

2. Posible bang kopyahin sa mga agent ang karanasan ng SRE expert upang palitan ang paraang Q&A at mabigyang-daan ang mga agent na gumawa ng sariling pagpapasya at aksiyon?

Disenyo ng Multi-Agent Architecture

• Gumagawa ng mga workflow ang "Planner"
• Responsable ang "Executor" sa pagsasagawa ng mga nakatalagang gawain
• Responsable ang "Evaluator" sa pagtatasa kung kapaki-pakinabang ang resulta ng bawat hakbang at ibinabalik ito sa "Planner" para sa susunod na pagpaplano
• Kailangan ding suriin ng "Evaluator" ang mga resulta bago ibalik
• Maaaring i-adjust ng "Planner" ang proseso batay sa feedback mula sa "Evaluator" Multi-Agent kumpara sa Single Agent

1. Angkop para sa mas kumplikadong mga gawain

2. Mas malinaw na mga hangganan ng responsibilidad at permission

3. Mas madaling context engineering

4. Mas madaling pag-scale Mga Pinakamahusay na Kasanayan sa AgentCore Panimula sa Runtime Environment na Partikular sa Agent

• Mga hamon mula "trial" hanggang "implementation"
• Mga hamon mula PoC hanggang pagpapatupad sa production environment
• Performance
• Elasticity
• Seguridad
• Paglikha ng business value
• Compliance

Runtime Environment ng Agent v1.0

• MGA INTERFACE AT PROTOCOL (MCP/A2A)
• Deployment ng Agent
• Framework ng Agent
• Large Language Model
• Memory
• Mga Prompt
• Mga Tool/Resource
• Mga Guardrail
• Observability
• Evaluation Runtime Environment ng Agent v2.0
• MGA INTERFACE AT PROTOCOL (MCP/A2A)
• Deployment ng Agent
• Amazon Bedrock
• AgentCore
• Framework ng Agent
• Runtime ng Large Language Model
• Memory
• Mga Prompt
• Mga Tool/Resource
• Mga Identity Tool
• Mga Guardrail
• Gateway
• Observability
• Evaluation ESPESYALISADO
• Amazon Q Agents GANAP NA PINAMAMAHALAAN
• Amazon Bedrock Agents DIY
• Mga OSS Framework, Strands Agents SDK