Pagbabago sa Conversational Agentic AIOps para sa K8s Gamit ang CNCF Kagent, K8sGPT, at Nova Sonic

Mga Tala ng Sesyon

Mga Hamon sa Kubernetes Operations

Malaking Dami ng Operations Data, Matagal na Troubleshooting

• Lumalampas sa 4 oras ang average na MTTR, kung saan 65% ay nagmumula sa manual analysis
• Maaaring umabot sa antas na TB ang dami ng data para sa analysis Maraming Uri ng Resource, Komplikadong mga Ugnayan
• Malaking dami ng mga cluster object, event, at log data Komplikadong Pagpapalit-palit sa Maraming Tool
• Nagpapalit-palit ang mga SRE sa 8+ tool araw-araw, na may mataas na gastos sa context switching Komplikado at Matagal na Troubleshooting Bilang Tugon sa mga Alert
• Limitadong kakayahan sa automation
• 30% lamang ng mga karaniwang failure ang maaaring awtomatikong ayusin, at umaasa ang mga komplikadong sitwasyon sa pagpapasya ng tao Mataas ang Gastos at Antas ng Pagkatuto para sa K8s
• Paghahambing ng operational efficiency
• Ang average na fault recovery time (MTTR) ng mga enterprise na gumagamit ng AIOps ay 90% na mas maikli kaysa sa mga tradisyonal na model, at nababawasan nang 50% ang mga operational cost Mga Pangunahing Halaga

1. Self-Healing na mga Failure: Awtomatikong ayusin ang ilang failure nang walang interbensyon sa pamamagitan ng AI prediction at mga automation script.

2. Intelligent Monitoring: Eksaktong tukuyin ang root cause ng mga problema mula sa napakaraming log at metric, at wakasan ang paghahanap na parang karayom sa bunton ng dayami.

3. Palayain ang Human Resource: Ilayo ang mga SRE team sa mga paulit-ulit na task upang makapagtuon sila sa mas mahahalagang gawaing pang-innovation.

AIOps Solution na Pinapagana ng Kagent

Kagent: Cloud-Native Agentic AI Framework

• Open-source sandbox project ng CNCF 2025, isang specialized Agent framework para sa mga K8s cloud-native scenario.
• Bumubuo ng intelligent agent system batay sa K8s sa pamamagitan ng integration sa maraming model platform (Amazon Bedrock, Anthropic, OpenAI, atbp.). Mga pangunahing bentahe:
• K8s Cloud-Native: Natively integrated sa K8s ecosystem at likas na umaangkop sa mga kasalukuyang cluster
• Maraming Use Case: Magagamit sa anumang AI Agent use case
• Malawak na Tool Integration: Sinusuportahan ang mga custom MCP tool, iba't ibang built-in na K8s tool, at mga pre-configured na Agent
• Visualization Interface: Pinauunlad ng UI interface ang multi-agent workflow orchestration upang maging mas intuitive at efficient
• Komprehensibong Observability: May built-in na kakayahan sa tracing, logging, at monitoring, at sumusuporta sa integration ng mga karaniwang observability tool Mga Use Case:
• Cloud-native operations automation, multi-cluster management, anumang multi-agent collaborative system, mga kasanayan sa AIOps, atbp.

Amazon Nova Sonic: Pagsulong sa Voice-Based Conversational AIOps

• Ang Amazon Nova Sonic ay isang voice conversation model na ibinibigay sa Amazon Bedrock.
• Pinagsasama nito ang mga tradisyonal at magkahiwalay na model para sa speech understanding at speech generation, kaya nitong magsagawa ng makatotohanang pag-uusap gamit ang boses na parang tao, sumusuporta sa maraming wika at tono, at may low latency at high performance. Mga Use Case:
• AI Intelligent Customer Service: 24/7 na pagtugon sa mga tanong ng customer
• Enterprise Voice Assistant: Nag-i-integrate ng knowledge base, mga intelligent agent, at external tool para sa customized na serbisyo
• Multilingual Learning Tools: Sumusuporta sa maraming wika
• Mga Application sa Maraming Industriya: Fintech, healthcare, smart home, atbp. Pangunahing Halaga ng Pagsasama sa mga Operations Scenario:
• Pinapasimple ang tradisyonal at komplikadong manual troubleshooting + repair upang maging mga voice conversation, pinahuhusay ang intelligent operations gamit ang AIOps, at binabawasan ang MTTR

K8sGPT: Open-Source na Eksperto sa Pag-diagnose ng K8s Failure

• Open-source sandbox project ng CNCF na nagbibigay ng AI-driven observability at automated operations para sa maintenance ng Kubernetes
• Sinusuportahan ang dalawang mode na CLI at Operator, kaya posible ang agarang analysis at tuloy-tuloy na monitoring
• Ini-scan ang mga cluster resource, event, log, at metric at nag-i-integrate ng mga AI model sa Amazon Bedrock upang bumuo ng mga textual insight at paliwanag; maaari rin itong i-integrate sa mga MCP function ng Kiro para sa pagmamasid at maintenance ng mga cluster gamit ang natural language
• Tinutugunan ang problema ng passive response sa tradisyonal na operations sa pamamagitan ng paggamit ng proactive AI intelligent operations
• Sinusuportahan ang iba't ibang custom analyzer at observability tool, at maaaring i-integrate sa Prometheus, Alertmanager, Grafana, atbp.

Demo Cluster:

• EKS managed cluster na naka-deploy sa Amazon Web Services, pangalan ng cluster: eks-cluster
• Pangkalahatang-ideya ng mga cluster resource: Nagde-deploy ang cluster ng maraming K8s resource na binabasa mula sa GitHub sa pamamagitan ng application ng ArgoCD. Kabilang dito ang 2 pod, isang service, at isang Deployment
• Isyu sa Pod: Naka-set sa 200Mi ang memory limit, ngunit nagpapatakbo ito ng 205Mi na process, na nagdudulot ng CrashLoopBackOff Eksperimental na sitwasyon ng pagkukumpuni:
• Tinutukoy ng K8sGPT ang isyu sa Pod at nagbibigay ng mga paliwanag at mungkahi sa pagkukumpuni.
• Sa huli, sa pamamagitan ng ArgoCD, ina-adjust ang memory limit parameter ng Helm Chart sa loob ng application, na nagti-trigger sa ArgoCD na baguhin ang configuration ng pod upang matagumpay na makapagsimula ang pod.

Buod

• Alamin kung paano bumuo mula sa simula ng K8s intelligent operation solution na nakabatay sa Amazon Bedrock AgentCore at pinapagana ng isang AI multi-agent collaboration system.
• Sa pamamagitan lamang ng isang simpleng pangungusap, makukumpleto mo ang buong proseso mula sa pagtukoy at pag-diagnose ng problema hanggang sa ganap na automatic repair. Lubos nitong pinapasimple ang pagsusuri ng malaking dami ng operations data at mga manual repair operation, at binabawasan ang panganib ng manual error.
• Kung ihahambing sa orihinal at limitadong automatic repair capability ng K8sGPT, nagdaragdag ang solution na ito ng mas maraming automatic repair function na nakabatay sa negosyo, kaya mas flexible at scalable ito.
• Para sa mga automated repair scenario, nagpapakilala kami ng mga prosesong HITL (Human-in-the-Loop) upang matiyak na maaasahan at nakokontrol ang mga automatic repair.
• Sa paggamit ng mga native capability ng ArgoCD, maaaring i-audit at i-rollback ang lahat ng repair operation, kaya nababawasan ang mga panganib sa maintenance.
• Maaaring lubos na mapakinabangan ng mga operations engineer ang AIOps intelligent operations nang direkta sa pamamagitan ng boses, na malaki ang ibinabawas sa MTTI at MTTR.
• Mga plano sa hinaharap: I-integrate ang CloudWatch Anomaly Detection (AD) at DevOps Guru upang mahulaan ang mga posibleng K8s cluster failure batay sa historical data analysis.