使用 CNCF Kagent、K8sGPT 與 Nova Sonic，轉型 K8s 對話式 Agentic AIOps

場次筆記

Kubernetes 維運挑戰

維運資料量龐大，疑難排解耗時

• 平均 MTTR 超過 4 小時，其中人工分析占 65%
• 分析資料量可達 TB 等級。資源類型繁多、關聯複雜
• 大量叢集物件、事件與日誌資料。在多種工具之間切換複雜
• SRE 每天在 8 種以上的工具之間切換，context switching 成本高。針對警示進行疑難排解既複雜又耗時
• 自動化能力有限
• 只有 30% 的常見故障能自動修復，複雜情境仍仰賴人工決策。K8s 的學習成本與門檻高
• 維運效率比較
• 採用 AIOps 的企業，其平均故障復原時間（MTTR）比傳統模式縮短 90%，維運成本降低 50%。核心價值

1. 故障自我修復：透過 AI 預測與自動化 script，實現部分故障的無人值守修復。

2. 智慧監控：從大量日誌與指標中精準找出問題根本原因，告別大海撈針式搜尋。

3. 釋放人力資源：讓 SRE 團隊擺脫重複性工作，專注於更有價值的創新工作。

Kagent 驅動的 AIOps 解決方案

Kagent：雲端原生 Agentic AI 框架

• CNCF 2025 開放原始碼 sandbox 專案，是專為 K8s 雲端原生情境打造的 Agent 框架。
• 透過整合多個模型平台（Amazon Bedrock、Anthropic、OpenAI 等），建置以 K8s 為基礎的智慧 agent 系統。核心優勢：
• K8s 雲端原生：與 K8s 生態系原生整合，自然融入現有叢集
• 豐富的使用案例：適用於任何 AI Agent 使用案例
• 豐富的工具整合：支援自訂 MCP 工具、內建多樣化 K8s 工具，以及預先設定的 Agent
• 視覺化介面：UI 介面演進為多 agent 工作流程協調，更直覺、更有效率
• 完整的可觀測性：內建追蹤、日誌記錄與監控能力，支援整合常用的可觀測性工具。使用案例：
• 雲端原生維運自動化、多叢集管理、任何多 agent 協作系統、AIOps 實務等。

Amazon Nova Sonic：推動語音式對話 AIOps

• Amazon Nova Sonic 是 Amazon Bedrock 提供的語音對話模型。
• 它整合了傳統上分離的語音理解與語音產生模型，能進行貼近真實生活、類似人類的語音對話，支援多種語言與語調，並具備低延遲與高效能。使用案例：
• AI 智慧客服：全年無休回應客戶詢問
• 企業語音助理：整合知識庫、智慧 agent 與外部工具，提供客製化服務
• 多語言學習工具：支援多種語言
• 跨產業應用：Fintech、醫療照護、智慧家庭等。與維運情境結合的核心價值：
• 將傳統複雜的人工疑難排解 + 修復簡化為語音對話，將 AIOps 智慧維運發揮到最大，降低 MTTR

K8sGPT：開放原始碼 K8s 故障診斷專家

• CNCF 開放原始碼 sandbox 專案，為 Kubernetes 維護提供 AI 驅動的可觀測性與自動化維運
• 支援 CLI 與 Operator 雙模式，可進行即時分析與持續監控
• 掃描叢集資源、事件、日誌與指標，整合 Amazon Bedrock 上的 AI 模型，以產生文字洞察與說明，亦可與 Kiro 的 MCP 功能整合，以自然語言觀察及維護叢集
• 解決傳統維運被動回應的問題，採用主動式 AI 智慧維運
• 支援多種自訂 analyzer 與可觀測性工具，可與 Prometheus、Alertmanager、Grafana 等整合。

示範叢集：

• 部署於 Amazon Web Services 上的 EKS 受管叢集，叢集名稱：eks-cluster
• 叢集資源概觀：該叢集透過 ArgoCD 的 application，部署從 GitHub 讀取的多項 K8s 資源。包含 2 個 pod、1 個 service 與 1 個 Deployment
• Pod 問題：記憶體限制設為 200Mi，但執行的 process 需要 205Mi，因而造成 CrashLoopBackOff。實驗性修復情境：
• K8sGPT 找出 Pod 問題，並提供說明與修復建議。
• 最後，透過 ArgoCD 調整 application 內 Helm Chart 的記憶體限制參數，觸發 ArgoCD 修改 pod 設定，讓 pod 成功啟動。

總結

• 瞭解如何以 Amazon Bedrock AgentCore 為基礎，並由 AI 多 agent 協作系統賦能，從零開始建置 K8s 智慧維運解決方案。
• 只需一個簡單句子，即可完成從問題識別、診斷到全自動修復的整個流程，大幅簡化大量維運資料的分析與人工修復作業，降低人工作業錯誤的風險。
• 相較於 K8sGPT 原本有限的自動修復能力，此解決方案加入更多以業務為基礎的自動修復功能，使其更靈活且更具擴充性。
• 對於自動化修復情境，我們導入 HITL（Human-in-the-Loop）流程，以確保自動修復的可靠性與可控性。
• 運用 ArgoCD 的原生能力，所有修復操作皆可稽核且可回復，降低維護風險。
• 維運工程師可直接透過語音將 AIOps 智慧維運發揮到最大，顯著降低 MTTI 與 MTTR。
• 未來計畫：整合 CloudWatch Anomaly Detection（AD）與 DevOps Guru，根據歷史資料分析預測潛在的 K8s 叢集故障。