CNCF Kagent、K8sGPT、Nova Sonicを使用したK8s向け対話型エージェントAIOpsの変革

セッションノート

Kubernetes運用の課題

大量の運用データと時間のかかるトラブルシューティング

1. 障害の自己修復: AIによる予測と自動化スクリプトを通じ、一部の障害を無人で修復する。

2. インテリジェントモニタリング: 膨大なログとメトリクスから問題の根本原因を正確に特定し、干し草の山から針を探すような作業から脱却する。

3. 人的リソースの解放: SREチームを反復作業から解放し、より価値の高いイノベーション業務に集中させる。

Kagent駆動のAIOpsソリューション

Kagent: クラウドネイティブなエージェント型AIフレームワーク

CNCF 2025オープンソースサンドボックスプロジェクトであり、K8sクラウドネイティブシナリオ専用のAgentフレームワーク。
複数のモデルプラットフォーム（Amazon Bedrock、Anthropic、OpenAIなど）と統合し、K8sを基盤とするインテリジェントエージェントシステムを構築する。主な利点:
K8sクラウドネイティブ: K8sエコシステムとネイティブに統合され、既存のクラスターに自然に溶け込む
豊富なユースケース: あらゆるAIエージェントのユースケースに適用可能
豊富なツール統合: カスタムMCPツール、多様な組み込みK8sツール、事前設定済みAgentsをサポート
可視化インターフェース: UIインターフェースによってマルチエージェントワークフローのオーケストレーションが進化し、より直感的かつ効率的になる
包括的なオブザーバビリティ: トレース、ロギング、モニタリング機能を内蔵し、一般的なオブザーバビリティツールとの統合をサポートユースケース:
クラウドネイティブ運用の自動化、マルチクラスター管理、あらゆるマルチエージェント協調システム、AIOpsの実践など

Amazon Nova Sonic: 音声ベースの対話型AIOpsを推進

Amazon Nova Sonicは、Amazon Bedrockで提供される音声対話モデルである。
従来は別々だった音声理解モデルと音声生成モデルを統合し、現実の人間のような音声会話を実現する。複数の言語と声調をサポートし、低レイテンシーかつ高性能である。ユースケース:
AIインテリジェントカスタマーサービス: 顧客からの問い合わせに24/7で対応
エンタープライズ音声アシスタント: ナレッジベース、インテリジェントエージェント、外部ツールを統合してカスタマイズされたサービスを提供
多言語学習ツール: 複数言語をサポート
複数業界での応用: Fintech、ヘルスケア、スマートホームなど運用シナリオと組み合わせる中核的価値:
従来の複雑な手作業によるトラブルシューティング + 修復を音声会話へ簡素化し、インテリジェント運用AIOpsを最大限に活用してMTTRを短縮

K8sGPT: オープンソースのK8s障害診断エキスパート

CNCFオープンソースサンドボックスプロジェクトで、Kubernetesの保守向けにAI駆動のオブザーバビリティと運用自動化を提供
CLIとOperatorの二つのモードをサポートし、即時分析と継続的なモニタリングを実現
クラスターのリソース、イベント、ログ、メトリクスをスキャンし、Amazon Bedrock上のAIモデルと統合してテキストによるインサイトと説明を生成する。また、KiroのMCP機能と統合し、自然言語でクラスターを監視、保守できる
従来の運用における受動的な対応の問題を解決し、能動的なAIインテリジェント運用を採用
多様なカスタムアナライザーとオブザーバビリティツールをサポートし、Prometheus、Alertmanager、Grafanaなどと統合可能

デモクラスター:

Amazon Web ServicesにデプロイされたEKSマネージドクラスター。クラスター名: eks-cluster
クラスターリソースの概要: クラスターには、ArgoCDのapplicationを介してGitHubから読み込まれた複数のK8sリソースがデプロイされている。2個のpod、一つのservice、一つのDeploymentを含む
Podの問題: メモリ上限は200Miに設定されているが、205Miのプロセスを実行しているためCrashLoopBackOffが発生実験的な修復シナリオ:
K8sGPTがPodの問題を特定し、説明と修復案を提示する。
最後にArgoCDを通じて、application内のHelm Chartのメモリ上限パラメーターを調整し、ArgoCDによるpod設定の変更をトリガーして、podを正常に起動できるようにする。

まとめ

Amazon Bedrock AgentCoreを基盤とし、AIマルチエージェント協調システムを活用して、K8sのインテリジェント運用ソリューションをゼロから構築する方法を学ぶ。
簡単な一文だけで、問題の特定、診断から完全自動修復までの全プロセスを完了できる。大量の運用データの分析と手作業による修復作業を大幅に簡素化し、人的ミスのリスクを低減する。
K8sGPT本来の限定的な自動修復機能と比較して、このソリューションはビジネスに基づく自動修復機能をさらに追加し、柔軟性と拡張性を高めている。
自動修復シナリオにはHITL（Human-in-the-Loop）プロセスを導入し、自動修復の信頼性と制御可能性を確保する。
ArgoCDのネイティブ機能を活用することで、すべての修復操作を監査およびロールバック可能にし、保守リスクを低減する。
運用エンジニアは音声から直接AIOpsインテリジェント運用を最大限に活用でき、MTTIとMTTRを大幅に短縮できる。
今後の計画: CloudWatch Anomaly Detection（AD）とDevOps Guruを統合し、過去のデータ分析に基づいてK8sクラスターで発生する可能性のある障害を予測する。