CNCF Kagent, K8sGPT, Nova Sonic을 사용하여 K8s용 대화형 에이전틱 AIOps 혁신하기

세션 노트

Kubernetes 운영의 과제

방대한 운영 데이터, 많은 시간이 소요되는 문제 해결

1. 장애 자가 복구: AI 예측과 자동화 스크립트를 통해 일부 장애의 무인 복구를 구현합니다.

2. 지능형 모니터링: 방대한 로그와 메트릭에서 문제의 근본 원인을 정확히 찾아내어 건초 더미에서 바늘 찾기와 같은 검색에서 벗어납니다.

3. 인적 자원 확보: SRE 팀을 반복 작업에서 해방하여 더 가치 있는 혁신 업무에 집중하게 합니다.

Kagent 기반 AIOps 솔루션

Kagent: 클라우드 네이티브 에이전틱 AI 프레임워크

CNCF 2025 오픈 소스 샌드박스 프로젝트로, K8s 클라우드 네이티브 시나리오를 위한 전문 에이전트 프레임워크입니다.
여러 모델 플랫폼(Amazon Bedrock, Anthropic, OpenAI 등)과 통합하여 K8s 기반의 지능형 에이전트 시스템을 구축합니다. 핵심 장점:
K8s 클라우드 네이티브: K8s 생태계에 네이티브로 통합되어 기존 클러스터에 자연스럽게 융합
풍부한 사용 사례: 모든 AI 에이전트 사용 사례에 적용 가능
풍부한 도구 통합: 사용자 지정 MCP 도구, 다양한 K8s 기본 제공 도구 및 사전 구성된 에이전트 지원
시각화 인터페이스: UI 인터페이스가 다중 에이전트 워크플로 오케스트레이션을 발전시켜 더 직관적이고 효율적
포괄적인 관찰성: 기본 제공 추적, 로깅 및 모니터링 기능과 일반적인 관찰성 도구 통합 지원 사용 사례:
클라우드 네이티브 운영 자동화, 다중 클러스터 관리, 모든 다중 에이전트 협업 시스템, AIOps 실무 등

Amazon Nova Sonic: 음성 기반 대화형 AIOps 추진

Amazon Nova Sonic은 Amazon Bedrock에서 제공하는 음성 대화 모델입니다.
기존에 분리되어 있던 음성 이해 및 음성 생성 모델을 통합하여 실제와 같은 인간 수준의 음성 대화가 가능하고 여러 언어와 어조를 지원하며 지연 시간이 짧고 성능이 높습니다. 사용 사례:
AI 지능형 고객 서비스: 고객 문의에 24/7 응답
엔터프라이즈 음성 어시스턴트: 지식 베이스, 지능형 에이전트 및 외부 도구를 통합하여 맞춤형 서비스 제공
다국어 학습 도구: 여러 언어 지원
다양한 산업 분야의 애플리케이션: 핀테크, 의료, 스마트 홈 등 운영 시나리오와 결합할 때의 핵심 가치:
기존의 복잡한 수동 문제 해결 + 복구를 음성 대화로 간소화하여 지능형 운영 AIOps를 극대화하고 MTTR을 단축

K8sGPT: 오픈 소스 K8s 장애 진단 전문가

Kubernetes 유지 관리를 위한 AI 기반 관찰성과 자동화된 운영을 제공하는 CNCF 오픈 소스 샌드박스 프로젝트
CLI와 Operator의 이중 모드를 지원하여 즉각적인 분석과 지속적인 모니터링 지원
클러스터 리소스, 이벤트, 로그 및 메트릭을 스캔하고 Amazon Bedrock의 AI 모델을 통합하여 텍스트 인사이트와 설명을 생성하며 Kiro의 MCP 기능과 통합하여 자연어로 클러스터를 관찰하고 유지 관리할 수 있음
기존 운영의 수동적 대응 문제를 해결하고 선제적인 AI 지능형 운영을 도입
다양한 사용자 지정 분석기와 관찰성 도구를 지원하며 Prometheus, Alertmanager, Grafana 등과 통합 가능

데모 클러스터:

Amazon Web Services에 배포된 EKS 관리형 클러스터, 클러스터 이름: eks-cluster
클러스터 리소스 개요: 클러스터는 ArgoCD의 애플리케이션을 통해 GitHub에서 읽어 온 여러 K8s 리소스를 배포합니다. pod 2개, service 하나, Deployment 하나 포함
Pod 문제: 메모리 제한이 200Mi로 설정되어 있으나 205Mi 프로세스가 실행되어 CrashLoopBackOff 발생 실험적 복구 시나리오:
K8sGPT가 Pod 문제를 식별하고 설명과 복구 제안을 제공합니다.
마지막으로 ArgoCD를 통해 애플리케이션 내 Helm Chart의 메모리 제한 매개변수를 조정하여 ArgoCD가 pod 구성을 수정하도록 하고 pod가 성공적으로 시작되게 합니다.

요약

AI 다중 에이전트 협업 시스템을 활용하여 Amazon Bedrock AgentCore 기반의 K8s 지능형 운영 솔루션을 처음부터 구축하는 방법을 알아봅니다.
간단한 문장 하나만으로 문제 식별과 진단부터 완전 자동 복구까지 전체 프로세스를 완료할 수 있어 방대한 운영 데이터 분석과 수동 복구 작업을 크게 간소화하고 인적 오류 위험을 줄입니다.
K8sGPT의 기존 제한적인 자동 복구 기능과 비교해 이 솔루션은 비즈니스 기반의 자동 복구 기능을 더 많이 추가하여 유연성과 확장성을 높였습니다.
자동 복구 시나리오에는 HITL (Human-in-the-Loop) 프로세스를 도입하여 자동 복구의 신뢰성과 제어 가능성을 보장합니다.
ArgoCD의 네이티브 기능을 활용하여 모든 복구 작업을 감사하고 롤백할 수 있으므로 유지 관리 위험을 줄입니다.
운영 엔지니어는 음성을 통해 AIOps 지능형 운영을 직접 극대화하여 MTTI와 MTTR을 크게 단축할 수 있습니다.
향후 계획: CloudWatch Anomaly Detection (AD)과 DevOps Guru를 통합하여 과거 데이터 분석을 기반으로 잠재적인 K8s 클러스터 장애를 예측합니다.