클라우드 비용 분석을 더 스마트하게: Strands와 AgentCore로 FinOps 지능형 에이전트 구축하기

세션 노트

2025년은 "AI 에이전트 원년"으로 알려져 있으며, 이제 두 달밖에 남지 않았습니다.

• 사용자들은 이미 자신만의 AI 에이전트를 개발했습니다.
• 프로그래밍 에이전트는 AI 에이전트의 한 유형입니다.
• AI 에이전트는 AI를 활용하는 다양한 "스마트해 보이는 애플리케이션"입니다.
• 예로는 회의록 에이전트, 면접 준비 에이전트, 프로그래밍 에이전트가 있습니다. LLM 시대의 "AI 에이전트" 특징:
• 역할 프로파일링: 역할이나 성격을 정의하여 개인화된 행동과 응답을 구현할 수 있습니다.
• 계획 및 성찰: 목표를 달성하기 위해 에이전트가 계획을 수립하고 실행 결과에 따라 조정할 수 있습니다.
• 장기 기억: 인간처럼 장기간의 상호작용 정보나 경험을 기억할 수 있습니다.
• 도구 실행: 텍스트를 생성할 뿐만 아니라 다양한 외부 도구나 API를 호출하여 작업을 수행할 수 있습니다.
• AI 에이전트는 비용 분석 에이전트와 같은 실질적인 문제 해결에 도움을 줄 수 있습니다.
• Amazon Web Services를 사용하여 비용 분석 에이전트를 개발하는 방법. AI 에이전트 구축 방법:
• Bedrock Agents
• AgentCore: 자체 개발한 에이전트를 서버리스 방식으로 배포하며 인증, 도구, 관찰성 등의 기능을 제공합니다.
• Strands Agents: 최소 3줄의 매우 간결한 코드만으로 AI 에이전트를 구현할 수 있는 Python용 프레임워크입니다.
• Strands Agents로 FinOps 에이전트 구축하기. 오픈 소스 AI 에이전트 프레임워크—Strands Agents
• 단 3줄의 Python 코드로 AI 에이전트 생성
• 장점: 단순하고 가벼우며 개발 경험이 우수함
• Amazon Q Developer 등 Amazon Web Services에 적용
• Strands의 핵심 개념: "모델"과 "도구"의 결합
• LLM 역량이 향상됨에 따라 모델과 도구를 지정하는 것만으로 AI 에이전트를 구축할 수 있음
• 에이전트 생성: LLM과 시스템 프롬프트를 설정하고 프롬프트를 제공하여 호출
• 에이전트에 도구 기능 부여: Strands는 계산 및 파일 작업과 같은 기본 제공 도구를 지원
• Python 함수에 @tool을 추가하여 자체 도구를 작성할 수 있음
• MCP 서버가 제공하는 도구를 가져올 수 있으며 로컬 및 원격 MCP 서버와 호환
• 다중 에이전트 구축: Agent as Tools, Swarm, Graphs, Workflows
• Agent as Tools 예시: 감독 에이전트가 하위 작업을 할당하고 하위 에이전트를 호출해 실행한 후 결과를 요약하는 상하위 모델
• MCP 이후의 인기 동향: A2A (Agent to Agent) 지원
• Strands에서 A2A를 구축하는 예시: Tool Use를 사용해 원격 에이전트를 호출할 수 있는 전용 클래스가 있음
• 에이전트 배포: Bedrock AgentCore를 통해 신속하게 배포

AI 에이전트 배포의 어려움:

• 복잡한 배포 프로세스
• 인증 및 권한 부여 문제
• 유지 관리 및 모니터링의 어려움
• 운영 비용 문제
• 스트리밍 출력 지원 여부 Bedrock AgentCore란?
• AI 에이전트 전용 "편리한 구성 요소 모음"
• Runtime (서버리스 인프라), Memory (메모리 관리), Gateway (도구 통합), Identity (인증/권한 부여), Observability (유지 관리 및 모니터링) 등의 기능을 포함
• 선호하는 어떤 에이전트 프레임워크와도 사용할 수 있고 필요에 따라 기능을 선택할 수 있으며 API를 통해 쉽게 통합 가능 전체 시스템의 핵심은 런타임
• AI 에이전트 개발에 어떤 프레임워크를 사용하든 서버리스 환경에 쉽게 배포 가능
• AI 에이전트 전용으로 마련된 컨테이너화된 Lambda와 유사
• 전용 CLI 툴킷을 사용하여 배포 작업을 쉽게 완료 가능
• 백엔드 부분이 완료되었으며 다음 단계는 프런트엔드 구현 방안을 검토하는 것 프런트엔드 페이지에 사용할 수 있는 기술:
• 초보자 친화적
• 프로덕션 수준의 개발 제품군
• Python으로 아름다운 인터페이스를 쉽게 작성 가능
• Next.js 또는 React 같은 코드 리포지토리를 연결하기만 하면 자동 배포 가능
• JavaScript에 능숙하지 않은 백엔드 엔지니어에게 좋은 선택
• Gen2 버전은 크게 발전했으며 성능도 향상되었습니다.

핵심 요점

• 클라우드 비용 분석은 기업과 개인 모두에게 매우 중요합니다. AI 에이전트 원년에 Amazon Web Services 기술 스택을 사용하여 클라우드 비용 분석을 돕는 AI 에이전트를 신속하게 구축할 수 있습니다.
• Strands Agents는 다중 에이전트 시스템을 유연하게 구축하기 위한 프레임워크로, 단 3줄의 Python 코드만으로 AI 에이전트를 설정할 수 있으며 극도의 단순성과 높은 확장성을 갖추고 있습니다.
• Strands Agents는 MCP 및 A2A 프로토콜을 지원하여 에이전트 간 협업과 도구 공유를 가능하게 합니다.
• Strands Agents는 Bedrock AgentCore와 원활하게 통합되어 프로덕션 수준의 배포를 구현할 수 있습니다.
• AgentCore를 사용하면 배포 및 유지 관리 프로세스를 간소화할 수 있습니다. Runtime 구성 요소는 자동 확장 기능이 있는 서버리스 런타임 환경을 제공합니다.
• Memory, Identity, Gateway, Observability 등의 구성 요소는 메모리, 인증, 도구 통합, 모니터링을 위한 통합 기능을 제공합니다.
• CLI를 통한 자동 패키징 및 배포로 프로덕션 환경에 신속하게 진입할 수 있습니다.

Amazon Bedrock AgentCore 아키텍처

핵심 서비스

• AgentCore Runtime: AI 에이전트 또는 도구 코드를 호스팅하는 안전한 서버리스 실행 환경입니다. 보안을 위해 세션을 완전히 격리하며 최대 8시간 동안 실행되는 비동기 작업을 지원합니다.
• Framework(프레임워크): 널리 사용되는 오픈 소스 에이전트 프레임워크(예: LangGraph, CrewAI)와 모든 파운데이션 모델을 지원합니다.
• Agent Instructions(에이전트 지침): 에이전트의 동작과 기능을 정의합니다.
• Agent Local Tools(에이전트 로컬 도구): 특정 에이전트에서 작업을 수행하는 로컬 도구입니다.
• Agent Context(에이전트 컨텍스트): 대화 내에서 일시적인 세션별 상태를 관리합니다.
• AgentCore Gateway: 에이전트가 도구와 리소스를 검색하고 연결할 수 있는 안전한 방법을 제공합니다. 기존 API(예: Lambda 함수 또는 OpenAPI 사양)를 에이전트 호환 도구로 변환하여 사용자 지정 통합 작업을 최소화할 수 있습니다.
• AgentCore Memory: 단기 및 장기 메모리를 모두 관리하여 에이전트가 컨텍스트를 인식하는 대화를 나눌 수 있게 합니다. 대화 컨텍스트를 저장하고 여러 세션에 걸쳐 사용자 선호도와 같은 지속적인 지식을 추출합니다.
• AgentCore Identity: 에이전트를 위한 안전하고 확장 가능한 자격 증명 및 액세스 관리를 제공합니다. 인증 및 권한 부여를 처리하여 에이전트가 사용자를 대신해 AWS 리소스와 서드 파티 서비스에 안전하게 액세스할 수 있도록 합니다.
• CloudWatch GenAI Observability (AgentCore Observability): 프로덕션 환경에서 에이전트 성능을 위한 포괄적인 모니터링, 추적, 디버깅 기능을 제공합니다. Amazon CloudWatch와 OpenTelemetry 호환 텔레메트리를 기반으로 에이전트 워크플로에 대한 심층적인 운영 인사이트를 제공합니다. 기본 제공 도구
• AgentCore Code Interpreter: 데이터 분석이나 계산 같은 복잡한 작업을 위해 에이전트가 격리된 샌드박스 환경에서 코드를 안전하게 작성하고 실행할 수 있게 합니다.
• AgentCore Browser: 에이전트가 대규모로 웹사이트와 상호작용하고 정보를 추출할 수 있도록 빠르고 안전한 클라우드 기반 브라우저 런타임을 제공합니다. 외부 상호작용
• App & Models(애플리케이션 및 모델): 에이전트 시스템은 작업을 수행하기 위해 사용자 애플리케이션 및 Amazon Bedrock이나 다른 공급자의 다양한 파운데이션 모델(FMs)과 상호작용합니다.

Amazon Bedrock AgentCore 스타터 툴킷

• Code(코드): 프로세스는 AI 에이전트의 소스 코드로 시작합니다.
• Build(빌드): 툴킷의 "agentcore launch" 명령이 AWS CodeBuild 프로젝트를 자동으로 트리거합니다.
• Container(컨테이너): CodeBuild가 에이전트 코드를 환경에 최적화된 컨테이너 이미지(예: ARM64 아키텍처)로 컴파일합니다.
• ECR (Elastic Container Registry): 빌드된 컨테이너 이미지는 이미지의 영구 스토리지 역할을 하는 Amazon ECR 리포지토리로 "푸시"됩니다.
• AgentCore Runtime: 그런 다음 이미지는 AI 에이전트의 실행 환경인 안전한 서버리스 Amazon Bedrock AgentCore Runtime에 배포됩니다.
• X-Ray: 시스템은 관찰성을 위해 AWS X-Ray와 통합되어 프로덕션 환경의 에이전트 성능에 대한 추적 및 디버깅 기능을 제공합니다.
• Automation(자동화): 하단 텍스트는 agentcore-starter-toolkit이 이러한 구성 및 배포 단계를 자동으로 처리함을 나타냅니다 .