Amazon Bedrock AgentCore 런타임을 사용하여 에이전트 또는 도구 호스팅

AgentCore 런타임을 사용하면 기본 프레임워크에 관계없이 몇 줄의 코드를 사용하여 로컬 에이전트 코드를 클라우드 네이티브 배포로 변환할 수 있습니다. LangGraph, Strands 및 CrewAI와 같은 널리 사용되는 프레임워크와 원활하게 작동합니다. 특정 프레임워크를 사용하지 않는 사용자 지정 에이전트에서도 이를 활용할 수 있습니다.

AgentCore 런타임은 Amazon Bedrock, Anthropic Claude, Google Gemini 및 OpenAI에서 제공하는 모델과 같은 모든 대규모 언어 모델에서 작동합니다.

AgentCore 런타임을 사용하면 에이전트가 모델 컨텍스트 프로토콜(MCP) 또는 에이전트 간(A2A)을 통해 다른 에이전트 및 도구와 통신할 수 있습니다.

AgentCore 런타임에서 각 사용자 세션은 격리된 CPU, 메모리 및 파일 시스템 리소스가 있는 전용 microVM에서 실행됩니다. 이렇게 하면 사용자 세션 간에 완전히 분리되어 상태 저장 에이전트 추론 프로세스를 보호하고 세션 간 데이터 오염을 방지하는 데 도움이 됩니다. 세션이 완료되면 전체 microVM이 종료되고 메모리가 삭제되어 비결정적 AI 프로세스로 작업할 때도 결정적 보안이 제공됩니다.

AgentCore 런타임은 실시간 상호 작용과 최대 8시간의 장기 실행 워크로드를 모두 지원하므로 다중 에이전트 공동 작업 또는 확장된 문제 해결 세션이 포함될 수 있는 복잡한 에이전트 추론 및 비동기 워크로드가 가능합니다.

런타임은 세션 중지/재개 주기 전반에 걸쳐 파일 시스템 상태 유지를 지원합니다. 에이전트의 파일, 설치된 패키지 및 빌드 아티팩트는 외부 스토리지 없이 세션 중지 후에도 유지될 수 있습니다.

런타임은 실제로 사용된 리소스에 대해서만 요금을 부과하는 소비 기반 요금을 구현합니다. 리소스를 미리 선택해야 하는 할당 기반 모델과 달리 런타임은 적절한 크기 조정 없이 필요한 것을 동적으로 프로비저닝합니다. 서비스는 CPU 결제를 실제 활성 처리와 일치시킵니다. 일반적으로 에이전트가 주로 LLM 응답을 기다리는 I/O 대기 기간 동안 요금을 제거하면서 세션 상태를 지속적으로 유지합니다.

AgentCore 자격 증명으로 구동되는 AgentCore 런타임은 AI 에이전트에 고유한 자격 증명을 할당하고 Okta, Microsoft Entra ID 또는 Amazon Cognito와 같은 기업 자격 증명 공급자와 원활하게 통합되어 최종 사용자가 액세스할 수 있는 에이전트에만 인증할 수 있습니다. 또한 런타임을 사용하면 아웃바운드 인증 흐름이 사용자를 대신하여 작동하든 자율적으로 작동하든(OAuth 또는 API 키 사용) Slack, Zoom 및 GitHub와 같은 타사 서비스에 안전하게 액세스할 수 있습니다.

AgentCore 런타임은 에이전트 추론 단계, 도구 호출 및 모델 상호 작용을 캡처하는 특수한 내장 추적을 제공하여 AI 에이전트 동작을 디버깅하고 감사하는 중요한 기능인 에이전트 의사 결정 프로세스에 대한 명확한 가시성을 제공합니다.

AgentCore 런타임은 100MB 페이로드를 처리하여 풍부한 미디어 콘텐츠 또는 대규모 데이터 세트를 통해 여러 양식(텍스트, 이미지, 오디오, 비디오)을 원활하게 처리할 수 있습니다.

AgentCore 런타임은 실시간 양방향 스트리밍을 위해 HTTP API 호출과 영구 WebSocket 연결을 모두 지원하므로 즉각적인 응답 피드백과 지속적인 대화 컨텍스트로 대화형 애플리케이션을 사용할 수 있습니다.

AgentCore 런타임은 메모리, 도구 및 게이트웨이를 포함한 전체 AgentCore 기능에 대한 간소화된 액세스를 제공하는 포괄적인 단일 SDK를 통해 제공됩니다. 이 통합 접근 방식은 서로 다른 구성 요소에서 동등한 에이전트 인프라를 구축할 때 일반적으로 필요한 통합 작업을 제거합니다.