View a markdown version of this page

지원되는 에이전트 프레임워크 - Amazon Bedrock AgentCore
서비스가 세션을 읽는 방법관찰성 설정샘플 에이전트

지원되는 에이전트 프레임워크

Amazon Bedrock AgentCore Evaluations는 인기 있는 에이전트 프레임워크로 구축된 에이전트를 평가합니다. 에이전트가 원격 측정으로 내보내는 항목과 원격 측정의 구조는 로 빌드하는 에이전트 프레임워크와 이를 기록하는 데 사용하는 계측 라이브러리에 따라 달라집니다.

지원되는 각 프레임워크에 대해이 섹션에서는 다음을 설명합니다.

  • 사용할 수 있는 계측 라이브러리입니다.

  • 에이전트를 계측하는 방법.

  • 결과 스팬 및 이벤트 레코드의 모양입니다.

  • 평가 서비스가 사용자 프롬프트, 에이전트 응답, 도구 호출 등 필요한 값을 찾는 방법.

AgentCore Evaluations는 다음과 같은 프레임워크 및 계측 라이브러리를 지원합니다. 이러한 라이브러리의 Python 버전만 지원합니다.

에이전트 프레임워크 계측 라이브러리 범위 이름 권장 버전

Strands Agents

내장(Strands Agents SDK)

strands.telemetry.tracer

최신

LangGraph

OpenTelemetry(opentelemetry-instrumentation-langchain)

opentelemetry.instrumentation.langchain

>= 0.55.0

LangGraph

OpenInference(openinference-instrumentation-langchain)

openinference.instrumentation.langchain

>= 0.1.62

OpenAI 에이전트

OpenTelemetry(opentelemetry-instrumentation-openai-agents)

opentelemetry.instrumentation.openai_agents

>= 0.61.0

OpenAI 에이전트

OpenInference(openinference-instrumentation-openai-agents)

openinference.instrumentation.openai_agents

>= 1.5.0

LlamaIndex

OpenTelemetry(opentelemetry-instrumentation-llamaindex)

opentelemetry.instrumentation.llamaindex

>= 0.61.0

LlamaIndex

OpenInference(openinference-instrumentation-llama-index)

openinference.instrumentation.llama_index

>= 4.4.1

Google ADK

OpenInference(openinference-instrumentation-google-adk)

openinference.instrumentation.google_adk

>= 0.1.13

Claude 에이전트 SDK

OpenInference(openinference-instrumentation-claude-agent-sdk)

openinference.instrumentation.claude_agent_sdk

>= 0.1.3

범위 이름은 각 스팬 및 이벤트 레코드의 scope.name 필드 값입니다. 평가 서비스는 이를 사용하여 스팬을 처리할 수 있는지 여부를 결정합니다.

서비스가 세션을 읽는 방법

프레임워크에 관계없이 평가 서비스는 스팬 및 이벤트 레코드라는 두 가지 원격 측정 신호에서 세션을 재구성합니다. 각 스팬을 유형별로 분류한 다음 해당 스팬에서 콘텐츠를 추출합니다.

  1. 프레임워크별 속성에서 범위 유형을 식별합니다. 스팬은 호출 에이전트 스팬(상위 수준 에이전트 실행), 실행 도구 스팬(단일 도구 호출) 또는 추론 스팬(단일 모델 호출)일 수 있습니다.

  2. 각 스팬의 속성 또는 상관관계가 있는 이벤트 레코드에서 관련 값을 추출합니다. 예를 들어 사용자 프롬프트는 에이전트 입력의 인적(사용자-역할) 메시지에서 가져오고 에이전트 응답은 에이전트 출력의 AI(보조-역할) 메시지에서 가져옵니다.

정확한 속성 이름과 콘텐츠 위치는 프레임워크 및 계측 라이브러리에 따라 다릅니다. 스팬, 이벤트 레코드 및 원격 측정 신호 페이지에는 스팬 및 이벤트 레코드의 구조와 콘텐츠가 있는 위치가 설명되어 있습니다. 프레임별 페이지에서는 지원되는 각 프레임워크의 속성과 예제 데이터를 설명합니다.

관찰성 설정

에이전트를 계측하는 것은 평가 서비스가 읽을 수 있는 원격 측정 생성의 한 부분입니다. 평가가 종료되기 전에 에이전트는 관찰성도 활성화하고 범위 및 이벤트 레코드를 Amazon CloudWatch로 내보내야 합니다. 다음 단계를 완료합니다.

  1. 평가를 위한 사전 조건인 CloudWatch 트랜잭션 검색을 활성화합니다. AgentCore 관찰성 활성화를 참조하세요.

  2. 호스팅 위치에 따라 에이전트에 대한 관찰성을 활성화합니다.

샘플 에이전트

다음 샘플은 Amazon Bedrock AgentCore 런타임 외부에서 호스팅되는 Strands 에이전트를 보여 주며, ADOT를 사용하여 원격 측정을 Amazon CloudWatch로 내보냅니다. 평가 API가 아닌 관찰성 설정에 중점을 둡니다. 샘플은 Strands를 사용하지만 LangGraph와 같이 지원되는 다른 프레임워크에는 동일한 호스팅 및 원격 측정 내보내기 패턴이 적용됩니다.

주제