AI 코딩 도우미를 사용하여 AgentCore 평가 문제 진단
AgentCore 평가 구성이 결과를 생성하지 않거나 LogEventMissingException, AgentSpanMappingException또는 빈 평가 점수와 같은 오류가 표시되는 경우 AgentCore 평가 진단 기술을 사용하여 문제를 직접 해결할 수 있습니다.
스킬은 모든 AI 코딩 어시스턴트와 함께 작동하는 마크다운 파일입니다. 어시스턴트에 로드하고 AWS 리전, 배포 유형 및 선택적으로 세션 ID를 제공하면 어시스턴트가 step-by-step 진단을 안내합니다. 스킬은 AgentCore 런타임에 배포된 에이전트 및 타사 인프라(Amazon ECS, Amazon EKS, AWS Lambda 또는 기타 환경)에서 호스팅되는 에이전트와 함께 작동합니다. 어시스턴트는 자체 Amazon CloudWatch 로그 그룹을 쿼리하여 근본 원인을 식별하고 수정을 권장합니다.
스킬이 진단하는 내용
스킬은 가장 일반적인 평가 문제를 다룹니다.
-
빈 평가 결과 - 평가 구성이 활성화되어 있더라도 점수가 표시되지 않습니다.
-
LogEventMissingException- 평가에서 스팬에 해당 로그 이벤트가 누락되었다고 보고합니다. -
AgentSpanMappingException또는ToolSpanMappingException- 평가가 스팬에서 사용자 쿼리 또는 도구 출력을 추출할 수 없습니다. -
SpanEventParsingException- 평가에서 이벤트의 본문을 구문 분석할 수 없습니다. -
Gateway Timeout (504)- 평가 시간이 초과되었습니다. -
ValidationExceptiononevaluatorId- 평가자 ID 형식이 잘못되었습니다. -
다중 에이전트 평가 범위 지정 문제 - 평가자는 다중 에이전트 추적에서 잘못된 에이전트를 대상으로 합니다.
사전 조건
-
AWS 에이전트가 실행되는 계정의 자격 증명으로 구성된 CLI입니다. 자격 증명에는 다음 권한이 필요합니다.
-
logs:DescribeLogGroups,logs:DescribeLogStreams,logs:StartQuery,logs:GetQueryResults- CloudWatch Logs 쿼리 -
bedrock-agentcore:GetOnlineEvaluationConfig,bedrock-agentcore:ListOnlineEvaluationConfigs- 평가 구성을 읽는 방법(온라인 평가만 해당)
-
-
boto3라이브러리와 함께 Python 3.9 이상을 사용하는 것이 좋지만 반드시 필요한 것은 아닙니다. 진단 쿼리는 AWS CLI를 통해 직접 실행할 수도 있습니다. -
에이전트 기술
표준을 지원하거나 마크다운 지침을 수락할 수 있는 AI 코딩 도우미입니다. -
관찰성이 활성화된 상태에서 한 번 이상 호출된 에이전트입니다.
스킬 복사
스킬 소스는 진단 스킬 소스에서 사용할 수 있습니다. 해당 주제에서 전체 코드 블록을 복사하고 agentcore-eval-diagnostic/ 시스템에 라는 새 폴더 SKILL.md 내에 로 저장합니다.
스킬은 일반 마크다운 파일입니다. 여기에는 퍼블릭 정보만 포함되며 자체 계정에 대해서만 실행되므로 서비스 측 액세스가 필요하지 않습니다.
AI 코딩 어시스턴트에 스킬 로드
진단 스킬 소스의 스킬 소스를 agentcore-eval-diagnostic/ 시스템의 라는 폴더 SKILL.md 내부로 저장한 다음 해당 폴더를 AI 코딩 어시스턴트의 스킬 디렉터리로 이동하거나 복사합니다. 스킬은 열린 에이전트 스킬AGENTS.md, CLAUDE.md또는와 같은 일반 명령 파일에 스킬 콘텐츠를 추가하지 않습니다GEMINI.md.
Kiro CLI
스킬 폴더를 프로젝트의 또는 .kiro/skills/agentcore-eval-diagnostic/에 배치~/.kiro/skills/agentcore-eval-diagnostic/하여 모든 워크스페이스에서 사용할 수 있도록 합니다. 설정 세부 정보는 Kiro CLI 기술 설명서를
Claude Code
스킬 폴더를 프로젝트의 또는 .claude/skills/agentcore-eval-diagnostic/에 배치~/.claude/skills/agentcore-eval-diagnostic/하여 모든 프로젝트에서 사용할 수 있도록 합니다. 설정 세부 정보는 Claude Code 기술 설명서를
OpenAI Codex CLI
스킬 폴더를 리포지토리의 또는 .agents/skills/agentcore-eval-diagnostic/에 배치~/.agents/skills/agentcore-eval-diagnostic/하여 모든 리포지토리에서 사용할 수 있도록 합니다. 설정 세부 정보는 Codex CLI 기술 설명서를
Cursor
커서는 기술 대신 규칙을 사용합니다. 스킬 콘텐츠를에 프로젝트 규칙으로 저장합니다.cursor/rules/agentcore-eval-diagnostic.md. 설정 세부 정보는 커서 규칙 설명서를 참조하세요
Gemini CLI
스킬 폴더를에 배치~/.gemini/skills/agentcore-eval-diagnostic/하여 모든 워크스페이스에서 사용할 수 있도록 하거나 프로젝트 범위의 사용을 위해 프로젝트의 스킬 디렉터리에 배치합니다. 설정 세부 정보는 Gemini CLI 기술 설명서를
기타 AI 어시스턴트
어시스턴트가 에이전트 스킬SKILL.md 넣어 스킬을 로드합니다. 스킬은 독립형이며 도구별 기능에 의존하지 않습니다.
진단 실행
스킬을 로드한 후 AI 어시스턴트와 새 채팅을 시작하고 다음을 제공합니다.
-
AWS 리전(예:
us-west-2). -
배포 유형 -
agentcore-runtime에이전트가 AgentCore 런타임에 배포되거나 에이전트가 Amazon ECS, Amazon EKS, AWS Lammbda 또는 기타 비AgentCore 환경에서 호스팅되는3p-managed경우. -
평가 유형 -
online(샘플링과 함께 평가 구성 사용) 또는on-demand(직접 API 호출 평가). -
선택적으로 에이전트의 세션 ID가 추적됩니다(
session.id속성). 없는 경우 어시스턴트는 로그 그룹에서 최근 세션을 자동으로 검색할 수 있습니다.
어시스턴트는 CloudWatch 로그 그룹을 쿼리하고, 장애의 근본 원인을 식별하고, 구조화된 진단 보고서를 생성합니다. 보고서에는 다음이 포함됩니다.
-
근본 원인에 대한 요약입니다.
-
통과 또는 실패한 진단 검사를 보여주는 결과 표입니다.
-
영향을 받는 스팬 및 이벤트의 목록입니다.
-
관련 AWS 설명서 링크.
-
권장되는 다음 단계입니다.
어시스턴트는 자체 CloudWatch 로그 그룹에 대해 자체 AWS 계정의 모든 쿼리를 실행합니다. AWS 서비스 측 로그 또는 내부 데이터에 액세스하지 않습니다.
상호 작용 예제
사용자: 내 리전은 이고us-west-2, 온라인 평가와 함께 AgentCore 런타임을 사용하고 있으며, 세션 ID는 입니다my-session-abc123. 내 평가에서 결과가 나오지 않습니다. 진단할 수 있나요?
AI 어시스턴트:
## AgentCore Evaluation Diagnostic Report Session: my-session-abc123 Region: us-west-2 Summary: Service name mismatch — spans are emitted under 'my_agent.DEFAULT' but the evaluation configuration expects 'wrong_name.DEFAULT'. Findings: | Check | Status | Details | | -------------------- | ------ | ------- | | Eval config status | OK | ENABLED, 100% sampling | | Spans found | OK | 15 spans for this session | | Scope support | OK | strands.telemetry.tracer found | | Service name match | FAIL | Config expects wrong_name.DEFAULT | Recommended fix: Update the evaluation configuration's serviceNames to match 'my_agent.DEFAULT'.
스킬 자체 문제 해결
어시스턴트가 로그 그룹을 쿼리할 수 없는 경우 다음을 확인합니다.
-
자격 AWS 증명에는 필요한 권한이 있습니다.
-
제공한 리전은 에이전트가 배포된 리전과 일치합니다.
-
세션 ID가 정확합니다(에이전트 추적에서 복사).
-
에이전트가 지난 24시간 이내에 호출되었습니다.