View a markdown version of this page

작동 방식 - Amazon Bedrock AgentCore

작동 방식

AgentCore 최적화는 반복 가능한 주기를 통해 평가 결과를 검증된 개선 사항에 연결합니다. 일반적인 반복은 다음 단계를 따릅니다.

  1. 권장 사항 생성: CloudWatch Logs의 에이전트 추적에서 권장 사항 API를 가리키고 최적화할 평가자를 지정합니다. 이 서비스는 장애 패턴을 분석하고 최적화된 시스템 프롬프트 또는 도구 설명 세트를 변경 내용 및 이유에 대한 설명과 함께 반환합니다.

  2. (선택 사항) 구성 번들로 패키지: 권장 구성으로 번들 버전을 생성합니다. 번들은 코드 배포 없이 동적으로 변경할 수 있는 에이전트 구성(시스템 프롬프트, 모델 IDs, 도구 설명)의 버전이 지정되고 변경 불가능한 스냅샷입니다. 구성 번들은 에이전트 동작을 코드에서 분리하려는 경우에 유용합니다. 필수는 아닙니다. 별도의 런타임 엔드포인트에 배포하여 변경 사항을 검증할 수도 있습니다.

  3. A/B 테스트로 검증: AgentCore Gateway를 통해 현재 에이전트(컨트롤)와 향상된 버전(처리) 간의 프로덕션 트래픽을 분할합니다. 온라인 평가는 각 세션의 점수를 매기고 통계적 유의성으로 결과를 보고합니다. A/B 테스트는 다음 두 가지 패턴을 지원합니다.

    • 구성 번들 변형: 동일한 런타임, 다른 번들 버전. 변경 사항이 순전히 구성(프롬프트, 모델 ID, 도구 설명)인 경우를 사용합니다.

    • 대상 기반 변형: 다양한 런타임 엔드포인트를 가리키는 다양한 게이트웨이 대상입니다. 변경에 코드 변경, 프레임워크 업그레이드가 포함되거나 완전히 다른 에이전트 구현을 비교하려는 경우를 사용합니다. 각 변형에는 자체 온라인 평가 구성이 있을 수 있습니다.

  4. 이기는 변형을 배포하고 반복: 트래픽의 100%를 이기는 변형으로 라우팅합니다. 새 기준의 새 트레이스는 다음 반복을 위한 기반을 제공합니다.