Prerequisiti
Prima di poter eseguire valutazioni in batch, assicurati che siano presenti le seguenti condizioni.
Requisiti dell'agente
-
Un agente distribuito su AgentCore Runtime con l'osservabilità abilitata o un agente creato con un framework supportato configurato con AgentCore Observability. Framework supportati:
-
Agenti Strands
-
LangGraph con
opentelemetry-instrumentation-langchainoopeninference-instrumentation-langchain
-
-
Ricerca delle transazioni abilitata in CloudWatch (richiesta se utilizzata CloudWatch come origine della sessione).
-
Sessioni di agenti con dati di telemetria nei registri. CloudWatch Richiama il tuo agente e attendi 2-5 minuti che la telemetria venga inserita prima CloudWatch di iniziare una valutazione in batch.
AWS credenziali e autorizzazioni
La valutazione in batch viene eseguita con le credenziali del chiamante. A differenza della valutazione online, la valutazione in batch non richiede un ruolo di esecuzione del servizio separato. Il servizio utilizza l'identità IAM dell'utente per accedere ai CloudWatch registri per l'individuazione delle sessioni e per scrivere i risultati della valutazione.
AWS credenziali configurate con autorizzazioni per i seguenti servizi:
-
bedrock-agentcore— per avviare, ottenere, elencare, interrompere ed eliminare le valutazioni in batch -
logs(CloudWatch Registri): per leggere gli intervalli delle sessioni e scrivere i risultati delle valutazioni
Autorizzazioni IAM richieste
La seguente policy IAM concede le autorizzazioni minime necessarie per eseguire valutazioni in batch:
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock-agentcore:StartBatchEvaluation", "bedrock-agentcore:GetBatchEvaluation", "bedrock-agentcore:ListBatchEvaluations", "bedrock-agentcore:StopBatchEvaluation", "bedrock-agentcore:DeleteBatchEvaluation" ], "Resource": "arn:aws:bedrock-agentcore:*:*:batch-evaluate/*" }, { "Sid": "ReadAgentLogs", "Effect": "Allow", "Action": [ "logs:GetLogEvents", "logs:FilterLogEvents", "logs:StartQuery", "logs:GetQueryResults" ], "Resource": [ "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/runtimes/*", "arn:aws:logs:*:*:log-group:/aws/bedrock-agentcore/evaluations/*" ] }, { "Sid": "BedrockInvokeForCustomEvaluators", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:inference-profile/*" ] } ] }
Nota
L'BedrockInvokeForCustomEvaluatorsistruzione è richiesta solo se utilizzi uno strumento di valutazione personalizzato che richiama i modelli Amazon Bedrock. Puoi ometterla quando usi solo valutatori integrati.
Requisiti SDK e CLI
-
AWS SDK (boto3): Python 3.10 o successivo.
-
AgentCore CLI: Esegui
agentcore --versionper verificare la tua versione.
Nota
La superficie CLI di valutazione in batch è costituita dai seguenti comandi:
-
agentcore run batch-evaluation— avvia una valutazione in batch -
agentcore stop batch-evaluation -i <id>— interrompe una valutazione batch in corso -
agentcore view batch-evaluation [id]eagentcore batch-evaluations history— visualizza un lavoro o elenca i lavori -
agentcore archive batch-evaluation -i <id>— archivia un record del lavoro di valutazione in batch sul servizio e cancella la cronologia locale
L'azione bedrock-agentcore:DeleteBatchEvaluation IAM è supportata dal archive batch-evaluation comando della CLI; non esiste un verbo delete CLI letterale.