Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Modelos e instrucciones
Defina un arnés una vez con los valores predeterminados para el modelo, la línea de comandos del sistema, las herramientas, la memoria y los límites de ejecución. Anula cualquiera de estos valores en una sola invocación cuando quieras experimentar. El recurso de arnés permanece inalterado; solo esa llamada usa las anulaciones.
Este es el núcleo del modelo basado en la configuración: los valores predeterminados en el momento de la creación y las anulaciones en el momento de la invocación. Puede probar las combinaciones de N model/prompt y herramientas en el tiempo que tardaría en volver a implementarse una vez.
ejemplo
Usa cualquier modelo, cámbialo a mitad de sesión
Utilice modelos de Amazon Bedrock, OpenAI, Google Gemini u otros proveedores a través de LitellM, incluidos los terminales. OpenAI-compatible Cambie de proveedor entre los turnos de la misma sesión y la conversación continuará. El contexto se traslada.
Si no especificas ningún modelo, el arnés usará por defecto el Claude Sonnet 4.6 de Anthropic en Amazon Bedrock (global.anthropic.claude-sonnet-4-6) para que puedas empezar de inmediato. Puede cambiar el valor predeterminado o anularlo por invocación en cualquier momento.
Almacena las claves de API de terceros en la bóveda de tokens de AgentCore Identity como proveedor de credenciales de claves de API. El arnés extrae la clave en el momento de la invocación. El código de agente nunca ve las credenciales sin procesar.
ejemplo
Más información: AgentCore Identidad, proveedores de credenciales de claves de API.
Seleccione el formato de API modelo
Cada una de las configuraciones de los modelos Amazon Bedrock y OpenAI acepta un apiFormat campo opcional que selecciona el protocolo de API que utiliza el arnés para llamar al modelo.
ForbedrockModelConfig, apiFormat selecciona tanto el protocolo de API como el punto final de Amazon Bedrock al que llama el arnés:
-
converse_stream- la API Converse de Amazon Bedrock, servida por el punto final.bedrock-runtimeEste es el valor predeterminado. -
responses- la API de OpenAI-compatible respuestas, servida por elbedrock-mantlepunto final. -
chat_completions- la API OpenAI-compatible Chat Completions, servida por elbedrock-mantlepunto final.
El bedrock-mantle punto final admite un conjunto de modelos y capacidades diferente al del bedrock-runtime punto final predeterminado. Para obtener más información, consulte los puntos de conexión compatibles con Amazon Bedrock.
ParaopenAiModelConfig, apiFormat puede ser una de las siguientes opciones:
-
responses- la API de respuestas de OpenAI. Esta es la opción predeterminada. -
chat_completions- la API de finalización del chat de OpenAI.
Ambas configuraciones también aceptan un campo opcionaladditionalParams. Provider-specific los parámetros additionalParams introducidos se transfieren al proveedor del modelo sin cambios.
importante
Los parámetros incluidos additionalParams pueden alterar el comportamiento del proveedor, incluido el enrutamiento de los puntos finales, la gestión de credenciales y la selección de regiones. Si su aplicación reenvía la configuración del modelo proporcionada por la persona que llama aInvokeHarness, valide estos campos antes de la invocación. Consulte Modelo de responsabilidad compartida.
ejemplo
Aplica Amazon Bedrock Guardrails
Utilice Amazon Bedrock Guardrails para filtrar el contenido dañino o bloquear los temas rechazados en las entradas y salidas del modelo. Para aplicar una barrera a cada solicitud de modelo, añada un objeto a. guardrailConfig bedrockModelConfig.additionalParams El arnés pasa este objeto a Amazon Bedrock con cada solicitud de modelo.
Para usar Amazon Bedrock Guardrails con el arnés, bedrockModelConfig configúralo con el formato API. converse_stream Si lo omite, el arnés se apiFormat usa de forma predeterminada. converse_stream Defina esta configuración en CreateHarness o o UpdateHarness anule la configuración para una sola llamada. InvokeHarness
El siguiente ejemplo de Python llama InvokeHarness con una configuración de barandilla. HARNESS_ARNSustitúyalo por el ARN de su arnés y por un SESSION_ID identificador de sesión de ejecución único.
import boto3 client = boto3.client("bedrock-agentcore") response = client.invoke_harness( harnessArn=HARNESS_ARN, runtimeSessionId=SESSION_ID, model={ "bedrockModelConfig": { "modelId": "us.amazon.nova-micro-v1:0", "apiFormat": "converse_stream", "additionalParams": { "guardrailConfig": { "guardrailIdentifier": "arn:aws:bedrock:us-west-2:111122223333:guardrail/abc123def456", "guardrailVersion": "1", "trace": "enabled_full", } }, } }, messages=[{"role": "user", "content": [{"text": "Help me plan a trip."}]}], )
Para ver los permisos del modelo de referencia, consulte la política de funciones de Política de roles de ejecución ejecución. Agregue la siguiente sentencia JSON a la política de funciones de ejecución del arnés:
{ "Effect": "Allow", "Action": "bedrock:ApplyGuardrail", "Resource": "arn:aws:bedrock:us-west-2:111122223333:guardrail/abc123def456" }
Utilice una barandilla en la misma AWS región que la solicitud modelo. Cuando interviene una barandilla, el flujo de respuesta indica el motivo de la detención. guardrail_intervened
Para obtener más información sobre los campos de configuración de la barandilla, consulte Usar una barandilla con la API de Converse. Para obtener más información sobre los permisos de IAM, consulte Configurar los permisos para usar Amazon Bedrock Guardrails.
Utilice un modelo a través de LitellM
liteLlmModelConfigUtilícelo para comunicarse con cualquier proveedor compatible con modelIdConfigúrelo en un ID de modelo con el prefijo del proveedor de LitELLM, como o. gemini/gemini-2.5-pro anthropic/claude-sonnet-4-6
Los proveedores que se autentican con una clave de API (como Google o Anthropic) requieren. apiKeyArn Los modelos de Amazon Bedrock a los que se accede con el bedrock/ prefijo utilizan los permisos de la función de ejecución del arnés y no necesitan una clave de API.
-
modelId(obligatorio): el ID del modelo con el prefijo del proveedor de Litellm. -
apiKeyArn- el ARN de la clave de API del proveedor, almacenado en AgentCore Identity como proveedor de credenciales de clave de API. El punto final debe aceptar esta clave de API. -
apiBase- una URL de punto final personalizada para una OpenAI-compatible puerta de enlace, como un proxy o un punto de enlace autohospedado. -
additionalParams- los parámetros específicos del proveedor se transfirieron a LitellM sin cambios. Esto incluye los parámetros que pueden anular los puntos finales (aws_bedrock_runtime_endpoint), asumir funciones de IAM () o alterar el enrutamiento de las solicitudes.aws_role_nameConsulte Modelo de responsabilidad compartida.
liteLlmModelConfigtambién acepta los campos opcionales maxTokens ytemperature. topP
ejemplo
Cuando su arnés utilice un proveedor de credenciales de clave de API, conceda permiso al rol de ejecución para leer la clave. Consulte Seguridad y controles de acceso.
Para obtener información adicional sobre la configuración del arnés, consulte la Documentación de la API
Temas relacionados
-
Tools (Herramientas)- conecta las herramientas a tu arnés
-
Memoria- mantener las conversaciones entre sesiones
-
Controle los costos con límites- establecer límites de ejecución y estrategias de truncamiento