Configuración de peticiones avanzadas - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Configuración de peticiones avanzadas

Puede configurar las solicitudes avanzadas en AWS Management Console o a través deAPI.

Console

En la consola, puede configurar las peticiones avanzadas una vez creado el agente. Las configura mientras edita el agente.

Para ver o editar las peticiones avanzadas de su agente:
  1. Inicie sesión en el AWS Management Console uso de un IAMrol con los permisos de Amazon Bedrock y abra la consola de Amazon Bedrock en. https://console.aws.amazon.com/bedrock/

  2. En el panel de navegación situado a la izquierda, elija Agentes. A continuación, elija un agente en la sección Agentes.

  3. En la página de detalles del agente, en la sección Borrador de trabajo, seleccione Borrador de trabajo.

  4. En la página del borrador de trabajo, en la sección Estrategia de orquestación, selecciona Editar.

  5. En la página de estrategia de orquestación, en la sección de detalles de la estrategia de orquestación, asegúrese de seleccionar la orquestación predeterminada y, a continuación, elija la pestaña correspondiente al paso de la secuencia de agentes que desee editar.

  6. Active la opción Anular los valores predeterminados de la plantilla para permitir la edición de la plantilla. En el cuadro de diálogo Anular los valores predeterminados de la plantilla, seleccione Confirmar.

    aviso

    Si desactiva la opción Anular los valores predeterminados de la plantilla o cambia el modelo, se utilizará la plantilla predeterminada de Amazon Bedrock y su plantilla se eliminará de inmediato. Para confirmar, introduzca confirm en el cuadro de texto para confirmar el mensaje que aparece.

  7. Active la opción Activar plantilla para que el agente pueda usar la plantilla al generar respuestas. Si esta configuración está desactivada, el agente no usa la plantilla.

  8. Utilice la opción Editor de plantilla de petición para modificar la plantilla de petición de ejemplo.

  9. En Configuraciones, puede modificar los parámetros de inferencia de la petición. Para ver las definiciones de los parámetros y obtener más detalles sobre los parámetros para los diferentes modelos, consulte Parámetros de solicitud de inferencia y campos de respuesta para los modelos fundacionales.

  10. (Opcional) Para utilizar una función de Lambda que haya definido para analizar la salida del modelo fundacional sin procesar, lleve a cabo las siguientes acciones:

    nota

    Se utiliza una función de Lambda para todas las plantillas de peticiones.

    1. Seleccione Uso de la función de Lambda para el análisis en la sección Configuraciones. Si desactiva esta configuración, su agente utilizará el analizador predeterminado para la petición.

    2. Para Analizador de función de Lambda, seleccione una función de Lambda en el menú desplegable.

      nota

      Debe asociar permisos para que su agente pueda acceder a la función de Lambda. Para obtener más información, consulte Política basada en recursos que permite a Amazon Bedrock invocar una función de Lambda de un grupo de acciones.

  11. Para guardar la configuración, elija una de las siguientes opciones:

    1. Para permanecer en la misma ventana y poder actualizar dinámicamente la configuración de las peticiones mientras se prueba el agente actualizado, seleccione Guardar.

    2. Seleccione Guardar y salir para guardar la configuración y volver a la página Borrador de trabajo.

  12. Para probar la configuración actualizada, seleccione Preparar en la ventana Prueba.

Configure las peticiones avanzadas en la consola.
API

Para configurar las indicaciones avanzadas mediante las API operaciones, envíe una UpdateAgentllamada y modifique el siguiente objeto. promptOverrideConfiguration

"promptOverrideConfiguration": { "overrideLambda": "string", "promptConfigurations": [ { "basePromptTemplate": "string", "inferenceConfiguration": { "maximumLength": int, "stopSequences": [ "string" ], "temperature": float, "topK": float, "topP": float }, "parserMode": "DEFAULT | OVERRIDDEN", "promptCreationMode": "DEFAULT | OVERRIDDEN", "promptState": "ENABLED | DISABLED", "promptType": "PRE_PROCESSING | ORCHESTRATION | KNOWLEDGE_BASE_RESPONSE_GENERATION | POST_PROCESSING | MEMORY_SUMMARIZATION" } ], promptCachingState: { cachingState: "ENABLED | DISABLED" } }
  1. En la lista promptConfigurations, incluya un objeto promptConfiguration para cada plantilla de petición que desee editar.

  2. Especifique la petición que desee modificar en el campo promptType.

  3. Modifique la plantilla de peticiones siguiendo estos pasos:

    1. Especifique los campos basePromptTemplate con la plantilla de petición.

    2. Incluya los parámetros de inferencia en los objetos inferenceConfiguration. Para obtener más información acerca de las configuraciones de inferencia, consulte Parámetros de solicitud de inferencia y campos de respuesta para los modelos fundacionales.

  4. Para activar la plantilla de peticiones, defina promptCreationMode en OVERRIDDEN.

  5. Para permitir o impedir que el agente lleve a cabo el paso en el campo promptType, modifique el valor promptState. Esta configuración puede resultar útil a la hora de solucionar el comportamiento del agente.

    • Si establece el valor promptState como DISABLED para los pasos PRE_PROCESSING, KNOWLEDGE_BASE_RESPONSE_GENERATION o POST_PROCESSING, el agente se saltará ese paso.

    • Si establece el valor promptState como DISABLED para el paso ORCHESTRATION, el agente solo enviará la entrada del usuario al modelo fundacional de la orquestación. Además, el agente devuelve la respuesta tal cual sin organizar las llamadas entre API las operaciones y las bases de conocimiento.

    • De forma predeterminada, el paso POST_PROCESSING está DISABLED. De forma predeterminada, los pasos PRE_PROCESSING, ORCHESTRATION y KNOWLEDGE_BASE_RESPONSE_GENERATION están ENABLED.

    • De forma predeterminada, el MEMORY_SUMMARIZATION paso es ENABLED si la memoria está habilitada y el MEMORY_SUMMARIZATION paso es DISABLED si la memoria está deshabilitada.

  6. Para utilizar una función de Lambda que haya definido para analizar la salida del modelo fundacional sin procesar, lleve a cabo las siguientes acciones:

    1. Para cada plantilla de peticiones para la que desee habilitar la función de Lambda, defina parserMode como OVERRIDDEN.

    2. Especifique el nombre del recurso de Amazon (ARN) de la función Lambda en el overrideLambda campo del objeto. promptOverrideConfiguration

  7. (Opcional) Para habilitar el almacenamiento rápido en caché y reducir la latencia cuando tenga entradas con un contexto prolongado y repetido, defina el cachingState campo en. ENABLED Para obtener más información sobre el almacenamiento en caché de solicitudes, consulte. Almacenamiento rápido en caché para una inferencia de modelos más rápida

    nota

    Actualmente, el almacenamiento en caché de solicitudes de Amazon Bedrock solo está disponible para un número selecto de clientes. Para obtener más información sobre cómo participar en la versión preliminar, consulte Amazon Bedrock Prompt Caching.