Parámetros de solicitud de inferencia y campos de respuesta para modelos básicos

En esta sección se describen los parámetros de solicitud y los campos de respuesta de los modelos que suministra Amazon Bedrock. Utilice esta información para realizar llamadas de inferencia a los modelos con las operaciones InvokeModely InvokeModelWithResponseStream(streaming). Esta sección también incluye Python ejemplos de código que muestran cómo llamar a los modelos. Para usar un modelo en una operación de inferencia, necesita el ID del modelo. Para obtener el ID del modelo, consulteModelo Amazon Bedrock IDs. Algunos modelos también funcionan con las Converse. API Para comprobar si la Converse API es compatible con un modelo específico, consulte. Modelos compatibles y características del modelo Para ver más ejemplos de código, consulteEjemplos de código para Amazon Bedrock mediante AWS SDKs.

Si lo desea, puede establecer parámetros de inferencia para influir en la respuesta generada por el modelo. Si utiliza un modelo personalizado, utilice los mismos parámetros de inferencia que el modelo base a partir del cual se personalizó.

Los modelos básicos de Amazon Bedrock admiten modalidades de entrada y salida, que varían de un modelo a otro. Para comprobar las modalidades que admite un modelo, consulteModelos fundacionales compatibles en Amazon Bedrock. Para comprobar qué funciones de Amazon Bedrock admite un modelo, consulteSoporte de modelos por función. Para comprobar en qué AWS regiones está disponible un modelo, consulteSoporte de modelos por AWS región.

Cuando realiza llamadas de inferencia a un modelo, incluye un mensaje para el modelo. Para obtener información general sobre la creación de mensajes para los modelos compatibles con Amazon Bedrock, consulte. Conceptos de ingeniería rápidos