Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Uso de modelos de cimentación
Debe solicitar el acceso a un modelo antes de poder usarlo. Una vez hecho esto, podrá utilizar los FM de las siguientes maneras.
-
Ejecute la inferencia enviando solicitudes a un modelo y generando respuestas. Los parques infantiles ofrecen una interfaz fácil de usar AWS Management Console para generar texto, imágenes o chats. Consulta la columna Modalidad de salida para determinar los modelos que puedes usar en cada patio de recreo.
nota
Los patios de juego de la consola no admiten la ejecución de inferencias sobre modelos de incrustaciones. Usa la API para ejecutar inferencias en modelos de incrustaciones.
-
Evalúe los modelos para comparar los resultados y determinar el mejor modelo para su caso de uso.
-
Configure una base de conocimientos con la ayuda de un modelo de incrustaciones. A continuación, utilice un modelo de texto para generar respuestas a las consultas.
-
Cree un agente y utilice un modelo para realizar inferencias en función de las solicitudes para llevar a cabo la orquestación.
-
Personalice un modelo introduciendo datos de entrenamiento y validación para ajustar los parámetros del modelo según su caso de uso. Para usar un modelo personalizado, debe adquirir Provisioned Throughput para él.
-
Adquiera el rendimiento aprovisionado para un modelo a fin de aumentarlo.
Para usar un FM en la API, debes determinar el ID de modelo adecuado que vas a usar.
| Caso de uso | ¿Cómo encontrar el ID del modelo |
|---|---|
| Usa un modelo base | Busque el identificador en la tabla de identificadores del modelo base |
| Adquiera el rendimiento aprovisionado para un modelo base | Busque el ID en la tabla de ID de modelo para el rendimiento aprovisionado y utilícelo como el de la modelId solicitud. CreateProvisionedModelThroughput |
| Adquiera el rendimiento aprovisionado para un modelo personalizado | Utilice el nombre del modelo personalizado o su ARN como aparece modelId en la CreateProvisionedModelThroughputsolicitud. |
| Utilice un modelo aprovisionado | Después de crear un rendimiento aprovisionado, devuelve un. provisionedModelArn Este ARN es el identificador del modelo. |
| Utilice un modelo personalizado | Adquiera el rendimiento aprovisionado para el modelo personalizado y utilice el devuelto provisionedModelArn como identificador del modelo. |
