Personalización del modelo para mejorar su rendimiento según su caso de uso - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Personalización del modelo para mejorar su rendimiento según su caso de uso

La personalización del modelo es el proceso de proporcionar datos de entrenamiento a un modelo para mejorar su rendimiento en casos de uso específicos. Puede personalizar un modelo fundacional de Amazon Bedrock para mejorar su rendimiento y crear una mejor experiencia para el cliente. Actualmente, Amazon Bedrock ofrece los siguientes métodos de personalización.

  • Destilación

    Utilice la destilación para transferir el conocimiento de un modelo más grande e inteligente (conocido como profesor) a un modelo más pequeño, rápido y rentable (conocido como estudiante). Amazon Bedrock automatiza el proceso de destilación mediante el uso de las últimas técnicas de síntesis de datos para generar respuestas diversas y de alta calidad a partir del modelo docente y ajusta el modelo estudiantil.

    Para usar la destilación, debe seleccionar un modelo docente cuya precisión desee lograr para su caso de uso y un modelo estudiantil para ajustarlo con precisión. Luego, proporciona indicaciones específicas para cada caso de uso como datos de entrada. Amazon Bedrock genera respuestas a partir del modelo de profesor para las indicaciones dadas y, a continuación, utiliza las respuestas para ajustar el modelo de alumno. Si lo desea, puede proporcionar datos de entrada etiquetados como pares de preguntas y respuestas.

    Para obtener más información sobre el uso de la destilación, consulte. Destilación modelo en Amazon Bedrock

  • Ajuste

    Proporcione datos etiquetados para entrenar un modelo a fin de mejorar su rendimiento en tareas específicas. Al proporcionar un conjunto de datos de entrenamiento con ejemplos etiquetados, el modelo aprende a asociar qué tipos de salidas deben generarse para determinados tipos de entradas. Los parámetros del modelo se ajustan en el proceso y mejora el rendimiento del modelo de las tareas representadas en el conjunto de datos de entrenamiento.

  • Entrenamiento previo continuo

    Proporcione datos sin etiquetar para entrenar previamente un modelo fundacional para familiarizarlo con ciertos tipos de entradas. Puede proporcionar datos de temas específicos para exponer un modelo a dichas áreas. El proceso de entrenamiento previo continuado modificará los parámetros del modelo para adaptarlos a los datos de entrada y mejorar su conocimiento del dominio.

    Por ejemplo, puede entrenar un modelo con datos privados, como documentos empresariales, que no estén disponibles públicamente para entrenar modelos lingüísticos grandes. Además, puede seguir mejorando el modelo reentrenándolo con más datos sin etiquetar a medida que estén disponibles.

Para obtener más información sobre las cuotas de personalización de los modelos, consulte los Amazon Bedrock endpoints and quotas en la Referencia general de AWS.

nota

El entrenamiento de modelos se cobra en función del número de tokens procesados por el modelo (número de tokens en el corpus de datos de entrenamiento x número de épocas) y el almacenamiento del modelo se cobra por mes y por modelo. Para obtener más información, consulte Precios de Amazon Bedrock.

Los pasos siguientes describen cómo personalizar el modelo.

  1. Cree un entrenamiento y, si corresponde, un conjunto de datos de validación para la tarea de personalización.

  2. Si tiene previsto usar un nuevo rol de IAM personalizado, configure los permisos de IAM para acceder a los buckets de S3 para sus datos. También puede utilizar un rol existente o dejar que la consola cree un rol de forma automática con los permisos adecuados.

  3. (Opcional) Configure las claves de KMS o la VPC para mayor seguridad.

  4. Cree un trabajo de ajuste o de entrenamiento previo continuo y controle el proceso de entrenamiento al ajustar los valores de los hiperparámetros.

  5. Analice los resultados mediante la observación de las métricas de entrenamiento o validación, o mediante la evaluación del modelo.

  6. Adquiera rendimiento aprovisionado para un modelo personalizado recién creado.

  7. Utilice su modelo personalizado tal y como haría con un modelo base en las tareas de Amazon Bedrock, como la inferencia de modelos.