

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

# Fine-tune LLM de Hugging Face con LoRa en Deadline Cloud
<a name="examples-jb-hf-finetune-lora"></a>

El paquete de trabajos [ hf\_finetune\_lora trata de GitHub ](https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/job_bundles/hf_finetune_lora) perfeccionar un modelo de lenguaje causal de Hugging Face con la adaptación (LoRa) o la Low-Rank adaptación cuantizada (QLoRa) en un conjunto de datos de instrucciones personalizado, utilizando las bibliotecas Low-Rank transformers, PEFT y bitsandbytes. El resultado es un pequeño adaptador LoRa (aproximadamente de 50 a 200 MB) que se carga sobre el modelo base para enseñarle un estilo de escritura, una experiencia en el campo, un formato de salida específico o algunos conocimientos propios.

Para ejecutar este paquete, necesitas una granja de Deadline Cloud con una GPU-enabled cola (flota de Linux, GPU NVIDIA con 16 GB o más de RAM de vídeo (VRAM)) y un conjunto de datos en formato JSONL. El envío con todos los valores predeterminados se basa en los datos de muestra incluidos en el paquete. Desde el `job_bundles` directorio del repositorio de muestras, envíe el trabajo:

```
deadline bundle gui-submit hf_finetune_lora
```

Para obtener un tutorial completo sobre la preparación de los conjuntos de datos, los permisos de los roles en cola, el tamaño de la flota y las pruebas del adaptador capacitado, consulte. [Fine-tune LLM de Hugging Face con LoRa y QLoRa](tutorial-hf-finetune-lora.md)