Fine-tune LLM de Hugging Face con LoRa en Deadline Cloud

El paquete de trabajos hf_finetune_lora trata de GitHub perfeccionar un modelo de lenguaje causal de Hugging Face con la adaptación (LoRa) o la Low-Rank adaptación cuantizada (QLoRa) en un conjunto de datos de instrucciones personalizado, utilizando las bibliotecas Low-Rank transformers, PEFT y bitsandbytes. El resultado es un pequeño adaptador LoRa (aproximadamente de 50 a 200 MB) que se carga sobre el modelo base para enseñarle un estilo de escritura, una experiencia en el campo, un formato de salida específico o algunos conocimientos propios.

Para ejecutar este paquete, necesitas una granja de Deadline Cloud con una GPU-enabled cola (flota de Linux, GPU NVIDIA con 16 GB o más de RAM de vídeo (VRAM)) y un conjunto de datos en formato JSONL. El envío con todos los valores predeterminados se basa en los datos de muestra incluidos en el paquete. Desde el job_bundles directorio del repositorio de muestras, envíe el trabajo:

deadline bundle gui-submit hf_finetune_lora

Para obtener un tutorial completo sobre la preparación de los conjuntos de datos, los permisos de los roles en cola, el tamaño de la flota y las pruebas del adaptador capacitado, consulte. Fine-tune LLM de Hugging Face con LoRa y QLoRa