Fine-tune Hugging Face LLMs com LoRa no Deadline Cloud

O pacote de tarefas hf_finetune_lora GitHub ajusta um modelo de linguagem causal Hugging Face com Low-Rank Adaptação (LoRa) ou Adaptação Quantizada (QLoRa) em um conjunto de dados de instruções personalizado, usando as bibliotecas de transformadores, PEFT e Low-Rank bitsandbytes. A saída é um pequeno adaptador LoRa (aproximadamente 50—200 MB) que você carrega sobre o modelo básico para ensinar a ele um estilo de escrita, uma experiência de domínio, um formato de saída específico ou algum conhecimento proprietário.

Para executar esse pacote, você precisa de um Deadline Cloud farm com uma GPU-enabled fila (frota Linux, GPU NVIDIA com 16 GB ou mais de RAM de vídeo (VRAM)) e um conjunto de dados no formato JSONL. O envio com todos os trens padrão nos dados de amostra incluídos no pacote. No job_bundles diretório do repositório de amostras, envie o trabalho:

deadline bundle gui-submit hf_finetune_lora

Para obter uma explicação completa que abrange a preparação do conjunto de dados, permissões de função na fila, dimensionamento da frota e teste do adaptador treinado, consulte. Fine-tune Hugging Face LLMs com LoRa e QLoRa