As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
FFT
O FFT (Full Fine-Tuning) atualiza todos os pesos do modelo durante o treinamento. Isso fornece o nível mais profundo de personalização, mas exige mais recursos computacionais e maior tempo de treinamento.
Quando usar o FFT
Grandes mudanças de domínio onde o modelo precisa de conhecimento fundamental: mudanças
Você tem um conjunto de dados grande e de alta qualidade (pequenos conjuntos de dados correm o risco de serem esquecidos catastrófico)
Você não quer sobrecarga do adaptador no momento da inferência
É necessária uma profundidade máxima de personalização
Principais diferenças em relação ao LoRa
Não
lora_ranklora_alpha, oumerge_weightsparâmetrosAdiciona
max_response_lengthparâmetro para controlar o comprimento de saída geradoMaior custo de computação e maior tempo de treinamento
Artefatos de saída maiores (pesos completos do modelo)
Não é compatível com a personalização contínua
Para obter a referência completa dos parâmetros, incluindo FFT-specific hiperparâmetros, consulte a página de cada técnica:SFT,DPO,RFT.
