Hyperparamètres de LightGBM

Nombre maximal d'itérations de renforcement. Remarque : En interne, LightGBM construit num_class * num_boost_round arbres pour les problèmes de classification multi-classes.

Valeurs valides : nombre entier, plage : nombre entier positif.

Valeur par défaut : 100.

L'entraînement s'arrête si une métrique d'un point de données de validation ne s'améliore pas au cours du dernier cycle early_stopping_rounds. Si early_stopping_rounds est inférieur ou égal à zéro, cet hyperparamètre est ignoré.

Valeurs valides : entier

Valeur par défaut : 10.

Métrique d'évaluation des données de validation. Si metric est défini sur la valeur "auto" par défaut, l'algorithme choisit automatiquement une métrique d'évaluation en fonction du type de problème de classification :

Valeurs valides : chaîne, l'une des valeurs suivantes : ("auto", "rmse", "l1", "l2", "huber", "fair", "binary_logloss", "binary_error", "auc", "average_precision", "multi_logloss", "multi_error", "auc_mu" ou "cross_entropy").

Valeur par défaut : "auto".

Taux auquel les pondérations du modèle sont mises à jour après que chaque lot d'exemples d'entraînement a été parcouru.

Valeurs valides : float, plage : (0.0, 1.0).

Valeur par défaut : 0.1.

Nombre maximal de feuilles dans un arbre.

Valeurs valides : entier, plage : (1, 131072).

Valeur par défaut : 64.

Sous-ensemble de caractéristiques à sélectionner à chaque itération (arbre). Il doit être inférieur à 1,0.

Valeurs valides : float, plage : (0.0, 1.0).

Valeur par défaut : 0.9.

Sous-ensemble de caractéristiques similaires à feature_fraction, mais bagging_fraction sélectionne de façon aléatoire une partie des données sans rééchantillonnage.

Valeurs valides : valeur à virgule flottante, plage : (0.0, 1.0).

Valeur par défaut : 0.9.

Fréquence de bagging. À chaque itération bagging_freq, LightGBM sélectionne de façon aléatoire un pourcentage des données à utiliser pour la prochaine itération bagging_freq. Ce pourcentage est déterminé par l'hyperparamètre bagging_fraction. Si bagging_freq est zéro, le bagging est désactivé.

Valeurs valides : nombre, plage : nombre entier non négatif.

Valeur par défaut : 1.

Profondeur maximale pour un modèle d'arbre. Elle est utilisée pour traiter le surajustement lorsque la quantité de données est faible. Si max_depth est inférieure ou égale à zéro, cela signifie qu'il n'y a pas de limite pour la profondeur maximale.

Valeurs valides : entier

Valeur par défaut : 6.

Quantité minimale de données dans une feuille. Peut être utilisée pour traiter le surajustement.

Valeurs valides : nombre, plage : nombre entier non négatif.

Valeur par défaut : 3.

Utilisé pour limiter le nombre maximal de feuilles d'arborescence obtenues en sortie. Si max_delta_step est inférieur ou égal à 0, il n'y a pas de contrainte. Le nombre maximal de feuilles obtenues en sortie est learning_rate * max_delta_step.

Valeurs valides : valeur flottante.

Valeur par défaut : 0.0.

Régularisation L1.

Valeurs valides : valeur à virgule flottante, plage : valeur à virgule flottante non négative.

Valeur par défaut : 0.0.

Régularisation L2.

Valeurs valides : valeur à virgule flottante, plage : valeur à virgule flottante non négative.

Valeur par défaut : 0.0.

Type de renforcement

Valeurs valides : chaîne, l'une des valeurs suivantes : ("gbdt", "rf", "dart" ou "goss").

Valeur par défaut : "gbdt".

Gain minimal pour effectuer une division. Peut être utilisé pour accélérer l'entraînement.

Valeurs valides : entier, valeur à virgule flottante : valeur à virgule flottante non négative.

Valeur par défaut : 0.0.

Pondération des étiquettes avec une classe positive. Utilisé uniquement pour les tâches de classification binaire. scale_pos_weight ne peut pas être utilisé si is_unbalance a pour valeur "True".

Valeurs valides : valeur à virgule flottante, plage : valeur à virgule flottante positive.

Valeur par défaut : 1.0.

Type d'apprenant d'arborescence.

Valeurs valides : chaîne, l'une des valeurs suivantes : ("serial", "feature", "data" ou "voting").

Valeur par défaut : "serial".

Sélectionne un sous-ensemble de caractéristiques aléatoires sur chaque nœud de l'arborescence. Par exemple, si feature_fraction_bynode est 0.8, 80 % des caractéristiques sont sélectionnées. Peut être utilisée pour traiter le surajustement.

Valeurs valides : entier, plage : (0.0, 1.0].

Valeur par défaut : 1.0.

Définissez sur "True" si les données d'entraînement ne sont pas équilibrées. Utilisé uniquement pour les tâches de classification binaire. is_unbalance ne peut pas être utilisé avec scale_pos_weight.

Valeurs valides : chaîne, valeur : ("True" ou "False").

Valeur par défaut : "False".

Nombre maximal de casiers utilisés pour regrouper les valeurs des caractéristiques. Un petit nombre de casiers peut réduire la précision de l'entraînement, mais peut améliorer les performances générales. Peut être utilisée pour traiter le surajustement.

Valeurs valides : entier, plage : (1, ∞).

Valeur par défaut : 255.

Contrôle la variance de la distribution Tweedie. Définissez-le plus près de 2.0 pour passer à une distribution Gamma. Définissez-le plus près de 1.0 pour passer à une distribution de Poisson. Utilisé uniquement pour les tâches de régression.

Valeurs valides : valeur à virgule flottante, plage : [1.0, 2.0).

Valeur par défaut : 1.5.

Nombre de threads parallèles utilisés pour exécuter LightGBM. La valeur 0 signifie le nombre de threads par défaut dans OpenMP.

Valeurs valides : nombre, plage : nombre entier non négatif.

Valeur par défaut : 0.

Niveau de détail des messages d'impression. Si verbosity est inférieur à 0, les messages d'impression montrent uniquement les erreurs fatales. Si verbosity a pour valeur 0, les messages d'impression incluent les erreurs et les avertissements. Si verbosity a pour valeur 1, les messages d'impression affichent plus d'informations. Si verbosity est supérieur à 1, les messages d'impression affichent le plus d'informations et peuvent être utilisés pour le débogage.

Valeurs valides : entier

Valeur par défaut : 1.