Utilisez la bibliothèque smdebug cliente pour créer une règle personnalisée sous forme de script Python

La smdebug règle API fournit une interface pour configurer vos propres règles personnalisées. Le script python suivant montre comment vous pouvez créer une règle personnalisée, CustomGradientRule. Cette règle personnalisée de didacticiel contrôle si les gradients deviennent trop grands. Le seuil par défaut est 10. La règle personnalisée utilise un essai de base créé par un SageMaker estimateur lorsqu'il lance une tâche de formation.

from smdebug.rules.rule import Rule

class CustomGradientRule(Rule):
    def __init__(self, base_trial, threshold=10.0):
        super().__init__(base_trial)
        self.threshold = float(threshold)

    def invoke_at_step(self, step):
        for tname in self.base_trial.tensor_names(collection="gradients"):
            t = self.base_trial.tensor(tname)
            abs_mean = t.reduction_value(step, "mean", abs=True)
            if abs_mean > self.threshold:
                return True
        return False

Vous pouvez ajouter autant de classes de règles personnalisées que vous le souhaitez dans le même script python et les déployer dans n'importe quel essai de tâche d'entraînement en créant des objets de règle personnalisée dans la section suivante.