DetectAnomalies - AWS Glue

DetectAnomalies

Detecta anomalias em uma determinada regra de qualidade de dados. Cada execução da regra DetectAnomalies resulta em salvar o valor avaliado para a regra fornecida. Quando há dados suficientes coletados, o algoritmo de detecção de anomalias pega todos os dados históricos dessa regra e executa a detecção de anomalias. A regra DetectAnomalies falha quando uma anomalia é detectada. Para obter mais informações sobre qual anomalia foi detectada, consulte Observações.

Sintaxe

DetectAnomalies <RULE_NAME> <RULE_PARAMETERS>

RULE_NAME: o nome da regra para a qual você quer avaliar e detectar anomalias. Regras compatíveis:

  • "RowCount"

  • "Completeness"

  • "Uniqueness"

  • "Mean"

  • "Sum"

  • "StandardDeviation"

  • "Entropy"

  • "DistinctValuesCount"

  • "UniqueValueRatio"

  • "ColumnLength"

  • "ColumnValues"

  • "ColumnCorrelation"

  • "CustomSQL"

  • "ColumnCount"

RULE_PARAMETERS: algumas regras exigem parâmetros adicionais para serem executadas. Consulte a documentação da regra fornecida para ver os parâmetros necessários.

Exemplo: anomalias para RowCount

Por exemplo, se quisermos detectar anomalias de RowCount, fornecemos RowCount como nome de regra.

DetectAnomalies "RowCount"

Exemplo: anomalias para ColumnLength

Por exemplo, se quisermos detectar anomalias de ColumnLength, fornecemos ColumnLength como nome de regra e nome de coluna.

DetectAnomalies "ColumnLength" "id"