Classifier-API - AWS Glue

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Classifier-API

Die Classifier-API beschreibt die Datentypen von AWS Glue-Classifiern und umfasst zudem die API zum Erstellen, Löschen, Aktualisieren und Auflisten von Classifiern.

Datentypen

Classifier-Struktur

Classifier werden während einer Durchsuchungsaufgabe ausgelöst. Ein Classifier prüft, ob eine bestimmte Datei ein Format hat, mit dem er umgehen kann. Wenn dies der Fall ist, erstellt der Classifier ein Schema in Form eines StructType-Objekts, das dem Datenformat entspricht.

Sie können die Standard-Classifier verwenden, die von AWS Glue bereitgestellt werden, oder eigene Classifier schreiben, um Ihre Datenquellen optimal zu kategorisieren und die Schemata angeben, die für diese verwendet werden sollen. Ein Classifier kann ein grok-Classifier, ein XML-Classifier oder ein JSON-Classifier oder ein benutzerdefinierter CSV-Classifier sein, wie in einem der Felder im Classifier-Objekt angegeben.

Felder
  • GrokClassifier – Ein GrokClassifier-Objekt.

    Ein Classifier, der grok verwendet.

  • XMLClassifier – Ein XMLClassifier-Objekt.

    Ein Classifier für XML-Inhalte.

  • JsonClassifier – Ein JsonClassifier-Objekt.

    Ein Classifier für JSON-Inhalte.

  • CsvClassifier – Ein CsvClassifier-Objekt.

    Ein Classifier für durch Kommata getrennte Werte (CSV).

GrokClassifier-Struktur

Ein Classifier, der grok-Muster verwendet.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • ClassificationErforderlich: UTF-8-Zeichenfolge.

    Eine ID des Datenformates, das der Classifier abgleicht, beispielsweise Protokolle von Twitter, JSON oder Omniture usw.

  • CreationTime – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier registriert wurde.

  • LastUpdated – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier zuletzt aktualisiert wurde.

  • Version – Zahl (lang).

    Die Version dieses Classifiers.

  • GrokPatternErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 2048 Bytes lang, passend zum A Logstash Grok string pattern.

    Das Grok-Muster, das von diesem Classifier auf einen Datenspeicher angewendet wird. Weitere Informationen finden Sie in den integrierten Mustern unter Schreiben von benutzerdefinierten Classifiern.

  • CustomPatterns – UTF-8-Zeichenfolge, nicht mehr als 16000 Bytes lang, passend zum URI address multi-line string pattern.

    Optionale benutzerdefinierte Grok-Muster, die von diesem Classifier definiert werden. Weitere Informationen finden Sie in den benutzerdefinierten Mustern unter Schreiben von benutzerdefinierten Classifiern.

XMLClassifier-Struktur

Ein Classifier für XML-Inhalte.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • ClassificationErforderlich: UTF-8-Zeichenfolge.

    Eine ID des Datenformats, dass mit dem Classifier übereinstimmt.

  • CreationTime – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier registriert wurde.

  • LastUpdated – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier zuletzt aktualisiert wurde.

  • Version – Zahl (lang).

    Die Version dieses Classifiers.

  • RowTag – UTF-8-Zeichenfolge.

    Das XML-Tag, das das Element festlegt, das jeden Datensatz in einem XML-Dokument enthält, das analysiert wird. Damit kann kein selbstschließendes Element (geschlossen von />) identifiziert werden. Ein leeres Zeilenelement, das ausschließlich Attribute enthält, kann analysiert werden, solange es mit einem schließenden Tag endet (z. B. ist <row item_a="A" item_b="B"></row> in Ordnung, <row item_a="A" item_b="B" /> aber nicht).

JsonClassifier-Struktur

Ein Classifier für JSON-Inhalte.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • CreationTime – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier registriert wurde.

  • LastUpdated – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier zuletzt aktualisiert wurde.

  • Version – Zahl (lang).

    Die Version dieses Classifiers.

  • JsonPathErforderlich: UTF-8-Zeichenfolge.

    Eine JsonPath-Zeichenfolge, die die zu klassifizierenden JSON-Daten für den Classifier definiert. AWS Glue unterstützt eine Teilmenge von JsonPath, wie in Schreiben von benutzerdefinierten JsonPath-Classifiern beschrieben.

CsvClassifier-Struktur

Ein Classifier für benutzerdefinierte CSV-Inhalte.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • CreationTime – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier registriert wurde.

  • LastUpdated – Zeitstempel.

    Der Zeitpunkt, an dem dieser Classifier zuletzt aktualisiert wurde.

  • Version – Zahl (lang).

    Die Version dieses Classifiers.

  • Delimiter – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Eine benutzerdefiniertes Symbol zur Bezeichnung, wodurch die einzelnen Spalteneinträge in der Zeile voneinander getrennt werden.

  • QuoteSymbol – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Ein benutzerdefiniertes Symbol zur Bezeichnung, wodurch Inhalte zu einem einzelnen Spaltenwert miteinander kombiniert werden. Muss sich von dem Spaltentrennzeichen unterscheiden.

  • ContainsHeader – UTF-8-Zeichenfolge (zulässige Werte: UNKNOWN | PRESENT | ABSENT).

    Gibt an, ob die CSV-Datei eine Kopfzeile enthält.

  • Header – Ein UTF-8-Zeichenfolgen-Array.

    Eine Liste von Zeichenfolgen, durch die Spaltennamen darstellt werden.

  • DisableValueTrimming – Boolesch.

    Gibt an, dass Werte vor dem Identifizieren des Typs der Spaltenwerte nicht abgetrennt werden sollen. Der Standardwert ist true.

  • AllowSingleColumn – Boolesch.

    Aktiviert die Verarbeitung von Dateien, die nur eine Spalte enthalten.

  • CustomDatatypeConfigured – Boolesch.

    Ermöglicht die Konfiguration des benutzerdefinierten Datentyps.

  • CustomDatatypes – Ein UTF-8-Zeichenfolgen-Array.

    Eine Liste von benutzerdefinierten Datentypen, einschließlich „BINARY“, „BOOLEAN“, „DATE“, „DECIMAL“, „DOUBLE“, „FLOAT“, „INT“, „LONG“, „SHORT“, „STRING“, „TIMESTAMP“.

  • Serde – UTF-8-Zeichenfolge (zulässige Werte: OpenCSVSerDe | LazySimpleSerDe | None).

    Legt den SerDe für die CSV-Verarbeitung im Klassifikator fest, der im Datenkatalog angewendet wird. Gültige Werte sind OpenCSVSerDe, LazySimpleSerDe und None. Sie können den None-Wert angeben, wenn der Crawler die Erkennung durchführen soll.

CreateGrokClassifierRequest-Struktur

Gibt einen zu erstellenden grok-Classifier für CreateClassifier an.

Felder
  • ClassificationErforderlich: UTF-8-Zeichenfolge.

    Eine ID des Datenformates, das der Classifier abgleicht, beispielsweise Protokolle von Twitter, JSON, Omniture, Amazon CloudWatch Logs usw.

  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des neuen Classifiers.

  • GrokPatternErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 2048 Bytes lang, passend zum A Logstash Grok string pattern.

    Das Grok-Muster, das von diesem Classifier verwendet wird.

  • CustomPatterns – UTF-8-Zeichenfolge, nicht mehr als 16000 Bytes lang, passend zum URI address multi-line string pattern.

    Optionale benutzerdefinierte Grok-Muster, die von diesem Classifier verwendet werden.

UpdateGrokClassifierRequest-Struktur

Gibt einen Grok-Classifier an, der bei der Weiterleitung an UpdateClassifier aktualisiert werden soll.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name der GrokClassifier.

  • Classification – UTF-8-Zeichenfolge.

    Eine ID des Datenformates, das der Classifier abgleicht, beispielsweise Protokolle von Twitter, JSON, Omniture, Amazon CloudWatch Logs usw.

  • GrokPattern – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 2048 Bytes lang, passend zum A Logstash Grok string pattern.

    Das Grok-Muster, das von diesem Classifier verwendet wird.

  • CustomPatterns – UTF-8-Zeichenfolge, nicht mehr als 16000 Bytes lang, passend zum URI address multi-line string pattern.

    Optionale benutzerdefinierte Grok-Muster, die von diesem Classifier verwendet werden.

CreateXMLClassifierRequest-Struktur

Gibt einen zu erstellenden XML-Classifier für CreateClassifier an.

Felder
  • ClassificationErforderlich: UTF-8-Zeichenfolge.

    Eine ID des Datenformats, dass mit dem Classifier übereinstimmt.

  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • RowTag – UTF-8-Zeichenfolge.

    Das XML-Tag, das das Element festlegt, das jeden Datensatz in einem XML-Dokument enthält, das analysiert wird. Damit kann kein selbstschließendes Element (geschlossen von />) identifiziert werden. Ein leeres Zeilenelement, das ausschließlich Attribute enthält, kann analysiert werden, solange es mit einem schließenden Tag endet (z. B. ist <row item_a="A" item_b="B"></row> in Ordnung, <row item_a="A" item_b="B" /> aber nicht).

UpdateXMLClassifierRequest-Struktur

Gibt einen zu aktualisierenden XML-Classifier an.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • Classification – UTF-8-Zeichenfolge.

    Eine ID des Datenformats, dass mit dem Classifier übereinstimmt.

  • RowTag – UTF-8-Zeichenfolge.

    Das XML-Tag, das das Element festlegt, das jeden Datensatz in einem XML-Dokument enthält, das analysiert wird. Beachten Sie, dass dies kein selbstschließendes Element identifizieren kann (geschlossen von />). Ein leeres Zeilenelement, das ausschließlich Attribute enthält, kann analysiert werden, solange es mit einem schließenden Tag endet (z. B. ist <row item_a="A" item_b="B"></row> in Ordnung, <row item_a="A" item_b="B" /> aber nicht).

CreateJsonClassifierRequest-Struktur

Gibt einen zu erstellenden JSON-Classifier für CreateClassifier an.

Felder

UpdateJsonClassifierRequest-Struktur

Gibt einen zu aktualisierenden JSON-Classifier an.

Felder

CreateCsvClassifierRequest-Struktur

Gibt einen benutzerdefinierten CSV-Classifier für CreateClassifier an.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • Delimiter – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Eine benutzerdefiniertes Symbol zur Bezeichnung, wodurch die einzelnen Spalteneinträge in der Zeile voneinander getrennt werden.

  • QuoteSymbol – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Ein benutzerdefiniertes Symbol zur Bezeichnung, wodurch Inhalte zu einem einzelnen Spaltenwert miteinander kombiniert werden. Muss sich von dem Spaltentrennzeichen unterscheiden.

  • ContainsHeader – UTF-8-Zeichenfolge (zulässige Werte: UNKNOWN | PRESENT | ABSENT).

    Gibt an, ob die CSV-Datei eine Kopfzeile enthält.

  • Header – Ein UTF-8-Zeichenfolgen-Array.

    Eine Liste von Zeichenfolgen, durch die Spaltennamen darstellt werden.

  • DisableValueTrimming – Boolesch.

    Gibt an, dass Werte vor dem Identifizieren des Typs der Spaltenwerte nicht abgetrennt werden sollen. Der Standardwert ist "True".

  • AllowSingleColumn – Boolesch.

    Aktiviert die Verarbeitung von Dateien, die nur eine Spalte enthalten.

  • CustomDatatypeConfigured – Boolesch.

    Ermöglicht die Konfiguration benutzerdefinierter Datentypen.

  • CustomDatatypes – Ein UTF-8-Zeichenfolgen-Array.

    Erzeugt eine Liste der unterstützten benutzerdefinierten Datentypen.

  • Serde – UTF-8-Zeichenfolge (zulässige Werte: OpenCSVSerDe | LazySimpleSerDe | None).

    Legt den SerDe für die CSV-Verarbeitung im Klassifikator fest, der im Datenkatalog angewendet wird. Gültige Werte sind OpenCSVSerDe, LazySimpleSerDe und None. Sie können den None-Wert angeben, wenn der Crawler die Erkennung durchführen soll.

UpdateCsvClassifierRequest-Struktur

Gibt einen benutzerdefinierten CSV-Classifier an, der aktualisiert werden soll.

Felder
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Der Name des Classifiers.

  • Delimiter – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Eine benutzerdefiniertes Symbol zur Bezeichnung, wodurch die einzelnen Spalteneinträge in der Zeile voneinander getrennt werden.

  • QuoteSymbol – UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 1 Byte lang, passend zum Custom string pattern #10.

    Ein benutzerdefiniertes Symbol zur Bezeichnung, wodurch Inhalte zu einem einzelnen Spaltenwert miteinander kombiniert werden. Muss sich von dem Spaltentrennzeichen unterscheiden.

  • ContainsHeader – UTF-8-Zeichenfolge (zulässige Werte: UNKNOWN | PRESENT | ABSENT).

    Gibt an, ob die CSV-Datei eine Kopfzeile enthält.

  • Header – Ein UTF-8-Zeichenfolgen-Array.

    Eine Liste von Zeichenfolgen, durch die Spaltennamen darstellt werden.

  • DisableValueTrimming – Boolesch.

    Gibt an, dass Werte vor dem Identifizieren des Typs der Spaltenwerte nicht abgetrennt werden sollen. Der Standardwert ist "True".

  • AllowSingleColumn – Boolesch.

    Aktiviert die Verarbeitung von Dateien, die nur eine Spalte enthalten.

  • CustomDatatypeConfigured – Boolesch.

    Gibt die Konfiguration benutzerdefinierter Datentypen an.

  • CustomDatatypes – Ein UTF-8-Zeichenfolgen-Array.

    Gibt eine Liste der unterstützten benutzerdefinierten Datentypen an.

  • Serde – UTF-8-Zeichenfolge (zulässige Werte: OpenCSVSerDe | LazySimpleSerDe | None).

    Legt den SerDe für die CSV-Verarbeitung im Klassifikator fest, der im Datenkatalog angewendet wird. Gültige Werte sind OpenCSVSerDe, LazySimpleSerDe und None. Sie können den None-Wert angeben, wenn der Crawler die Erkennung durchführen soll.

Operationen

CreateClassifier-Aktion (Python: create_classifier)

Erstellt einen Classifier im Konto des Benutzers. Dies kann ein GrokClassifier, ein XMLClassifier, ein JsonClassifier oder ein CsvClassifier sein, je nachdem, welches Feld der Anforderung vorhanden ist.

Anfrage
Antwort
  • Keine Antwortparameter.

Fehler
  • AlreadyExistsException

  • InvalidInputException

  • OperationTimeoutException

DeleteClassifier-Aktion (Python: delete_classifier)

Entfernt einen Classifier aus dem Data Catalog.

Anfrage
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Name des zu entfernenden Classifiers.

Antwort
  • Keine Antwortparameter.

Fehler
  • EntityNotFoundException

  • OperationTimeoutException

GetClassifier-Aktion (Python: get_classifier)

Abrufen eines Classifiers nach Namen.

Anfrage
  • NameErforderlich: UTF-8-Zeichenfolge, nicht weniger als 1 oder mehr als 255 Bytes lang, passend zum Single-line string pattern.

    Name des abzurufenden Classifiers.

Antwort
  • Classifier – Ein Classifier-Objekt.

    Der angeforderte Classifier.

Fehler
  • EntityNotFoundException

  • OperationTimeoutException

GetClassifiers-Aktion (Python: get_classifiers)

Listet alle Classifier-Objekte im Data Catalog auf.

Anfrage
  • MaxResults – Zahl (Ganzzahl), nicht kleiner als 1 oder größer als 1000.

    Größe der zurückzugebenden Liste (optional).

  • NextToken – UTF-8-Zeichenfolge.

    Ein optionales Fortsetzungs-Token.

Antwort
  • Classifiers – Ein Array mit Classifier-Objekten.

    Die angeforderte Liste der Classifier-Objekte.

  • NextToken – UTF-8-Zeichenfolge.

    Ein Fortsetzungs-Token.

Fehler
  • OperationTimeoutException

UpdateClassifier-Aktion (Python: update_classifier)

Ändert einen vorhandenen Classifier (einen GrokClassifier, einen XMLClassifier, einen JsonClassifier oder einen CsvClassifier, je nachdem, welches Feld vorhanden ist).

Anfrage
Antwort
  • Keine Antwortparameter.

Fehler
  • InvalidInputException

  • VersionMismatchException

  • EntityNotFoundException

  • OperationTimeoutException