Création d'un modèle de tâches de travail personnalisé

Pour créer une tâche d'étiquetage personnalisée, vous devez mettre à jour le modèle de tâche de travail, mapper les données d'entrée de votre fichier manifeste aux variables utilisées dans le modèle et mapper les données de sortie sur Amazon S3. Pour en savoir plus sur les fonctionnalités avancées qui utilisent l'automatisation Liquid, consultezAjout de l'automatisation avec Liquid.

Les sections suivantes décrivent chacune des étapes requises.

Modèle de tâches de travail

Un modèle de tâche de travail est un fichier utilisé par Ground Truth pour personnaliser l'interface utilisateur (UI) de travail. Vous pouvez créer un modèle de tâche de travail à l'aide des langages HTML JavaScript, CSS, Liquid et Crowd HTML Elements. Le liquide est utilisé pour automatiser le modèle. Les éléments HTML participatifs sont utilisés pour inclure des outils d'annotation courants et fournir la logique de soumission à Ground Truth.

Consultez les rubriques suivantes pour apprendre à créer un modèle de tâche employé. Vous pouvez consulter un référentiel d'exemples de modèles de tâches de travail de Ground Truth sur GitHub.

Utilisation du modèle de tâches du travailleur de base dans la console SageMaker AI

Vous pouvez utiliser un éditeur de modèles dans la console Ground Truth pour commencer à créer un modèle. Cet éditeur inclut un certain nombre de modèles de base préconçus. Il prend en charge le remplissage automatique pour le code HTML et le code Crowd HTML Element.

Utilisez la section suivante pour savoir comment visualiser un modèle développé localement dans la console.

Visualisation locale des modèles de tâches de vos employés

Vous devez utiliser la console pour tester la manière dont votre modèle traite les données entrantes. Pour tester l'apparence du code HTML et des éléments personnalisés de votre modèle, vous pouvez utiliser votre navigateur.

L'exemple d'extrait de code suivant charge le code nécessaire pour afficher les éléments HTML personnalisés. Utilisez cela si vous voulez développer l'apparence de votre modèle dans votre éditeur préféré plutôt que dans la console.

<script src="https://assets.crowd.aws/crowd-html-elements.js"></script>

Création d'un exemple de tâche HTML simple

Maintenant que vous disposez du modèle de tâches de travail de base, vous pouvez utiliser cette rubrique pour créer un modèle de tâche HTML simple.

Voici un exemple d'entrée provenant d'un fichier manifeste d'entrée.

{
  "source": "This train is really late.",
  "labels": [ "angry" , "sad", "happy" , "inconclusive" ],
  "header": "What emotion is the speaker feeling?"
}

Dans le modèle de tâche HTML, nous devons mapper les variables du fichier manifeste d'entrée au modèle. La variable de l'exemple de manifeste d'entrée serait mappée à l'aide de la syntaxe suivante task.input.sourcetask.input.labels, ettask.input.header.

Voici un exemple simple de modèle de tâche de travail HTML pour l'analyse de tweets. Toutes les tâches commencent et se terminent par les éléments <crowd-form> </crowd-form>. Comme les éléments HTML <form> standard, tout votre code de formulaire doit figurer entre ces éléments. Ground Truth génère les tâches des travailleurs directement à partir du contexte spécifié dans le modèle, sauf si vous implémentez un Lambda préalable à l'annotation. L'taskInputobjet renvoyé par Ground Truth ou Lambda de pré-annotation est l'task.inputobjet de vos modèles.

Pour une simple tâche d'analyse de tweets , utilisez l'élément <crowd-classifier>. Il exige les attributs suivants :

L'<crowd-classifier>élément nécessite au moins les trois éléments enfants suivants.

Une version simple de cet outil ressemblerait à ce qui suit. La variable {{ task.input.source }} est ce qui spécifie les données source de votre fichier manifeste d'entrée. {{ task.input.labels | to_json }}Voici un exemple de filtre variable pour transformer le tableau en une représentation JSON. L'categoriesattribut doit être JSON.

<script src="https://assets.crowd.aws/crowd-html-elements.js"></script>
<crowd-form>
  <crowd-classifier
    name="tweetFeeling"
    categories="='{{ task.input.labels | to_json }}'"
    header="{{ task.input.header }}'"
  >
     <classification-target>
       {{ task.input.source }}
     </classification-target>

    <full-instructions header="Sentiment Analysis Instructions">
      Try to determine the sentiment the author
      of the tweet is trying to express.
      If none seem to match, choose "cannot determine."
    </full-instructions>

    <short-instructions>
      Pick the term that best describes the sentiment of the tweet.
    </short-instructions>

  </crowd-classifier>
</crowd-form>

Vous pouvez copier et coller le code dans l'éditeur du flux de travail de création de tâches d'étiquetage de Ground Truth pour prévisualiser l'outil, ou essayer une démonstration de ce code sur CodePen.

Données d'entrée, actifs externes et modèle de tâches

Les sections suivantes décrivent l'utilisation d'actifs externes, les exigences relatives au format des données d'entrée et les circonstances dans lesquelles il convient d'envisager d'utiliser des fonctions Lambda avant l'annotation.

Exigences relatives au format des données d'entrée

Lorsque vous créez un fichier manifeste d'entrée à utiliser dans votre tâche d'étiquetage Ground Truth personnalisée, vous devez stocker les données dans Amazon S3. Les fichiers manifestes d'entrée doivent également être enregistrés dans le même fichier que celui Région AWS dans lequel votre tâche d'étiquetage Ground Truth personnalisée doit être exécutée. En outre, il peut être stocké dans n'importe quel compartiment Amazon S3 accessible au rôle de service IAM que vous utilisez pour exécuter votre tâche d'étiquetage personnalisée dans Ground Truth.

Les fichiers manifestes d'entrée doivent utiliser le format JSON ou lignes JSON délimitées par de nouvelles lignes. Chaque ligne est délimitée par un saut de ligne standard, \n ou\r\n. Chaque ligne doit également être un objet JSON valide.

En outre, chaque objet JSON du fichier manifeste doit contenir l'une des clés suivantes : source-ref ousource. La valeur des clés est interprétée comme suit :

Pour en savoir plus sur le formatage de vos fichiers manifestes d'entrée, consultezFichiers manifestes d'entrée.

Fonction Lambda de pré-annotation

Vous pouvez éventuellement spécifier une fonction Lambda de pré-annotation pour gérer la manière dont les données de votre fichier manifeste d'entrée sont traitées avant l'étiquetage. Si vous avez spécifié la paire isHumanAnnotationRequired clé-valeur, vous devez utiliser une fonction Lambda de pré-annotation. Lorsque Ground Truth envoie à la fonction Lambda de pré-annotation une requête au format JSON, elle utilise les schémas suivants.

{
  "version": "2018-10-16",
  "labelingJobArn": arn:aws:lambda:us-west-2:555555555555:function:my-function
  "dataObject" : {
    "source-ref": s3://input-data-bucket/data-object-file-name
  }
}

{
      "version": "2018-10-16",
      "labelingJobArn" : arn:aws:lambda:us-west-2:555555555555:function:my-function
      "dataObject" : {
        "source": Sue purchased 10 shares of the stock on April 10th, 2020
      }
    }

Voici la réponse attendue de la fonction Lambda lorsqu'elle isHumanAnnotationRequired est utilisée.

{
  "taskInput": {
    "source": "This train is really late.",
    "labels": [ "angry" , "sad" , "happy" , "inconclusive" ],
    "header": "What emotion is the speaker feeling?"
  },
  "isHumanAnnotationRequired": False
}

Utilisation de ressources externes

Les modèles personnalisés Amazon SageMaker Ground Truth permettent d'intégrer des scripts externes et des feuilles de style. Par exemple, le bloc de code suivant montre comment ajouter une feuille de style située dans https://www.example.com/my-enhancement-styles.css à votre modèle.

<script src="https://www.example.com/my-enhancment-script.js"></script>
<link rel="stylesheet" type="text/css" href="https://www.example.com/my-enhancement-styles.css">

Si vous rencontrez des erreurs, veillez à ce que votre serveur d'origine envoie le type MIME et les en-têtes d'encodage corrects avec les ressources.

Par exemple, types d'encodage et MIME pour les scripts distants : application/javascript;CHARSET=UTF-8.

Type d'encodage et MIME pour les feuilles de style distantes : text/css;CHARSET=UTF-8.

Les données de sortie et votre modèle de tâche

Les sections suivantes décrivent les données de sortie d'une tâche d'étiquetage personnalisée et indiquent dans quels cas envisager d'utiliser une fonction Lambda post-annotation.

Données de sortie

Lorsque votre tâche d'étiquetage personnalisée est terminée, les données sont enregistrées dans le compartiment Amazon S3 spécifié lors de la création de la tâche d'étiquetage. Les données sont enregistrées dans un output.manifest fichier.

Dans cet exemple, l'objet JSON est mis en forme afin de faciliter la lecture. Dans le fichier de sortie proprement dit, l'objet JSON se trouve sur une seule ligne.

{
  "source" : "This train is really late.",
  "labelAttributeName" : {},
  "labelAttributeName-metadata": { # These key values pairs are added by Ground Truth
    "job_name": "test-labeling-job",
    "type": "groundTruth/custom",
    "human-annotated": "yes",
    "creation_date": "2021-03-08T23:06:49.111000",
    "worker-response-ref": "s3://amzn-s3-demo-bucket/test-labeling-job/annotations/worker-response/iteration-1/0/2021-03-08_23:06:49.json"
  }
}

Utiliser une Lambda post-annotation pour consolider les résultats de vos employés

Par défaut, Ground Truth enregistre les réponses des employés non traitées dans Amazon S3. Pour avoir un contrôle plus précis sur le traitement des réponses, vous pouvez spécifier une fonction Lambda post-annotation. Par exemple, une fonction Lambda post-annotation peut être utilisée pour consolider les annotations si plusieurs travailleurs ont étiqueté le même objet de données. Pour en savoir plus sur la création de fonctions Lambda après annotation, consultez. Lambda de post-annotation

Si vous souhaitez utiliser une fonction Lambda post-annotation, elle doit être spécifiée dans AnnotationConsolidationConfigCreateLabelingJoble cadre d'une demande.

Pour en savoir plus sur le fonctionnement de la consolidation des annotations, consultezConsolidation des notes.