Rastreamento de objetos de nuvem de pontos 3D - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Rastreamento de objetos de nuvem de pontos 3D

Use esse tipo de tarefa quando quiser que os operadores adicionem e ajustem cuboides 3D em torno de objetos para rastrear o movimento deles em quadros da nuvem de pontos 3D. Por exemplo, é possível usar esse tipo de tarefa para pedir aos operadores que rastreiem a movimentação de veículos em vários quadros da nuvem de pontos.

Para esse tipo de tarefa, o objeto de dados que os operadores rotulam é uma sequência de quadros da nuvem de pontos. Uma sequência é definida como uma série temporal de quadros de nuvem de pontos. O Ground Truth renderiza uma série de visualizações da nuvem de pontos 3D usando uma sequência fornecida e os operadores podem alternar entre esses quadros da nuvem de pontos 3D na interface de tarefas do operador.

O Ground Truth fornece aos operadores ferramentas para anotar objetos com nove graus de liberdade: (x, y, z, rx, ry, rz, l, w, h) em três dimensões tanto em cenas 3D quanto em visualizações laterais projetadas (superior, lateral e traseira). Quando um operador desenha um cuboide em torno de um objeto, esse cuboide recebe um ID exclusivo, por exemplo, Car:1 para um carro na sequência e Car:2 para outro. Os operadores usam esse ID para rotular o mesmo objeto em vários quadros.

Também é possível fornecer dados da câmera para dar aos operadores mais informações visuais sobre cenas no quadro e para ajudar os operadores a desenhar cuboides 3D em torno de objetos. Quando um operador adiciona um cuboide 3D para identificar um objeto na imagem 2D ou na nuvem de pontos 3D, e o cuboide aparece na outra visualização.

É possível ajustar as anotações criadas em um trabalho de rotulagem de detecção de objetos da nuvem de pontos 3D usando o tipo de tarefa de ajuste de rastreamento de objetos da nuvem de pontos 3D.

Se você for um novo usuário da modalidade de rotulagem de nuvem de pontos 3D do Ground Truth, recomendamos que revise Visão geral dos trabalhos de rotulagem de nuvem de pontos 3D. Essa modalidade de rotulagem é diferente de outros tipos de tarefas do Ground Truth, e esta página fornece uma visão geral dos detalhes importantes dos quais você deve estar ciente ao criar um trabalho de rotulagem de nuvem de pontos 3D.

Visualizar a interface de tarefas do operador

O Ground Truth fornece aos operadores um portal da web e ferramentas para concluir as tarefas de anotação de rastreamento de objetos da nuvem de pontos 3D. Ao criar o trabalho de rotulagem, você fornece o Amazon Resource Name (ARN) para uma interface de usuário pré-criada do Ground Truth no HumanTaskUiArn parâmetro. Quando você cria um trabalho de rotulagem usando esse tipo de tarefa no console, essa interface do usuário é usada automaticamente. É possível visualizar e interagir com a interface do usuário do operador ao criar um trabalho de rotulagem no console. Se você for um usuário novo, é recomendável criar um trabalho de rotulagem usando o console para garantir que os atributos de rótulo, os quadros de nuvem de ponto e, se aplicável, as imagens apareçam conforme o esperado.

A seguir está uma interface GIF de tarefas do trabalhador de rastreamento de objetos da nuvem de pontos 3D e demonstra como o trabalhador pode navegar pelos quadros da nuvem de pontos na sequência. As ferramentas de anotação fazem parte da interface de tarefas do operador. Eles não estão disponíveis para a interface de visualização.

Gif mostrando como o trabalhador pode navegar pelos quadros da nuvem de pontos na sequência.

Uma vez que os operadores adicionam um único cuboide, ele é replicado em todos os quadros da sequência com o mesmo ID. Quando os operadores ajustam o cuboide em outro quadro, o Ground Truth interpola o movimento desse objeto e ajusta todos os cuboides entre os quadros ajustados manualmente. O seguinte GIF demonstra esse recurso de interpolação. Na barra de navegação na parte inferior esquerda, as áreas vermelhas indicam quadros ajustados manualmente.

Gif mostrando como a localização de um cubóide é inferida nos quadros intermediários.

Se você fornecer dados de câmera para fusão de sensores, as imagens serão combinadas com cenas em quadros da nuvem de pontos. Essas imagens aparecem no portal do trabalhador, conforme mostrado a seguirGIF.

O operador pode navegar na cena 3D usando o teclado e o mouse. Ele pode:

  • Clicar duas vezes em objetos específicos na nuvem de pontos para ampliá-los.

  • Usar o botão de deslocação do mouse ou o trackpad para ampliar e reduzir a nuvem de pontos.

  • Usar as teclas de seta do teclado e as teclas Q, E, A e D para mover para cima, para baixo, para a esquerda e para a direita. Usar as teclas W e S do teclado para ampliar e diminuir o zoom.

Quando um operador coloca um cuboide na cena 3D, uma visão lateral aparecerá com as três visualizações laterais projetadas: superior, lateral e traseira. Essas visualizações laterais mostram pontos dentro e ao redor do cuboide posicionado e ajudam os operadores a refinar os limites de cuboides nessa área. Os operadores podem ampliar e reduzir o zoom de cada uma dessas visualizações laterais usando o mouse.

O vídeo a seguir demonstra movimentos em torno da nuvem de pontos 3D e na visualização lateral.

GIF mostrando movimentos ao redor da nuvem de pontos 3D mostrando uma cena de rua.

Atributos e opções de visualização adicionais estão disponíveis. Consulte a página de instruções do operador para obter uma visão geral abrangente da interface do usuário do operador.

Ferramentas do operador

Os operadores podem navegar pela nuvem de pontos 3D, ampliando e diminuindo o zoom e movendo-se em todas as direções ao redor da nuvem usando o mouse e os atalhos do teclado. Se os operadores clicarem em um ponto na nuvem de pontos, a interface do usuário será automaticamente ampliada nessa área. Os operadores podem usar várias ferramentas para desenhar um cuboide 3D em torno de objetos. Para obter mais informações, consulte Ferramentas de rotulagem auxiliares.

Depois que os operadores colocam um cuboide 3D na nuvem de pontos, eles podem ajustar esses cuboides para se encaixarem firmemente em torno de carros usando uma variedade de visualizações: diretamente no cuboide 3D, em uma visão lateral com três perspectivas ampliadas da nuvem de pontos ao redor da caixa e, se você incluir imagens para fusão de sensores, diretamente na imagem 2D.

Opções de visualização que permitem aos operadores ocultar ou visualizar facilmente o texto do rótulo, uma malha de solo e atributos de pontos adicionais. Os operadores também podem escolher entre perspectivas e projeções ortogonais.

Ferramentas de rotulagem auxiliares

O Ground Truth ajuda os operadores a anotar nuvens de pontos 3D com mais rapidez e precisão usando ferramentas de rotulagem auxiliares de UX, machine learning e visão computacional para tarefas de rastreamento de objetos da nuvem de pontos 3D. As seguintes ferramentas de rotulagem auxiliares estão disponíveis para este tipo de tarefa:

  • Preenchimento automático de rótulos – quando um operador adiciona um cuboide a um quadro, um cuboide com as mesmas dimensões e orientação é adicionado automaticamente a todos os quadros na sequência.

  • Interpolação de rótulos – depois que um operador rotula um único objeto em dois quadros, o Ground Truth usa essas anotações para interpolar o movimento desse objeto entre esses dois quadros. A interpolação de etiquetas pode ser ativada e desativada.

  • Gerenciamento de rótulos e atributos em massa — os operadores podem adicionar, excluir e renomear anotações, atributos de categorias de rótulos e atributos de quadro em massa.

    • Os operadores podem excluir manualmente as anotações de determinado objeto antes ou depois de um quadro. Por exemplo, um operador poderá excluir todos os rótulos de um objeto após o quadro 10 se esse objeto não estiver mais localizado na cena depois desse quadro.

    • Se um operador acidentalmente excluir em massa todas as anotações de um objeto, ele poderá adicioná-las novamente. Por exemplo, se um operador excluir todas as anotações de um objeto antes do quadro 100, ele poderá adicioná-las em massa a esses quadros.

    • Os operadores podem renomear um rótulo em um quadro e todos os cuboides 3D atribuídos a esse rótulo serão atualizados com o novo nome em todos os quadros.

    • Os trabalhadores podem usar a edição em massa para adicionar ou editar atributos de categoria de rótulo e atributos de quadro em vários quadros.

  • Encaixe – os operadores podem adicionar um cuboide em torno de um objeto e usar um atalho de teclado ou uma opção de menu para que a ferramenta de ajuste automático do Ground Truth encaixe firmemente o cuboide ao redor dos limites do objeto.

  • Ajuste ao solo – depois que um operador adiciona um cuboide à cena 3D, o operador pode encaixar automaticamente o cuboide no solo. Por exemplo, o operador pode usar esse atributo para encaixar um cuboide na estrada ou na calçada na cena.

  • Etiquetagem de visualização múltipla – depois que um operador adiciona um cuboide 3D à cena 3D, um painel lateral exibe perspectivas frontal e dos dois lados para ajudar o operador a ajustar o cuboide firmemente ao redor do objeto. Os operadores podem anotar a nuvem de pontos 3D, o painel lateral e os ajustes aparecerão nas outras visualizações em tempo real.

  • Fusão do sensor – se você fornecer dados para fusão do sensor, os operadores podem ajustar anotações nas cenas 3D e em imagens 2D, e as anotações serão projetadas na outra visualização em tempo real.

  • Mesclagem automática de cuboides – os operadores poderão mesclar automaticamente dois cuboides em todos os quadros se determinarem que cuboides com rótulos diferentes representam realmente um único objeto.

  • Opções de visualização – permite que os operadores ocultem ou visualizem facilmente o texto de rótulo, a malha de solo e os atributos de ponto adicionais, como cor ou intensidade. Os operadores também podem escolher entre perspectivas e projeções ortogonais.

Criar um trabalho de rotulagem de rastreamento de objetos da nuvem de pontos 3D

Você pode criar um trabalho de rotulagem de nuvem de pontos 3D usando o SageMaker console ou API a operação, CreateLabelingJob. Para criar um trabalho de rotulagem para esse tipo de tarefa, você precisa do seguinte:

Além disso, verifique se você revisou e atendeu a Atribua IAM permissões para usar o Ground Truth.

Para saber como criar um trabalho de etiquetagem usando o console ou umAPI, consulte as seções a seguir.

Criar um Labeling Job (API)

Esta seção aborda os detalhes que você precisa saber ao criar uma tarefa de etiquetagem usando a SageMaker API operaçãoCreateLabelingJob. Isso API define essa operação para todos AWS SDKs. Para ver uma lista de idiomas específicos com SDKs suporte para essa operação, consulte a seção Consulte também do. CreateLabelingJob

Criar um trabalho de rotulagem (API) fornece uma visão geral da operação CreateLabelingJob. Siga estas instruções e faça o seguinte enquanto configura a solicitação:

  • Você deve inserir um ARN formulárioHumanTaskUiArn. Usar arn:aws:sagemaker:<region>:394669845002:human-task-ui/PointCloudObjectTracking. Substitua <region> pela região AWS na qual você está criando o trabalho de rotulagem.

    Não deve haver uma entrada para o parâmetro UiTemplateS3Uri.

  • O LabelAttributeName deve terminar em -ref. Por exemplo, ot-labels-ref.

  • O arquivo de manifesto de entrada deve ser um arquivo de manifesto de sequência de quadros da nuvem de pontos. Para obter mais informações, consulte Criar um manifesto de entrada de sequência da nuvem de pontos.

  • Especifique os seus rótulos, atributos de categoria de rótulo e de quadro e as instruções do operador em um arquivo de configuração da categoria de rótulo. Para obter mais informações, consulte Criar um arquivo de configuração de categoria de rotulagem com atributos de categoria e quadro de rótulo para saber como criar esse arquivo.

  • Você precisa fornecer funções Lambda predefinidas ARNs para pré-anotação e pós-anotação (). ACS Eles ARNs são específicos para a AWS região que você usa para criar seu trabalho de etiquetagem.

    • Para encontrar a pré-anotação ARN Lambda, consulte. PreHumanTaskLambdaArn Use a região na qual você está criando seu trabalho de etiquetagem para encontrar a correta ARN que termina comPRE-3DPointCloudObjectTracking.

    • Para encontrar a pós-anotação ARN Lambda, consulte. AnnotationConsolidationLambdaArn Use a região na qual você está criando seu trabalho de etiquetagem para encontrar a correta ARN que termina comACS-3DPointCloudObjectTracking.

  • O número de workers especificado em NumberOfHumanWorkersPerDataObject deve ser 1.

  • A rotulagem automatizada de dados não é compatível com trabalhos de rotulagem de nuvem de pontos 3D. Você não deve especificar valores para parâmetros em LabelingJobAlgorithmsConfig.

  • Os trabalhos de rotulagem de rastreamento de objetos da nuvem de pontos 3D podem levar várias horas para serem concluídos. É possível especificar um limite de tempo mais longo para esses trabalhos de rotulagem em TaskTimeLimitInSeconds (até 7 dias ou 604.800 segundos).

Criar um trabalho de rotulagem (console)

Você pode seguir as instruções Criar um trabalho de rotulagem (console) para aprender como criar uma tarefa de etiquetagem de rastreamento de objetos em nuvem de pontos 3D no SageMaker console. Enquanto estiver criando o trabalho de rotulagem, esteja ciente do seguinte:

  • O arquivo de manifesto de entrada deve ser um arquivo de manifesto de sequência. Para obter mais informações, consulte Criar um manifesto de entrada de sequência da nuvem de pontos.

  • Se preferir, você poderá fornecer atributos da categoria de rótulo. Os operadores podem atribuir um ou mais desses atributos a anotações para fornecer mais informações sobre esse objeto. Por exemplo, você pode querer usar o atributo obstruído para que os operadores identifiquem quando um objeto está parcialmente obstruído.

  • A rotulagem automatizada de dados e a consolidação de anotações não são compatíveis com tarefas de rotulagem de nuvem de pontos 3D.

  • Os trabalhos de rotulagem de rastreamento de objetos da nuvem de pontos 3D podem levar várias horas para serem concluídos. É possível especificar um limite de tempo mais longo para esses trabalhos de rotulagem ao selecionar a equipe de trabalho (até 7 dias ou 604800 segundos).

Criar um trabalho de rotulagem de ajuste ou verificação de rastreamento de objetos da nuvem de pontos 3D

Você pode criar um trabalho de rotulagem de ajuste e verificação usando o console Ground Truth ou CreateLabelingJobAPI. Para saber mais sobre trabalhos de rotulagem de ajuste e verificação e como criar um, consulte Verificar e ajustar rótulos.

Quando você cria um trabalho de rotulagem de ajuste, seus dados de entrada no trabalho de rotulagem podem incluir rótulos e medidas de guinada, inclinação e rotação de um trabalho de rotulagem anterior ou de uma fonte externa. No trabalho de ajuste, o tom e a rotação serão visualizados na interface do usuário do trabalhador, mas não podem ser modificados. A guinada é ajustável.

O Ground Truth usa ângulos de Tait-Bryan com as seguintes rotações intrínsecas para visualizar a guinada, a inclinação e a rotação na interface do usuário do operador. Primeiro, a rotação é aplicada ao veículo de acordo com o eixo z (guinada). Em seguida, o veículo em questão é girado de acordo com o eixo y intrínseco (inclinação). Em seguida, o veículo em questão é girado de acordo com o eixo x intrínseco (inclinação).

Formato dos dados de saída

Quando você criar um trabalho de rotulagem de rastreamento de objetos de nuvem de pontos 3D, as tarefas são enviadas aos operadores. Quando esses operadores concluem suas tarefas, suas anotações são gravadas no bucket do Amazon S3 especificado durante a criação do trabalho de rotulagem. O formato dos dados de saída determina o que você vê em seu bucket do Amazon S3 quando o status do seu trabalho de rotulagem (LabelingJobStatus) é. Completed

Se você for um usuário novo do , consulte Dados de saída para saber mais sobre o formato dos dados de saída do Ground Truth. Para saber mais sobre o formato dos dados de saída de rastreamento de objeto de nuvem de pontos 3D, consulte Saídas do rastreamento de objetos de nuvem de pontos 3D.