View a markdown version of this page

Tutorial de consultas personalizadas - Amazon Textract
Pré-requisitosCrie um adaptadorCriação do conjunto de dadosAnotação e verificaçãoTreinamentoAvaliação do desempenho do adaptadorMelhorando um adaptadorInferênciaGerenciamento de adaptadores

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Tutorial de consultas personalizadas

Este tutorial mostra como criar, treinar, avaliar, usar e gerenciar adaptadores.

Com os adaptadores, você pode melhorar a precisão das operações da API Amazon Textract, personalizando o comportamento do modelo para atender às suas próprias necessidades e casos de uso. Depois de criar um adaptador com este tutorial, você pode usá-lo ao analisar seus próprios documentos com a operação da AnalyzeDocumentAPI e também treinar novamente o adaptador para futuras melhorias.

Neste tutorial, você aprenderá como:

  • Crie um adaptador usando Console de gerenciamento da AWS o.

  • Crie um conjunto de dados para treinar seu adaptador.

  • Anote seus dados de treinamento.

  • Treine seu adaptador em seu conjunto de dados de treinamento.

  • Analise o desempenho do seu adaptador.

  • Treine novamente seu adaptador.

  • Use seu adaptador para análise de documentos.

  • Exclua seu adaptador.

Pré-requisitos

Antes de começar, recomendamos que você leiaCriação de adaptadores.

Você também deve configurar sua AWS conta e instalar e configurar um AWS SDK. Para obter as instruções de configuração do SDK, consulteEtapa 2: configurar o AWS CLI and AWS SDKs.

Crie um adaptador

Antes de treinar ou usar um adaptador, você deve criar um. Para criar um adaptador:

  1. Faça login no Console de gerenciamento da AWS e abra o console do Amazon Textract.

  2. No painel esquerdo, escolha Consultas personalizadas. A página inicial do Amazon Textract Custom Queries é exibida.

    Self-service interface que mostra o recurso Amazon Textract Custom Queries para melhorar a precisão da extração de informações em documentos comerciais, com ícones que descrevem seus benefícios e etapas do fluxo de trabalho, como criação de adaptadores, upload de amostras, rotulagem, modelos de treinamento e verificação de métricas de desempenho.

  3. A página inicial de consultas personalizadas mostra uma lista de todos os seus adaptadores e também há um botão para criar um adaptador. Escolha Criar adaptador para criar seu adaptador. O número de treinamentos bem-sucedidos que podem ser realizados por mês é limitado por AWS conta. Consulte Defina cotas no Amazon Textract para obter mais informações sobre limites.

    Sua lista de adaptadores está vazia com a mensagem “Sem adaptadores” e o botão “Criar adaptador”.

  4. Na página seguinte, insira o nome do adaptador, escolha se deseja atualizar automaticamente seu adaptador e, opcionalmente, adicione tags a ele. Em seguida, selecione Criar adaptador. Quando você escolhe “atualização automática”, o Amazon Textract atualiza automaticamente seu adaptador quando o recurso de consultas pré-treinado for atualizado.

Depois de criar seu adaptador, você poderá ver os detalhes desse adaptador, incluindo o nome do adaptador e a ID do adaptador. A presença desses detalhes verifica se o adaptador foi criado com sucesso.

Agora você pode criar os conjuntos de dados que serão usados para treinar e testar seu adaptador.

Criação do conjunto de dados

Nesta etapa, você cria um conjunto de dados de treinamento e um conjunto de dados de teste fazendo o upload de imagens do seu computador local ou de um bucket do Amazon S3. Para obter mais informações sobre conjuntos de dados, consulte Detectar texto Preparação de conjuntos de dados de treinamento e teste

Ao fazer o upload de imagens do seu computador local, você pode carregar até 30 imagens ao mesmo tempo. Se você tiver um grande número de imagens para carregar, considere criar os conjuntos de dados importando as imagens de um bucket do Amazon S3.

  1. Para começar a criar seu conjunto de dados, escolha seu adaptador na lista de adaptadores e, em seguida, escolha Criar conjunto de dados.

    A página Textract Custom Queries para my-test-adapter mostrando as etapas para criar conjuntos de dados, consultas, verificar documentos, treinar o adaptador, verificar métricas de desempenho e aprimorar o adaptador.

  2. Na seção Configuração do conjunto de dados, escolha Divisão manual ou Divisão automática. Com a divisão manual, você pode especificar imagens individuais como parte de seus conjuntos de dados de treinamento e teste. Se você escolher o Autosplit, ele definirá seus conjuntos de treinamento e teste automaticamente quando você carregar todas as suas imagens. A divisão manual é recomendada para pessoas que estão treinando adaptadores pela primeira vez. Por enquanto, escolha Autosplit.

    Interface mostrando opções para criar um conjunto de dados para o Amazon Textract: divisão manual para fornecer conjuntos de treinamento e teste você mesmo, ou divisão automática para permitir que o Textract se divida automaticamente em conjuntos de treinamento e teste. Importe documentos do bucket do S3 ou de arquivos locais.

  3. Na seção Detalhes do conjunto de dados de treinamento, você pode escolher Carregar documentos do seu computador ou Importar documentos do bucket do S3. Se você optar por importar seus documentos de um bucket do Amazon S3, forneça o caminho para o bucket e a pasta que contém suas imagens de treinamento. Se você carregar seus documentos diretamente do seu computador, observe que só poderá carregar 30 documentos por vez. Para fins deste tutorial, escolha Carregar documentos do seu computador.

  4. Na seção Detalhes do conjunto de dados de teste, você pode escolher Carregar documentos do seu computador ou Importar documentos do bucket do S3. Para fins deste tutorial, escolha Carregar documentos do seu computador.

  5. Escolha Criar conjunto de dados.

  6. Depois de criar o conjunto de dados, você será direcionado para uma página de detalhes do conjunto de dados. A página de detalhes do conjunto de dados mostra uma lista de todos os documentos em todo o conjunto de dados e a qual parte do conjunto de dados (treinamento ou teste) seu documento foi atribuído. Veja isso na coluna Conjunto de dados atribuído a. Você também pode ver o seguinte:

    • Nome do documento

    • Status do documento

    • Número de páginas no documento

    • Tipo de documento

    • Tamanho do documento

    • Se o documento fizer parte do conjunto de treinamento ou do conjunto de testes

  7. Selecione Adicionar documentos ao conjunto de dados e adicione pelo menos cinco documentos aos seus conjuntos de dados de treinamento e teste. Se você selecionou a divisão automática anteriormente, poderá adicionar todos os documentos de uma só vez.

  8. Se você quiser adicionar mais documentos ao seu conjunto de dados, use o menu Adicionar documentos para fazer isso.

Antes de começar a treinar seu adaptador, você precisa anotar seus documentos de treinamento com Consultas. Isso é necessário para criar as entradas “annotations-ref” do seu arquivo de manifesto. Depois de adicionar todos os seus documentos ao conjunto de treinamento ou teste, você pode iniciar o processo de anotação.

Anotação e verificação

Nesta etapa, você atribui consultas e rótulos a cada documento que você enviou para seus conjuntos de dados de treinamento e teste. Você vincula uma consulta às respostas relevantes em uma página do documento com a ferramenta de Console de gerenciamento da AWS anotação.

Para atribuir consultas e respostas aos seus documentos:

  1. Selecione Criar consultas na página inicial do adaptador.

    Para fazer anotações automáticas em documentos, crie consultas para uso pelo modelo pré-treinado do Textract selecionando o botão “Criar consultas”.

  2. Adicione uma consulta inserindo-a na caixa de texto.

    Interface para criar consultas no Amazon Textract, com uma caixa de texto para “Especificar consultas que o Textract pode usar para extrair as informações de que você precisa”. O exemplo de consulta mostrado é “Qual é o valor do cheque?”

  3. Para adicionar mais consultas, escolha Adicionar nova consulta. As consultas podem ter uma resposta de “texto bruto” ou uma resposta “binária -”. Yes/No Para criar uma consulta com uma resposta binária, use a configuração avançada.

    Interface para criar consultas de extração de texto em arquivos de documentos. Permite especificar tipos de resposta de texto bruto ou binário (yes/no) para cada prompt de consulta. A interface tem campos para inserir o texto da consulta, selecionar o tipo de resposta e adicionar novas consultas.

  4. Depois de criar suas consultas, você deve atribuir etiquetas aos seus documentos. Para definir etiquetas para seus documentos, selecione Auto-labelingou Etiquetagem manual. Auto-labeling é recomendado para você treinar o adaptador pela primeira vez. Selecione a Auto-labellingopção e, em seguida, escolha Iniciar rotulagem automática.

    Auto-labeling opção selecionada com o selo Recomendado e o botão Iniciar rotulagem automática.

  5. O processo de etiquetagem automática levará algum tempo para ser concluído. Quando estiver pronto, você será notificado de que “agora Auto-labeling está concluído”. Depois que o processo de etiquetagem estiver concluído, você deverá verificar a precisão da etiquetagem. Selecione Verificar documentos no painel de detalhes do adaptador na página Detalhes e, em seguida, escolha Iniciar revisão na página Conjunto de dados.

    Visão geral da divisão do conjunto de dados mostrando 16 documentos no total, com 10 no conjunto de treinamento e 6 no conjunto de teste. Não há arquivos inválidos. O status indica que o conjunto de dados está pronto para análise.

  6. Na ferramenta de anotação, você pode selecionar documentos individuais e visualizar páginas individuais dentro desses documentos. Na seção “Revisar respostas”, selecione uma consulta que foi atribuída à sua página do documento. Se a resposta à consulta estiver incorreta, você poderá editar a resposta clicando no botão Editar da consulta.

    Revise a tela de respostas mostrando o exemplo do nome do cliente John Doe e a solicitação para inserir o tipo de amortização. Inclui os botões Aplicar e Cancelar.

    Para consultas com Yes/No respostas, selecione Sim, Não ou Vazio. Em seguida, escolha Aplicar.

    Ao editar o OCR da etiqueta atribuída a uma consulta, escolha a resposta fornecida e, em seguida, desenhe uma caixa delimitadora ao redor de parte da imagem do documento. Para fazer isso, use a tecla de atalho “B” ou a ferramenta de caixa delimitadora na barra de ferramentas na parte inferior da ferramenta de anotação. Em seguida, escolha Aplicar.

    Se uma consulta precisar ter mais de um elemento de resposta (resposta), você poderá adicionar outras respostas. Para fazer isso, selecione a consulta e escolha Adicionar uma resposta. Em seguida, você será solicitado a desenhar uma caixa delimitadora na área do documento que contém a resposta. Confirme se a etiqueta da caixa delimitadora está correta.

    Para adicionar uma nova consulta à página do documento, escolha Adicionar consulta. Se você adicionar uma consulta, deverá especificar a consulta que deseja adicionar e, em seguida, desenhar uma caixa delimitadora para o rótulo da consulta.

    Ao terminar, escolha Enviar e Avançar para prosseguir para o próximo documento e para o próximo conjunto de consultas e respostas. Repita até revisar todas as suas perguntas e respostas.

    Depois de analisar e avaliar todas as suas consultas e respostas, selecione Enviar e fechar.

Treinamento

Depois de adicionar todos os seus documentos ao conjunto de treinamento ou ao conjunto de testes e analisar as respostas geradas para suas consultas, você pode treinar o adaptador.

Visão geral do conjunto de dados do adaptador Amazon Textract mostrando 16 documentos no total, 10 no conjunto de treinamento, 6 no conjunto de testes, sem arquivos inválidos. O status do conjunto de dados é a revisão da anotação concluída.

Para treinar o adaptador:

  1. Comece clicando em Adaptador de treinamento na página de gerenciamento do conjunto de dados.

    Notificação indicando que você tem documentos suficientes em seu conjunto de dados para treinar um adaptador, com o botão “Treinar adaptador”.

  2. Ao iniciar o processo de treinamento, você pode especificar um bucket do Amazon S3 que conterá a saída do seu trabalho de treinamento do adaptador. Se você especificar uma localização de bucket do Amazon S3 que ainda não existe, o caminho do bucket será criado para você. Você também pode adicionar tags ao seu adaptador para rastreá-lo e personalizar suas configurações de criptografia. Personalize o treinamento do adaptador para atender às suas necessidades e, em seguida, escolha Adaptador de treinamento.

  3. Na página seguinte, escolha Adaptador de treinamento para confirmar que você deseja iniciar o processo de treinamento. Isso criará sua primeira versão do seu adaptador.

Após o início do processo de treinamento, você pode monitorar o status do processo de treinamento na página inicial do Adaptador.

Você será notificado quando o processo de treinamento for concluído. Em seguida, você pode avaliar o desempenho do adaptador inspecionando as métricas.

Avaliação do desempenho do adaptador

Para avaliar o desempenho do modelo, use o painel de navegação esquerdo para selecionar a versão do adaptador a ser avaliada.

Métricas de desempenho do adaptador mostrando pontuação na F1, precisão e recall, todas em 94,4%.

Ao examinar as métricas do seu adaptador, você pode determinar o desempenho do adaptador nos documentos do seu conjunto de dados e nas consultas que você definiu. Você pode ver a pontuação, a precisão e o recall de F1 do seu adaptador em diferentes elementos dos dados de treinamento: consultas, documentos e páginas. Para alternar entre o desempenho desses elementos, escolha as diferentes guias abaixo do painel de exibição de métricas.

Você também pode visualizar as métricas da linha de base a qualquer momento, alternando a opção Alternar para métricas da linha de base.

O resumo do desempenho da versão do adaptador também contém algumas dicas sobre como melhorar o desempenho do adaptador. Você pode revisar essas dicas a qualquer momento para melhorar seu adaptador. Para obter mais informações sobre como gerenciar e melhorar seu adaptador, consulteAvaliando e melhorando seus adaptadores.

Para demonstrar seu adaptador e ver seu desempenho em um documento:

  1. Escolha Testar o adaptador.

    Experimente o botão Adaptador e o menu suspenso Ver. 1.

  2. Na página Experimente o adaptador, você pode escolher um documento para analisar com seu adaptador. Selecione o botão Escolher documento e navegue até a localização do documento no seu dispositivo. Como alternativa, arraste e solte o documento no painel Carregar um documento.

Depois de fazer o upload de um documento, a página Try Adapter será atualizada para exibir os resultados da análise do adaptador, incluindo consultas, respostas de consultas e níveis de confiança. Se estiver satisfeito com o desempenho do seu adaptador, você pode prosseguir com a inferência, usando seu adaptador em uma chamada para AnalyzeDocumentou StartDocumentAnalysis. Caso contrário, você pode melhorar o desempenho do adaptador treinando novamente o adaptador com documentos adicionais.

Melhorando um adaptador

Para melhorar o desempenho do seu adaptador:

  1. Escolha Modificar o conjunto de dados na página de detalhes do adaptador.

    Diagrama de fluxo de trabalho mostrando as etapas para criar, verificar, treinar e melhorar um conjunto de dados personalizado para extração de texto: 1. Crie um conjunto de dados, 2. Crie consultas, 3. Verifique os documentos, 4. Adaptador de trem, 5. Verifique as métricas de desempenho, 6. Melhore o adaptador.

  2. Na página de visão geral do conjunto de dados, selecione Adicionar documentos. Para treinar novamente seu adaptador, adicione pelo menos mais cinco documentos ao conjunto de dados de treinamento.

  3. Você é notificado de que os documentos foram adicionados ao conjunto de dados. Selecione Iniciar revisão para revisar os resultados do processo de rotulagem automática.

  4. Analise as perguntas e respostas. Depois de revisar e aprovar todas as anotações dos documentos adicionados, escolha Enviar e fechar.

  5. Na página de gerenciamento do conjunto de dados, escolha Treinar adaptador para começar a treinar seu adaptador em todos os dados do seu conjunto de dados de treinamento, incluindo os novos documentos de treinamento.

Cada trabalho de treinamento que você executa cria uma nova versão do adaptador. Anote o nome da nova versão do adaptador para ter certeza de que você está avaliando o desempenho da versão adequada do adaptador.

Inferência

Depois de criar um adaptador, você receberá uma ID para seu adaptador personalizado. Você pode fornecer essa ID à AnalyzeDocumentoperação para análise síncrona de documentos ou à StartDocumentAnalysisoperação para análise assíncrona.

Fornecer a ID do adaptador integra automaticamente o adaptador ao processo de análise e o usa para aprimorar as previsões para seus documentos. Dessa forma, você pode aproveitar os recursos do e AnalyzeDocument personalizá-lo para atender às suas necessidades.

Para ver um exemplo de como executar inferência usando seu adaptador e a operação da AnalyzeDocument API, consulteAnálise do texto do documento com o Amazon Textract.

Quando vários adaptadores precisam ser aplicados a páginas diferentes no mesmo documento, você pode especificar um ou mais adaptadores e suas respectivas versões de adaptador como parte da solicitação da API. Você pode usar o parâmetro Page para especificar em quais páginas aplicar um adaptador.

Observe o seguinte:

Isso é semelhante ao funcionamento do Page parâmetro para consultas. Observe o seguinte:

  • Se uma página não for especificada, ela será definida como ["1"] padrão.

  • Os caracteres a seguir são válidos na string de parâmetros:1 2 3 4 5 6 7 8 9 - *. Espaços em branco não são válidos.

  • Ao usar * para indicar todas as páginas, ele deve ser o único elemento na lista.

  • O Page parâmetro não se sobrepõe aos adaptadores. Uma página só pode ter um adaptador aplicado a ela.

Gerenciamento de adaptadores

As etapas a seguir são repetidas iterativamente (após o treinamento inicial do adaptador):

  • Escolha Modificar o conjunto de dados na página de detalhes do adaptador do console Amazon Textract.

  • Selecione Adicionar documentos.

  • Adicione pelo menos mais cinco documentos ao conjunto de dados de treinamento para treinar novamente seu adaptador.

  • Você é notificado de que os documentos foram adicionados ao conjunto de dados. Selecione Iniciar revisão para revisar os resultados do processo de rotulagem automática.

  • Analise as perguntas e respostas. Depois de revisar e aprovar todas as anotações dos novos documentos, selecione Adaptador de trem.

  • Aguarde até que o adaptador conclua a nova rodada de treinamento e, em seguida, verifique as métricas de desempenho da nova versão do adaptador.

Depois de treinar seu modelo até o nível de desempenho desejado, você pode usar seu adaptador para inferência em seu aplicativo.

Certifique-se de excluir as versões do adaptador que você não precisa mais. Para excluir um adaptador:

  • Acesse a página inicial de Adaptadores, selecione o adaptador e escolha Excluir.

  • Digite Excluir na caixa de texto e escolha Excluir.