Como o Amazon Bedrock Agents funciona - Amazon Bedrock
Configuração de tempo de compilaçãoProcesso de runtime

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Como o Amazon Bedrock Agents funciona

O Amazon Bedrock Agents consiste nos dois conjuntos principais de API operações a seguir para ajudar você a configurar e administrar um agente:

Configuração de tempo de compilação

Um agente consiste nos seguintes componentes:

  • Modelo de base: escolha um modelo de base (FM) que o agente invoca para interpretar a entrada do usuário e os prompts subsequentes em seu processo de orquestração. O agente também invoca o FM para gerar respostas e etapas de acompanhamento em seu processo.

  • Instruções: escreva instruções que descrevam o que o agente foi projetado para fazer. Com os prompts avançados, é possível personalizar ainda mais as instruções para o agente em cada etapa da orquestração e incluir funções do Lambda para analisar a saída de cada etapa.

  • Pelo menos um dos seguintes:

    • Grupos de ação: defina as ações que o agente deve executar para o usuário fornecendo os seguintes recursos:

      • Um dos seguintes esquemas para definir os parâmetros que o agente precisa obter do usuário (cada grupo de ação pode usar um esquema diferente):

        • Uma OpenAPI esquema para definir API as operações que o agente pode invocar para realizar suas tarefas. A ferramenta OpenAPI o esquema inclui os parâmetros que precisam ser extraídos do usuário.

        • Um esquema de detalhes da função para definir os parâmetros que o agente pode obter do usuário. Esses parâmetros podem ser usados para orquestração adicional pelo agente, ou você pode configurar como usá-los em sua própria aplicação.

      • (Opcional): uma função do Lambda com as seguintes entradas e saídas:

        • Entrada — A API operação e/ou os parâmetros identificados durante a orquestração.

        • Saída — A resposta da API invocação ou a resposta da invocação da função.

    • Bases de conhecimento: associe as bases de conhecimento a um agente. O agente consulta a base de conhecimento em busca de contexto adicional para aumentar a geração de resposta e a entrada nas etapas do processo de orquestração.

  • Modelos de prompt: eles são a base para a criação de prompts a serem fornecidos ao FM. O Amazon Bedrock Agents expõe os quatro modelos de prompt de base padrão que são usados durante o pré-processamento, a orquestração, a geração de resposta da base de conhecimento e o pós-processamento. É possível editar esses modelos de prompt de base para personalizar o comportamento do agente em cada etapa da sequência. Você também pode desativar as etapas para fins de solução de problemas ou ao concluir que uma etapa é desnecessária. Para obter mais informações, consulte Melhorar a precisão dos agentes usando modelos de prompt avançados no Amazon Bedrock.

No tempo de compilação, todos esses componentes são reunidos para construir prompts de base para o agente executar a orquestração até que a solicitação do usuário seja concluída. Com os prompts avançados, é possível modificar esses prompts de base com lógica adicional e exemplos de few shot para melhorar a precisão de cada etapa da invocação do agente. Os modelos de prompt de base contêm instruções, descrições de ações, descrições da base de conhecimento e histórico de conversas, que podem ser personalizados para modificar o agente para atender às suas necessidades. Você então prepara o agente, o que empacota todos os componentes dos agentes, incluindo configurações de segurança. A preparação do agente o coloca em um estado em que possa ser testado em runtime. A imagem a seguir mostra como as API operações de tempo de construção constroem seu agente.

Como o tempo de construção APIs constrói seu agente. Um grupo de ação consiste em um OpenAPI esquema e uma função Lambda para definir API quais operações um agente pode chamar e como o agente deve lidar com as solicitações e respostas. O agente sintetiza as informações dos modelos de prompt de base, das instruções fornecidas e de quaisquer grupos de ação e bases de conhecimento anexados para gerar prompts com o modelo que usa. Os prompts são adicionados ao armazenamento de prompts do agente.

Processo de runtime

O tempo de execução é gerenciado pelo InvokeAgentAPIoperação. Essa operação inicia a sequência do agente, que consiste nas três etapas principais a seguir.

  1. Pré-processamento: gerencia como o agente contextualiza e categoriza a entrada do usuário e pode ser usado para validar a entrada.

  2. Orquestração: interpreta a entrada do usuário, invoca grupos de ação, consulta bases de conhecimento e apresenta a saída para o usuário ou a utiliza como entrada para a orquestração contínua. A orquestração consiste nas seguintes etapas:

    1. O agente interpreta a entrada com um modelo de base e gera um racional que define a lógica para a próxima etapa a ser executada.

    2. O agente prevê qual ação em um grupo de ação deve invocar ou qual base de conhecimento deve consultar.

    3. Se o agente prevê que precisa invocar uma ação, ele envia os parâmetros, determinados a partir do prompt do usuário, para a função Lambda configurada para o grupo de ação ou retorna o controle enviando os parâmetros no InvokeAgentresposta. Se não tiver informações suficientes para invocar a ação, o agente poderá executar uma das seguintes ações:

      • Consultar uma base de conhecimento associada (Geração de respostas de bases de conhecimento) para recuperar contexto adicional e resumir os dados para aumentar a respectiva geração.

      • Solicitar novamente que o usuário reúna todos os parâmetros necessários para a ação.

    4. O agente gera uma saída, conhecida como uma observação, invocando uma ação e/ou resumindo os resultados de uma base de conhecimento. O agente usa a observação para aumentar o prompt de base, que é então interpretado com um modelo de base. O agente determina se precisa reiterar o processo de orquestração.

    5. Esse ciclo continua até que o agente retorne uma resposta ao usuário ou até que precise fornecer um prompt ao usuário para obter informações adicionais.

    Durante a orquestração, o modelo de prompt de base é aumentado com as instruções do agente, os grupos de ação e as bases de conhecimento que você adicionou ao agente. O prompt de base aumentado é usado para invocar o FM. O FM prevê as melhores etapas e trajetórias possíveis para atender à entrada do usuário. Em cada iteração da orquestração, o FM prevê a API operação a ser invocada ou a base de conhecimento a ser consultada.

  3. Pós-processamento: o agente formata a resposta final para apresentá-la ao usuário. Essa etapa é desativada por padrão.

Ao invocar o agente, é possível ativar um rastreamento em tempo de execução. Com o rastreamento, é possível rastrear o racional, as ações, as consultas e as observações do agente em cada etapa da sequência do agente. O rastreamento inclui a solicitação completa enviada ao modelo básico em cada etapa e os resultados do modelo básico, das API respostas e das consultas da base de conhecimento. É possível usar o rastreamento para compreender o raciocínio do agente em cada etapa. Para obter mais informações, consulte Rastreie o processo de step-by-step raciocínio do agente usando trace.

À medida que mais solicitações InvokeAgent são feitas na sessão do usuário com o agente, o histórico da conversa é preservado. O histórico da conversa aumenta continuamente o modelo de prompt de base da orquestração com contexto, ajudando a melhorar a precisão e a performance do agente. O seguinte diagrama mostra o processo do agente durante o runtime:

Como o agente trabalha em runtime. Depois de receber a entrada do usuário, o agente obtém prompts aumentados do armazenamento de prompts e do histórico de conversas do armazenamento de sessões. Se a etapa de pré-processamento estiver habilitada, o agente invocará o FM com o prompt de pré-processamento para validar a entrada do usuário. Na etapa de orquestração, o agente invoca o FM com o prompt de orquestração e analisa a resposta. Determina os grupos de ação e consulta as bases de conhecimento, conforme necessário, e gera uma observação que pode acionar um novo prompt de orquestração. O estágio de orquestração funciona em loop até que a observação apresente uma resposta final ao usuário.