Configurar um agente embutido em tempo de execução - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Configurar um agente embutido em tempo de execução

nota

A configuração e a invocação de um recurso de agente em linha estão na versão prévia do Amazon Bedrock e estão sujeitas a alterações.

Você pode configurar e invocar dinamicamente um agente embutido do Amazon Bedrock em tempo de execução usando a API. InvokeInlineAgent O uso de um agente em linha oferece flexibilidade para especificar os recursos do agente, como modelos básicos, instruções, grupos de ação, grades de proteção e bases de conhecimento, ao mesmo tempo em que você chama seu agente. Você não precisa predefinir os recursos do agente antes de poder usá-lo.

A seguir estão alguns dos casos de uso em que o uso de agentes em linha pode ajudar, fornecendo a flexibilidade de configurar seu agente no momento da invocação.

  • Faça experiências rápidas testando vários recursos do agente com diferentes configurações e atualizando dinamicamente as ferramentas disponíveis para seu agente sem criar agentes separados.

  • Invoque dinamicamente um agente para realizar tarefas específicas sem criar novas versões do agente ou preparar o agente.

  • Execute consultas simples ou use o interpretador de código para tarefas simples criando e invocando o agente em tempo de execução.

Modelos e regiões compatíveis

Você pode usar qualquer modelo básico suportado pelos Amazon Bedrock Agents para configurar seu agente em linha e pode invocá-lo em qualquer uma das regiões em que os Amazon Bedrock Agents são suportados. Para obter mais informações sobre os modelos e regiões suportados pelos Amazon Bedrock Agents, consulte o seguinte:

Com agentes em linha, você pode alternar entre os modelos. Recomendamos que você alterne entre os modelos que pertencem à mesma família. Alternar entre modelos que pertencem a famílias diferentes pode resultar em comportamentos inconsistentes e causar falhas.

Atualmente, a configuração e a invocação de um agente embutido não são suportadas no console do Amazon Bedrock.

Diretrizes para o uso de modelos de solicitação avançados para agentes em linha

  • Modelos básicos de solicitações — Por padrão, o Amazon Bedrock usará o modelo padrão de solicitações básicas para seu agente embutido, e as solicitações podem ser alteradas em segundo plano a qualquer momento. Isso pode tornar as respostas inconsistentes. Se você quiser respostas consistentes às suas consultas, personalize o comportamento do seu agente embutido substituindo a lógica no modelo de prompt básico padrão com suas próprias configurações. Para obter mais informações, consulte Modelos de prompt avançados.

  • Criptografia — Use customer managed key para criptografar os detalhes da sessão em repouso/armazenamento. Se uma sessão for iniciada com uma chave gerenciada pelo cliente, ela será necessária para todas as solicitações futuras feitas para a mesma sessão. Usar uma chave gerenciada pelo cliente diferente para as mesmas sessões resultará em uma exceção.

  • Compartilhamento de sessão — Se você tiver usuários com duas funções diferentes iniciando uma sessão com o mesmo SessionID, eles interagirão com sessões diferentes. Se o compartilhamento de sessão for necessário, crie uma função compartilhada para que seus usuários iniciem uma conversa.

  • Estado das sessões em linha — Os atributos dentro de InlineSessionState persistem durante a sessão. Use os atributos para fornecer contexto adicional para seu modelo e para obter solicitações rápidas.