Definição de configurações do destino - Amazon Data Firehose

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Definição de configurações do destino

Esta seção descreve as configurações que você deve definir para seu fluxo do Firehose com base no destino selecionado.

Definições de configurações de destino para o Amazon S3

Você deve especificar as configurações a seguir para usar o Amazon S3 como destino para seu fluxo do Firehose.

  • Insira valores para os seguintes campos.

    S3 bucket

    Escolha um bucket do S3 do qual você seja proprietário; os dados em streaming serão entregues nesse bucket. É possível criar um novo bucket do S3 ou escolher um já existente.

    Novo delimitador de linha

    É possível configurar seu fluxo do Firehose para adicionar um novo delimitador de linha entre os registros nos objetos que são entregues ao Amazon S3. Para fazer isso, escolha Habilitado. Para não adicionar um novo delimitador de linha entre registros nos objetos que são entregues ao Amazon S3, escolha Desabilitado. Se você planeja usar o Athena para consultar objetos do S3 com registros agregados, habilite essa opção.

    Particionamento dinâmico

    Escolha Habilitado para habilitar e configurar o particionamento dinâmico.

    Desagregação de vários registros

    Esse é o processo de analisar os registros no stream do Firehose e separá-los com base no delimitador de linha JSON válido ou no novo delimitador de linha especificado.

    Se você agregar vários eventos, registros ou registros em uma única PutRecordBatch API chamada PutRecord e, ainda poderá ativar e configurar o particionamento dinâmico. Com dados agregados, quando você ativa o particionamento dinâmico, o Amazon Data Firehose analisa os registros e procura vários objetos válidos em cada chamada. JSON API Quando o stream do Firehose é configurado com o Kinesis Data Stream como fonte, você também pode usar a agregação integrada na Kinesis Producer Library (). KPL A funcionalidade de partição de dados é executada após a desagregação dos dados. Portanto, cada registro em cada API chamada pode ser entregue para diferentes prefixos do Amazon S3. Você também pode aproveitar a integração da função do Lambda para realizar qualquer outra desagregação ou qualquer outra transformação antes da funcionalidade de particionamento de dados.

    Importante

    Se os dados estiverem agregados, o particionamento dinâmico só poderá ser aplicado após a desagregação de dados ser realizada. Portanto, se você habilitar o particionamento dinâmico para seus dados agregados, deverá escolher Habilitado para habilitar a desagregação de vários registros.

    O Firehose stream executa as seguintes etapas de processamento na seguinte ordem: desagregação KPL (protobuf) ou desagregação JSON delimitadora, processamento Lambda, particionamento de dados, conversão de formato de dados e entrega do Amazon S3.

    Tipo de desagregação de vários registros

    Se você habilitou a desagregação de vários registros, deverá especificar o método a ser usado pelo Firehose para desagregar os dados. Use o menu suspenso para escolher entre uma opção JSONou Delimitado.

    Análise em linha

    Esse é um dos mecanismos com suporte para o particionamento dinâmico dos dados vinculados ao Amazon S3. Para usar a análise em linha para fazer o particionamento dinâmico de dados, você deve especificar os parâmetros de registro de dados a serem usados como chaves de particionamento e fornecer um valor para cada chave de particionamento especificada. Escolha Habilitado para habilitar e configurar o particionamento em linha.

    Importante

    Se você especificou uma função AWS Lambda nas etapas acima para transformar seus registros de origem, poderá usar essa função para particionar dinamicamente seus dados vinculados ao S3 e ainda poderá criar suas chaves de particionamento com análise embutida. Com o particionamento dinâmico, você pode usar a análise embutida ou a função AWS Lambda para criar suas chaves de particionamento. Ou você pode usar a análise embutida e a função AWS Lambda ao mesmo tempo para criar suas chaves de particionamento.

    Chaves de particionamento dinâmico

    É possível usar os campos Chave e Valor para especificar os parâmetros de registro de dados a serem usados como chaves de particionamento dinâmico e consultas jq para gerar os valores das chaves de particionamento dinâmico. O Firehose oferece suporte somente ao jq 1.6. É possível especificar até 50 chaves de particionamento dinâmico. Você deve inserir expressões jq válidas para os valores de chave de particionamento dinâmico para configurar com êxito o particionamento dinâmico para o fluxo do Firehose.

    Prefixo de bucket do S3

    Ao habilitar e configurar o particionamento dinâmico, você deve especificar os prefixos de bucket do S3 para os quais o Amazon Data Firehose deverá entregar os dados particionados.

    Para que o particionamento dinâmico seja configurado corretamente, o número dos prefixos de bucket do S3 deve ser idêntico ao número de chaves de particionamento especificadas.

    Você pode particionar seus dados de origem com análise embutida ou com a função Lambda especificada AWS . Se você especificou uma função AWS Lambda para criar chaves de particionamento para seus dados de origem, deverá digitar manualmente o (s) valor (es) do prefixo do bucket do S3 usando o seguinte formato: "lambda:keyID”. partitionKeyFrom Se você estiver usando análise embutida para especificar as chaves de particionamento para seus dados de origem, você pode digitar manualmente os valores de visualização do bucket do S3 usando o seguinte formato: “partitionKeyFromquery:keyID” ou escolher o botão Aplicar chaves de particionamento dinâmico para usar seus pares chave/valor do particionamento dinâmico para gerar automaticamente seus prefixos de bucket do S3. Ao particionar seus dados com análise embutida ou AWS Lambda, você também pode usar os seguintes formulários de expressão no prefixo do bucket do S3:! {namespace:value}, em que o namespace pode ser Query ou Lambda. partitionKeyFrom partitionKeyFrom

    Fuso horário do bucket do S3 e do prefixo de saída de erro do S3

    Escolha um fuso horário que você deseja usar para data e hora em prefixos personalizados para objetos do Amazon S3. Por padrão, o Firehose adiciona um prefixo de hora. UTC É possível alterar o fuso horário usado nos prefixos do S3 se quiser usar um fuso horário diferente.

    Sugestões de armazenamento em buffer

    O Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

    Compactação do S3

    Escolha GZIP compressão de dados Snappy, Zip ou compatível com Hadoop, ou nenhuma compressão de dados. As compactações Snappy, Zip e Snappy compatível com Hadoop não estão disponíveis para fluxos do Firehose com o Amazon Redshift como destino.

    Formato de extensão de arquivo do S3 (opcional)

    Especifique um formato de extensão de arquivo para objetos entregues ao bucket de destino do Amazon S3. Se você habilitar esse atributo, a extensão de arquivo especificada substituirá as extensões de arquivo padrão anexadas pelos atributos de conversão de formato de dados ou compactação do S3, como .parquet ou .gz. Verifique se você configurou a extensão de arquivo correta ao usar esse atributo com a conversão de formato de dados ou a compactação do S3. A extensão do arquivo deve começar com um ponto (.) e pode conter os caracteres permitidos: 0-9a-z!-_.*' (). A extensão do arquivo não pode exceder 128 caracteres.

    Criptografia do S3

    O Firehose oferece suporte à criptografia do lado do servidor do Amazon S3 AWS Key Management Service com SSE (KMS-) para criptografar dados entregues no Amazon S3. Você pode optar por usar o tipo de criptografia padrão especificado no bucket S3 de destino ou criptografar com uma chave da lista de AWS KMS chaves que você possui. Se você criptografar os dados com AWS KMS chaves, poderá usar a chave AWS gerenciada padrão (aws/s3) ou uma chave gerenciada pelo cliente. Para obter mais informações, consulte Proteção de dados usando criptografia do lado do servidor com chaves AWS KMS gerenciadas (-). SSE KMS

Definições de configurações de destino para tabelas do Apache Iceberg

O Firehose oferece suporte ao Apache Iceberg Tables como destino em todas as regiões AWS GovCloud (US) Regions, exceto Regiões da AWSChina e Ásia-Pacífico (Malásia).

Para obter mais informações sobre as tabelas do Apache Iceberg como seu destino, consulte Entrega de dados às tabelas do Apache Iceberg com o Amazon Data Firehose.

Definições de configurações de destino para o Amazon Redshift

Esta seção descreve as configurações para usar o Amazon Redshift como destino do seu fluxo do Firehose.

Escolha um dos procedimentos a seguir dependendo de você ter um cluster provisionado pelo Amazon Redshift ou um grupo de trabalho do Amazon Redshift Sem Servidor.

Cluster provisionado do Amazon Redshift

Esta seção descreve as configurações para usar o cluster provisionado do Amazon Redshift como destino do seu fluxo do Firehose.

  • Insira valores para os seguintes campos:

    Cluster

    O cluster do Amazon Redshift no qual os dados do bucket do S3 são copiados. Configure o cluster do Amazon Redshift para que esteja acessível publicamente e desbloqueie os endereços IP do Amazon Data Firehose IP. Para obter mais informações, consulte Conceder ao Firehose acesso a um destino do Amazon Redshift .

    Autenticação

    Você pode optar por inserir o nome de usuário/senha diretamente ou recuperar o segredo AWS Secrets Manager para acessar o cluster do Amazon Redshift.

    • Nome do usuário

      Especifique um usuário do Amazon Redshift que tenha permissões para acessar o cluster do Amazon Redshift. Esse usuário deve ter a permissão INSERT do Amazon Redshift para copiar dados do bucket do S3 no cluster do Amazon Redshift.

    • Senha

      Especifique a senha do usuário com permissões para acessar o cluster.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha as credenciais para o cluster do Amazon Redshift. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager para suas credenciais do Amazon Redshift. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Database

    O banco de dados do Amazon Redshift no qual os dados são copiados.

    Tabela

    A tabela do Amazon Redshift no qual os dados são copiados.

    Columns

    (Opcional) As colunas específicas da tabela na qual os dados serão copiados. Use essa opção se o número de colunas definidas nos objetos do Amazon S3 for menor que o número de colunas na tabela do Amazon Redshift.

    Destino intermediário do S3

    O Firehose entrega os dados ao bucket do S3 primeiro e, em seguida, emite um comando COPY do Amazon Redshift para carregar os dados no cluster do Amazon Redshift. Especifique um bucket do S3 do qual você seja proprietário; os dados em streaming serão entregues nesse bucket. Crie um novo bucket do S3 ou escolha um bucket já existente do qual você seja proprietário.

    O Firehose não exclui os dados do bucket do S3 depois de carregá-los no cluster do Amazon Redshift. É possível gerenciar os dados no bucket do S3 usando uma configuração de ciclo de vida. Para obter mais informações, consulte Gerenciamento do ciclo de vida de objetos no Guia do usuário do Amazon Simple Storage Service.

    Prefixo de bucket intermediário do S3

    (Opcional) Para usar o prefixo padrão para objetos do Amazon S3, deixe esta opção em branco. O Firehose usa automaticamente um prefixo no formato de UTC hora "YYYY/MM/dd/HH" para objetos Amazon S3 entregues. É possível adicionar ao início deste prefixo. Para obter mais informações, consulte Configuração de formato de nome de objeto do Amazon S3.

    COPYopções

    Parâmetros que podem ser especificados no comando COPY do Amazon Redshift. Eles podem ser necessários para a configuração. Por exemplo, "GZIP" é necessário se a compactação de dados do Amazon S3 estiver ativada. “REGION" é necessário se seu bucket do S3 não estiver na mesma AWS região do seu cluster do Amazon Redshift. Para obter mais informações, consulte o COPYGuia do desenvolvedor do banco de dados Amazon Redshift.

    COPYcomando

    O comando COPY do Amazon Redshift. Para obter mais informações, consulte o COPYGuia do desenvolvedor do banco de dados Amazon Redshift.

    Período de novas tentativas

    Período (0 a 7.200 segundos) para o Firehose fazer nova tentativa se o comando COPY dos dados no cluster do Amazon Redshift falhar. O Firehose faz uma nova tentativa a cada 5 minutos, até que a o período de novas tentativas termine. Se você definir o período de novas tentativas como 0 (zero) segundos, o Firehose não fará novas tentativas após uma falha no comando COPY.

    Sugestões de armazenamento em buffer

    O Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

    Compactação do S3

    Escolha GZIP compressão de dados Snappy, Zip ou compatível com Hadoop, ou nenhuma compressão de dados. As compactações Snappy, Zip e Snappy compatível com Hadoop não estão disponíveis para fluxos do Firehose com o Amazon Redshift como destino.

    Formato de extensão de arquivo do S3 (opcional)

    Formato de extensão de arquivo S3 (opcional): especifique um formato de extensão de arquivo para objetos entregues ao bucket de destino do Amazon S3. Se você habilitar esse atributo, a extensão de arquivo especificada substituirá as extensões de arquivo padrão anexadas pelos atributos de conversão de formato de dados ou compactação do S3, como .parquet ou .gz. Verifique se você configurou a extensão de arquivo correta ao usar esse atributo com a conversão de formato de dados ou a compactação do S3. A extensão do arquivo deve começar com um ponto (.) e pode conter os caracteres permitidos: 0-9a-z!-_.*' (). A extensão do arquivo não pode exceder 128 caracteres.

    Criptografia do S3

    O Firehose oferece suporte à criptografia do lado do servidor do Amazon S3 AWS Key Management Service com SSE (KMS-) para criptografar dados entregues no Amazon S3. Você pode optar por usar o tipo de criptografia padrão especificado no bucket S3 de destino ou criptografar com uma chave da lista de AWS KMS chaves que você possui. Se você criptografar os dados com AWS KMS chaves, poderá usar a chave AWS gerenciada padrão (aws/s3) ou uma chave gerenciada pelo cliente. Para obter mais informações, consulte Proteção de dados usando criptografia do lado do servidor com chaves AWS KMS gerenciadas (-). SSE KMS

Definições de configurações de destino para grupo de trabalho do Amazon Redshift sem servidor

Esta seção descreve as configurações para usar o grupo de trabalho do Amazon Redshift sem servidor como destino do fluxo do Firehose.

  • Insira valores para os seguintes campos:

    Workgroup name (Nome do grupo de trabalho)

    O grupo de trabalho do Amazon Redshift Sem Servidor ou um grupo de trabalho do Amazon Redshift no qual os dados do bucket do S3 são copiados. Configure o grupo de trabalho do Amazon Redshift sem servidor para ser acessível publicamente e desbloquear os endereços IP do Firehose. Para obter mais informações, consulte a seção Conectar-se a uma instância do Amazon Redshift Sem Servidor acessível publicamente em Conectar-se ao Amazon Redshift Sem Servidor e também Conceder ao Firehose acesso a um destino do Amazon Redshift .

    Autenticação

    Você pode optar por inserir o nome de usuário/senha diretamente ou recuperar o segredo AWS Secrets Manager para acessar o grupo de trabalho Amazon Redshift Serverless.

    • Nome do usuário

      Especifique um usuário do Amazon Redshift com permissões para acessar o grupo de trabalho do Amazon Redshift sem servidor. Esse usuário deve ter a permissão INSERT do Amazon Redshift para copiar dados do bucket do S3 para o grupo de trabalho do Amazon Redshift Sem Servidor.

    • Senha

      Especifique a senha do usuário com permissões para acessar o grupo de trabalho do Amazon Redshift sem servidor.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha as credenciais do grupo de trabalho Amazon Redshift Serverless. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager para suas credenciais do Amazon Redshift. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Database

    O banco de dados do Amazon Redshift no qual os dados são copiados.

    Tabela

    A tabela do Amazon Redshift no qual os dados são copiados.

    Columns

    (Opcional) As colunas específicas da tabela na qual os dados serão copiados. Use essa opção se o número de colunas definidas nos objetos do Amazon S3 for menor que o número de colunas na tabela do Amazon Redshift.

    Destino intermediário do S3

    O Amazon Data Firehose entrega os dados ao bucket do S3 primeiro e, em seguida, emite um comando COPY do Amazon Redshift para carregar os dados no grupo de trabalho do Amazon Redshift sem servidor. Especifique um bucket do S3 do qual você seja proprietário; os dados em streaming serão entregues nesse bucket. Crie um novo bucket do S3 ou escolha um bucket já existente do qual você seja proprietário.

    O Firehose não exclui os dados do bucket do S3 depois de carregá-los no grupo de trabalho do Amazon Redshift sem servidor. É possível gerenciar os dados no bucket do S3 usando uma configuração de ciclo de vida. Para obter mais informações, consulte Gerenciamento do ciclo de vida de objetos no Guia do usuário do Amazon Simple Storage Service.

    Prefixo de bucket intermediário do S3

    (Opcional) Para usar o prefixo padrão para objetos do Amazon S3, deixe esta opção em branco. O Firehose usa automaticamente um prefixo no formato de UTC hora "YYYY/MM/dd/HH" para objetos Amazon S3 entregues. É possível adicionar ao início deste prefixo. Para obter mais informações, consulte Configuração de formato de nome de objeto do Amazon S3.

    COPYopções

    Parâmetros que podem ser especificados no comando COPY do Amazon Redshift. Eles podem ser necessários para a configuração. Por exemplo, "GZIP" é necessário se a compactação de dados do Amazon S3 estiver ativada. “REGION" é obrigatório se seu bucket do S3 não estiver na mesma AWS região do seu grupo de trabalho Amazon Redshift Serverless. Para obter mais informações, consulte o COPYGuia do desenvolvedor do banco de dados Amazon Redshift.

    COPYcomando

    O comando COPY do Amazon Redshift. Para obter mais informações, consulte o COPYGuia do desenvolvedor do banco de dados Amazon Redshift.

    Período de novas tentativas

    Período (0 a 7.200 segundos) para o Firehose fazer nova tentativa se o comando COPY dos dados no grupo de trabalho do Amazon Redshift sem servidor falhar. O Firehose faz uma nova tentativa a cada 5 minutos, até que a o período de novas tentativas termine. Se você definir o período de novas tentativas como 0 (zero) segundos, o Firehose não fará novas tentativas após uma falha no comando COPY.

    Sugestões de armazenamento em buffer

    O Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

    Compactação do S3

    Escolha GZIP compressão de dados Snappy, Zip ou compatível com Hadoop, ou nenhuma compressão de dados. As compactações Snappy, Zip e Snappy compatível com Hadoop não estão disponíveis para fluxos do Firehose com o Amazon Redshift como destino.

    Formato de extensão de arquivo do S3 (opcional)

    Formato de extensão de arquivo S3 (opcional): especifique um formato de extensão de arquivo para objetos entregues ao bucket de destino do Amazon S3. Se você habilitar esse atributo, a extensão de arquivo especificada substituirá as extensões de arquivo padrão anexadas pelos atributos de conversão de formato de dados ou compactação do S3, como .parquet ou .gz. Verifique se você configurou a extensão de arquivo correta ao usar esse atributo com a conversão de formato de dados ou a compactação do S3. A extensão do arquivo deve começar com um ponto (.) e pode conter os caracteres permitidos: 0-9a-z!-_.*' (). A extensão do arquivo não pode exceder 128 caracteres.

    Criptografia do S3

    O Firehose oferece suporte à criptografia do lado do servidor do Amazon S3 AWS Key Management Service com SSE (KMS-) para criptografar dados entregues no Amazon S3. Você pode optar por usar o tipo de criptografia padrão especificado no bucket S3 de destino ou criptografar com uma chave da lista de AWS KMS chaves que você possui. Se você criptografar os dados com AWS KMS chaves, poderá usar a chave AWS gerenciada padrão (aws/s3) ou uma chave gerenciada pelo cliente. Para obter mais informações, consulte Proteção de dados usando criptografia do lado do servidor com chaves AWS KMS gerenciadas (-). SSE KMS

Definir as configurações de destino para o OpenSearch Serviço

Esta seção descreve as opções para usar o OpenSearch Serviço em seu destino.

  • Insira valores para os seguintes campos:

    OpenSearch Domínio do serviço

    O domínio do OpenSearch serviço para o qual seus dados são entregues.

    Índice

    O nome do índice de OpenSearch serviço a ser usado ao indexar dados em seu cluster OpenSearch de serviços.

    Index rotation

    Escolha se e com que frequência o índice OpenSearch de serviços deve ser rotacionado. Se o rodízio de índices estiver habilitado, o Amazon Data Firehose adicionará o carimbo de data/hora correspondente ao nome de índice especificado e fará o rodízio. Para obter mais informações, consulte Configurar a rotação do índice para o OpenSearch serviço.

    Tipo

    O nome do tipo de OpenSearch serviço a ser usado ao indexar dados em seu cluster OpenSearch de serviços. Para o Elasticsearch 7.x e OpenSearch 1.x, só pode haver um tipo por índice. Se você tentar especificar um novo tipo para um índice existente que já tem outro tipo, o Firehose retornará um erro durante o runtime.

    Para o Elasticsearch 7.x, deixe esse campo vazio.

    Período de novas tentativas

    Duração do tempo para que o Firehose tente novamente se uma solicitação de indexação falhar. OpenSearch Nesse caso, o Firehose fará uma nova tentativa a cada 5 minutos, até que a o período de novas tentativas expire. Para o período de novas tentativas, é possível definir qualquer valor entre 0 e 7.200 segundos.

    Depois que a duração da nova tentativa expirar, o Firehose entrega os dados para o Dead Letter Queue (DLQ), um bucket de erros configurado do S3. Para os dados entreguesDLQ, você precisa redirecionar os dados do bucket de erro S3 configurado para o OpenSearch destino.

    Se você quiser impedir que o stream do Firehose entregue dados DLQ devido ao tempo de inatividade ou à manutenção dos OpenSearch clusters, você pode configurar a duração da nova tentativa para um valor maior em segundos. É possível aumentar o valor da duração da nova tentativa acima para 7.200 segundos entrando em contato com o suporte da AWS.

    Tipo DocumentID

    Indica o método para configurar o ID do documento. Os métodos compatíveis são ID do documento gerado pelo Firehose e ID do documento gerado pelo OpenSearch serviço. A ID do documento gerada pelo Firehose é a opção padrão quando o valor da ID do documento não está definido. OpenSearch O ID do documento gerado pelo serviço é a opção recomendada porque suporta operações de gravação pesada, incluindo análise de registros e observabilidade, consumindo menos CPU recursos no domínio do OpenSearch Serviço e, portanto, resultando em melhor desempenho.

    VPCConectividade de destino

    Se o seu domínio de OpenSearch serviço estiver em um ambiente privadoVPC, use esta seção para especificar issoVPC. Especifique também as sub-redes e os subgrupos que você deseja que o Amazon Data Firehose use ao enviar dados para o seu domínio de serviço. OpenSearch Você pode usar os mesmos grupos de segurança que o domínio do OpenSearch Serviço está usando. Se você especificar grupos de segurança diferentes, certifique-se de que eles permitam HTTPS tráfego de saída para o grupo de segurança do domínio do OpenSearch Serviço. Além disso, certifique-se de que o grupo de segurança do domínio OpenSearch Service permita o HTTPS tráfego dos grupos de segurança que você especificou ao configurar seu stream do Firehose. Se você usar o mesmo grupo de segurança para o stream do Firehose e para o domínio OpenSearch Service, verifique se a regra de entrada do grupo de segurança permite tráfego. HTTPS Para obter mais informações sobre as regras do grupo de segurança, consulte Regras do grupo de segurança na VPC documentação da Amazon.

    Importante

    Ao especificar sub-redes para entregar dados ao destino de forma privadaVPC, verifique se você tem um número suficiente de endereços IP livres nas sub-redes escolhidas. Se não houver um endereço IP gratuito disponível em uma sub-rede especificada, o Firehose não poderá criar ou ENIs adicionar dados para entrega VPC privada, e a entrega será degradada ou falhará.

    Sugestões de buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definir configurações de destino para OpenSearch Serverless

Esta seção descreve as opções para usar o OpenSearch Serverless como seu destino.

  • Insira valores para os seguintes campos:

    OpenSearch Coleção sem servidor

    O endpoint de um grupo de índices OpenSearch sem servidor para os quais seus dados são entregues.

    Índice

    O nome do índice OpenSearch Serverless a ser usado ao indexar dados para sua OpenSearch coleção Serverless.

    VPCConectividade de destino

    Se sua coleção OpenSearch Serverless estiver em um local privadoVPC, use esta seção para especificar isso. VPC Especifique também as sub-redes e os subgrupos que você deseja que o Amazon Data Firehose use ao enviar dados para sua coleção Serverless. OpenSearch

    Importante

    Ao especificar sub-redes para entregar dados ao destino de forma privadaVPC, verifique se você tem um número suficiente de endereços IP livres nas sub-redes escolhidas. Se não houver um endereço IP gratuito disponível em uma sub-rede especificada, o Firehose não poderá criar ou ENIs adicionar dados para entrega VPC privada, e a entrega será degradada ou falhará.

    Período de novas tentativas

    Duração do tempo para o Firehose tentar novamente se uma solicitação de indexação para Serverless falhar OpenSearch . Nesse caso, o Firehose fará uma nova tentativa a cada 5 minutos, até que a o período de novas tentativas expire. Para o período de novas tentativas, é possível definir qualquer valor entre 0 e 7.200 segundos.

    Depois que a duração da nova tentativa expirar, o Firehose entrega os dados para o Dead Letter Queue (DLQ), um bucket de erros configurado do S3. Para os dados entreguesDLQ, você precisa redirecionar os dados do bucket de erro S3 configurado para o destino sem OpenSearch servidor.

    Se você quiser impedir que o stream do Firehose entregue dados DLQ devido ao tempo de inatividade ou à manutenção de clusters OpenSearch sem servidor, você pode configurar a duração da nova tentativa para um valor maior em segundos. É possível aumentar o valor da duração da nova tentativa acima para 7.200 segundos entrando em contato com o suporte da AWS.

    Sugestões de buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definir as configurações de destino para o HTTP Endpoint

Esta seção descreve as opções para usar o HTTPendpoint para seu destino.

Importante

Se você escolher um HTTP endpoint como destino, revise e siga as instruções emNoções básicas das especificações de solicitação e resposta de entrega de endpoint de HTTP.

  • Forneça os valores para os seguintes campos:

    HTTPnome do endpoint - opcional

    Especifique um nome amigável para o HTTP endpoint. Por exemplo, My HTTP Endpoint Destination.

    HTTPponto final URL

    Especifique o URL para o HTTP endpoint no seguinte formato:https://xyz.httpendpoint.com. URLDeve ser um HTTPSURL.

    Autenticação

    Você pode optar por inserir a chave de acesso diretamente ou recuperar o segredo AWS Secrets Manager para acessar o HTTP endpoint.

    • (Opcional) Chave de acesso

      Entre em contato com o proprietário do endpoint se você precisar obter a chave de acesso para permitir a entrega de dados do Firehose ao endpoint.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a chave de acesso para o HTTP endpoint. Se você não encontrar seu segredo na lista suspensa, crie um AWS Secrets Manager para a chave de acesso. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

    Importante

    Para os destinos do HTTP endpoint, se você estiver vendo 413 códigos de resposta do endpoint de destino no CloudWatch Logs, diminua o tamanho da dica de buffer no stream do Firehose e tente novamente.

Definições de configurações de destino para o Datadog

Esta seção descreve as opções para usar o Datadog como destino. Para obter mais informações sobre o Datadog, consulte https://docs.datadoghq.com/integrations/ amazon_web_services/.

  • Forneça os valores para os campos a seguir.

    HTTPponto final URL

    Escolha para onde você deseja enviar dados dentre uma das opções a seguir no menu suspenso.

    • Registros do Datadog - US1

    • Registros do Datadog - US3

    • Registros do Datadog - US5

    • Registros do Datadog - AP1

    • Logs do Datadog: EU

    • Registros do Datadog - GOV

    • Métricas do Datadog - EUA

    • Métricas do Datadog - US5

    • Métricas do Datadog - AP1

    • Métricas do Datadog: EU

    • Configurações do Datadog - US1

    • Configurações do Datadog - US3

    • Configurações do Datadog - US5

    • Configurações do Datadog - AP1

    • Configurações do Datadog - UE

    • Configurações do Datadog - EUA GOV

    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Datadog.

    • APIchave

      Entre em contato com o Datadog para obter a API chave necessária para habilitar a entrega de dados para esse endpoint do Firehose.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave para o Datadog. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definições de configurações de destino para o Honeycomb

Esta seção descreve as opções para usar o Honeycomb como destino. Para obter mais informações sobre o Honeycomb, consulte https://docs.honeycomb. -cloudwatch-metrics/. io/getting-data-in/metrics/aws

  • Forneça os valores para os seguintes campos:

    Endpoint do Honeycomb Kinesis

    Especifique o URL para o HTTP endpoint no seguinte formato: https://api.honeycom b.io/1/kinesis_events/ {{dataset}}

    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Honeycomb.

    • APIchave

      Entre em contato com a Honeycomb para obter a API chave necessária para permitir a entrega de dados a esse endpoint a partir do Firehose.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave do Honeycomb. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha ativar GZIPa codificação do conteúdo da sua solicitação. Essa é a opção recomendada quando o destino é o Honeycomb.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definição de as configurações de destino para o Coralogix

Esta seção descreve as opções para usar o Coralogix como destino. Para obter mais informações sobre o Coralogix, consulte Conceitos básicos do Coralogix.

  • Forneça os valores para os seguintes campos:

    HTTPponto final URL

    Escolha o HTTP endpoint URL entre as seguintes opções no menu suspenso:

    • Coralogix - EUA

    • Coralogix - SINGAPORE

    • Coralogix - IRELAND

    • Coralogix - INDIA

    • Coralogix - STOCKHOLM

    Autenticação

    Você pode optar por inserir a chave privada diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Coralogix.

    • Chave privada

      Entre em contato com o Coralogix para obter a chave privada necessária para permitir a entrega de dados do Firehose a esse endpoint.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a chave privada do Coralogix. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha ativar GZIPa codificação do conteúdo da sua solicitação. Essa é a opção recomendada quando o destino é o Coralogix.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    • applicationName: o ambiente em que você está executando o Data Firehose

    • subsystemName: o nome da integração do Data Firehose

    • computerName: o nome do stream Firehose em uso

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia com base no provedor de serviços.

Definições de configurações de destino para o Dynatrace

Esta seção descreve as opções para usar o Dynatrace como destino. Para obter mais informações, consulte https://www.dynatrace.com/support/help/technology-support/cloud-platforms/amazon-web-services/integrations/cloudwatch-metric-streams/.

  • Escolha as opções para usar o Dynatrace como destino de seu fluxo do Firehose.

    Tipo de ingestão

    Escolha se você deseja entregar Métricas ou Logs (padrão) no Dynatrace para análise e processamento adicionais.

    HTTPponto final URL

    Escolha o HTTP endpoint URL (Dynatrace US, Dynatrace EU ou Dynatrace Global) no menu suspenso.

    Autenticação

    Você pode optar por inserir o API token diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Dynatrace.

    API URL

    Forneça o API URL do seu ambiente Dynatrace.

    Codificação de conteúdo

    Escolha se você deseja habilitar a codificação de conteúdo para compactar o corpo da solicitação. O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Quando ativado, o conteúdo é compactado no GZIPformato.

    Período de novas tentativas

    Especifique por quanto tempo o Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite de confirmação, o Firehose iniciará contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Firehose envia dados para o HTTP endpoint, seja durante a tentativa inicial ou depois de tentar novamente, ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Firehose ainda aguardará a confirmação até recebê-la ou até que o tempo limite de espera de confirmação seja atingido. Se o tempo limite para confirmação expirar, o Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. As sugestões de buffer incluem o tamanho e o intervalo do buffer para seus fluxos. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Defina as configurações de destino para LogicMonitor

Esta seção descreve as opções LogicMonitorpara uso em seu destino. Para obter mais informações, consulte https://www.logicmonitor.com.

  • Forneça os valores para os seguintes campos:

    HTTPponto final URL

    Especifique o URL para o HTTP endpoint no formato a seguir.

    https://ACCOUNT.logicmonitor.com
    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar LogicMonitor.

    • APIchave

      Entre em contato LogicMonitor para obter a API chave necessária para habilitar a entrega de dados a esse endpoint a partir do Firehose.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave para LogicMonitor. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definição das configurações de destino para o Logz.io

Esta seção descreve as opções para usar o Logz.io como destino. Para obter mais informações, consulte https://logz.io/.

nota

Na região da Europa (Milão), não há suporte para o Logz.io como destino do Amazon Data Firehose.

  • Forneça os valores para os seguintes campos:

    HTTPponto final URL

    Especifique o URL para o HTTP endpoint no formato a seguir. URLDeve ser um HTTPSURL.

    https://listener-aws-metrics-stream-<region>.logz.io/

    Por exemplo

    https://listener-aws-metrics-stream-us.logz.io/
    Autenticação

    Você pode optar por inserir o token de envio diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Logz.io.

    • Token de envio

      Entre em contato com o Logz.io obter o token de envio necessário para permitir a entrega de dados do Firehose a esse endpoint.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha o token de envio do Logz.io. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose fará novas tentativas de enviar os dados ao Logz.io.

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definições de configurações de destino para o MongoDB Cloud

Esta seção descreve as opções para usar a MongoDB Cloud como destino. Para obter mais informações, consulte https://www.mongodb.com.

  • Forneça os valores para os seguintes campos:

    Webhook do MongoDB Realm URL

    Especifique o URL para o HTTP endpoint no formato a seguir.

    https://webhooks.mongodb-realm.com

    URLDeve ser um HTTPSURL.

    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar o MongoDB Cloud.

    • APIchave

      Entre em contato com o MongoDB Cloud para obter a chave necessária para habilitar API a entrega de dados para esse endpoint a partir do Firehose.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave para o MongoDB Cloud. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose fará novas tentativas de enviar os dados ao provedor terceirizado selecionado.

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

Definições de configurações de destino para o New Relic

Esta seção descreve as opções para usar o New Relic como destino. Para obter mais informações, consulte https://newrelic.com.

  • Forneça os valores para os seguintes campos:

    HTTPponto final URL

    Escolha o HTTP endpoint URL entre as seguintes opções na lista suspensa.

    • Logs do New Relic - EUA

    • Métricas do New Relic - EUA

    • Métricas do New Relic - UE

    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar a New Relic.

    • APIchave

      Insira sua chave de licença, que é uma sequência hexadecimal de 40 caracteres, nas configurações da One Account do New Relic. Você precisa dessa API chave para permitir a entrega de dados do Firehose para esse endpoint.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave da New Relic. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint da New Relic. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definição de configurações de destino para o Snowflake

Esta seção descreve as opções para uso do Snowflake como destino.

nota

A integração do Firehose com o Snowflake está disponível no Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Europa (Irlanda), Leste dos EUA (Ohio), Ásia-Pacífico (Tóquio), Europa (Frankfurt), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Seul) e Ásia-Pacífico (Sydney), Ásia-Pacífico (Mumbai), Europa (Londres), América do Sul (São Paulo), Canadá (Central), Europa (Paris), Ásia-Pacífico (Osaka), Europa (Estocolmo), Ásia-Pacífico (Jacarta). Regiões da AWS

Configurações de conexão
  • Forneça os valores para os seguintes campos:

    Conta Snowflake URL

    Especifique uma conta do Snowflake. URL Por exemplo: xy12345.us-east-1.aws.snowflakecomputing.com. Consulte a documentação do Snowflake para saber como determinar sua conta. URL Observe que você não deve especificar o número da porta, enquanto o protocolo (https://) é opcional.

    Autenticação

    Você pode optar por inserir o login do usuário, a chave privada e a senha manualmente ou recuperar o segredo para acessar o Snowflake. AWS Secrets Manager

    • Login do usuário

      Especifique o usuário do Snowflake a ser usado para carregar dados. Certifique-se de que o usuário tenha acesso para inserir dados na tabela do Snowflake.

    • Chave privada

      Especifique a chave privada para autenticação com o Snowflake no formato PKCS8. Além disso, não inclua PEM cabeçalho e rodapé como parte da chave privada. Se a chave estiver dividida em várias linhas, remova as quebras de linha. Veja a seguir um exemplo de como sua chave privada deve se parecer.

      -----BEGIN PRIVATE KEY----- KEY_CONTENT -----END PRIVATE KEY-----

      Remova o espaço em KEY_CONTENT e forneça-o ao Firehose. Não são necessários caracteres de cabeçalho/rodapé ou nova linha.

    • Senha

      Especifique a senha para descriptografar a chave privada criptografada. É possível deixar esse campo vazio se a chave privada não estiver criptografada. Para obter informações, consulte Uso da autenticação de pares de chaves e alternância de chaves.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha as credenciais do Snowflake. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Configuração de perfil

    Usar o perfil padrão do Snowflake: se esta opção for selecionada, o Firehose não passará nenhum perfil para o Snowflake. O perfil padrão será assumido para carregar dados. Certifique-se de que o perfil padrão tenha permissão para inserir dados na tabela do Snowflake.

    Usar o perfil personalizado do Snowflake: insira um perfil não padrão do Snowflake a ser assumido pelo Firehose ao carregar dados na tabela do Snowflake.

    Conectividade do Snowflake

    As opções são Privada ou Pública.

    VPCEID privada (opcional)

    O VPCE ID do Firehose para se conectar de forma privada com o Snowflake. O formato do ID é com.amazonaws.vpce. [região] .vpce-svc-[id]. Para obter mais informações, consulte AWS PrivateLink & Snowflake.

    nota

    Se seu cluster do Snowflake tiver um link privado habilitado, use uma política de rede baseada em AwsVpceIds para permitir dados do Amazon Data Firehose. O Firehose não exige que você configure uma política de rede baseada em IP na sua conta do Snowflake. Ter uma política de rede baseada em IP ativada pode interferir na conectividade do Firehose. Se você tiver um caso extremo que exija uma política baseada em IP, entre em contato com a equipe do Firehose enviando um ticket de suporte. Para obter uma lista dos VPCE IDs que você pode usar, consulte Acessando o Snowflake em VPC o.

Configurar o banco de dados:
  • Você deve especificar as configurações a seguir para usar o Snowflake como destino para seu fluxo do Firehose.

    • Banco de dados do Snowflake: todos os dados no Snowflake são mantidos em bancos de dados.

    • Esquema do Snowflake: cada banco de dados consiste em um ou mais esquemas, que são agrupamentos lógicos de objetos de banco de dados, como tabelas e visualizações

    • Tabela do Snowflake: todos os dados no Snowflake são armazenados em tabelas de banco de dados, estruturadas logicamente como coleções de colunas e linhas.

Opções de carregamento de dados para sua tabela do Snowflake

  • Use JSON chaves como nomes de colunas

  • Use VARIANT colunas

    • Nome da coluna de conteúdo: especifique um nome de coluna na tabela, onde os dados brutos devem ser carregados.

    • Nome da coluna de metadados (opcional): especifique um nome de coluna na tabela onde as informações de metadados devem ser carregadas. Ao ativar esse campo, você verá a coluna a seguir na tabela do Snowflake com base no tipo de fonte.

      Para Direct PUT como fonte

      { "firehoseDeliveryStreamName" : "streamname", "IngestionTime" : "timestamp" }

      Para o Kinesis Data Stream como fonte

      { "kinesisStreamName" : "streamname", "kinesisShardId" : "Id", "kinesisPartitionKey" : "key", "kinesisSequenceNumber" : "1234", "subsequenceNumber" : "2334", "IngestionTime" : "timestamp" }

Período de novas tentativas

Período (0 a 7.200 segundos) durante o qual o Firehose fará novas tentativas se a abertura de canal ou a entrega ao Snowflake falhar devido a problemas de serviço do Snowflake. O Firehose fará novas tentativas com um recuo exponencial, até que a o período de novas tentativas termine. Se você definir a o período de novas tentativas como 0 (zero) segundos, o Firehose não fará novas tentativas após falhas no Snowflake e encaminhará os dados para o bucket de erros do Amazon S3.

Sugestões de buffer

O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços. Para obter mais informações, consulte Configuração de sugestões de armazenamento em buffer.

Definição de configurações de destino para o Splunk

Esta seção descreve as opções para usar o Splunk como destino.

nota

O Firehose entrega dados para clusters do Splunk configurados com Classic Load Balancer ou Application Load Balancer.

  • Forneça os valores para os seguintes campos:

    Splunk cluster endpoint

    Para determinar o endpoint, consulte Configuração do Amazon Firehose para envio de dados para a plataforma do Splunk na documentação do Splunk.

    Splunk endpoint type

    Escolha Raw endpoint na maioria dos casos. Escolha Event endpoint se você pré-processou seus dados usando AWS Lambda para enviar dados para índices diferentes por tipo de evento. Para obter informações sobre qual endpoint usar, consulte Configurar o Amazon Kinesis Firehose para enviar dados para a plataforma Splunk na documentação do Splunk.

    Autenticação

    Você pode optar por inserir o token de autenticação diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Splunk.

    HECtempo limite de confirmação

    Especifique quanto tempo o Amazon Data Firehose aguardará a confirmação do índice do Splunk. Se o Splunk não enviar a confirmação antes de o tempo limite ser atingido, o Amazon Data Firehose considerará que houve uma falha na entrega de dados. Em seguida, o Amazon Data Firehose fará uma nova tentativa ou fará o backup dos dados no bucket do Amazon S3, dependendo do valor do período de novas tentativas que você definir.

    Período de novas tentativas

    Especifique por quanto o tempo o Amazon Data Firehose fará novas tentativas de enviar os dados ao Splunk.

    Depois de enviar os dados, o Amazon Data Firehose primeiro esperará por uma confirmação do Splunk. Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o Splunk (seja uma tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite para confirmação e aguarda uma confirmação do Splunk.

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia com base no provedor de serviços.

Definição de configurações de destino para a Splunk Observability Cloud

Esta seção descreve as opções para usar a Splunk Observability Cloud como destino. Para obter mais informações, consulte https://docs.splunk.com/observability/en/gdi/get-data-in/connect/aws/aws-apiconfig.html# - connect-to-aws-using -api. the-splunk-observability-cloud

  • Forneça os valores para os seguintes campos:

    Endpoint de ingestão de nuvem URL

    Você pode encontrar a ingestão de dados em tempo real do seu Splunk Observability Cloud em Profile > Organizations > Real-time Data Ingest Endpoint URL no console do Splunk Observability.

    Autenticação

    Você pode optar por inserir o token de acesso diretamente ou recuperar o segredo AWS Secrets Manager para acessar o Splunk Observability Cloud.

    • Token de acesso

      Copie seu token de acesso do Splunk Observability com o escopo de INGEST autorização dos Tokens de Acesso em Configurações no console do Splunk Observability.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha o token de acesso para o Splunk Observability Cloud. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose tenta enviar dados novamente para o endpoint selecionado. HTTP

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino varia de acordo com o provedor de serviços.

Definições de configurações de destino para o Sumo Logic

Esta seção descreve as opções para usar o Sumo Logic como destino. Para obter mais informações, consulte https://www.sumologic.com.

  • Forneça os valores para os seguintes campos:

    HTTPponto final URL

    Especifique o URL para o HTTP endpoint no seguinte formato:https://deployment name.sumologic.net/receiver/v1/kinesis/dataType/access token. URLDeve ser um HTTPSURL.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIPou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose fará novas tentativas de enviar os dados ao Sumo Logic.

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado para o destino do Elastic varia de acordo com o provedor de serviços.

Definição de configurações de destino para o Elastic

Esta seção descreve as opções para usar o Elastic como destino.

  • Forneça os valores para os seguintes campos:

    Endpoint elástico URL

    Especifique o URL para o HTTP endpoint no seguinte formato:https://<cluster-id>.es.<region>.aws.elastic-cloud.com. URLDeve ser um HTTPSURL.

    Autenticação

    Você pode optar por inserir a API chave diretamente ou recuperar o segredo AWS Secrets Manager para acessar a Elastic.

    • APIchave

      Entre em contato com a Elastic para obter a API chave de que você precisa para permitir a entrega de dados para o serviço da Firehose.

    • Secret

      Selecione um segredo AWS Secrets Manager que contenha a API chave para a Elastic. Se você não vir o segredo na lista suspensa, crie um no AWS Secrets Manager. Para obter mais informações, consulte Autentique-se com o AWS Secrets Manager Amazon Data Firehose.

    Codificação de conteúdo

    O Amazon Data Firehose usa a codificação de conteúdo para compactar o corpo de uma solicitação antes de enviá-la ao destino. Escolha GZIP(que é o selecionado por padrão) ou Desativado para ativar/desativar a codificação de conteúdo da sua solicitação.

    Período de novas tentativas

    Especifique por quanto tempo o Amazon Data Firehose fará novas tentativas de enviar os dados ao Elastic.

    Depois de enviar os dados, o Amazon Data Firehose primeiro espera por uma confirmação do endpoint. HTTP Se ocorrer um erro ou se a confirmação não chegar dentro do tempo limite para confirmação, o Amazon Data Firehose iniciará o contador do período de novas tentativas. Ele continuará tentando novamente até a duração da nova tentativa expirar. Depois disso, o Amazon Data Firehose considerará que houve uma falha de entrega de dados e fará o backup dos dados no bucket do Amazon S3.

    Toda vez que o Amazon Data Firehose envia dados para o HTTP endpoint (seja a tentativa inicial ou uma nova tentativa), ele reinicia o contador de tempo limite de confirmação e espera por uma confirmação do endpoint. HTTP

    Mesmo que o período de novas tentativas expire, o Amazon Data Firehose ainda aguardará a confirmação até recebê-la ou até que o período de tempo limite para confirmação seja atingido. Se o tempo limite para confirmação expirar, o Amazon Data Firehose determinará se ainda resta algum tempo no contador de novas tentativas. Se houver tempo restante, ele tentará executar novamente e repetirá a lógica até receber um reconhecimento ou determinará que o tempo de tentar novamente expirou.

    Se você não quiser que o Amazon Data Firehose tente enviar os dados novamente, defina esse valor como 0.

    Parâmetros: opcional

    O Amazon Data Firehose inclui esses pares de valores-chave em cada chamada. HTTP Esses parâmetros ajudam a identificar e organizar os destinos.

    Sugestões de armazenamento em buffer

    O Amazon Data Firehose armazena em buffer os dados recebidos antes de entregá-los ao destino especificado. O tamanho de buffer recomendado quando o destino é O Elastic é de 1 MiB.