MSKExemples d'Amazon utilisant AWS CLI

Les exemples de code suivants vous montrent comment effectuer des actions et implémenter des scénarios courants à l' AWS Command Line Interface aide d'AmazonMSK.

Les actions sont des extraits de code de programmes plus larges et doivent être exécutées dans leur contexte. Alors que les actions vous montrent comment appeler des fonctions de service individuelles, vous pouvez les visualiser dans leur contexte dans leurs scénarios associés.

Chaque exemple inclut un lien vers le code source complet, où vous trouverez des instructions sur la façon de configurer et d'exécuter le code en contexte.

Rubriques

Actions

Actions

L'exemple de code suivant montre comment utilisercreate-cluster.

AWS CLI

Pour créer un MSK cluster Amazon

L'create-clusterexemple suivant crée un MSK cluster nommé MessagingCluster avec trois nœuds de courtier. Un JSON fichier nommé brokernodegroupinfo.json indique les trois sous-réseaux sur lesquels vous souhaitez qu'Amazon distribue MSK les nœuds de courtage. Cet exemple ne spécifie pas le niveau de surveillance, c'est donc le cluster qui obtient le DEFAULT niveau.


aws kafka create-cluster \
    --cluster-name "MessagingCluster" \
    --broker-node-group-info file://brokernodegroupinfo.json \
    --kafka-version "2.2.1" \
    --number-of-broker-nodes 3

Contenu de brokernodegroupinfo.json :


{
    "InstanceType": "kafka.m5.xlarge",
    "BrokerAZDistribution": "DEFAULT",
    "ClientSubnets": [
        "subnet-0123456789111abcd",
        "subnet-0123456789222abcd",
        "subnet-0123456789333abcd"
    ]
}

Sortie :


{
    "ClusterArn": "arn:aws:kafka:us-west-2:123456789012:cluster/MessagingCluster/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2",
    "ClusterName": "MessagingCluster",
    "State": "CREATING"
}

Pour plus d'informations, consultez Create an Amazon MSK Cluster in the Amazon Managed Streaming for Apache Kafka Kafka.

Pour API plus de détails, voir CreateClusterla section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utilisercreate-configuration.

AWS CLI

Pour créer une MSK configuration Amazon personnalisée

L'create-configurationexemple suivant crée une MSK configuration personnalisée avec les propriétés du serveur spécifiées dans le fichier d'entrée.


aws kafka create-configuration \
    --name "CustomConfiguration" \
    --description "Topic autocreation enabled; Apache ZooKeeper timeout 2000 ms; Log rolling 604800000 ms." \
    --kafka-versions "2.2.1" \
    --server-properties file://configuration.txt

Contenu de configuration.txt :


auto.create.topics.enable = true
zookeeper.connection.timeout.ms = 2000
log.roll.ms = 604800000

Cette commande ne produit aucun résultat. Sortie :


{
    "Arn": "arn:aws:kafka:us-west-2:123456789012:configuration/CustomConfiguration/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2",
    "CreationTime": "2019-10-09T15:26:05.548Z",
    "LatestRevision":
        {
            "CreationTime": "2019-10-09T15:26:05.548Z",
            "Description": "Topic autocreation enabled; Apache ZooKeeper timeout 2000 ms; Log rolling 604800000 ms.",
            "Revision": 1
        },
    "Name": "CustomConfiguration"
}

Pour plus d'informations, consultez Amazon MSK Configuration Operations dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir CreateConfigurationla section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utiliserdescribe-cluster.

AWS CLI

Pour décrire un cluster

L'describe-clusterexemple suivant décrit un MSK cluster Amazon.


aws kafka describe-cluster \
    --cluster-arn arn:aws:kafka:us-east-1:123456789012:cluster/demo-cluster-1/6357e0b2-0e6a-4b86-a0b4-70df934c2e31-5

Sortie :


{
    "ClusterInfo": {
        "BrokerNodeGroupInfo": {
            "BrokerAZDistribution": "DEFAULT",
            "ClientSubnets": [
                "subnet-cbfff283",
                "subnet-6746046b"
            ],
            "InstanceType": "kafka.m5.large",
            "SecurityGroups": [
                "sg-f839b688"
            ],
            "StorageInfo": {
                "EbsStorageInfo": {
                    "VolumeSize": 100
                }
            }
        },
        "ClusterArn": "arn:aws:kafka:us-east-1:123456789012:cluster/demo-cluster-1/6357e0b2-0e6a-4b86-a0b4-70df934c2e31-5",
        "ClusterName": "demo-cluster-1",
        "CreationTime": "2020-07-09T02:31:36.223000+00:00",
        "CurrentBrokerSoftwareInfo": {
            "KafkaVersion": "2.2.1"
        },
        "CurrentVersion": "K3AEGXETSR30VB",
        "EncryptionInfo": {
            "EncryptionAtRest": {
                "DataVolumeKMSKeyId": "arn:aws:kms:us-east-1:123456789012:key/a7ca56d5-0768-4b64-a670-339a9fbef81c"
            },
            "EncryptionInTransit": {
                "ClientBroker": "TLS_PLAINTEXT",
                "InCluster": true
            }
        },
        "EnhancedMonitoring": "DEFAULT",
        "OpenMonitoring": {
            "Prometheus": {
                "JmxExporter": {
                    "EnabledInBroker": false
                },
                "NodeExporter": {
                    "EnabledInBroker": false
                }
            }
        },
        "NumberOfBrokerNodes": 2,
        "State": "ACTIVE",
        "Tags": {},
        "ZookeeperConnectString": "z-2.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181,z-1.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181,z-3.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181"
    }
}

Pour plus d'informations, consultez Listing Amazon MSK Clusters dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir DescribeClusterla section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utiliserget-bootstrap-brokers.

AWS CLI

Pour obtenir des courtiers Bootstrap

L'get-bootstrap-brokersexemple suivant récupère les informations du broker bootstrap pour un cluster AmazonMSK.


aws kafka get-bootstrap-brokers \
    --cluster-arn arn:aws:kafka:us-east-1:123456789012:cluster/demo-cluster-1/6357e0b2-0e6a-4b86-a0b4-70df934c2e31-5

Sortie :


{
    "BootstrapBrokerString": "b-1.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:9092,b-2.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:9092",
    "BootstrapBrokerStringTls": "b-1.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:9094,b-2.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:9094"
}

Pour plus d'informations, consultez Getting the Bootstrap Brokers dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir GetBootstrapBrokersla section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utiliserlist-clusters.

AWS CLI

Pour répertorier les clusters disponibles

L'list-clustersexemple suivant répertorie les MSK clusters Amazon de votre AWS compte.


aws kafka list-clusters

Sortie :


{
    "ClusterInfoList": [
        {
            "BrokerNodeGroupInfo": {
                "BrokerAZDistribution": "DEFAULT",
                "ClientSubnets": [
                    "subnet-cbfff283",
                    "subnet-6746046b"
                ],
                "InstanceType": "kafka.m5.large",
                "SecurityGroups": [
                    "sg-f839b688"
                ],
                "StorageInfo": {
                    "EbsStorageInfo": {
                        "VolumeSize": 100
                    }
                }
            },
            "ClusterArn": "arn:aws:kafka:us-east-1:123456789012:cluster/demo-cluster-1/6357e0b2-0e6a-4b86-a0b4-70df934c2e31-5",
            "ClusterName": "demo-cluster-1",
            "CreationTime": "2020-07-09T02:31:36.223000+00:00",
            "CurrentBrokerSoftwareInfo": {
                "KafkaVersion": "2.2.1"
            },
            "CurrentVersion": "K3AEGXETSR30VB",
            "EncryptionInfo": {
                "EncryptionAtRest": {
                    "DataVolumeKMSKeyId": "arn:aws:kms:us-east-1:123456789012:key/a7ca56d5-0768-4b64-a670-339a9fbef81c"
                },
                "EncryptionInTransit": {
                    "ClientBroker": "TLS_PLAINTEXT",
                    "InCluster": true
                }
            },
            "EnhancedMonitoring": "DEFAULT",
            "OpenMonitoring": {
                "Prometheus": {
                    "JmxExporter": {
                        "EnabledInBroker": false
                    },
                    "NodeExporter": {
                        "EnabledInBroker": false
                    }
                }
            },
            "NumberOfBrokerNodes": 2,
            "State": "ACTIVE",
            "Tags": {},
            "ZookeeperConnectString": "z-2.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181,z-1.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181,z-3.demo-cluster-1.xuy0sb.c5.kafka.us-east-1.amazonaws.com:2181"
        }
    ]
}

Pour plus d'informations, consultez Listing Amazon MSK Clusters dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir ListClustersla section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utiliserupdate-broker-storage.

AWS CLI

Pour mettre à jour le EBS stockage pour les courtiers

L'update-broker-storageexemple suivant met à jour la quantité de EBS stockage pour tous les courtiers du cluster. Amazon MSK définit la quantité de stockage cible pour chaque courtier selon le montant spécifié dans l'exemple. Vous pouvez obtenir la version actuelle du cluster en décrivant le cluster ou en listant tous les clusters.


aws kafka update-broker-storage \
    --cluster-arn "arn:aws:kafka:us-west-2:123456789012:cluster/MessagingCluster/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2" \
    --current-version "K21V3IB1VIZYYH" \
    --target-broker-ebs-volume-info "KafkaBrokerNodeId=ALL,VolumeSizeGB=1100"

La sortie renvoie un ARN pour cette update-broker-storage opération. Pour déterminer si cette opération est terminée, utilisez la describe-cluster-operation commande avec ceci ARN en entrée.


{
    "ClusterArn": "arn:aws:kafka:us-west-2:123456789012:cluster/MessagingCluster/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2",
    "ClusterOperationArn": "arn:aws:kafka:us-west-2:123456789012:cluster-operation/V123450123/a1b2c3d4-1234-abcd-cdef-22222EXAMPLE-2/a1b2c3d4-abcd-1234-bcde-33333EXAMPLE"
}

Pour plus d'informations, consultez la section Mettre à jour le EBS stockage pour les courtiers dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir UpdateBrokerStoragela section Référence des AWS CLI commandes.

L'exemple de code suivant montre comment utiliserupdate-cluster-configuration.

AWS CLI

Pour mettre à jour la configuration d'un MSK cluster Amazon

L'update-cluster-configurationexemple suivant met à jour la configuration du MSK cluster existant spécifié. Il utilise une MSK configuration personnalisée.


aws kafka update-cluster-configuration \
    --cluster-arn "arn:aws:kafka:us-west-2:123456789012:cluster/MessagingCluster/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2" \
    --configuration-info file://configuration-info.json \
    --current-version "K21V3IB1VIZYYH"

Contenu de configuration-info.json :


{
    "Arn": "arn:aws:kafka:us-west-2:123456789012:configuration/CustomConfiguration/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2",
    "Revision": 1
}

La sortie renvoie un ARN pour cette update-cluster-configuration opération. Pour déterminer si cette opération est terminée, utilisez la describe-cluster-operation commande avec ceci ARN en entrée.


{
    "ClusterArn": "arn:aws:kafka:us-west-2:123456789012:cluster/MessagingCluster/a1b2c3d4-5678-90ab-cdef-11111EXAMPLE-2",
    "ClusterOperationArn": "arn:aws:kafka:us-west-2:123456789012:cluster-operation/V123450123/a1b2c3d4-1234-abcd-cdef-22222EXAMPLE-2/a1b2c3d4-abcd-1234-bcde-33333EXAMPLE"
}

Pour plus d'informations, consultez Mettre à jour la configuration d'un MSK cluster Amazon dans le guide du développeur Amazon Managed Streaming for Apache Kafka.

Pour API plus de détails, voir UpdateClusterConfigurationla section Référence des AWS CLI commandes.

Avertissement JavaScript est désactivé ou n'est pas disponible dans votre navigateur.

Pour que vous puissiez utiliser la documentation AWS, Javascript doit être activé. Vous trouverez des instructions sur les pages d'aide de votre navigateur.

Conventions de rédaction

Base de données de mémoire

Network Manager