Netzwerkkonfigurationen

AWS ParallelCluster verwendet Amazon Virtual Private Cloud (VPC) für Netzwerke. VPC bietet eine flexible und konfigurierbare Netzwerkplattform, auf der Sie Cluster bereitstellen können.

Die VPC muss über DNS Resolution = yes-, DNS Hostnames = yes- und DHCP-Optionen mit dem richtigen Domänennamen für die Region verfügen. Der standardmäßige DHCP-Optionssatz spezifiziert bereits das erforderliche DNS. AmazonProvided Wenn Sie mehr als einen Domain-Namenserver angeben, finden Sie weitere Informationen unter DHCP-Optionssätze im Amazon VPC-Benutzerhandbuch.

AWS ParallelCluster unterstützt die folgenden Konfigurationen auf hoher Ebene:

Alle diese Konfigurationen können mit oder ohne öffentliche IP-Adressierung betrieben werden. AWS ParallelCluster kann auch so eingesetzt werden, dass ein HTTP-Proxy für alle AWS Anfragen verwendet wird. Die Kombinationen dieser Konfigurationen bedeuten, dass viele Bereitstellungsszenarien möglich sind. Sie können beispielsweise ein einzelnes öffentliches Subnetz mit vollständigem Zugriff über das Internet konfigurieren. Oder Sie können ein vollständig privates Netzwerk mithilfe AWS Direct Connect eines HTTP-Proxys für den gesamten Datenverkehr konfigurieren.

Ab AWS ParallelCluster 3.0.0 ist es möglichSecurityGroups, AdditionalSecurityGroups für jede Warteschlange unterschiedliche PlacementGroup Einstellungen zu konfigurieren. Weitere Informationen finden Sie unter HeadNode/Networkingund SlurmQueues/Networkingund AwsBatchQueues/Networking.

Abbildungen einiger Netzwerkszenarien finden Sie in den folgenden Architekturdiagrammen.

AWS ParallelCluster in einem einzigen öffentlichen Subnetz

Die Konfiguration für diese Architektur erfordert die folgenden Einstellungen:

# Note that all values are only provided as examples
HeadNode:
  ...
  Networking:
    SubnetId: subnet-12345678 # subnet with internet gateway
    #ElasticIp: true | false | eip-12345678
Scheduling:
  Scheduler: slurm
  SlurmQueues:
    - ...
      Networking:
        SubnetIds:
          - subnet-12345678 # subnet with internet gateway
        #AssignPublicIp: true

In dieser Konfiguration muss allen Instanzen des Clusters eine öffentliche IP zugewiesen werden, um Internetzugang zu erhalten. Um dies zu erreichen, gehen Sie wie folgt vor:

Weitere Informationen finden Sie unter Aktivieren des Internetzugangs im Amazon VPC-Benutzerhandbuch.

AWS ParallelCluster unter Verwendung von zwei Subnetzen

Die Konfiguration zur Verwendung eines vorhandenen privaten Subnetzes für Compute-Instances erfordert die folgenden Einstellungen:

# Note that all values are only provided as examples
HeadNode:
  ...
  Networking:
    SubnetId: subnet-12345678 # subnet with internet gateway
    #ElasticIp: true | false | eip-12345678
Scheduling:
  Scheduler: slurm
  SlurmQueues:
    - ...
      Networking:
        SubnetIds:
          - subnet-23456789 # subnet with NAT gateway
        #AssignPublicIp: false

In dieser Konfiguration muss nur dem Hauptknoten des Clusters eine öffentliche IP zugewiesen werden. Sie können dies erreichen, indem Sie entweder die Einstellung „Automatische Zuweisung öffentlicher IPv4-Adresse aktivieren“ für das in//verwendete Subnetz aktivieren SubnetIdoder indem Sie in HeadNodeNetworking//eine Elastic IP zuweisen. HeadNodeNetworkingElasticIp

Wenn Sie einen p4d-Instance-Typ oder einen anderen Instance-Typ mit mehreren Netzwerkschnittstellen oder einer Netzwerkschnittstellenkarte für den Hauptknoten definieren, müssen Sie HeadNode/Networking/ElasticIpauf setzen, um öffentlichen Zugriff zu gewähren. true AWS Öffentliche IPs können nur Instances zugewiesen werden, die mit einer einzigen Netzwerkschnittstelle gestartet wurden. Weitere Informationen zu IP-Adressen finden Sie unter Zuweisen einer öffentlichen IPv4-Adresse beim Instance-Start im Amazon EC2 EC2-Benutzerhandbuch für Linux-Instances.

Diese Konfiguration erfordert ein NAT-Gateway oder einen internen Proxy im Subnetz, das für die Warteschlangen verwendet wird, um den Compute-Instances Internetzugang zu ermöglichen.

AWS ParallelCluster in einem einzigen privaten Subnetz, verbunden mit AWS Direct Connect

Die Konfiguration für diese Architektur erfordert die folgenden Einstellungen:

# Note that all values are only provided as examples
HeadNode:
  ...
  Networking:
    SubnetId: subnet-34567890 # subnet with proxy
    Proxy:
      HttpProxyAddress: http://proxy-address:port
  Ssh:
    KeyName: ec2-key-name
Scheduling:
  Scheduler: slurm
  SlurmQueues:
    - ...
      Networking:
        SubnetIds:
          - subnet-34567890 # subnet with proxy
        AssignPublicIp: false
        Proxy:
          HttpProxyAddress: http://proxy-address:port

Wenn Scheduling//SlurmQueuesNetworking/auf gesetzt AssignPublicIpistfalse, müssen die Subnetze korrekt eingerichtet sein, um den Proxy für den gesamten Datenverkehr zu verwenden. Webzugriff ist sowohl für Haupt- als auch für Rechenknoten erforderlich.

AWS ParallelCluster mit AWS Batch Scheduler

Wenn Sie awsbatch als Scheduler-Typ verwenden, AWS ParallelCluster wird eine AWS Batch verwaltete Rechenumgebung erstellt. Die AWS Batch Umgebung verwaltet Amazon Elastic Container Service (Amazon ECS) Container-Instances. Diese Instances werden in dem im SubnetIdsParameter AwsBatchQueues/Networking/konfigurierten Subnetz gestartet. AWS Batch Damit Amazon ECS-Container-Instances ordnungsgemäß funktionieren, benötigen sie externen Netzwerkzugriff, um mit dem Amazon ECS-Serviceendpunkt zu kommunizieren. Daraus ergeben sich die folgenden Szenarien:

Wenn Sie außerdem an parallel Jobs mit mehreren Knoten interessiert sind (aus den AWS Batch Dokumenten):

AWS Batch parallel Jobs mit mehreren Knoten verwenden den Amazon awsvpc ECS-Netzwerkmodus. Dadurch erhalten Ihre parallel Jobcontainer mit mehreren Knoten dieselben Netzwerkeigenschaften wie Amazon EC2 EC2-Instances. Jeder Container eines parallelen Auftrags mit mehreren Knoten erhält seine eigene Elastic Network-Schnittstelle, eine primäre private IP-Adresse und einen internen DNS-Hostnamen. Die Netzwerkschnittstelle wird im selben Amazon VPC-Subnetz wie ihre Host-Rechenressource erstellt. Alle Sicherheitsgruppen, die auf Ihre Datenverarbeitungsressourcen angewendet werden, werden auch darauf angewendet.

Bei Verwendung von Amazon ECS Task Networking bietet der awsvpc Netzwerkmodus keine elastischen Netzwerkschnittstellen mit öffentlichen IP-Adressen für Aufgaben, die den Amazon EC2 EC2-Starttyp verwenden. Um auf das Internet zuzugreifen, müssen Aufgaben, die den Amazon EC2 EC2-Starttyp verwenden, in einem privaten Subnetz gestartet werden, das für die Verwendung eines NAT-Gateways konfiguriert ist.

Sie müssen ein NAT-Gateway konfigurieren, damit der Cluster parallel Jobs mit mehreren Knoten ausführen kann.

Alle vorherigen Konfigurationen und Überlegungen gelten auch für AWS Batch. Im Folgenden finden Sie ein Beispiel für eine AWS Batch Netzwerkkonfiguration.

# Note that all values are only provided as examples
HeadNode:
  ...
  Networking:
    SubnetId: subnet-12345678 # subnet with internet gateway, NAT gateway or proxy
    #ElasticIp: true | false | eip-12345678
    #Proxy:
      #HttpProxyAddress: http://proxy-address:port
  Ssh:
    KeyName: ec2-key-name
Scheduling:
  Scheduler: awsbatch
  AwsBatchQueues:
    - ...
      Networking:
        SubnetIds:
          - subnet-23456789 # subnet with internet gateway, NAT gateway or proxy
        #AssignPublicIp: true | false

Im NetworkingAbschnitt Scheduling/AwsBatchQueues/SubnetIdshandelt es sich um einen Listentyp, aber derzeit wird nur ein Subnetz unterstützt.

Weitere Informationen finden Sie unter den folgenden Themen:

AWS ParallelCluster in einem einzigen Subnetz ohne Internetzugang

Ein Subnetz ohne Internetzugang erlaubt keine eingehenden oder ausgehenden Verbindungen zum Internet. Diese AWS ParallelCluster Konfiguration kann sicherheitsrelevanten Kunden dabei helfen, die Sicherheit ihrer Ressourcen weiter zu verbessern. AWS ParallelCluster AWS ParallelCluster Knoten werden aus AWS ParallelCluster AMIs aufgebaut, die die gesamte Software enthalten, die für den Betrieb eines Clusters ohne Internetzugang erforderlich ist. Auf diese Weise AWS ParallelCluster können Cluster mit Knoten erstellt und verwaltet werden, die keinen Internetzugang haben.

In diesem Abschnitt erfahren Sie, wie Sie den Cluster konfigurieren. Außerdem erfahren Sie mehr über Einschränkungen bei der Ausführung von Clustern ohne Internetzugang.

Konfiguration von VPC-Endpunkten

Um das ordnungsgemäße Funktionieren des Clusters sicherzustellen, müssen die Clusterknoten in der Lage sein, mit einer Reihe von AWS Diensten zu interagieren.

Erstellen und konfigurieren Sie die folgenden VPC-Endpunkte, sodass Clusterknoten ohne Internetzugang mit den AWS Diensten interagieren können:

** Dieser Endpunkt ist nur erforderlich, wenn er aktiviert DirectoryServiceist, andernfalls ist er optional.

Alle Instances in der VPC müssen über die richtigen Sicherheitsgruppen verfügen, um mit den Endpunkten kommunizieren zu können. Sie können dies tun, indem Sie Sicherheitsgruppen unter HeadNodeund AdditionalSecurityGroupsAdditionalSecurityGroupsunter den SlurmQueuesKonfigurationen hinzufügen. Wenn die VPC-Endpunkte beispielsweise ohne ausdrückliche Angabe einer Sicherheitsgruppe erstellt werden, wird die Standardsicherheitsgruppe den Endpunkten zugeordnet. Indem Sie die Standardsicherheitsgruppe hinzufügenAdditionalSecurityGroups, aktivieren Sie die Kommunikation zwischen dem Cluster und den Endpunkten.

PolicyDocument:
  Version: 2012-10-17
  Statement:
    - Effect: Allow
      Principal: "*"
      Action:
        - "s3:PutObject"
      Resource:
        - !Sub "arn:${AWS::Partition}:s3:::cloudformation-waitcondition-${AWS::Region}/*"

Route 53 deaktivieren und Amazon EC2 EC2-Hostnamen verwenden

AWS ParallelCluster Erstellt beim Erstellen eines Slurm Clusters eine private Route 53-Hosting-Zone, die zur Auflösung der Hostnamen der benutzerdefinierten Rechenknoten verwendet wird, z. B. {queue_name}-{st|dy}-{compute_resource}-{N} Da Route 53 keine VPC-Endpunkte unterstützt, muss diese Funktion deaktiviert werden. AWS ParallelCluster Muss außerdem so konfiguriert sein, dass die standardmäßigen Amazon EC2 EC2-Hostnamen verwendet werden, z. B. ip-1-2-3-4 Wenden Sie die folgenden Einstellungen auf Ihre Cluster-Konfiguration an:

...
Scheduling:
  ...
  SlurmSettings:
    Dns:
      DisableManagedDns: true
      UseEc2Hostnames: true

Cluster-Konfiguration

Erfahren Sie, wie Sie Ihren Cluster so konfigurieren, dass er in einem Subnetz ohne Verbindung zum Internet ausgeführt wird.

Die Konfiguration für diese Architektur erfordert die folgenden Einstellungen:

# Note that all values are only provided as examples
...
HeadNode:
  ...
  Networking:
    SubnetId: subnet-1234567890abcdef0 # the VPC of the subnet needs to have VPC endpoints
    AdditionalSecurityGroups:
      - sg-abcdef01234567890 # optional, the security group that enables the communication between the cluster and the VPC endpoints
Scheduling:
  Scheduler: Slurm # Cluster in a subnet without internet access is supported only when the scheduler is Slurm.
  SlurmSettings:
    Dns:
      DisableManagedDns: true
      UseEc2Hostnames: true
  SlurmQueues:
    - ...
      Networking:
        SubnetIds:
          - subnet-1234567890abcdef0 # the VPC of the subnet needs to have VPC endpoints attached
        AdditionalSecurityGroups:
          - sg-1abcdef01234567890 # optional, the security group that enables the communication between the cluster and the VPC endpoints

Einschränkungen