帮助改进此页面

要帮助改进本用户指南，请选择位于每个页面右侧窗格中的在 GitHub 上编辑此页面链接。

EKS 自动模式中的成本优化

EKS 自动模式可通过合并、装箱以及调整大小来持续集群的优化计算成本。但某些工作负载配置可能会妨碍这些优化。本主题介绍了成本优化的工作原理，可能妨碍成本优化的因素，以及如何配置集群来保持成本效益。

EKS 自动模式如何优化成本

EKS 自动模式通过以下机制来降低计算成本：

这些优化可持续运行，不需要人工干预。但是，某些容器组注释和 NodePool 配置可能会阻止整合生效。

内置节点池和成本护栏

内置的 general-purpose 和 system 节点池已经强制执行多项成本保护默认配置：

即使仅使用内置节点池，也已经开始享受这些护栏机制。创建不继承这些限制的自定义节电池时，本主题中关于排除实例系列和限制实例大小的指南最为相关。

但即使是内置节点池，以下部分也同样适用：

哪些因素会阻止整合

当 EKS 自动模式确定中断某个节点会违反工作负载的可用性要求时，系统将会阻止整合。以下配置会阻止整合：

do-not-disrupt 注释

只要注释的节点组在节点上运行，karpenter.sh/do-not-disrupt 注释就会指示 EKS 自动模式保留该节点。这样将会阻止合并、替换或终止该节点，即使该节点利用率不足。

metadata:
  annotations:
    karpenter.sh/do-not-disrupt: "true"

可考虑的替代方案：

容器组中断预算（PDB）

如果 PDB 将 maxUnavailable: 0 或 minAvailable 设置为等于当前副本数量，这实际上会阻止受影响的容器组的所有合并。请检查 PDB 设置，确保其至少允许一次中断一个容器组。

将节点池限制作为成本上限

节点池 limits 规定了一个节点池可以预调配的总计算资源硬上限。达到此限制后，EKS 自动模式将停止为该节点池启动新节点。即使容器组处于待处理状态，也会发生这种情况。

将 limits 作为成本护栏使用，尤其是为不适合无限扩展的非生产、测试或爆增性工作负载提供服务的节点池。

apiVersion: karpenter.sh/v1
kind: NodePool
metadata:
  name: ci-runners
spec:
  template:
    spec:
      nodeClassRef:
        group: eks.amazonaws.com
        kind: NodeClass
        name: default
      requirements:
        - key: "eks.amazonaws.com/instance-category"
          operator: In
          values: ["c", "m"]
  limits:
    cpu: "500"
    memory: 1000Gi

在此示例中，ci-runners 节点池在其预调配的所有节点上合计不能使用超过 500 个 vCPU 或 1000 GiB 内存。超过此限制的容器组将处于 Pending 状态，直到释放相关容量为止。

排除实例系列以控制成本

默认情况下，EKS 自动模式会从多种实例类型中进行选择，以尽可能提高调度的灵活性。对于不需要专用硬件的工作负载，请限定要使用的实例系列，以防止启动昂贵的实例类型。

排除加速型实例

如果工作负载不会请求 GPU 或加速器资源，请从节点池中排除加速型实例系列。这样可以防止在容量受限期间选择加速型实例。

spec:
  template:
    spec:
      requirements:
        - key: "eks.amazonaws.com/instance-category"
          operator: In
          values: ["c", "m", "r"]

通过指定仅限计算优化型、通用型和内存优化型类别，可以将加速型（P、G、Inf、Trn）和其他专用实例系列排除在选择范围之外。

实例选择如何与容量限制相互作用

在正常的实例选择期间，EKS 自动模式会降低加速型实例类型和特殊实例类型的优先级。但在持续发生启动失败后，EKS 自动模式将从任何剩余的可用实例类型启动，以优先保证工作负载的可用性。例如，当所有首选实例类型的 EC2 服务配额暂时用完时，就会发生这种情况。

为避免这种回退行为，请在节点池要求中显式规定仅使用工作负载所需的实例类别。当首选类型不可用且您的节点池配置不允许使用其他类型时，容器组将保持在 Pending 状态，而不会调度高成本的实例。

限制实例大小

除限制实例系列外，您还可以限制节点池中的最大实例大小。通过限制实例大小，可以限制任何无法合并的单个节点的成本风险。例如，即使工作负载很小，被 do-not-disrupt 注释阻止的节点也无法缩减。

在节点池要求中使用 eks.amazonaws.com/instance-cpu 标签来限制最大实例大小：

requirements:
  - key: "eks.amazonaws.com/instance-cpu"
    operator: Lte
    values: ["32"]

此配置将会阻止 EKS 自动模式在此节点池中启动大于 32 个 vCPU 的实例。

要识别现有集群中的优化机会，请检查正在运行的最大实例。如果大型节点一直被阻止合并，则该空闲容量的每节点成本会相应更高。

适用于爆增性工作负载的推荐模式

CI/CD 管道、批处理作业和临时运行器会建立“爆增然后空闲”模式，这种模式需要特定的配置才能保持成本效益。

适用于爆增性工作负载的推荐默认设置

示例：CI 运行器节点池

apiVersion: karpenter.sh/v1
kind: NodePool
metadata:
  name: ci-runners
spec:
  template:
    spec:
      nodeClassRef:
        group: eks.amazonaws.com
        kind: NodeClass
        name: default
      requirements:
        - key: "eks.amazonaws.com/instance-category"
          operator: In
          values: ["c", "m"]
        - key: "eks.amazonaws.com/instance-cpu"
          operator: Lte
          values: ["32"]
        - key: "karpenter.sh/capacity-type"
          operator: In
          values: ["spot", "on-demand"]
  limits:
    cpu: "500"
    memory: 1000Gi
  disruption:
    consolidationPolicy: WhenEmptyOrUnderutilized
    consolidateAfter: 30s

此配置：

节点生命周期和成本

当节点偏离所需规范（例如，在新的自动模式 AMI 发布后）或节点生命周期接近到期时，EKS 自动模式会通过有序中断来替换节点。在有序替换期间：

对于具有大型节点或多个节点的集群，这种重叠可能会导致成本周期性增加。为了尽可能减少影响：

有关节点生命周期的更多信息，请参阅了解 Amazon EKS 自动模式的托管式实例。