本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
中 Slurm 版本的发行说明 AWS PCS
本主题介绍了 PCS 目前支持的每个 Slurm 版本的重要更改。 AWS 我们建议您在升级集群时查看新旧版本之间的更改。
中实施的更改 AWS PCS
-
您可以使用该
gresCustomSettings属性为计算节点组配置gres.conf记录,并使用Gres自定义 Slurm 设置声明可调度的 GRES。这使您可以配置 GPU 拓扑、MIG 设备、MPS、分片和您自己的通用资源。有关更多信息,请参阅 在中配置自定义 GRES 设置 AWS 个。 -
AWS 默认情况下,PCS 在具有 GPU 的计算节点组上启用 Slurm GRES 自动检测。 AWS 仅当节点的套接字布局已知时,PCS 才启用自动检测。有关更多信息,请参阅 在中配置自定义 GRES 设置 AWS 个。
-
AWS 默认情况下,PCS 配置计算节点组的 CPU 拓扑。它根据每个节点
Parameters=numa_node_as_socket上的实例类型和集合Sockets确定 NUMA 域的数量。CoresPerSocket有关更多信息,请参阅 在中配置硬件拓扑 AWS 个。 -
CommitDelay=1在中默认设置slurmdbd.conf。CommitDelay控制 slurmdbd批次提交到会计数据库的时间长度,设置它可以提高slurmdbd性能。要使用其他值,请在集群的slurmdbd.conf自定义设置CommitDelay中进行设置。 -
Slurm REST API 从 JWT
id声明中的name字段中读取用户名。顶级sunusername、和自定义userclaimfield声明已过时。现有令牌继续进行身份验证。有关更多信息,请参阅 在中使用 Slurm REST API 进行身份验证 AWS 个。 -
现在,单个示例 AMI 支持所有不是 EOL 的 Slurm 版本,而且 AMI 名称不再包含 Slurm 版本。有关更多信息,请参阅 使用示例 AMI。
-
当您更新到 26.05 或更高版本时,使用 SPANK 插件的集群支持滚动更新。当您从 25.11 或更高版本更新时,使用 Slurm CLI 过滤器插件的集群支持滚动更新。有关更多信息,请参阅 在中更新集群的调度程序版本 AWS PCS。
-
新的自定义设置可用:
Exclusive队列设置、PurgeJobEnvAfter和PurgeJobScriptAfter自定义 slurmdbd 设置、slurmdbdParameters设置的PreserveCaseResource值以及的值。REBOOT_ONLYHealthCheckNodeState
弃用和移除
-
Slurm 弃用
ExclusiveUser队列设置和OverSubscribe=EXCLUSIVE值,转而使用新的队列设置。ExclusiveAWS PCS 继续支持ExclusiveUser和OverSubscribe=EXCLUSIVE26.05,但我们建议您迁移到Exclusive。 -
Slurm 移除。
SchedulerParameters=enable_job_state_cache在更新到 26.05 之前,将其从集群的自定义 Slurm 设置中删除。
有关 Slurm 26.05 的更多信息,请参阅以下出版物:
中实施的更改 AWS PCS
-
调度器审核日志现在通过日志类型单独交付,通过对
PCS_SCHEDULER_AUDIT_LOGS日志传输的独立控制,简化了故障排除和审计。有关更多信息,请参阅 AWS PCS 中的计划程序审核日志。 -
默认情况下,加急队列处于启用状态。对于因节点问题(例如容量不足错误)而失败的作业,可以使用以最高的调度优先级重新排序。
sbatch --requeue=expedite这由SchedulerParameters=enable_expedited_requeue设置控制。 -
该
requeue_delay参数可作为自定义群集设置使用,默认值为 5 秒。以前,重新排队延迟与凭证到期(70 秒)相关联。管理员现在可以通过独立配置SchedulerParameters=requeue_delay=<seconds>。 -
HealthCheckNodeState现在支持该START_ONLY值,该值仅在节点启动时运行运行状况检查程序(slurmd 启动)。 -
CommunicationParameters=disable_http默认设置为禁用 Slurm 25.11 中引入的 HTTP 端点(指标和运行状况探测器)。要重新启用这些端点,请设置CommunicationParameters=enable_http。有关更多信息,请参阅 AWS PCS 中的 Slurm 指标。
已知问题
-
即使未设置,Slurm 25.11 也会
AccountingStorageEnforce=QOS对设置进行验证AllowQOS和DenyQOS分区。如果 Slurm 会计数据库中引用AllowQOS或DenyQOS不存在的 QOS,则会以致命slurmctld错误退出。在升级到或重新启动 Slurm 25.11 之前,请确保分AllowQOS区和DenyQOS设置中列出的所有 QOS 值都存在于会计数据库中。 -
slurmd日志可能会显示错误消息error: cannot create url_parser context for http_parser/libhttp_parser。这是一个已知的 Slurm 问题,即使CommunicationParameters=disable_http设置了也会发生。该错误可以安全地忽略,不会影响集群操作。
有关 Slurm 25.11 的更多信息,请参阅以下出版物:
中实施的更改 AWS PCS
-
默认情况下,Slurm requeue_on_resume_f SchedulerParameter ailure 现在处于启用状态。
-
“stderr” 作为选项被移除 LogTimeFormat,因为它在 Slurm 25.05 中被禁用。
-
AWS PCS 支持 Multi-cluster sackd 配置:登录节点可以访问多个集群。
有关 Slurm 25.05 的更多信息,请参阅以下出版物:
中实施的更改 AWS PCS
-
AWS PCS 支持 Slurm 记账。有关更多信息,请参阅 废话会计 AWS 个。
有关 Slurm 24.11 的更多信息,请参阅以下出版物:
中实施的更改 AWS PCS
-
现在,新的 Slurm Step Manager 模块在 PCS 中 AWS 默认处于启用状态。该模块通过将步骤管理从中央控制器转移到计算节点来提供显著的优势,从而显著改善了大量使用步数的环境中的系统并发性。为了支持此配置并更好地隔离
Prolog和Epilog流程执行,启用了新的 prolog 标志 (Contain,Alloc)。 -
支持从控制器到计算节点的分层通信,可以优化 Slurm 节点内通信,从而提高可扩展性和性能。此外,路由配置现在使用分区节点列表进行来自控制器的通信,而不是插件的默认路由算法,从而增强了系统的弹性。
-
新的哈希插件
HashPlugin=hash/sha3取代了以前的哈希插件hash/k12 plugin。现在,在 AWS PCS 集群中默认启用此功能。 -
Slurm 控制器日志现在包括对所有入站远程过程调用 (RPC) 的增强审计功能。
slurmctld日志包括源地址、经过身份验证的用户和连接处理之前的 RPC 类型。
有关 Slurm 24.05 的更多信息,请参阅以下出版物:
你可以更改的 Slurm 设置 AWS 个
-
SuspendTime默认为60。使用 AWS PCSscaleDownIdleTimeInSeconds配置参数进行设置。有关更多信息,请参阅 AWS PCS API 参考中的ClusterSlurmConfiguration数据类型scaleDownIdleTimeInSeconds参数。 -
MaxJobCount和MaxArraySize取决于您为集群选择的大小。有关更多信息,请参阅 AWS PCSCreateClusterAPI 参考中的 API 操作size参数。 -
S
SelectTypeParameterslurm 设置默认为。CR_CPU您可以将其作为值提供,slurmCustomSettings以便在创建集群时进行设置。有关更多信息,请参阅CreateClusterAPI 操作的slurmCustomSettings参数和 AWS PCS API 参考SlurmCustomSetting中的参数。 -
您可以在集群级别设置
Prolog和Epilog。您可以将其作为值提供,slurmCustomSettings以便在创建集群时进行设置。有关更多信息,请参阅 AWS PCS API 参考SlurmCustomSetting中的CreateCluster和。 -
您可以在计算节点组级别
RealMemory上设置Weight和。您可以将其作为值提供,slurmCustomSettings以便在创建计算节点组时进行设置。有关更多信息,请参阅 AWS PCS API 参考SlurmCustomSetting中的CreateComputeNodeGroup和。