选择您的 Cookie 首选项

我们使用必要 Cookie 和类似工具提供我们的网站和服务。我们使用性能 Cookie 收集匿名统计数据,以便我们可以了解客户如何使用我们的网站并进行改进。必要 Cookie 无法停用,但您可以单击“自定义”或“拒绝”来拒绝性能 Cookie。

如果您同意,AWS 和经批准的第三方还将使用 Cookie 提供有用的网站功能、记住您的首选项并显示相关内容,包括相关广告。要接受或拒绝所有非必要 Cookie,请单击“接受”或“拒绝”。要做出更详细的选择,请单击“自定义”。

在 Amazon EKS 上部署机器学习概述

聚焦模式
在 Amazon EKS 上部署机器学习概述 - Amazon EKS

帮助改进此页面

要帮助改进本用户指南,请选择位于每个页面右侧窗格中的在 GitHub 上编辑此页面链接。

帮助改进此页面

要帮助改进本用户指南,请选择位于每个页面右侧窗格中的在 GitHub 上编辑此页面链接。

机器学习(ML)是人工智能(AI)的一个领域,机器处理大量数据以寻找模式并在数据之间建立联系。机器学习可以揭露新关系,并有助于预测原本可能并不明晰的结果。

对于大型机器学习项目,数据中心必须能够存储大量数据、快速处理数据并整合来自多个来源的数据。运行机器学习应用程序的平台必须可靠且安全,但还必须具备从数据中心中断和应用程序故障中恢复的弹性。AWSElastic Kubernetes Service(EKS)(在 AWS 云端运行)特别适合机器学习工作负载。

《EKS 用户指南》中本节的主要目标旨在帮助您整理硬件和软件组件,以便在 EKS 集群构建运行机器学习工作负载的平台。首先,我们将介绍 EKS 和 AWS 云端中可用的功能和服务,然后为您提供帮助您使用机器学习平台、框架和模型的教程。

在 EKS 和 AWS 云端部署机器学习的优势

Amazon Elastic Kubernetes Service(EKS)是功能强大的托管型 Kubernetes 平台,已成为在云中部署和托管人工智能/机器学习工作负载的基石。Amazon EKS 能够处理复杂的资源密集型任务,为运行人工智能/机器学习模型提供了可扩展且灵活的基础,从而成为旨在充分利用机器学习潜力的组织的理想选择。

在 Amazon EKS 上部署人工智能/机器学习平台主要包括以下优势:

  • 可扩展性和灵活性 借助 Amazon EKS,组织能够无缝扩展人工智能/机器学习工作负载。无论您是在训练需要大量计算能力的大型语言模型,还是部署需要处理不可预测的流量模式的推理管线,EKS 都能实现有效纵向扩展和缩减,从而优化资源使用和成本。

  • 搭载 GPU 和 Neuron 实例,实现高性能 Amazon EKS 支持 GPU 和 AWS Neuron 实例等多种计算选项,这对于加速人工智能/机器学习工作负载而言至关重要。借助这种支持,您可以进行高性能训练和低延迟推理,从而确保模型在生产环境中高效运行。

  • 与人工智能/机器学习工具集成 Amazon EKS 与 TensorFlow、PyTorch 和 Ray 等主流人工智能/机器学习工具和框架无缝集成,为数据科学家和工程师提供了熟悉而强大的生态系统。借助这些集成,用户能够利用现有工具,同时受益于 Kubernetes 的可扩展性和托管功能。

  • 自动化和管理 Amazon EKS 上的 Kubernetes 可以自动执行许多与管理人工智能/机器学习工作负载相关的操作任务。自动扩展、滚动更新和自我修复等功能可确保您的应用程序保持高可用性和弹性,从而减少手动干预的开销。

  • 安全与合规性 在 Amazon EKS 上运行的人工智能/机器学习工作负载可提供强大的安全功能,包括精细的 IAM 角色、加密和网络策略,确保敏感数据和模型安全无虞。EKS 还遵守各种合规标准,因此适用于具有严格监管要求的企业。

为何选择 Amazon EKS 部署人工智能/机器学习?

Amazon EKS 提供全面的托管环境,可简化人工智能/机器学习模型的部署,同时提供生产工作负载所需的性能、可扩展性和安全性。凭借与各种人工智能/机器学习工具集成的能力以及对高级计算资源的支持,借助 EKS,组织能够加快其人工智能/机器学习计划并大规模提供创新解决方案。

选择 Amazon EKS,您可以访问强大的基础架构,该基础设施能够应对现代人工智能/机器学习的复杂工作负载,从而让您可以专注于创新和价值创造,而不是管理底层系统。无论您是部署简单模型还是复杂的人工智能系统,Amazon EKS 都能提供在竞争激烈且快速发展的领域中脱颖而出所需的工具和功能。

开始在 EKS 上部署机器学习

要开始在 AWS 云端的 EKS 上规划和使用机器学习平台和工作负载,请继续阅读 开始使用机器学习 部分。

隐私网站条款Cookie 首选项
© 2025, Amazon Web Services, Inc. 或其附属公司。保留所有权利。