本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
Amazon EKS 上的Machine Learning概觀
Machine Learning (ML) 是人工智慧 (AI) 的領域，機器會處理大量資料，以尋找模式並在資料之間建立連線。這可以公開新的關係，並協助預測在其他方面可能並不明顯的結果。
對於大規模 ML 專案，資料中心必須能夠儲存大量資料、快速處理資料，以及整合來自許多來源的資料。執行 ML 應用程式的平台必須可靠且安全，但也提供從資料中心中斷和應用程式故障中復原的彈性。在 AWS 雲端執行的 AWS 彈性 Kubernetes Service (EKS) 特別適用於 ML 工作負載。
EKS 使用者指南本節的主要目標是協助您整合硬體和軟體元件，以建置平台，在 EKS 叢集中執行 Machine Learning 工作負載。我們首先向您說明 EKS 和 AWS 雲端中可用的功能和服務，然後為您提供教學課程，協助您使用 ML 平台、架構和模型。
Machine Learning on EKS 和 AWS 雲端的優勢
Amazon Elastic Kubernetes Service (EKS) 是功能強大、受管的 Kubernetes 平台，已成為部署和管理 AI/ML workloads in the cloud. With its ability to handle complex, resource-intensive tasks, Amazon EKS provides a scalable and flexible foundation for running AI/ML 模型的基石，因此對於希望充分利用機器學習潛力的組織而言，這是理想的選擇。
Amazon EKS 上 AI/ML 平台的主要優點包括：
-
可擴展性和彈性 Amazon EKS 可讓組織無縫擴展 AI/ML 工作負載。無論您是在訓練需要大量運算能力的大型語言模型，還是部署需要處理無法預測流量模式的推論管道，EKS 都會有效率地擴展和縮減規模，進而最佳化資源使用和成本。
-
使用 GPUs 和 Neuron 執行個體的高效能 Amazon EKS 支援廣泛的運算選項，包括 GPUs 和 AWS} Neuron 執行個體，這些都是加速 AI/ML 工作負載的必要條件。此支援允許高效能訓練和低延遲推論，確保模型在生產環境中有效率地執行。
-
與 AI/ML 工具整合 Amazon EKS 與熱門的 AI/ML 工具和架構無縫整合，例如 TensorFlow、 PyTorch 和 Ray，為資料科學家和工程師提供熟悉且強大的生態系統。這些整合讓使用者能夠利用現有的工具，同時受益於 Kubernetes 的可擴展性和管理功能。
-
Amazon EKS 上的自動化和管理 Kubernetes 可自動化與管理 AI/ML 工作負載相關聯的許多操作任務。自動擴展、滾動更新和自我修復等功能可確保您的應用程式保持高度可用和彈性，從而減少人工干預的開銷。
-
在 Amazon EKS 上執行 AI/ML 工作負載的安全性和合規提供強大的安全功能，包括精細的 IAM 角色、加密和網路政策，確保敏感資料和模型受到保護。EKS 也遵循各種合規標準，使其適用於具有嚴格法規要求的企業。
為什麼選擇 Amazon EKS for AI/ML？
Amazon EKS 提供全方位的受管環境，可簡化 AI/ML models while providing the performance, scalability, and security needed for production workloads. With its ability to integrate with a variety of AI/ML tools and its support for advanced compute resources, EKS empowers organizations to accelerate their AI/ML 計畫的部署，並提供大規模的創新解決方案。
透過選擇 Amazon EKS，您可以存取強大的基礎設施，以處理現代 AI/ML 工作負載的複雜性，讓您專注於創新和價值創造，而不是管理基礎系統。無論您是部署簡單的模型或複雜的 AI 系統，Amazon EKS 都能提供在競爭激烈且快速發展的領域取得成功所需的工具和功能。
在 EKS 上開始使用Machine Learning
若要開始規劃和在 AWS 雲端上的 EKS 上使用Machine Learning平台和工作負載，請繼續 在 EKS 上開始部署Machine Learning工具一節。
