本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
嘗試在 EKS 上部署 Machine Learning 工作負載和平台的教學課程
如果您有興趣在 EKS 中設定Machine Learning平台和架構,請探索此頁面所述的教學課程。這些教學課程涵蓋從善用 GPU 處理器到選擇建模工具,再到為專業產業建置架構的各種模式。
在 EKS 上建置生成式 AI 平台
在 EKS 上執行專用生成式 AI 架構
最大化 ML on NVIDIA 的 EKS GPU效能
-
實作 GPU 共用,以有效率地將 NVIDIA GPUs 用於您的 EKS 叢集:
-
使用多執行個體 GPUs (MIGs) 和 NIM 微服務,在 EKS 叢集上執行每個 GPU 的更多 Pod:
在 Amazon GPU 上使用 NVIDIA 的多執行個體 GPU (MIG) 來最大化 EKS 使用率:每個 GPU 執行更多 Pod 以提高效能
-
利用 NVIDIA NIM 微服務,使用最佳化微服務來最佳化推論工作負載,以大規模部署 AI 模型:
第 1 部分:使用 NVIDIA NIMs 上的 EKS 部署生成式 AI 應用程式
第 2 部分:在 Amazon Elastic Kubernetes Service (Amazon EKS) 上使用 NVIDIA NIM微服務部署生成式 AI 應用程式