部落格、範例筆記本及其他資源

• 在 Amazon SageMaker AI 上部署即時模型的入門

• 使用大型模型推論深度學習容器和 DeepSpeed，在 Amazon SageMaker AI 上部署 BLOOM-176B 和 OPT-30B

• 使用 Amazon API Gateway 映射範本和 Amazon SageMaker AI 建立採用機器學習技術的 REST API

• 在 Amazon SageMaker AI 中設定自動擴展推論端點

• Amazon SageMaker 無伺服器推論 — 機器學習推論，無需擔心伺服器問題

• 使用 Amazon SageMaker 無伺服器推論託管 Hugging Face Transformer 模型

• Amazon SageMaker 無伺服器推論基準測試工具組簡介

• 使用 Amazon SageMaker AI 非同步端點在大型影片上執行電腦視覺推論

• 使用 Amazon Kinesis AWS Glue、 和 Amazon SageMaker AI 建置預測性維護解決方案

• 使用 Hugging Face 和 Amazon SageMaker 非同步推論端點來改善高價值研究

• 使用 Amazon SageMaker AI 批次轉換將預測結果與輸入資料建立關聯

• 使用 Amazon SageMaker AI 多模型端點，節省推論成本

• 使用 Amazon SageMaker AI 多模型端點在 GPU 上執行多個深度學習模型

• 如何擴展多租用戶 SaaS 使用案例的機器學習推論

• 使用 Amazon SageMaker AI 多模型端點執行和最佳化多模型推論

• Amazon SageMaker AI 上的序列推論設計模式

• 在 Amazon SageMaker AI 上使用多架構模型進行具成本效益的 ML 推論

• 在 Amazon SageMaker AI 上執行集合 ML 模型

• SageMaker 推論建議程式範例筆記本

• HuggingFace BERT 情緒分析範例筆記本 SageMaker 推論建議程式

• 在 Amazon SageMaker AI 上使用 NVIDIA Triton 推論伺服器，實現模型服務的超大規模效能

• 第 1 部分：在 Amazon SageMaker AI 上建置 ML 應用程式的常見設計模式

• 第 2 部分：在 SageMaker AI 上部署即時模型的入門

• 第 3 部分：使用 Amazon SageMaker AI 多模型端點執行和最佳化多模型推論

• 第 4 部分：Amazon SageMaker AI 上的序列推論設計模式

• 第 5 部分：在 Amazon SageMaker AI 上使用多架構模型進行具成本效益的 ML 推論

• 第 6 部分：在 SageMaker AI 上測試和更新模型的最佳實務

• 第 7 部分：在 Amazon SageMaker AI 上執行集合 ML 模型

• SageMaker 推論建議程式範例筆記本

• HuggingFace BERT 情緒分析範例筆記本 SageMaker 推論建議程式