ブログ、サンプルノートブック、および追加のリソース

以下のセクションには、Amazon SageMaker AI の詳細について学ぶための例と追加のリソースが含まれています。

ブログと導入事例

SageMaker AI Inference のさまざまな機能に関するブログと導入事例のリストについては、次の表を参照してください。ブログを使用すると、ユースケースに適したソリューションをまとめるのに役立ちます。

機能	リソース
リアルタイム推論	Amazon SageMaker AI でのリアルタイムモデルのデプロイの開始方法大規模モデル推論 Deep Learning Containers と DeepSpeed を使用して Amazon SageMaker AI に BLOOM-176B と OPT-30B をデプロイする DeepSpeed Amazon API Gateway マッピングテンプレートと Amazon SageMaker AI を使用した機械学習を活用した REST API の作成
自動スケーリング	Amazon SageMaker AI での自動スケーリング推論エンドポイントの設定
サーバーレス推論	「Amazon SageMaker Serverless Inference – Machine Learning Inference without Worrying about Servers」「Host Hugging Face transformer models using Amazon SageMaker Serverless Inference」「Introducing the Amazon SageMaker Serverless Inference Benchmarking Toolkit」
非同期推論	Amazon SageMaker AI 非同期エンドポイントを使用して、大規模なビデオでコンピュータビジョン推論を実行する Amazon Kinesis、 AWS Glue、Amazon SageMaker AI を使用して予測メンテナンスソリューションを構築する「Improve high-value research with Hugging Face and Amazon SageMaker Asynchronous Inference endpoints」
バッチ変換	Amazon SageMaker AI バッチ変換を使用して予測結果を入力データに関連付ける
マルチモデルエンドポイント	Amazon SageMaker AI マルチモデルエンドポイントを使用して推論コストを削減する Amazon SageMaker AI マルチモデルエンドポイントを使用して GPU で複数の深層学習モデルを実行する「How to scale machine learning inference for multi-tenant SaaS use cases」 Amazon SageMaker AI マルチモデルエンドポイントを使用してマルチモデル推論を実行および最適化する
シリアル推論パイプライン	Amazon SageMaker AI でのシリアル推論の設計パターン
マルチコンテナエンドポイント	Amazon SageMaker AI のマルチフレームワークモデルによるコスト効率の高い ML 推論
モデルアンサンブルの実行	Amazon SageMaker AI でアンサンブル ML モデルを実行する
推論レコメンダー	「SageMaker Inference Recommender example notebook」「SageMaker Inference Recommender for HuggingFace BERT Sentiment Analysis example notebook」 Amazon SageMaker AI で NVIDIA Triton Inference Server を使用してモデル配信のハイパースケールパフォーマンスを実現する
高度なモデルホスティングのブログシリーズ	パート 1: Amazon SageMaker AI で ML アプリケーションを構築するための一般的な設計パターンパート 2: SageMaker AI でのリアルタイムモデルのデプロイの開始方法パート 3: Amazon SageMaker AI マルチモデルエンドポイントを使用してマルチモデル推論を実行および最適化するパート 4: Amazon SageMaker AI でのシリアル推論の設計パターンパート 5: Amazon SageMaker AI のマルチフレームワークモデルによるコスト効率の高い ML 推論パート 6: SageMaker AI でのモデルのテストと更新のベストプラクティスパート 7: Amazon SageMaker AI でアンサンブル ML モデルを実行する

サンプルノートブックの例

SageMaker AI 推論の詳細を理解するのに役立つノートブックの例については、次の表を参照してください。

機能	サンプルノートブックの例
推論レコメンダー	「SageMaker Inference Recommender example notebook」「SageMaker Inference Recommender for HuggingFace BERT Sentiment Analysis example notebook」
SageMaker AI の大規模言語モデル (LLMs) を最適化する	「Generative AI LLMs workshop」

追加リソース

各 SageMaker AI 推論オプションの詳細については、次の動画をご覧ください。

ブラウザで JavaScript が無効になっているか、使用できません。

AWS ドキュメントを使用するには、JavaScript を有効にする必要があります。手順については、使用するブラウザのヘルプページを参照してください。

ドキュメントの表記規則

リソース

トラブルシューティングとリファレンス