在 Greengrass 核心裝置上使用 Amazon SageMaker AI Edge Manager - AWS IoT Greengrass
運作方式要求SageMaker AI Edge Manager 入門

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 Greengrass 核心裝置上使用 Amazon SageMaker AI Edge Manager

重要

SageMaker AI Edge Manager 已於 2024 年 4 月 26 日終止。如需繼續將模型部署至邊緣裝置的詳細資訊，請參閱 SageMaker AI Edge Manager 生命週期結束。

Amazon SageMaker AI Edge Manager 是一種在邊緣裝置上執行的軟體代理程式。SageMaker AI Edge Manager 為邊緣裝置提供模型管理，讓您可以直接在 Greengrass 核心裝置上封裝和使用 Amazon SageMaker AI Neo 編譯的模型。透過使用 SageMaker AI Edge Manager，您也可以從核心裝置取樣模型輸入和輸出資料，並將該資料傳送至 AWS 雲端 以進行監控和分析。由於 SageMaker AI Edge Manager 使用 SageMaker AI Neo 來最佳化目標硬體的模型，因此您不需要直接在裝置上安裝 DLR 執行期。在 Greengrass 裝置上，SageMaker AI Edge Manager 不會載入本機 AWS IoT 憑證或直接呼叫 AWS IoT 登入資料提供者端點。反之，SageMaker AI Edge Manager 會使用權杖交換服務從 TES 端點擷取臨時憑證。

本節說明 SageMaker AI Edge Manager 如何在 Greengrass 核心裝置上運作。

SageMaker AI Edge Manager 如何在 Greengrass 裝置上運作

若要將 SageMaker AI Edge Manager 代理程式部署到核心裝置，請建立包含 aws.greengrass.SageMakerEdgeManager component. AWS IoT Greengrass manages 的部署，以便在裝置上安裝 Edge Manager 代理程式和生命週期。當新版本的代理程式二進位檔可用時，請部署更新的 aws.greengrass.SageMakerEdgeManager元件版本，以升級安裝在您裝置上的代理程式版本。

當您搭配 SageMaker AI Edge Manager 使用 時 AWS IoT Greengrass，您的工作流程包含下列高階步驟：

  1. 使用 SageMaker AI Neo 編譯模型。

  2. 使用 SageMaker AI 邊緣封裝任務封裝 SageMaker AI Neo 編譯模型。當您執行模型的邊緣封裝任務時，您可以選擇使用封裝模型建立模型元件，做為可部署到 Greengrass 核心裝置的成品。

  3. 建立自訂推論元件。您可以使用此推論元件與 Edge Manager 代理程式互動，在核心裝置上執行推論。這些操作包括載入模型、叫用預測請求來執行推論，以及在元件關閉時卸載模型。

  4. 部署 SageMaker AI Edge Manager 元件、封裝模型元件和推論元件，以在裝置上的 SageMaker AI 推論引擎 (Edge Manager 代理程式） 上執行模型。

如需建立與 SageMaker AI Edge Manager 搭配使用的邊緣封裝任務和推論元件的詳細資訊，請參閱《Amazon SageMaker AI 開發人員指南》中的使用 部署模型套件和 Edge Manager Agent AWS IoT Greengrass。

本教學課程：SageMaker AI Edge Manager 入門教學課程說明如何在現有的 Greengrass 核心裝置上設定和使用 SageMaker AI Edge Manager 代理程式，使用 AWS提供的範例程式碼，可用來建立範例推論和模型元件。

當您在 Greengrass 核心裝置上使用 SageMaker AI Edge Manager 時，您也可以使用擷取資料功能將範例資料上傳至 AWS 雲端。擷取資料是 SageMaker AI 功能，您可用來將推論輸入、推論結果和其他推論資料上傳至 S3 儲存貯體或本機目錄，以供未來分析。如需搭配 SageMaker AI Edge Manager 使用擷取資料的詳細資訊，請參閱《Amazon SageMaker AI 開發人員指南》中的管理模型。

要求

您必須符合下列需求，才能在 Greengrass 核心裝置上使用 SageMaker AI Edge Manager 代理程式。

  • 在 Amazon Linux 2 上執行的 Greengrass 核心裝置、以 Debian 為基礎的 Linux 平台 (x86_64 或 Armv8) 或 Windows (x86_64)。如果您沒有帳戶，請參閱 教學課程：入門 AWS IoT Greengrass V2。

  • Python 3.6 或更新版本，包括pip安裝在核心裝置上的 Python 版本。

  • 使用下列項目設定的 Greengrass 裝置角色：

    • 允許 credentials.iot.amazonaws.com和 sagemaker.amazonaws.com擔任角色的信任關係，如下列 IAM 政策範例所示。

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • AmazonSageMakerEdgeDeviceFleetPolicy IAM 受管政策。

    • s3:PutObject 動作，如下列 IAM 政策範例所示。

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • 在與 Greengrass 核心裝置相同的 AWS 帳戶 和 中建立 AWS 區域 的 Amazon S3 儲存貯體。SageMaker AI Edge Manager 需要 S3 儲存貯體來建立邊緣裝置機群，以及將範例資料從裝置上執行推論中存放。如需建立 S3 儲存貯體的資訊，請參閱 Amazon S3 入門。

  • SageMaker AI 邊緣裝置機群，使用與您的 Greengrass 核心裝置相同的 AWS IoT 角色別名。如需詳細資訊，請參閱建立邊緣裝置機群。

  • 您的 Greengrass 核心裝置已註冊為 SageMaker AI Edge 裝置機群中的邊緣裝置。邊緣裝置名稱必須與核心裝置的 AWS IoT 物件名稱相符。如需詳細資訊，請參閱註冊您的 Greengrass 核心裝置。

SageMaker AI Edge Manager 入門

您可以完成教學課程，開始使用 SageMaker AI Edge Manager。本教學課程說明如何在現有核心裝置上使用 SageMaker AI Edge Manager AWS搭配提供的範例元件。這些範例元件使用 SageMaker AI Edge Manager 元件做為相依性來部署 Edge Manager 代理程式，並使用使用 SageMaker AI Neo 編譯的預先訓練模型來執行推論。如需詳細資訊，請參閱教學課程：SageMaker AI Edge Manager 入門。