SageMaker AI Edge Manager

重要

SageMaker AI Edge Manager 已於 2024 年 4 月 26 日終止。如需繼續將模型部署至邊緣裝置的詳細資訊，請參閱 SageMaker AI Edge Manager 生命週期結束。

Amazon SageMaker AI Edge Manager 元件 (aws.greengrass.SageMakerEdgeManager) 安裝 SageMaker AI Edge Manager 代理程式二進位檔。

SageMaker AI Edge Manager 為邊緣裝置提供模型管理，因此您可以在邊緣裝置機群上最佳化、保護、監控和維護機器學習模型。 SageMaker AI Edge Manager 元件會在您的核心裝置上安裝和管理 SageMaker AI Edge Manager 代理程式的生命週期。您也可以使用 SageMaker AI Edge Manager 封裝並使用 SageMaker AI Neo 編譯模型做為 Greengrass 核心裝置上的模型元件。如需在核心裝置上使用 SageMaker AI Edge Manager 代理程式的詳細資訊，請參閱在 Greengrass 核心裝置上使用 Amazon SageMaker AI Edge Manager。

SageMaker AI Edge Manager 元件 v1.3.x 安裝 Edge Manager 代理程式二進位 v1.20220822.836f3023。如需 Edge Manager 代理程式二進位版本的詳細資訊，請參閱 Edge Manager 代理程式。

注意

SageMaker AI Edge Manager 元件僅在下列情況下可用 AWS 區域：

美國東部 (俄亥俄)
美國東部 (維吉尼亞北部)
美國西部 (奧勒岡)
歐洲 (法蘭克福)
歐洲 (愛爾蘭)
亞太區域 (東京)

版本

此元件具有下列版本：

1.3.x
1.2.x
1.1.x
1.0.x

Type

此元件是一般元件 (aws.greengrass.generic)。Greengrass 核會執行元件的生命週期指令碼。

如需詳細資訊，請參閱元件類型。

作業系統

此元件可以安裝在執行下列作業系統的核心裝置上：

Linux
Windows

要求

此元件有下列需求：

在 Amazon Linux 2 上執行的 Greengrass 核心裝置，以 Debian 為基礎的 Linux 平台 (x86_64 或 Armv8) 或 Windows (x86_64)。如果您沒有帳戶，請參閱教學課程：入門 AWS IoT Greengrass V2。
Python 3.6 或更新版本，包括pip您核心裝置上安裝的 Python 版本。

Greengrass 裝置角色設定了下列項目：

允許 credentials.iot.amazonaws.com和 sagemaker.amazonaws.com擔任角色的信任關係，如下列IAM政策範例所示。


{ 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

AmazonSageMakerEdgeDeviceFleetPolicy IAM 受管政策。

s3:PutObject 動作，如下列IAM政策範例所示。


{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

在與 Greengrass 核心裝置相同 AWS 帳戶和 AWS 區域相同的 Amazon S3 儲存貯體中建立。 SageMaker AI Edge Manager 需要 S3 儲存貯體來建立邊緣裝置機群，以及將範例資料從執行推論存放在您的裝置。如需建立 S3 儲存貯體的相關資訊，請參閱 Amazon S3 入門。
AI SageMaker 邊緣裝置機群使用與 Greengrass 核心裝置相同的 AWS IoT 角色別名。如需詳細資訊，請參閱建立邊緣裝置機群。
您的 Greengrass 核心裝置已註冊為 SageMaker AI Edge 裝置機群中的邊緣裝置。邊緣裝置名稱必須與核心裝置的 AWS IoT 物件名稱相符。如需詳細資訊，請參閱註冊您的 Greengrass 核心裝置。

端點和連接埠

除了基本操作所需的端點和連接埠之外，此元件還必須能夠對下列端點和連接埠執行傳出請求。如需詳細資訊，請參閱允許裝置流量透過 Proxy 或防火牆。

端點連線埠必要描述

端點	連線埠	必要	描述
`edge.sagemaker.region.amazonaws.com`	443	是	檢查裝置註冊狀態，並將指標傳送至 SageMaker AI。
`*.s3.amazonaws.com`	443	是	將擷取資料上傳到您指定的 S3 儲存貯體。您可以`*`用上傳資料的每個儲存貯體的名稱取代。

edge.sagemaker.region.amazonaws.com

443

是

檢查裝置註冊狀態，並將指標傳送至 SageMaker AI。

*.s3.amazonaws.com

443

是

將擷取資料上傳到您指定的 S3 儲存貯體。

您可以*用上傳資料的每個儲存貯體的名稱取代。

相依性

當您部署元件時， AWS IoT Greengrass 也會部署其相依性的相容版本。這表示您必須符合元件及其所有相依性的要求，才能成功部署元件。本節列出此元件發行版本的相依性，以及為每個相依性定義元件版本的語意版本限制。您也可以在AWS IoT Greengrass 主控台中檢視每個版本元件的相依性。在元件詳細資訊頁面上，尋找相依性清單。

1.3.5 and 1.3.6

下表列出此元件 1.3.5 和 1.3.6 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.13.0	軟式
權杖交換服務	>=0.0.0	硬式

1.3.4

下表列出此元件 1.3.4 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.12.0	軟式
權杖交換服務	>=0.0.0	硬式

1.3.3

下表列出此元件 1.3.3 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.11.0	軟式
權杖交換服務	>=0.0.0	硬式

1.3.2

下表列出此元件 1.3.2 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.10.0	軟式
權杖交換服務	>=0.0.0	硬式

1.3.1

下表列出此元件 1.3.1 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.9.0	軟式
權杖交換服務	>=0.0.0	硬式

1.1.1 - 1.3.0

下表列出此元件 1.1.1 - 1.3.0 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.8.0	軟式
權杖交換服務	>=0.0.0	硬式

1.1.0

下表列出此元件 1.1.0 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.6.0	軟式
權杖交換服務	>=0.0.0	硬式

1.0.3

下表列出此元件 1.0.3 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.5.0	軟式
權杖交換服務	>=0.0.0	硬式

1.0.1 and 1.0.2

下表列出此元件 1.0.1 和 1.0.2 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.4.0	軟式
權杖交換服務	>=0.0.0	硬式

1.0.0

下表列出此元件 1.0.0 版的相依性。

相依性	相容版本	相依性類型
Greengrass 核	>=2.0.0 <2.3.0	軟式
權杖交換服務	>=0.0.0	硬式

如需元件相依性的詳細資訊，請參閱元件配方參考。

組態

此元件提供下列組態參數，您可以在部署元件時自訂這些參數。

注意

本節說明您在元件中設定的組態參數。如需對應 SageMaker AI Edge Manager 組態的詳細資訊，請參閱《Amazon SageMaker AI 開發人員指南》中的 Edge Manager 代理程式。

DeviceFleetName

包含 Greengrass 核心裝置的 SageMaker AI Edge Manager 裝置機群名稱。

部署此元件時，您必須在組態更新中指定此參數的值。

BucketName

您上傳擷取推論資料的 S3 儲存貯體名稱。儲存貯體名稱必須包含字串 sagemaker。

如果您將 CaptureDataDestination 設定為 Cloud，或者如果您將 CaptureDataPeriodicUpload設定為 true，則必須在部署此元件時，在組態更新中指定此參數的值。

注意

擷取資料是一項 SageMaker AI 功能，可讓您將推論輸入、推論結果和其他推論資料上傳至 S3 儲存貯體或本機目錄，以供未來分析。如需搭配 SageMaker AI Edge Manager 使用擷取資料的詳細資訊，請參閱《Amazon SageMaker AI 開發人員指南》中的管理模型。

CaptureDataBatchSize

（選用）代理程式處理的擷取資料請求批次大小。此值必須小於您在中指定的緩衝區大小CaptureDataBufferSize。建議您不要超過緩衝區大小的一半。

當緩衝區中的請求數量符合CaptureDataBatchSize數字，或CaptureDataPushPeriodSeconds間隔經過時，代理程式會處理請求批次，以先發生者為準。

預設：10

CaptureDataBufferSize

（選用）儲存在緩衝區中的擷取資料請求數目上限。

預設：30

CaptureDataDestination

（選用）存放擷取資料的目的地。此參數可以具有下列值：

Cloud- 將擷取的資料上傳至您在中指定的 S3 儲存貯體BucketName。
Disk- 將擷取的資料寫入元件的工作目錄。

如果您指定 Disk，您也可以選擇將 CaptureDataPeriodicUpload設定為，以定期將擷取的資料上傳到您的 S3 儲存貯體true。

預設：Cloud

CaptureDataPeriodicUpload

（選用）指定是否定期上傳擷取資料的字串值。支援的值為 true 和 false。

true 如果您將 CaptureDataDestination設定為 Disk，則將此參數設定為，而且您也希望代理程式定期上傳擷取的資料至 S3 儲存貯體。

預設：false

CaptureDataPeriodicUploadPeriodSeconds

（選用） SageMaker AI Edge Manager 代理程式將擷取資料上傳至 S3 儲存貯體的間隔，以秒為單位。如果您將 CaptureDataPeriodicUpload設定為，請使用此參數true。

預設：8

CaptureDataPushPeriodSeconds

（選用） SageMaker AI Edge Manager 代理程式處理緩衝區一批擷取資料請求的間隔，以秒為單位。

當緩衝區中的請求數量符合CaptureDataBatchSize數字，或CaptureDataPushPeriodSeconds間隔經過時，代理程式會處理請求批次，以先發生者為準。

預設：4

CaptureDataBase64EmbedLimit

（選用） SageMaker AI Edge Manager 代理程式上傳的擷取資料位元組大小上限。

預設：3072

FolderPrefix

（選用）代理程式寫入擷取資料的資料夾名稱。如果您將 CaptureDataDestination設定為 Disk，代理程式會在指定的目錄中建立資料夾CaptureDataDiskPath。如果您將 CaptureDataDestination 設定為 Cloud，或者如果您將 CaptureDataPeriodicUpload設定為 true，代理程式會在 S3 儲存貯體中建立資料夾。

預設：sme-capture

CaptureDataDiskPath

此功能可在 SageMaker AI Edge Manager 元件的 1.1.0 版和更新版本中使用。

（選用）代理程式建立擷取資料資料夾的資料夾路徑。如果您將 CaptureDataDestination設定為 Disk，代理程式會在此目錄中建立擷取的資料資料夾。如果您未指定此值，代理程式會在元件的工作目錄中建立擷取的資料資料夾。使用 FolderPrefix 參數來指定擷取的資料資料夾的名稱。

預設：/greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

此功能在 SageMaker AI Edge Manager 元件的 v1.2.0 和更新版本中提供。

（選用）此元件在核心裝置上存放下列資料的路徑：

將 DbEnable設定為時，執行時間資料的本機資料庫true。
SageMaker 將 DeploymentEnable設定為時，此元件會自動下載的 AI Neo 編譯模型true。

預設：/greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

（選用）您可以啟用此元件，在本機資料庫中存放執行期資料以保留資料，以防元件故障或裝置斷電。

此資料庫需要核心裝置檔案系統的 5 MB 儲存空間。

預設：false

DeploymentEnable

此功能在 SageMaker AI Edge Manager 元件的 v1.2.0 和更新版本中提供。

（選用）您可以啟用此元件，從您上傳至 Amazon S3 的模型中自動擷取 SageMaker AI Neo 編譯模型。將新模型上傳至 Amazon S3 之後，請使用 SageMaker AI Studio 或 SageMaker AI API 將新模型部署至此核心裝置。當您啟用此功能時，您可以將新模型部署到核心裝置，而不需要建立 AWS IoT Greengrass 部署。

重要

若要使用此功能，您必須將 DbEnable設定為 true。此功能使用本機資料庫來追蹤從擷取的模型 AWS 雲端。

預設：false

DeploymentPollInterval

此功能在 SageMaker AI Edge Manager 元件的 v1.2.0 和更新版本中提供。

（選用）此元件檢查要下載的新模型之間的時間長度（分鐘）。當您將 DeploymentEnable設定為時，此選項即適用true。

預設：1440(1 天）

DLRBackendOptions

此功能在 SageMaker AI Edge Manager 元件的 v1.2.0 和更新版本中提供。

（選用）此元件使用的DLR執行階段中要設定的DLR執行階段旗標。您可以設定下列旗標：

TVM_TENSORRT_CACHE_DIR – 啟用 TensorRT 模型快取。指定具有讀取/寫入許可的現有資料夾的絕對路徑。
TVM_TENSORRT_CACHE_DISK_SIZE_MB – 指派 TensorRT 模型快取資料夾的上限。當目錄大小超過此限制時，最少使用的快取引擎會被刪除。預設值為 512 MB。

例如，您可以將此參數設定為下列值，以啟用 TensorRT 模型快取，並將快取大小限制為 800 MB。


TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800

SagemakerEdgeLogVerbose

（選用）指定是否啟用偵錯記錄的字串值。支援的值為 true 和 false。

預設：false

UnixSocketName

（選用） AI SageMaker Edge Manager 通訊端檔案描述符在核心裝置上的位置。

預設：/tmp/aws.greengrass.SageMakerEdgeManager.sock

範例：組態合併更新

下列範例組態指定核心裝置是的一部分，MyEdgeDeviceFleet且代理程式會將擷取資料寫入裝置和 S3 儲存貯體。此組態也會啟用偵錯記錄。


{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

本機日誌檔案

此元件使用以下日誌檔案。

檢視此元件的日誌

在核心裝置上執行下列命令，以即時檢視此元件的日誌檔案。將 /greengrass/v2或取代C:\greengrass\v2為 AWS IoT Greengrass 根資料夾的路徑。
Linux
```
sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
```
Windows (PowerShell)
```
Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait
```

變更記錄

下表說明每個版本元件的變更。

版本	變更
1.3.6	針對 Greengrass nucleus 2.12.5 版更新版本。
1.3.5	針對 Greengrass nucleus 2.12.0 版更新版本。
1.3.4	針對 Greengrass nucleus 2.11.0 版更新版本。
1.3.3	針對 Greengrass nucleus 2.10.0 版更新版本。
1.3.2	針對 Greengrass nucleus 2.9.0 版更新版本。
1.3.1	針對 Greengrass nucleus 2.8.0 版更新版本。
1.3.0	新功能新增對 TensorRT 快取磁碟大小管理的支援。將選用`TVM_TENSORRT_CACHE_DISK_SIZE_MB`旗標新增至 DLRBackendOptions 參數，以設定磁碟上快取模型的大小限制。改善項目提供改善的預測並行。這有助於更好地使用裝置加速器引擎，例如 GPUs。
1.2.0	新功能新增此元件的支援，以自動擷取您上傳至 Amazon S3 的 SageMaker AI Neo 編譯模型。當您啟用此功能時，您可以將新的模型部署到核心裝置，而不需要建立 AWS IoT Greengrass 部署。新增支援此元件用來保留執行期資料的備份資料庫，以防元件故障或裝置斷電。新增支援，讓您在設定此元件時設定DLR執行期旗標。
1.1.1	針對 Greengrass nucleus 2.7.0 版更新版本。
1.1.0	新功能新增對執行 Amazon Linux 2 的 Greengrass 核心裝置的支援。新增新的`CaptureDataDiskPath`組態參數。您可以使用此參數來指定裝置上擷取資料資料夾的路徑。錯誤修正和改善針對 Greengrass nucleus 2.5.0 版更新版本。
1.0.3	針對 Greengrass nucleus 2.4.0 版更新版本。
1.0.2	錯誤修正和改善更新元件生命週期中的安裝指令碼。您的核心裝置現在必須在裝置上安裝 Python 3.6 或更新版本，包括`pip`您的 Python 版本，才能部署此元件。
1.0.1	針對 Greengrass nucleus 2.3.0 版更新版本。
1.0.0	初始版本。

您的瀏覽器已停用或無法使用 Javascript。

您必須啟用 Javascript，才能使用 AWS 文件。請參閱您的瀏覽器說明頁以取得說明。

文件慣用形式

Lookout for Vision 邊緣代理

DLR 影像分類