本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

執行機器學習推論

使用 AWS IoT Greengrass，您可以使用雲端訓練模型，在本機產生的資料上執行邊緣裝置上的機器學習 (ML) 推論。您可以從低延遲時間和節省執行本機推論成本中獲益，但仍同時充分利用雲端運算能力進行訓練模型和處理複雜地處理。

AWS IoT Greengrass 可讓執行推論所需的步驟更有效率。您可以在任何地方訓練推論模型，並將其部署為機器學習元件。例如，您可以在 Amazon SageMaker AI 中建立和訓練深度學習模型，或在 Amazon Lookout for Vision 中建立和訓練電腦視覺模型。然後，您可以將這些模型存放在 Amazon S3 儲存貯體中，以便將這些模型用作元件中的成品，在核心裝置上執行推論。

AWS IoT Greengrass ML 推論的運作方式

AWS 提供機器學習元件，您可以用來建立單一步驟部署，在裝置上執行機器學習推論。您也可以使用這些元件做為範本來建立自訂元件，以符合您的特定需求。

您為執行機器學習推論而建立的每個部署至少包含一個執行推論應用程式的元件、安裝機器學習架構，以及下載機器學習模型。若要使用 AWS提供的元件執行範例推論，您可以將推論元件部署到核心裝置，其會自動將對應的模型和執行期元件納入做為相依性。若要自訂部署，您可以使用自訂模型元件來插入或交換範例模型元件，或者您可以使用 AWS所提供元件的元件配方做為範本，以建立您自己的自訂推論、模型和執行期元件。

若要使用自訂元件執行機器學習推論：

若要開始使用 AWS提供的元件，請參閱 教學課程：使 TensorFlow 用 Lite 執行範例影像分類推論。

如需建立自訂機器學習元件的詳細資訊，請參閱自訂您的機器學習元件。

第 2 AWS IoT Greengrass 版有何不同？

AWS IoT Greengrass 將機器學習的功能單位，例如模型、執行時間和推論程式碼，整合到可讓您使用單一步驟程序來安裝機器學習執行時間、下載訓練過的模型，以及在裝置上執行推論的元件。

透過使用 AWS提供的機器學習元件，您可以利用範例推論程式碼和預先訓練的模型，靈活地開始執行機器學習推論。您可以插入自訂模型元件，以使用自訂訓練的模型搭配 AWS 提供的推論和執行期元件。對於完全自訂的機器學習解決方案，您可以使用公有元件做為範本來建立自訂元件，並使用您想要的任何執行期、模型或推論類型。

要求

若要建立和使用機器學習元件，您必須具備下列項目：

支援的模型來源

AWS IoT Greengrass 支援使用儲存在 Amazon S3 中的自訂訓練機器學習模型。您也可以使用 Amazon SageMaker AI 邊緣封裝任務，直接為您的 SageMaker AI Neo 編譯模型建立模型元件。如需搭配 使用 SageMaker AI Edge Manager 的詳細資訊 AWS IoT Greengrass，請參閱 在 Greengrass 核心裝置上使用 Amazon SageMaker AI Edge Manager。您也可以使用 Amazon Lookout for Vision 模型封裝任務，為您的 Lookout for Vision 模型建立模型元件。如需搭配 Lookout for Vision 使用的詳細資訊 AWS IoT Greengrass，請參閱 Greengrass out out out out out out out out out out out on Vision。

包含模型的 S3 儲存貯體必須符合下列要求：

支援的機器學習執行期

AWS IoT Greengrass 可讓您建立自訂元件，以使用您選擇的任何機器學習執行期，透過自訂訓練模型執行機器學習推論。如需建立自訂機器學習元件的詳細資訊，請參閱自訂您的機器學習元件。

為了讓機器學習入門更有效率， AWS IoT Greengrass 提供使用下列機器學習執行期的範例推論、模型和執行期元件：

AWS提供的機器學習元件

下表列出用於機器學習的 AWS所提供元件。