如何設定使用 AWS Management Console機器學習推論

安裝 Raspbian 的更新。

sudo apt-get update
sudo apt-get dist-upgrade

安裝攝影機模組的 picamera 界面和本單元其他所需的 Python 程式庫。

sudo apt-get install -y python3-dev python3-setuptools python3-pip python3-picamera

驗證安裝：

重新啟動 Raspberry Pi。

sudo reboot

請開啟 Raspberry Pi 組態工具。

sudo raspi-config

請使用箭頭鍵開啟 Interfacing Options (連接選項) 並啟用攝影機界面。如果出現提示，請允許重新啟動裝置。

請使用以下命令測試攝影機建立。

raspistill -v -o test.jpg

這會在 Raspberry Pi 上開啟預覽視窗、將名為 test.jpg 的圖片儲存至現行目錄，並在 Raspberry Pi 終端機中顯示相機的相關資訊。

遠端登入到 Raspberry Pi。

ssh pi@your-device-ip-address

開啟 MXNet 文件、開啟安裝 MXNet，然後依照指示在裝置上安裝 MXNet。

安裝 MXNet 之後，請驗證下列組態：

在您的電腦上，從 機器學習範例 下載 Raspberry Pi 的 MXNet 範例。

解壓縮所下載的 mxnet-py3-armv7l.tar.gz 檔案。

請前往 squeezenet 目錄。

cd path-to-downloaded-sample/mxnet-py3-armv7l/models/squeezenet

此目錄中的 squeezenet.zip 檔案是您的模型套件。它包含 SqueezeNet 映像分類模型的開放原始碼模型成品。之後，將此模型套件上傳至 Amazon S3。

在您的電腦上，瀏覽至您在 步驟 3：建立 MXNet 模型套件 中解壓縮的範例套件內的 examples 目錄。

cd path-to-downloaded-sample/mxnet-py3-armv7l/examples

examples 目錄包含函數程式碼和相依性。

將 examples 目錄的內容壓縮成名為 greengrassObjectClassification.zip 的檔案。這是您的部署套件。

zip -r greengrassObjectClassification.zip .

接著，建立 Lambda 函數。

來自AWS IoT控制台，選擇函數和建立函數。

選擇Author from scratch (從頭開始撰寫)並使用以下值來建立您的函數：

適用於許可下一步，請保留預設設定。這會建立授與基本 Lambda 權限的執行角色。此角色不為所用AWS IoT Greengrass。

選擇 Create function (建立函數)。

現在，上傳您的 Lambda 函數部署套件，並註冊處理常式。

選擇您的 Lambda 函數，並上傳您的 Lambda 函數部署套件。

1. 在「」程式碼標籤的下碼來源碼，選擇上傳來源。從下拉式選單中選擇.zip 檔案。

   

2. 選擇上傳，然後選擇您的greengrassObjectClassification.zip部署套件。然後選擇 Save (儲存)。

3. 在「」程式碼功能的標籤，在執行時間設定，選擇Edit (編輯)，然後輸入下列值。

   • 針對 Runtime (執行時間)，選擇 Python 3.7。

   • 對於 Handler (處理常式)，輸入 greengrassObjectClassification.function_handler。

   選擇 Save (儲存)。

接著，發佈您的 Lambda 函數的第一個版本。然後，建立版本的別名。

請從操作功能表中選擇發行新版本。

針對 Version description (版本描述)，輸入 First version，然後選擇 Publish (發佈)。

在「」greengrassObjectClassification：1組態頁面，從動作功能表中，選擇建立別名。

在建立警示頁面上使用下列值：

選擇 Save (儲存)。

現在，將 Lambda 函數新增至您的 Greengrass 群組。

在 中AWS IoT主控台導覽窗格, 下Manage (管理)，展開Greengrass 裝置，然後選擇Group (V1)。

從群組組組組組態頁面上，選擇Lambda 函數索引標籤。

在 下方我的 Lambda 函數區段中，選擇Add。

對於Lambda 函數，選擇greengrassObjectClassification。

對於Lambda 函數版本，選擇別名:MLTest。

接著，設定生命週期和環境變數的 Lambda 函數。

在「」Lambda 函數組態區段中，進行以下更新。

1. 若要在不使用容器化的情況下執行：

   • 適用於系統使用者和群組，選擇Another user ID/group ID。適用於系統使用者 ID輸入0。適用於系統群組 ID輸入0。

     這允許您的 Lambda 函數以 root 身份執行。如需以 root 身份執行的詳細資訊，請參閱設定群組中 Lambda 函數的預設存取身分。

     提示

     您還必須更新config.json檔案，授予存取您的 Lambda 函數的根目錄。如需程序，請參閱以根身份運行 Lambda 函數。

   • 適用於Lambda 函數容器化，選擇沒有容器。

     如需在不使用容器化的詳細資訊，請參閱選擇 Lambda 函數容器化時的考量事項。

   • 針對 Timeout (逾時)，輸入 10 seconds。

   • 適用於Pinned，選擇True。

     如需詳細資訊，請參閱 Greengrass Lambda 函數的生命週期組態。

2. 要在容器化模式下運行：

   注意

   除非業務案例需要，否則建議您以容器化模式執行。

   • 適用於系統使用者和群組，選擇使用群組預設。

   • 適用於Lambda 函數容器化，選擇使用群組預設。

   • 針對 Memory limit (記憶體限制)，輸入 96 MB。

   • 針對 Timeout (逾時)，輸入 10 seconds。

   • 適用於Pinned，選擇True。

     如需詳細資訊，請參閱 Greengrass Lambda 函數的生命週期組態。

在 Environment variables (環境變數) 下，建立索引鍵值對。與 Raspberry Pi 上 MXNet 模型互動的函數需要索引鍵/值組。

對於該索引鍵，請使用 MXNET_ENGINE_TYPE。對於此值，請使用NaiveEngine。

保留所有其他屬性的預設數值，並選擇新增 Lambda 函數。

在群組組組組組態頁面上，選擇資源索引標籤。

在 中本機資源區段中，選擇新增本機資源。

在「」新增本機資源頁面上，使用下列值：

接著，請您新增本機裝置資源給攝影機界面的資源。

選擇新增本機資源。

在「」新增本機資源頁面上，使用下列值：

請在頁面底部選擇新增資源。

在「」資源您群組的索引標籤，在Machine Learning區段中，選擇新增 Machine learning 資源。

在「」新增機器學習資源(已建立！) 頁面資源名稱輸入squeezenet_model。

適用於模型來源，選擇使用存放在 S3 中的模型，例如透過深度學習編譯器最佳化的模型。

適用於S3 URI，輸入儲存 S3 儲存貯體的路徑。

選擇 Browse S3 (瀏覽 S3)。這會在 Amazon S3 主控台開啟新標籤。

在 Amazon S3 主控台標籤上，上傳 Amazon S3 主控台標籤squeezenet.zip檔案到 S3 儲存貯體。如需相關資訊，請參閱「」。如何將檔案和資料夾上傳至 S3 儲存貯體？中的Amazon Simple Simple Simple Simple Service。

在「」AWS IoT Greengrass主控台標籤，找到並選擇您的 S3 儲存貯體。尋找您已上傳的 squeezenet.zip 檔案，然後選擇 Select (選取)。您可能需要選擇 Refresh (重新整理) 以更新可用儲存貯體和檔案的清單。

針對 Destination path (目的地路徑)，輸入 /greengrass-machine-learning/mxnet/squeezenet。

這是 Lambda 執行階段命名空間的本機模型目的地。當您部署群組、 AWS IoT Greengrass 擷取來源模型封包，然後再擷取其內容到指定的目錄中。本教學課程範例的 Lambda 函數已設為使用此路徑 (在model_path變數）。

Under系統群組擁有者和檔案存取權限，選擇沒有系統群組。

選擇 Add resource (新增資源)。

在群組組組組組態頁面上，選擇訂閱」索引標籤，然後選擇新增訂閱。

在「」訂閱詳細資訊頁面上，設定以下的來源和目標：

1. In來源類型，選擇Lambda 函數，然後選擇greengrassObjectClassification。

2. InTarget type (目標類型)，選擇服務，然後選擇IoT Cloud (IoT 雲端)。

In主題篩選條件輸入hello/world，然後選擇建立訂閱。

請確定AWS IoT Greengrass核心正在執行。如果需要，請在您的 Raspberry Pi 終端機執行以下命令。

1. 檢查精靈是否有在運作：

   ps aux | grep -E 'greengrass.*daemon'

   若輸出的 root 含有 /greengrass/ggc/packages/1.11.6/bin/daemon 項目，則精靈有在運作。

   注意

   路徑的版本取決於安裝在您的核心裝置中的 AWS IoT Greengrass 核心軟體版本。

2. 啟動協助程式：

   cd /greengrass/ggc/core/
   sudo ./greengrassd start

在群組組組組組組態頁面上，選擇部署。

在 中Lambda 函數」標籤的」系統 Lambda 函數區段中，選取IP 偵測器並選擇Edit (編輯)。

在 中編輯 IP 偵測器設定對話方塊中，選取自動偵測並覆寫 MQTT 代理程式端點。

選擇 Save (儲存)。

這可讓裝置自動取得核心的連接資訊，例如 IP 位址、DNS、連接埠編號。建議使用自動偵測，但是 AWS IoT Greengrass 也支援手動指定端點。只會在第一次部署群組時收到復原方法的提示。

此部署頁面會顯示部署時間戳記、版本 ID 和狀態。部署完成時，針對部署顯示的狀態應為已完成。

如需部署的詳細資訊，請參閱將 AWS IoT Greengrass 群組部署至 AWS IoT Greengrass 核心。如需故障診斷協助，請參閱AWS IoT Greengrass 疑難排解。

在 中AWS IoT控制台，下測試，選擇MQTT 測試用戶端。

於訂閱使用以下值：

選擇 Subscribe (訂閱)。

如果測試成功，Lambda 函數的訊息會顯示於頁面底部。每個訊息含有搜尋映像的前 5 個預測結果，使用格式：成功率、預估類別 ID，和對應的類別名稱。

切換到根使用者和導覽至 log 目錄。存取 AWS IoT Greengrass 日誌需要根許可。

sudo su
cd /greengrass/ggc/var/log

在 system 目錄中，勾選 runtime.log 或 python_runtime.log。

在 user/region/account-id 目錄中，勾選 greengrassObjectClassification.log。

如需詳細資訊，請參閱 日誌故障診斷。

列出已部署 Lambda 的 Lambda 內容/lambda目錄。先執行命令，再取代預留位置值。

cd /greengrass/ggc/deployment/lambda/arn:aws:lambda:region:account:function:function-name:function-version
ls -la

確認目錄包含與greengrassObjectClassification.zip您上傳的部署套件步驟 4：建立並發佈 Lambda 函數。

確保 .py 檔案和相依性皆位於目錄的根中。

尋找 Lambda 執行時間過程的處理識別碼 (PID)：

ps aux | grep 'lambda-function-name*'

PID 會在輸出顯示於 Lambda 執行時間過程的第二個欄位中。

輸入 Lambda 執行時間命名空間命名 執行命令前，務必先取代預留位置 pid 值。

sudo nsenter -t pid -m /bin/bash

列出您為機器學習資源所指定的本機目錄內容。

cd /greengrass-machine-learning/mxnet/squeezenet/
ls -ls

您會看到以下檔案：

32 -rw-r--r-- 1 ggc_user ggc_group   31675 Nov 18 15:19 synset.txt
32 -rw-r--r-- 1 ggc_user ggc_group   28707 Nov 18 15:19 squeezenet_v1.1-symbol.json
4832 -rw-r--r-- 1 ggc_user ggc_group 4945062 Nov 18 15:19 squeezenet_v1.1-0000.params

下載 Lambda 函數的靜態 PNG 或 JPG 映像，以用於影像分類。此範例最適合與小型映像檔案一同運作。

儲存含有 greengrassObjectClassification.py 檔案 (或於該目錄的子目錄中)目錄中的映像檔案。這是您在上傳的 Lambda 函數部署套件步驟 4：建立並發佈 Lambda 函數。

如果您不使用 Python 3.7，請務必建立從 Python 3.x 到 Python 3.7 的符號連結。這會將您的裝置設定為使用 Python 3 與 AWS IoT Greengrass。執行以下命令來找到您的 Python 安裝：

which python3

執行以下命令來建立符號連結：

sudo ln -s path-to-python-3.x/python3.x path-to-python-3.7/python3.7

重新啟動裝置。

編輯 Lambda 函數的組態。請遵循 步驟 5：新增 Lambda 函數至 Greengrass 群組 中的程序。

1. 若要在不使用容器化的情況下執行：

   • 適用於系統使用者和群組，選擇Another user ID/group ID。適用於系統使用者 ID輸入0。適用於系統群組 ID輸入0。

     這允許您的 Lambda 函數以 root 身份執行。如需以 root 身份執行的詳細資訊，請參閱設定群組中 Lambda 函數的預設存取身分。

     提示

     您還必須更新config.json檔案，授予存取您的 Lambda 函數的根目錄。如需程序，請參閱以根身份運行 Lambda 函數。

   • 適用於Lambda 函數容器化，選擇沒有容器。

     如需在不使用容器化的詳細資訊，請參閱選擇 Lambda 函數容器化時的考量事項。

   • 將 Timeout (逾時) 值更新為 5 秒鐘。這可確保請求不會太旱逾時。設定完成後，執行推論需要幾分鐘的時間。

   • UnderPinned，選擇True。

   • Under其他參數，為了Read access to /sys directory (對 /sys 目錄的讀取存取)，選擇已啟用。

   • 針對 Lambda lifecycle (Lambda 生命週期)，選擇 Make this function long-lived and keep it running indefinitely (將此函數設定為長時間存留且無限期持續執行)。

2. 要在容器化模式下運行：

   注意

   除非業務案例需要，否則建議您以容器化模式執行。

   • 將 Timeout (逾時) 值更新為 5 秒鐘。這可確保請求不會太旱逾時。設定完成後，執行推論需要幾分鐘的時間。

   • 適用於Pinned，選擇True。

   • Under其他參數，為了Read access to /sys directory (對 /sys 目錄的讀取存取)，選擇已啟用。

如果在容器化模式下運行」中，新增必要的本機裝置資源，以授予裝置 GPU 存取權。

1. 在群組組組組組態頁面上，選擇資源索引標籤。

2. 選擇新增本機資源。

3. 定義資源：

   • 針對 Resource name (資源名稱)，輸入 renderD128。

   • 適用於資源類型，選擇本機裝置。

   • 針對 Device path (裝置路徑)，輸入 /dev/dri/renderD128。

   • 適用於系統群組擁有者和檔案存取權限，選擇為擁有資源的系統群組許可。

   • 適用於Lambda 函數隸屬，授與讀取和寫入存取到您的 Lambda 函數。

確保您的 Jetson 設備已設定好，以便您可以安裝 AWS IoT Greengrass 核心軟體。如需如何設定裝置的詳細資訊，請參閱設定其他裝置。

開啟 MXNet 文件、移至在 Jetson 上安裝 MXNet，然後依照指示在 Jetson 裝置上安裝 MXNet。

下載 Lambda 函數的靜態 PNG 或 JPG 映像，以用於影像分類。該應用程式最適合與小型映像檔案一同運作。或者，您可以在 Jetson 電路板檢測攝影機來擷取來源映像。

在含有 greengrassObjectClassification.py 檔案的目錄中儲存您的映像檔案。您也可以將它們儲存在此目錄的子目錄中。此目錄是您在上傳的 Lambda 函數部署套件步驟 4：建立並發佈 Lambda 函數。

建立從 Python 3.7 到 Python 3.6 的符號連結，以搭配使用 Python 3 與 AWS IoT Greengrass。執行以下命令來找到您的 Python 安裝：

which python3

執行以下命令來建立符號連結：

sudo ln -s path-to-python-3.6/python3.6 path-to-python-3.7/python3.7

重新啟動裝置。

確定 ggc_user 系統帳戶可以使用 MXNet 架構：

“sudo -u ggc_user bash -c 'python3 -c "import mxnet"'

編輯 Lambda 函數的組態。請遵循 步驟 5：新增 Lambda 函數至 Greengrass 群組 中的程序。

1. 若要在不使用容器化的情況下執行：

   • 適用於系統使用者和群組，選擇Another user ID/group ID。適用於系統使用者 ID輸入0。適用於系統群組 ID輸入0。

     這允許您的 Lambda 函數以 root 身份執行。如需以 root 身份執行的詳細資訊，請參閱設定群組中 Lambda 函數的預設存取身分。

     提示

     您還必須更新config.json檔案，授予存取您的 Lambda 函數的根目錄。如需程序，請參閱以根身份運行 Lambda 函數。

   • 適用於Lambda 函數容器化，選擇沒有容器。

     如需在不使用容器化的詳細資訊，請參閱選擇 Lambda 函數容器化時的考量事項。

   • Under其他參數，為了Read access to /sys directory (對 /sys 目錄的讀取存取)，選擇已啟用。

   • Under環境變數，將以下金鑰值對新增至您的 Lambda 函數。這會設定 AWS IoT Greengrass 以使用 MXNet 架構。

     索引鍵	數值
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

2. 要在容器化模式下運行：

   注意

   除非業務案例需要，否則建議您以容器化模式執行。

   • 增加 Memory limit (記憶體限制) 值。請使用 500 MB 的 CPU 或至少 2000 MB 的 GPU。

   • Under其他參數，為了Read access to /sys directory (對 /sys 目錄的讀取存取)，選擇已啟用。

   • Under環境變數，將以下金鑰值對新增至您的 Lambda 函數。這會設定 AWS IoT Greengrass 以使用 MXNet 架構。

     索引鍵	數值
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

如果在容器化模式下運行」中，新增下列本機裝置資源以授與裝置 GPU 的存取權。請遵循 步驟 6：新增資源到 Greengrass 群組 中的程序。

對於每個資源：

如果在容器化模式下運行，新增下列本機磁碟區資源以授予裝置攝影機的存取權限。請遵循 步驟 6：新增資源到 Greengrass 群組 中的程序。