本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon SageMaker AI 可讓客戶在 SageMaker AI 上使用 Hugging Face 模型進行自然語言處理 (NLP) 來訓練、微調和執行推論。您可以使用 Hugging Face 進行訓練和推論。下節提供 Hugging Face 模型的相關資訊,並包含參考資料,可用來了解如何將 Hugging Face 與 SageMaker AI 搭配使用。
此功能可透過開發 Hugging Face AWS Deep Learning Containers 獲得。這些容器包括 Hugging Face 轉換器、權杖化工具和資料集程式庫,可讓您將這些資源用於訓練和推論任務。有關可用深度學習容器圖像的清單,請參閱可用的深度學習容器映像檔
若要搭配 SageMaker Python SDK 使用 Hugging Face 深度學習容器進行訓練,請參閱 Hugging Face SageMaker AI 估算器
若要取得有關 Hugging Face 及其中可用模型的更多資訊,請參閱 Hugging Face 文件
培訓
若要執行訓練,請使用 Hugging Face 中可用的數千種模型,並針對您的使用案例進行微調,並進行額外的訓練。透過 SageMaker AI,您可以使用標準訓練或利用 SageMaker AI 分散式資料和模型平行訓練。
與其他使用自訂程式碼的 SageMaker 訓練任務一樣,您可以透過將指標定義傳遞至 SageMaker Python SDK 來擷取自己的指標。如需範例,請參閱定義訓練指標 (SageMaker Python SDK)。 您可以使用 CloudWatch 存取擷取的指標,並使用 DataFrame
TrainingJobAnalytics
如何使用 Hugging Face 估算器執行訓練
您可以使用 SageMaker AI Python SDK 實作訓練任務的 Hugging Face 估算器。SageMaker Python SDK 是一個開放原始碼程式庫,用於在 SageMaker AI 上訓練和部署機器學習模型。如需 Hugging Face 估算器的詳細資訊,請參閱 SageMaker AI Python SDK 文件。
使用 SageMaker Python SDK,您可以在下列環境中使用 Hugging Face 估算器執行訓練任務:
-
Amazon SageMaker Studio Classic:Studio Classic 是機器學習 (ML) 的第一個完全整合開發環境 (IDE)。Studio Classic 提供單一的 Web 型視覺化界面,您可以在其中執行下列所有 ML 開發步驟:
-
準備
-
build
-
訓練和調校
-
部署和管理模型
如需在 Studio Classic 中使用 Jupyter 筆記本的資訊,請參閱 使用 Amazon SageMaker Studio Classic 筆記本。
-
-
SageMaker 筆記本執行個體:Amazon SageMaker 筆記本執行個體是執行 Jupyter 筆記本應用程式的機器學習 (ML) 運算執行個體。此應用程式可讓您在筆記本執行個體中執行 Jupyter 筆記本,以:
-
準備和處理資料
-
編寫程式碼來訓練模型
-
將模型部署至 SageMaker AI 託管
-
在沒有偵錯工具、模型監控和 Web 型 IDE 等 SageMaker Studio 功能的情況下測試或驗證您的模型
-
-
本機:如果您已連線至 AWS 並具有適當的 SageMaker AI 許可,則可以在本機使用 SageMaker Python SDK。透過本機使用,您可以啟動 SageMaker AI on Hugging Face 的遠端訓練和推論任務 AWS。這適用於您的本機機器,以及其他具有連線 SageMaker Python SDK 和適當許可 AWS 的服務。
Inference
針對推論,您可以使用訓練過的 Hugging Face 模型或其中一個預先訓練的 Hugging Face 模型,透過 SageMaker AI 部署推論任務。透過此協同合作,您只需一行程式碼,即可使用 SageMaker AI 部署訓練過的模型和預先訓練的模型。您也可以執行推論任務,而不必撰寫任何自訂推論程式碼。使用自訂推論程式碼,您可以提供自己的 Python 指令碼來自訂推論邏輯。
如何使用 Hugging Face Deep Learning Containers 部署推論任務
您有兩個選項可以使用 SageMaker AI 執行推論。您可以使用訓練過的模型執行推論,或部署預先訓練的 Hugging Face 模型。
-
使用訓練過的模型執行推論:您有兩種選項可以使用自己的訓練模型執行推論:
-
使用您使用現有 Hugging Face 模型搭配 SageMaker AI Hugging Face Deep Learning Containers 訓練的模型執行推論。
-
使用您自己的現有 Hugging Face 模型,並使用 SageMaker AI 部署該模型。
當您使用您使用 SageMaker AI Hugging Face 估算器訓練的模型執行推論時,您可以在訓練完成後立即部署模型。您也可以將訓練過的模型上傳到 Amazon S3 儲存貯體,並在稍後執行推論時擷取。
如果您使用自己的現有 Hugging Face 模型,則必須將訓練過的模型上傳到 Amazon S3 儲存貯體。然後,您可以在執行推論時擷取該儲存貯體,如部署 Hugging Face 轉換器以取得推論範例
所示。 -
-
使用預先訓練的 HuggingFace 模型執行推論:您可以使用數千種預先訓練的 Hugging Face 模型之一來執行推論任務,而無需額外訓練。若要執行推論,請從 Hugging Face 模型清單中選取預先訓練的模型
,如部署預先訓練的 Hugging Face 轉換器以取得推論範例 所述。
您想要做什麼?
Hugging Face 筆記本儲存庫中的下列筆記本示範如何在各種使用案例中使用 Hugging Face Deep Learning Containers 搭配 SageMaker AI。
- 我想要使用 SageMaker AI 中的 Hugging Face 搭配 PyTorch 來訓練和部署文字分類模型。
-
如需 Jupyter 筆記本範例,請參閱 PyTorch 入門示範
。 - 我想要使用 SageMaker AI 中的 Hugging Face 搭配 TensorFlow 來訓練和部署文字分類模型。
-
如需 Jupyter 筆記本範例,請參閱 TensorFlow 入門範例
。 - 我想要使用 Hugging Face 和 SageMaker AI Distributed 執行資料平行處理的分散式訓練。
-
如需 Jupyter 筆記本範例,請參閱分散式訓練範例
。 - 我想要使用 Hugging Face 和 SageMaker AI Distributed 執行具有模型平行處理的分散式訓練。
-
如需 Jupyter 筆記本範例,請參閱模型並行性範例
。 - 我想要使用 Spot 執行個體,在 SageMaker AI 中使用 Hugging Face 來訓練和部署模型。
-
如需 Jupyter 筆記本範例,請參閱 Spot 執行個體範例
。 - 在 SageMaker AI 中使用 Hugging Face 訓練文字分類模型時,我想要擷取自訂指標並使用 SageMaker AI 檢查點。
-
如需 Jupyter 筆記本範例,請參閱使用自訂指標訓練範例
。 - 我想要在 SageMaker AI 中使用 Hugging Face 訓練分散式問答式 TensorFlow 模型。
-
如需 Jupyter 筆記本範例,請參閱分散式 TensorFlow 訓練範例
。 - 我想要在 SageMaker AI 中使用 Hugging Face 來訓練分散式摘要模型。
-
如需 Jupyter 筆記本範例,請參閱分散式摘要訓練範例
。 - 我想要在 SageMaker AI 中使用 Hugging Face 訓練影像分類模型。
-
如需 Jupyter 筆記本範例,請參閱視覺轉換器訓練範例
。 - 我想要在 SageMaker AI 中部署訓練過的 Hugging Face 模型。
-
如需 Jupyter 筆記本範例,請參閱部署 Hugging Face 轉換器以進行推論範例
。 - 我想要在 SageMaker AI 中部署預先訓練的 Hugging Face 模型。
-
如需 Jupyter 筆記本範例,請參閱部署預先訓練 Hugging Face 轉換器以進行推論範例
。