使用 Snowball Edge 裝置的最佳實務 - AWS Snowball Edge 開發人員指南

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用 Snowball Edge 裝置的最佳實務

為了協助您獲得 AWS Snowball Edge 裝置的最大效益和滿意度,建議您遵循這些最佳實務。

Snow Family 裝置的安全建議

以下是在使用 AWS Snowball Edge 裝置時維護安全性的建議和最佳實務。

一般安全
  • 如果您注意到任何看起來可疑 AWS Snowball Edge 的裝置,請勿將其連接至內部網路。相反地,請聯絡 AWS Support,系統會將新 AWS Snowball Edge 裝置寄送給您。

  • 我們建議您不要將解鎖碼的副本儲存在工作站上與該任務清單相同的位置。將這些儲存到不同的位置有助於防止未經授權的各方存取 AWS Snowball Edge 裝置。例如,您可以將資訊清單的複本儲存到本機伺服器,並透過電子郵件將解鎖碼寄送給使用者來解鎖裝置。此方法將 AWS Snowball Edge 裝置的存取權限制為可存取儲存在伺服器和使用者電子郵件地址上的檔案的個人。

  • 當您執行 Snowball Edge 用戶端命令 list-access-keys 和 時 get-secret-access-key,顯示的憑證是用來存取您裝置的一對存取金鑰。

    這些金鑰只與裝置上的任務和本機資源相關聯。它們不會映射至您的 AWS 帳戶 或任何其他 AWS 帳戶。如果您嘗試使用這些金鑰來存取 中的服務和資源 AWS 雲端,它們將會失敗,因為它們僅適用於與您的任務相關聯的本機資源。

  • 如果您覺得憑證遺失或遭到入侵,請依照更新裝置SSL憑證的程序,請求新的資訊清單檔案並解鎖程式碼。請參閱 更新 Snowball Edge 裝置上的SSL憑證

如需有關如何使用 AWS Identity and Access Management (IAM) 政策來控制存取的資訊,請參閱 AWS- AWS Snowball Edge 的受管 (預先定義) 政策

網路安全
  • 我們建議您一次只使用一種方法,將資料讀取和寫入 AWS Snowball Edge 裝置上的本機儲存貯體。同時使用相同 Amazon S3 儲存貯體上的檔案介面和 Amazon S3 轉接器,可能會導致讀取/寫入衝突。

  • 為了防止資料損毀,請勿在傳輸資料時中斷 AWS Snowball Edge 連線或變更其網路設定。

  • 在裝置上寫入 的檔案應處於靜態狀態。寫入檔案時修改的檔案可能會導致讀取/寫入衝突。

  • 如需改善 AWS Snowball Edge 裝置效能的詳細資訊,請參閱 Snow Family 裝置之間最佳資料傳輸效能的建議

管理 Snow Family 裝置資源的最佳實務

請考慮下列在 AWS Snowball Edge 裝置上管理任務和資源的最佳實務。

  • 執行內部部署資料傳輸的 10 天免費天數從 AWS Snowball Edge 裝置到達資料中心的隔天開始。這僅適用於 Snowball Edge 裝置類型。

  • Job created (已建立任務) 狀態是您可以取消任務的唯一狀態。當任務變更為不同的狀態時,您無法取消任務。這適用於叢集。

  • 對於匯入任務,在匯入 Amazon S3 成功之前,請勿刪除已傳輸資料的本機複本。在進行程序時,請務必驗證資料傳輸的結果。

Snow Family 裝置之間最佳資料傳輸效能的建議

注意

您體驗的資料傳輸效能會因網路環境、作業系統、複製方法、通訊協定、來源資料讀取效能和資料集特性而有所不同,例如檔案大小。若要判斷準確的資料傳輸率和資料傳輸時間,建議您透過在環境中 proof-of-concept 進行測試來測量效能。

接下來,您可以找到有關 AWS Snowball Edge 裝置效能的建議和資訊。本節以一般術語描述效能,因為內部部署環境有不同的執行方式:不同的網路技術、不同的硬體、不同的作業系統、不同的程序等。

下表概述網路的傳輸速率如何影響 Snowball Edge 裝置用資料填滿的時間長度。傳輸較小的檔案會因為增加的額外負荷而降低您的傳輸速度。如果您有許多小型檔案,建議您先將檔案壓縮成較大的封存檔,再將它們傳輸到 Snowball Edge 裝置。

速率 (MB/秒) 82 TB 傳輸時間
800 1.22 天
450 2.11 天
400 2.37 天
300 3.16 天
277 3.42 天
200 4.75 天
100 9.49 天
60 15.53 天
30 31.06 天
10 85.42 天

若要提供有意義的效能指引,下列各節說明如何判斷何時使用 AWS Snowball Edge 裝置,以及如何充分利用服務。

強烈建議採取下列做法,因為這些做法對改善資料傳輸效能的影響最大:

  • 我們建議在每個目錄內不要超過 500,000 個檔案或目錄。

  • 我們建議傳輸到 Snowball Edge 裝置的所有檔案大小不得小於 1 MB。

  • 如果您的檔案大小小於 1 MB,建議您先將檔案壓縮成較大的封存檔,再將檔案傳輸至 Snowball Edge 裝置。

提高 Snow Family 裝置之間資料傳輸的速度

改善 AWS Snowball Edge 裝置效能的最佳方式之一,就是加速往返裝置的資料傳輸。一般而言,您可以透過下列方式改善從資料來源到裝置的傳輸速度。下列清單的排序方式是對效能造成最大到最小的正面影響:

  1. 一次執行多個寫入操作 – 若要執行此操作,請從具有網路連線至單一 AWS Snowball Edge 裝置的電腦上的多個終端機視窗執行每個命令。

  2. 分批傳輸小型檔案 – 由於加密,每個複製操作都有一定的額外負荷。為了加速程序,請在單一封存中將檔案批次在一起。當您將檔案批次在一起時,可以在匯入 Amazon S3 時自動擷取這些檔案。如需詳細資訊,請參閱批次處理小型檔案,以改善 Snow Family 裝置的資料傳輸效能

  3. 請勿在傳輸期間對檔案執行其他操作 – 在傳輸期間重新命名檔案、變更其中繼資料,或在複製操作期間將資料寫入檔案,會對傳輸效能造成負面影響。我們建議您將要傳輸的檔案保持在靜態狀態。

  4. 減少本機網路使用 – AWS Snowball Edge 您的裝置會透過本機網路進行通訊。因此,您可以透過減少 AWS Snowball Edge 裝置、連接的交換器和託管資料來源的電腦之間的其他本機網路流量,來提高資料傳輸速度。

  5. 消除不必要的躍點 – 建議您設定 AWS Snowball Edge 裝置、資料來源,以及執行它們之間終端機連線的電腦,以便它們是唯一透過單一交換器通訊的機器。這樣做可以提高資料傳輸速度。