使用 Snowball Edge 设备的最佳实践 - AWS Snowball Edge 开发人员指南

使用 Snowball Edge 设备的最佳实践

为充分利用 AWS Snowball Edge 设备的优势,提高设备使用满意度,建议您遵循以下最佳实操。

Snow 系列设备的安全建议

以下是在使用 AWS Snowball Edge 设备时维护安全的建议和最佳实操。

一般安全性
  • 如果您注意到 AWS Snowball Edge 设备有任何可疑之处,请不要将其连接到您的内部网络,而是联系 AWS Support,公司将向您发运新的 AWS Snowball Edge 设备。

  • 建议您不要将解锁代码副本和该作业的清单保存在工作站上的同一位置。将这这些内容保存在不同位置有助于防止未获授权方访问 AWS Snowball Edge 设备。例如,您可以将清单的副本保存到本地服务器,并将解锁设备的代码通过电子邮件发送给一位用户。利用这种方法,仅允许有权访问保存在服务器上的文件和该用户电子邮件地址的人员访问 AWS Snowball Edge 设备。

  • 在您运行 Snowball Edge 客户端命令 list-access-keys 和 get-secret-access-key 时,显示的凭证是一对用于访问您设备的访问密钥。

    这些密钥仅与相关作业和设备上的本地资源相关联,它们不会映射到您的 AWS 账户或任何其他 AWS 账户。如果您试图使用这些密钥访问 AWS Cloud 云中的服务和资源,则将会失败,因为它们仅适用于与您的作业关联的本地资源。

  • 如果您觉得自己的凭证丢失或已泄露,请按照更新设备的 SSL 证书的流程申请新的清单文件和解锁代码。请参阅 更新 Snowball Edge 设备上的 SSL 证书

有关如何使用 AWS Identity and Access Management(IAM)策略来控制访问的信息,请参阅适用于 AWS Snowball Edge 的 AWS 托管(预定义)策略

网络安全性
  • 建议您一次只使用一种方法读取并将数据写入 AWS Snowball Edge 设备上的本地存储桶。同时在同一 Amazon S3 存储桶上使用文件接口和 Amazon S3 Adapter 会导致读取/写入冲突。

  • 为防止损坏您的数据,请勿在传输数据时断开 AWS Snowball Edge 设备或更改其网络设置。

  • 设备上正在写入的文件应该处于静态状态。在写入时修改文件可能会导致读取/写入冲突。

  • 有关改进 AWS Snowball Edge 设备性能的更多信息,请参阅在与 Snow 系列设备进行数据传输时实现出色性能的建议

管理 Snow 系列设备资源的最佳实践

在 AWS Snowball Edge 设备上管理作业和资源时,请考虑以下最佳实操。

  • 自 AWS Snowball Edge 设备送达数据中心的第二天起,您便可以开始免费传输本地数据,免费传输期长达 10 天。这仅适用于 Snowball Edge 设备类型。

  • 作业已创建状态是唯一您可以取消作业的状态。当作业变为其他状态时,您无法取消作业。这适用于集群。

  • 对于导入作业,请勿删除所传输数据的本地副本,直至成功导入到 Amazon S3。作为过程的一部分,请确保验证数据传输的结果。

在与 Snow 系列设备进行数据传输时实现出色性能的建议

注意

您体验到的数据传输性能将因网络环境、操作系统、复制方法、协议、源数据读取性能和数据集特征(例如文件大小)而异。要确定准确的数据传输速率和数据传输时间,我们建议您通过环境中的概念验证测试来衡量性能。

在接下来的内容中,您将了解有关 AWS Snowball Edge 设备性能的建议和信息。本部分简要介绍性能,因为每个本地环境的运营方式各不相同:不同的网络技术、不同的硬件、不同的操作系统、不同的过程等。

下表概述了您的网络传输速率如何影响向 Snowball Edge 设备填充数据所需的时间。由于较小的文件开销很小,因此,较小的文件将加快传输速度。如果您有很多小文件,则建议您在将这些文件传输到 Snowball Edge 设备之前将它们打包为较大的存档文件。

速率(MB/s) 82 TB 传输时间
800 1.22 天
450 2.11 天
400 2.37 天
300 3.16 天
277 3.42 天
200 4.75 天
100 9.49 天
60 15.53 天
30 31.06 天
10 85.42 天

为了提供有关性能的有用指导信息,以下部分介绍如何确定何时使用 AWS Snowball Edge 设备以及如何充分利用此服务。

强烈建议采纳以下实操,因为这些实操在提高数据传输性能方面具有最大影响:

  • 建议每个目录包含的文件或目录数不超过 500,000 个。

  • 建议传输到 Snowball Edge 设备的所有文件的大小不小于 1 MB。

  • 如果您有很多文件的大小小于 1 MB,则建议您在将这些文件传输到 Snowball Edge 设备之前将它们打包为较大的存档。

提高向 Snow 系列设备传输数据以及从 Snow 系列设备传输数据的速度

能够提升 AWS Snowball Edge 设备性能的最佳方法之一,就是加快数据传入和传出设备的速度。一般来说,您可通过以下方法加快数据从数据来源到设备的传输速度:以下列表按对性能的积极影响从大到小的顺序排列:

  1. 一次执行多个写入操作:要执行此操作,请在与单个 AWS Snowball Edge 设备有网络连接的计算机上从多个终端窗口运行每个命令。

  2. 批量传输小文件:因为要进行加密,每个复制操作都会产生一些开销。要加快处理速度,请将文件批量存储在单个存档文件中。批量处理文件时,在将它们导入到 Amazon S3 中时可以进行自动提取。有关更多信息,请参阅批量处理小文件以提高 Snow 系列设备的数据传输性能

  3. 请勿在传输过程中对文件执行其他操作:在传输过程中重命名文件,更改其元数据,或在执行复制操作期间在文件中写入数据,都会对传输性能产生负面影响。我们建议您在传输文件时将文件保持静态。

  4. 减少本地网络使用:您的 AWS Snowball Edge 设备将跨本地网络进行通信。因此,您可以通过降低 AWS Snowball Edge 设备、该设备连接到的交换机和承载您的数据来源的计算机之间的其他本地网络流量来提高数据传输速度。

  5. 消除不必要的跃点:建议您设置 AWS Snowball Edge 设备、数据来源以及在其之间运行终端连接的计算机,使其成为通过单个交换机通信的仅有计算机。这样做可以提高数据传输速度。