Migración de datos de gran tamaño con AWS Snow Family devices - AWS Snowball Edge Guía para desarrolladores

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Migración de datos de gran tamaño con AWS Snow Family devices

La migración de datos de gran tamaño desde ubicaciones en las instalaciones requiere una planeación, una orquestación y una ejecución cuidadosas para garantizar que los datos se migren correctamente a AWS.

Le recomendamos que cuente con una estrategia de migración de datos antes de iniciar la migración para evitar la posibilidad de que se incumplan los plazos, se superen los presupuestos y se produzcan errores en la migración. AWS Los servicios de Snow le ayudan a organizar, ordenar y realizar un seguimiento de sus proyectos de migración de datos de gran tamaño mediante la función de gestión de migración de datos de gran tamaño (LDMM) de la Consola de administración de la familia de productos Snow de AWS familia Snow.

En los temas Planificación de transferencias grandes y Calibración de una transferencia grande se describe un proceso manual de migración de datos. Puede simplificar los pasos manuales mediante el plan de migración de LDMM de Snow Family.

Planificación de transferencias grandes

Le recomendamos que planifique y calibre las grandes transferencias de datos entre los dispositivos AWS Snowball Edge que tiene in situ y sus servidores según las instrucciones que se indican en las próximas secciones.

Paso 1: analice los datos que va a trasladar a la nube

Antes de crear su primer trabajo con el Consola de administración de la familia de productos Snow de AWS, asegúrese de evaluar el volumen de datos que necesita transferir, dónde están almacenados actualmente y el destino al que desea transferirlos. En las transferencias de datos a escala de uno o varios petabytes, estas tareas administrativas serán mucho más sencillas cuando reciba los dispositivos Snow Family.

Si va a migrar datos al Nube de AWS por primera vez, le recomendamos que diseñe un modelo de migración a la nube. La migración a la nube no se produce de la noche a la mañana. Requiere un proceso de planificación cuidadoso para garantizar que todos los sistemas funcionen según lo esperado.

Cuando haya terminado este paso, debería saber la cantidad total de datos que va a mover a la nube.

Paso 2: calcule la velocidad de transferencia objetivo

Es importante calcular la rapidez con la que puede transferir datos a los dispositivos Snow Family conectados a cada uno de los servidores. Esta velocidad estimada en MB/s determina la rapidez con la que puede transferir los datos desde su origen de datos a los dispositivos Snowball Edge mediante la infraestructura de red local.

nota

Para las transferencias de datos de gran tamaño, le recomendamos que utilice Amazon S3. Debe seleccionar esta opción cuando pida los dispositivos en la Consola de administración de la familia de productos Snow de AWS.

Para determinar una velocidad de transferencia de referencia, transfiera un pequeño subconjunto de los datos al dispositivo Snowball Edge o transfiera un archivo de muestra de 10 GB y observe el rendimiento.

A la hora de determinar la velocidad de transferencia objetivo, tenga en cuenta que es posible mejorar el rendimiento ajustando el entorno, incluida la configuración de red, cambiando aspectos como la velocidad de la red, el tamaño de los archivos que se van a transferir y la velocidad de lectura de datos en los servidores locales. El adaptador de Amazon S3 copia los datos a los dispositivos Snow Family tan rápido como lo permiten las condiciones existentes.

Paso 3: determine cuántos dispositivos Snow Family se necesitan

Determine cuántos dispositivos de la familia Snow necesita para la migración de datos a gran escala utilizando la cantidad total de datos que planea trasladar a la nube AWS, la velocidad de transferencia estimada y el número de días a los que desea transferir los datos. Según el tipo de dispositivo, los dispositivos Snowball Edge tienen aproximadamente 39,5 TB, 80 TB o 210 TB de espacio de almacenamiento utilizable. Por ejemplo, si quiere transferir 300 TB de datos a AWS más de 10 días y tiene una velocidad de transferencia de 250 MB/s, necesitará 4 dispositivos Snowball Edge. Si quedan menos de 40 TB de datos por transferir, se recomendarán AWS Snowcone dispositivos (con 14 TB de espacio útil).

nota

El AWS Snow Family devices LDMM incluye un asistente para estimar el número de dispositivos AWS Snow Family devices que se pueden admitir simultáneamente. Para obtener más información, consulte Creación de un plan de migración de datos de gran tamaño.

Paso 4: cree los trabajos

Una vez que sepa cuántos dispositivos Snow Family necesita, debe crear un trabajo de importación para cada dispositivo. La característica LDMM de Snow Family simplifica la creación de varios trabajos. Para obtener más información, consulte Pedido del siguiente trabajo.

nota

Puede realizar el siguiente pedido de trabajo y añadirlo de forma automática al plan directamente desde el Programa recomendado de pedido de trabajos. Para obtener más información, consulte Programa recomendado de pedido de trabajos.

Paso 5: separe los datos en segmentos de transferencia

Como práctica recomendada para las transferencias de datos de gran tamaño que afectan a varios trabajos, se recomienda dividir lógicamente los datos en conjuntos de datos más pequeños y más manejables. Esto le permite transferir cada partición de una en una o varias particiones en paralelo. Al planificar las particiones, asegúrese de que los datos de las particiones combinadas quepan en los dispositivos Snow Family para el trabajo. Por ejemplo, puede separar la transferencia en particiones de cualquiera de las siguientes maneras:

  • Puede crear 10 particiones de 8 TB cada una para un dispositivo Snowball Edge.

  • En el caso de los archivos de gran tamaño, cada archivo puede ser una partición individual hasta el límite de tamaño de 5 TB de los objetos en Amazon S3.

  • Cada partición puede tener tamaños distintos y cada partición individual puede estar formada por datos del mismo tipo (por ejemplo, los archivos pequeños en una partición, los comprimidos en otra, los archivos grandes en otra, etc.). Este enfoque le ayuda a determinar su velocidad de transferencia media para distintos tipos de archivos.

nota

En cada uno de los archivos transferidos se realizan operaciones de metadatos. La sobrecarga es la misma, independientemente del tamaño de los archivos. Por lo tanto, el desempeño será más rápido al comprimir archivos pequeños en una agrupación de mayor tamaño, agrupar los archivos por lotes o transferir archivos individuales más grandes.

La creación de estos segmentos de transferencia de datos puede facilitar la resolución de los problemas de transferencia, ya que intentar solucionar los problemas de una transferencia heterogénea de gran tamaño después haberse ejecutado durante un día o más puede resultar complejo.

Cuando haya terminado de planificar la transferencia de datos a escala de petabytes, se recomienda transferir algunos segmentos al dispositivo Snow Family desde el servidor para calibrar la velocidad y el tiempo de transferencia total.