Migrasi data besar dengan AWS Snow Family devices - AWS Snowball Edge Panduan Pengembang

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Migrasi data besar dengan AWS Snow Family devices

Migrasi data besar dari lokasi lokal memerlukan perencanaan, orkestrasi, dan eksekusi yang cermat untuk memastikan bahwa data Anda berhasil dimigrasi. AWS

Sebaiknya Anda memiliki strategi migrasi data sebelum memulai migrasi untuk menghindari potensi tenggat waktu yang terlewat, melebihi anggaran, dan kegagalan migrasi. AWS Layanan Snow membantu Anda menempatkan, memesan, dan melacak proyek migrasi data besar Anda melalui fitur Snow Family Large Data Migration Manager (LDMM) di Konsol Manajemen AWS Snow Family.

Topik, Merencanakan transfer besar Anda dan Mengkalibrasi transfer besar menjelaskan proses migrasi data manual. Anda dapat merampingkan langkah-langkah manual menggunakan paket migrasi LDMM Keluarga Salju.

Merencanakan transfer besar Anda

Kami menyarankan Anda merencanakan dan mengkalibrasi transfer data besar antara AWS Snowball Edge perangkat yang Anda miliki di situs dan server Anda menggunakan pedoman di bagian berikut.

Langkah 1: Pahami apa yang Anda pindahkan ke cloud

Sebelum Anda membuat pekerjaan pertama Anda menggunakan Konsol Manajemen AWS Snow Family, pastikan bahwa Anda menilai volume data yang perlu Anda transfer, tempat penyimpanan saat ini, dan tujuan yang ingin Anda transfer. Untuk transfer data yang berskala petabyte atau lebih besar, tata graha administratif ini membuatnya lebih mudah ketika perangkat Keluarga Salju Anda tiba.

Jika Anda memigrasikan data ke dalam data AWS Cloud untuk pertama kalinya, sebaiknya Anda mendesain model migrasi cloud. Migrasi cloud tidak terjadi dalam semalam. Ini membutuhkan proses perencanaan yang cermat untuk memastikan bahwa semua sistem bekerja seperti yang diharapkan.

Setelah selesai dengan langkah ini, Anda akan tahu jumlah total data yang akan Anda pindahkan ke cloud.

Langkah 2: Hitung kecepatan transfer target Anda

Penting untuk memperkirakan seberapa cepat Anda dapat mentransfer data ke perangkat Keluarga Salju yang terhubung ke setiap server Anda. Perkiraan kecepatan dalam MB/detik ini menentukan seberapa cepat Anda dapat mentransfer data dari sumber data Anda ke perangkat Snowball Edge menggunakan infrastruktur jaringan lokal Anda.

catatan

Untuk transfer data besar, sebaiknya gunakan metode transfer data Amazon S3. Anda harus memilih opsi ini ketika Anda memesan perangkat di Konsol Manajemen AWS Snow Family.

Untuk menentukan kecepatan transfer dasar, transfer sebagian kecil data Anda ke perangkat Snowball Edge, atau transfer file sampel 10 GB dan amati throughputnya.

Saat menentukan kecepatan transfer target Anda, perlu diingat bahwa Anda dapat meningkatkan throughput dengan menyetel lingkungan Anda, termasuk konfigurasi jaringan, dengan mengubah kecepatan jaringan, ukuran file yang ditransfer, dan kecepatan di mana data dapat dibaca dari server lokal Anda. Adaptor Amazon S3 menyalin data ke perangkat Snow Family secepat kondisi Anda memungkinkan.

Langkah 3: Tentukan berapa banyak perangkat Keluarga Salju yang Anda butuhkan

Dengan menggunakan jumlah total data yang Anda rencanakan untuk dipindahkan ke cloud, perkiraan kecepatan transfer, dan jumlah hari yang ingin Anda izinkan untuk memindahkan data AWS, tentukan berapa banyak perangkat Keluarga Salju yang Anda butuhkan untuk migrasi data skala besar Anda. Tergantung pada jenis perangkat, perangkat Snowball Edge memiliki sekitar 39,5 TB, 80 TB, atau 210 TB ruang penyimpanan yang dapat digunakan. Misalnya, jika Anda ingin memindahkan 300 TB data ke AWS lebih dari 10 hari dan Anda memiliki kecepatan transfer 250 MB/s, Anda memerlukan 4 perangkat Snowball Edge. Dengan kurang dari 40 TB data yang tersisa untuk ditransfer, AWS Snowcone perangkat (dengan ruang yang dapat digunakan 14TB) akan direkomendasikan.

catatan

AWS Snow Family devices LDMM menyediakan wizard untuk memperkirakan jumlah AWS Snow Family devices yang dapat didukung secara bersamaan. Untuk informasi selengkapnya, lihat Membuat rencana migrasi data yang besar.

Langkah 4: Buat pekerjaan Anda

Setelah Anda mengetahui berapa banyak perangkat Keluarga Salju yang Anda butuhkan, Anda perlu membuat pekerjaan impor untuk setiap perangkat. Penciptaan beberapa pekerjaan disederhanakan oleh LDMM Keluarga Salju. Untuk informasi selengkapnya, lihat Menempatkan pesanan pekerjaan Anda berikutnya.

catatan

Anda dapat menempatkan pesanan pekerjaan Anda berikutnya dan secara otomatis menambahkannya ke rencana Anda langsung dari jadwal pemesanan pekerjaan yang direkomendasikan. Untuk informasi selengkapnya, lihat Jadwal pemesanan pekerjaan yang direkomendasikan.

Langkah 5: Pisahkan data Anda ke segmen transfer

Sebagai praktik terbaik untuk transfer data besar yang melibatkan beberapa pekerjaan, kami menyarankan Anda secara logis membagi data Anda menjadi sejumlah kumpulan data yang lebih kecil dan lebih mudah dikelola. Ini memungkinkan Anda untuk mentransfer setiap partisi sekaligus, atau beberapa partisi secara paralel. Saat merencanakan partisi Anda, pastikan bahwa data untuk partisi yang digabungkan sesuai dengan perangkat Keluarga Salju untuk pekerjaan itu. Misalnya, Anda dapat memisahkan transfer Anda menjadi partisi dengan salah satu cara berikut:

  • Anda dapat membuat 10 partisi masing-masing 8 TB untuk Snowball Edge.

  • Untuk file besar, setiap file dapat berupa partisi individual hingga batas ukuran 5 TB untuk objek di Amazon S3.

  • Setiap partisi dapat memiliki ukuran yang berbeda, dan setiap partisi individu dapat terdiri dari jenis data yang sama—misalnya, file kecil di satu partisi, arsip terkompresi di partisi lain, file besar di partisi lain, dan sebagainya. Pendekatan ini dapat membantu Anda menentukan kecepatan transfer rata-rata untuk berbagai jenis file.

catatan

Operasi metadata dilakukan untuk setiap file yang ditransfer. Terlepas dari ukuran file, overhead ini tetap sama. Oleh karena itu, Anda mendapatkan kinerja yang lebih cepat dengan mengompresi file kecil ke dalam bundel yang lebih besar, mengelompokkan file Anda, atau mentransfer file individual yang lebih besar.

Membuat segmen transfer data dapat memudahkan Anda menyelesaikan masalah transfer dengan cepat karena mencoba memecahkan masalah transfer yang besar dan heterogen setelah transfer berjalan selama satu hari atau lebih bisa menjadi rumit.

Setelah selesai merencanakan transfer data skala petabyte, kami sarankan Anda mentransfer beberapa segmen ke perangkat Snow Family dari server Anda untuk mengkalibrasi kecepatan dan total waktu transfer Anda.