Gunakan Amazon SageMaker AI Edge Manager di perangkat inti Greengrass - AWS IoT Greengrass
Cara kerjanyaPersyaratan SageMaker Memulai dengan AI Edge Manager

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan Amazon SageMaker AI Edge Manager di perangkat inti Greengrass

penting

SageMaker AI Edge Manager dihentikan pada 26 April 2024. Untuk informasi selengkapnya tentang melanjutkan penerapan model Anda ke perangkat edge, lihat SageMaker AI Edge Manager end of life.

Amazon SageMaker AI Edge Manager adalah agen perangkat lunak yang berjalan pada perangkat edge. SageMaker AI Edge Manager menyediakan manajemen model untuk perangkat edge sehingga Anda dapat mengemas dan menggunakan model Amazon SageMaker AI Neo yang dikompilasi langsung di perangkat inti Greengrass. Dengan menggunakan SageMaker AI Edge Manager, Anda juga dapat mengambil sampel data input dan output model dari perangkat inti Anda, dan mengirim data tersebut ke AWS Cloud untuk pemantauan dan analisis. Karena SageMaker AI Edge Manager menggunakan SageMaker AI Neo untuk mengoptimalkan model Anda untuk perangkat keras target Anda, Anda tidak perlu menginstal DLR runtime langsung di perangkat Anda. Pada perangkat Greengrass SageMaker , AI Edge Manager tidak memuat sertifikat AWS IoT lokal atau menghubungi AWS IoT titik akhir penyedia kredensi secara langsung. Sebagai gantinya, SageMaker AI Edge Manager menggunakan layanan pertukaran token untuk mengambil kredensi sementara dari titik akhir. TES

Bagian ini menjelaskan cara kerja SageMaker AI Edge Manager pada perangkat inti Greengrass.

Cara kerja SageMaker AI Edge Manager di perangkat Greengrass

Untuk menerapkan agen SageMaker AI Edge Manager ke perangkat inti Anda, buat penerapan yang menyertakan komponen. aws.greengrass.SageMakerEdgeManager AWS IoT Greengrass mengelola instalasi dan siklus hidup agen Edge Manager di perangkat Anda. Ketika versi baru dari agen biner tersedia, deploy versi terbaru dari komponen aws.greengrass.SageMakerEdgeManager untuk meningkatkan versi agen yang diinstal pada perangkat Anda.

Saat Anda menggunakan SageMaker AI Edge Manager dengan AWS IoT Greengrass, alur kerja Anda mencakup langkah-langkah tingkat tinggi berikut:

  1. Kompilasi model dengan SageMaker AI Neo.

  2. Package model SageMaker AI yang dikompilasi Neo Anda menggunakan pekerjaan pengemasan tepi SageMaker AI. Ketika Anda menjalankan tugas pengemasan edge untuk model Anda, Anda dapat memilih untuk membuat komponen model dengan model kemasan sebagai artefak yang dapat digunakan untuk perangkat inti Greengrass Anda.

  3. Buat komponen inferensi kustom. Anda menggunakan komponen inferensi ini untuk berinteraksi dengan agen Edge Manager untuk melakukan inferensi pada perangkat inti. Operasi ini meliputi pemuatan model, pemanggilan permintaan prediksi untuk menjalankan inferensi, dan pembongkaran model ketika komponen dimatikan.

  4. Terapkan komponen SageMaker AI Edge Manager, komponen model yang dikemas, dan komponen inferensi untuk menjalankan model Anda di mesin inferensi SageMaker AI (agen Edge Manager) di perangkat Anda.

Untuk informasi selengkapnya tentang membuat pekerjaan kemasan tepi dan komponen inferensi yang bekerja dengan SageMaker AI Edge Manager, lihat Menyebarkan Paket Model dan Agen Manajer Edge dengan AWS IoT Greengrass Panduan Pengembang Amazon SageMaker AI.

Tutorial: Memulai SageMaker AI Edge ManagerTutorial menunjukkan kepada Anda cara mengatur dan menggunakan agen SageMaker AI Edge Manager pada perangkat inti Greengrass yang ada, AWS menggunakan kode contoh yang disediakan yang dapat Anda gunakan untuk membuat inferensi sampel dan komponen model.

Saat Anda menggunakan SageMaker AI Edge Manager di perangkat inti Greengrass, Anda juga dapat menggunakan fitur pengambilan data untuk mengunggah data sampel ke perangkat inti Greengrass. AWS Cloud Capture data adalah fitur SageMaker AI yang Anda gunakan untuk mengunggah input inferensi, hasil inferensi, dan data inferensi tambahan ke bucket S3 atau direktori lokal untuk analisis masa depan. Untuk informasi selengkapnya tentang penggunaan data pengambilan dengan SageMaker AI Edge Manager, lihat Mengelola Model di Panduan Pengembang Amazon SageMaker AI.

Persyaratan

Anda harus memenuhi persyaratan berikut untuk menggunakan agen SageMaker AI Edge Manager di perangkat inti Greengrass.

  • Perangkat inti Greengrass yang berjalan di Amazon Linux 2, platform Linux berbasis Debian (x86_64 atau Armv8), atau Windows (x86_64). Jika Anda tidak memilikinya, lihat Tutorial: Memulai dengan AWS IoT Greengrass V2.

  • Python 3.6 atau yang lebih baru, termasuk pip untuk versi Python Anda, diinstal pada perangkat inti anda.

  • Peran perangkat Greengrass yang dikonfigurasi dengan berikut ini:

    • Hubungan kepercayaan yang memungkinkan credentials.iot.amazonaws.com dan sagemaker.amazonaws.com untuk mengambil peran, seperti yang ditunjukkan dalam contoh IAM kebijakan berikut.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • Kebijakan yang AmazonSageMakerEdgeDeviceFleetPolicyIAMdikelola.

    • s3:PutObjectTindakan, seperti yang ditunjukkan dalam contoh IAM kebijakan berikut.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Bucket Amazon S3 yang dibuat sama Akun AWS dan Wilayah AWS sebagai perangkat inti Greengrass Anda. SageMaker AI Edge Manager memerlukan bucket S3 untuk membuat armada perangkat edge, dan menyimpan data sampel dari inferensi yang berjalan di perangkat Anda. Untuk informasi selengkapnya tentang pembuatan bucket S3, lihat Memulai Amazon S3.

  • Armada perangkat SageMaker AI edge yang menggunakan alias AWS IoT peran yang sama dengan perangkat inti Greengrass Anda. Untuk informasi selengkapnya, lihat Buat armada perangkat edge.

  • Perangkat inti Greengrass Anda terdaftar sebagai perangkat edge di armada perangkat AI Edge Anda. SageMaker Nama perangkat tepi harus cocok dengan nama AWS IoT benda untuk perangkat inti Anda. Untuk informasi selengkapnya, lihat Daftarkan perangkat inti Greengrass Anda.

SageMaker Memulai dengan AI Edge Manager

Anda dapat menyelesaikan tutorial untuk mulai menggunakan SageMaker AI Edge Manager. Tutorial ini menunjukkan kepada Anda cara memulai menggunakan SageMaker AI Edge Manager dengan komponen sampel AWS yang disediakan pada perangkat inti yang ada. Komponen sampel ini menggunakan komponen SageMaker AI Edge Manager sebagai dependensi untuk menyebarkan agen Edge Manager, dan melakukan inferensi menggunakan model pra-terlatih yang dikompilasi menggunakan AI Neo. SageMaker Untuk informasi selengkapnya, lihat Tutorial: Memulai SageMaker AI Edge Manager.