Jalankan Agen

Luncurkan agen.

Agen SageMaker Edge Manager dapat dijalankan sebagai proses mandiri dalam bentuk biner eksekusi Executable dan Linkable Format (ELF) atau dapat ditautkan sebagai Dynamic Shared Object (.dll). Berjalan sebagai biner yang dapat dieksekusi mandiri adalah mode yang disukai dan didukung di Linux.

Contoh ini menggunakan g RPC untuk menjalankan agen. g RPC adalah kerangka kerja Remote Procedure Call (RPC) open source berkinerja tinggi yang dapat berjalan di lingkungan apa pun. Untuk informasi selengkapnya tentang gRPC, lihat RPCdokumentasi g.

Untuk menggunakan gRPC, lakukan langkah-langkah berikut:

1. Tentukan layanan dalam file.proto.

2. Hasilkan kode server dan klien menggunakan compiler buffer protokol.

3. Gunakan Python (atau bahasa lain yang didukung oleh gRPC) g RPC API untuk menulis server untuk layanan Anda.

4. Gunakan Python (atau bahasa lain yang didukung oleh gRPC) g RPC API untuk menulis klien untuk layanan Anda.

Artefak rilis yang Anda unduh berisi RPC aplikasi g yang siap untuk Anda jalankan agen. Contoh ini terletak di dalam /bin direktori artefak rilis Anda. sagemaker_edge_agent_binaryBiner executable ada di direktori ini.

Untuk menjalankan agen dengan contoh ini, berikan path ke file socket Anda (.sock) dan JSON file.config:

./bin/sagemaker_edge_agent_binary -a /tmp/sagemaker_edge_agent_example.sock -c sagemaker_edge_config.json

Periksa perangkat Anda.

Periksa apakah perangkat Anda terhubung dan mengambil sampel data. Melakukan pemeriksaan berkala, secara manual atau otomatis, memungkinkan Anda untuk memeriksa apakah perangkat atau armada Anda berfungsi dengan baik.

Berikan nama armada tempat perangkat berada dan pengidentifikasi perangkat unik. Dari mesin lokal Anda, jalankan yang berikut ini:

sagemaker_client.describe_device(
    DeviceName=device_name,
    DeviceFleetName=device_fleet_name
)

Untuk model yang diberikan, Anda dapat melihat nama, versi model, waktu sampel terbaru, dan kapan inferensi terakhir dibuat.

{ 
  "DeviceName": "sample-device",
  "DeviceFleetName": "demo-device-fleet",
  "IoTThingName": "sample-thing-name-1",
  "RegistrationTime": 1600977370,
  "LatestHeartbeat": 1600977370,
  "Models":[
    {
        "ModelName": "mobilenet_v2.tar.gz", 
        "ModelVersion": "1.1",
        "LatestSampleTime": 1600977370,
        "LatestInference": 1600977370 
    }
  ]
}

Stempel waktu yang disediakan oleh LastetHeartbeat menunjukkan sinyal terakhir yang diterima dari perangkat. LatestSampleTimedan LatestInference jelaskan cap waktu dari sampel data terakhir dan inferensi, masing-masing.

Periksa armada Anda.

Periksa apakah armada Anda bekerja samaGetDeviceFleetReport. Berikan nama armada yang dimiliki perangkat tersebut.

sagemaker_client.get_device_fleet_report(
    DeviceFleetName=device_fleet_name
)

Untuk model tertentu, Anda dapat melihat nama, versi model, waktu sampel terbaru, dan kapan inferensi terakhir dibuat, bersama dengan URI bucket Amazon S3 tempat sampel data disimpan.

# Sample output
{
 "DeviceFleetName": "sample-device-fleet",
 "DeviceFleetArn": "arn:aws:sagemaker:us-west-2:9999999999:device-fleet/sample-fleet-name",
 "OutputConfig": {
              "S3OutputLocation": "s3://fleet-bucket/package_output",
  },
 "AgentVersions":[{"Version": "1.1", "AgentCount": 2}]}
 "DeviceStats": {"Connected": 2, "Registered": 2}, 
 "Models":[{
            "ModelName": "sample-model", 
            "ModelVersion": "1.1",
            "OfflineDeviceCount": 0,
            "ConnectedDeviceCount": 2,
            "ActiveDeviceCount": 2, 
            "SamplingDeviceCount": 100
            }]
}