Machen Sie Rückschlüsse auf Ihrem Gerät

Laden Sie Ihr kompiliertes Modell von Amazon S3 auf Ihr Gerät herunter und extrahieren Sie es aus der komprimierten TAR-Datei.

# Download compiled model locally to edge device
object_path = f'output/{model_name}-{target_device}.tar.gz'
neo_compiled_model = f'compiled-{model_name}.tar.gz'
s3_client.download_file(bucket_name, object_path, neo_compiled_model)

# Extract model from .tar.gz so DLR can use it
!mkdir ./dlr_model # make a directory to store your model (optional)
!tar -xzvf ./compiled-detect.tar.gz --directory ./dlr_model

Import DLR und ein initialisiertes Objekt. DLRModel

import dlr

device = 'cpu'
model = dlr.DLRModel('./dlr_model', device)

Laden Sie ein Bild für die Inferenz herunter und formatieren Sie es entsprechend der Art und Weise, wie Ihr Modell trainiert wurde.

Sie können coco_ssd_mobilenet beispielsweise ein Bild aus dem COCODatensatz herunterladen und das Bild dann wie folgt umgestalten: 300x300

from PIL import Image

# Download an image for model to make a prediction
input_image_filename = './input_image.jpg'
!curl https://farm9.staticflickr.com/8325/8077197378_79efb4805e_z.jpg --output {input_image_filename}

# Format image so model can make predictions
resized_image = image.resize((300, 300))

# Model is quantized, so convert the image to uint8
x = np.array(resized_image).astype('uint8')

Wird verwendetDLR, um Rückschlüsse zu ziehen.

Schließlich können Sie damit eine Vorhersage DLR für das Bild treffen, das Sie gerade heruntergeladen haben:

out = model.run(x)