本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
支持的设备、芯片架构和系统
Amazon SageMaker Neo 支持以下设备、芯片架构和操作系统。
设备
您可以使用 Amazon SageMaker 控制台TargetDevice
在的输出配置中指定来选择设备CreateCompilationJob
API。
您可以选择下列边缘设备之一:
设备列表 | 片上系统 (SoC) | 操作系统 | 架构 | Accelerator | 编译器选项示例 |
---|---|---|---|---|---|
aisage | 无 | Linux | ARM64 | Mali | 无 |
amba_cv2 | CV2 | Arch Linux | ARM64 | cvflow | 无 |
amba_cv22 | CV22 | Arch Linux | ARM64 | cvflow | 无 |
amba_cv25 | CV25 | Arch Linux | ARM64 | cvflow | 无 |
coreml | 无 | iOS、macOS | 无 | 无 | {"class_labels": "imagenet_labels_1000.txt"} |
imx8qm | NXPimx8 | Linux | ARM64 | 无 | 无 |
imx8mplus | i.MX 8M Plus | Linux | ARM64 | NPU | 无 |
jacinto_tda4vm | TDA4VM | Linux | ARM | TDA4VM | 无 |
jetson_nano | 无 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver':
'10.0'} 适用于 |
jetson_tx1 | 无 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'} |
jetson_tx2 | 无 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'} |
jetson_xavier | 无 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'} |
qcs605 | 无 | Android | ARM64 | Mali | {'ANDROID_PLATFORM': 27} |
qcs603 | 无 | Android | ARM64 | Mali | {'ANDROID_PLATFORM': 27} |
rasp3b | ARMA56 | Linux | ARM_EABIHF | 无 | {'mattr': ['+neon']} |
rasp4b | ARMA72 | 无 | 无 | 无 | 无 |
rk3288 | 无 | Linux | ARM_EABIHF | Mali | 无 |
rk3399 | 无 | Linux | ARM64 | Mali | 无 |
sbe_c | 无 | Linux | x86_64 | 无 | {'mcpu': 'core-avx2'} |
sitara_am57x | AM57X | Linux | ARM64 | EVE和/或 c66x DSP | 无 |
x86_win32 | 无 | Windows 10 | X86_32 | 无 | 无 |
x86_win64 | 无 | Windows 10 | X86_32 | 无 | 无 |
有关每台目标设备的JSON键值编译器选项的更多信息,请参阅OutputConfig
API数据类型中的CompilerOptions
字段。
系统和芯片架构
以下查找表提供有关 Neo 模型编译作业的可用操作系统和架构的信息。