Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# Unterstützte Frameworks, Geräte, Systeme und Architekturen
<a name="neo-supported-devices-edge"></a>

Amazon SageMaker Neo unterstützt gängige Frameworks, Edge-Geräte, Betriebssysteme und Chip-Architekturen für Machine Learning. Finden Sie heraus, ob Neo Ihr Framework, Ihr Edge-Gerät, Ihr Betriebssystem und Ihre Chip-Architektur unterstützt, indem Sie eines der folgenden Themen auswählen.

Eine Liste der Modelle, die vom Amazon SageMaker Neo Team getestet wurden, finden Sie im [Getestete Modelle](neo-supported-edge-tested-models.md) Abschnitt.

**Anmerkung**  
Für Ambarella-Geräte müssen zusätzliche Dateien in die komprimierte TAR-Datei aufgenommen werden, bevor sie zur Kompilierung gesendet wird. Weitere Informationen finden Sie unter [Beheben von Ambarella-Fehlern](neo-troubleshooting-target-devices-ambarella.md).
TIM-VX (libtim-vx.so) ist für i.MX 8M Plus erforderlich. Informationen zur Erstellung von [TIM-VX](https://github.com/VeriSilicon/TIM-VX) finden Sie im TIM-VX GitHub-Repository.

**Topics**
+ [Unterstützte Frameworks](neo-supported-devices-edge-frameworks.md)
+ [Unterstützte Geräte, Chip-Architekturen und Systeme](neo-supported-devices-edge-devices.md)
+ [Getestete Modelle](neo-supported-edge-tested-models.md)

# Unterstützte Frameworks
<a name="neo-supported-devices-edge-frameworks"></a>

Amazon SageMaker Neo unterstützt die folgenden Frameworks. 


| Framework | Framework-Version | Modellversion | Modelle | Modellformate (in \$1.tar.gz verpackt) | Toolkits | 
| --- | --- | --- | --- | --- | --- | 
| MXNet | 1.8 | Unterstützt 1.8 oder höher | Bildklassifizierung, Objekterkennung, semantische Segmentierung, Posenschätzung, Aktivitätserkennung | MXNET: Neo erwartet eine einzelne Symboldatei (.json) und eine einzelne Parameterdatei (.params) | GluonCV v0.8.0 | 
| ONNX | 1,7 | Unterstützt 1.7 oder höher | Bildklassifizierung, SVM | Eine Modelldatei (.onnx) |  | 
| Keras | 2.2 | Unterstützt 2.2 oder höher | Bildklassifizierung | Eine Modelldefinitionsdatei (.h5) |  | 
| PyTorch | 1.7, 1.8 | Unterstützt 1.7, 1.8 oder früher | Bildklassifizierung, Objekterkennung | Eine Modelldefinitionsdatei (.pth) |  | 
| TensorFlow | 1.15, 2.4, 2.5 (nur für ml.inf1.\$1-Instances) | Unterstützt 1.15, 2.4, 2.5 (nur für ml.inf1.\$1-Instances) oder früher | Bildklassifizierung, Objekterkennung | \$1Für gespeicherte Modelle eine .pb- oder eine.pbtxt-Datei und ein Variablenverzeichnis, das Variablen enthält \$1Für eingefrorene Modelle nur eine .pb- oder .pbtxt-Datei |  | 
| TensorFlow-Lite | 1.15 | Unterstützt 1.15 oder früher | Bildklassifizierung, Objekterkennung | Eine Flatbuffer-Datei mit Modelldefinition (.tflite) |  | 
| XGBoost | 1.3 | Unterstützt 1.3 oder höher | Entscheidungsbäume | Eine XGBoost-Modelldatei (.model), in der die Anzahl der Knoten in einem Baum weniger als 2^31 beträgt |  | 
| DARKNET |  |  | Bildklassifizierung, Objekterkennung (das Yolo-Modell wird nicht unterstützt) | Eine Konfigurationsdatei (.cfg) und eine Gewichtungsdatei (.weights) |  | 

# Unterstützte Geräte, Chip-Architekturen und Systeme
<a name="neo-supported-devices-edge-devices"></a>

Amazon SageMaker Neo unterstützt die folgenden Geräte, Chiparchitekturen und Betriebssysteme.

## Geräte
<a name="neo-supported-edge-devices"></a>

Sie können ein Gerät mithilfe der Drop-down-Liste in der [Konsole von Amazon SageMaker AI](https://console.aws.amazon.com/sagemaker) auswählen oder indem Sie `TargetDevice` in der Ausgabekonfiguration der [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateCompilationJob.html](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateCompilationJob.html) API angeben.

Sie können eines der folgenden Edge-Geräte auswählen: 


| Liste der Geräte | System auf einem Chip (SoC) | Betriebssystem | Architektur | Accelerator | Beispiel für Compiler-Optionen | 
| --- | --- | --- | --- | --- | --- | 
| aisage | Keine | Linux | ARM64 | Mali | Keine | 
| amba\$1cv2 | CV2 | Arch Linux | ARM64 | cvflow | Keine | 
| amba\$1cv22 | CV22 | Arch Linux | ARM64 | cvflow | Keine | 
| amba\$1cv25 | CV25 | Arch Linux | ARM64 | cvflow | Keine | 
| Coreml | Keine | iOS, macOS | Keine | Keine | \$1"class\$1labels": "imagenet\$1labels\$11000.txt"\$1 | 
| imx 8 qm | NXP imx8 | Linux | ARM64 | Keine | Keine | 
| imx 8m plus | i.MX 8M Plus | Linux | ARM64 | NPU | Keine | 
| jacinto\$1tda4vm | TDA4VM | Linux | ARM | TDA4VM | Keine | 
| Jetson Nano | Keine | Linux | ARM64 | NVIDIA | \$1'gpu-code': 'sm\$153', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'\$1Für `TensorFlow2`, `{'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}` | 
| Jetson\$1TX1 | Keine | Linux | ARM64 | NVIDIA | \$1'gpu-code': 'sm\$153', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'\$1 | 
| Jetson\$1TX2 | Keine | Linux | ARM64 | NVIDIA | \$1'gpu-code': 'sm\$162', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'\$1 | 
| Jetson Xavier | Keine | Linux | ARM64 | NVIDIA | \$1'gpu-code': 'sm\$172', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'\$1 | 
| qcs605 | Keine | Android | ARM64 | Mali | \$1'ANDROID\$1PLATFORM': 27\$1 | 
| qcs603 | Keine | Android | ARM64 | Mali | \$1'ANDROID\$1PLATFORM': 27\$1 | 
| Rasp3 B | ARM A56 | Linux | ARM\$1EABIHF | Keine | \$1'mattr': ['\$1neon']\$1 | 
| Rasp4b | ARM A72 | Keine | Keine | Keine | Keine | 
| rk3288 | Keine | Linux | ARM\$1EABIHF | Mali | Keine | 
| rk3399 | Keine | Linux | ARM64 | Mali | Keine | 
| sbe\$1c | Keine | Linux | x86\$164 | Keine | \$1'mcpu': 'core-avx2'\$1 | 
| sitara\$1am57x | BIN 57X | Linux | ARM64 | EVE und/oder C66x DSP | Keine | 
| x86\$1win32 | Keine | Windows 10 | X86\$132 | Keine | Keine | 
| x86\$1win64 | Keine | Windows 10 | X86\$132 | Keine | Keine | 

Weitere Informationen zu den JSON-Schlüsselwert-Compiler-Optionen für jedes Zielgerät finden Sie in dem `CompilerOptions` Feld im [API`OutputConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_OutputConfig.html)-Datentyp.

## Systeme und Chip-Architekturen
<a name="neo-supported-edge-granular"></a>

Die folgenden Nachschlagetabellen enthalten Informationen zu verfügbaren Betriebssystemen und Architekturen für Jobs zur Kompilierung von Neo-Modellen. 

------
#### [ Linux ]


| Accelerator | X86\$164 | X86 | ARM64 | ARM\$1EABIHF | ARM\$1EABI | 
| --- | --- | --- | --- | --- | --- | 
| Kein Beschleuniger (CPU) | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | 
| NVIDIA GPUs | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | 
| Intel\$1Graphics | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | 
| ARM Mali | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | 

------
#### [ Android ]


| Accelerator | X86\$164 | X86 | ARM64 | ARM\$1EABIHF | ARM\$1EABI | 
| --- | --- | --- | --- | --- | --- | 
| Kein Beschleuniger (CPU) | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | 
| NVIDIA GPUs | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | 
| Intel\$1Graphics | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | 
| ARM Mali | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | 

------
#### [ Windows ]


| Accelerator | X86\$164 | X86 | ARM64 | ARM\$1EABIHF | ARM\$1EABI | 
| --- | --- | --- | --- | --- | --- | 
| Kein Beschleuniger (CPU) | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/success_icon.svg) Ja | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | ![\[alt text not found\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/negative_icon.svg) Nein | 

------

# Getestete Modelle
<a name="neo-supported-edge-tested-models"></a>

Die folgenden zusammenklappbaren Abschnitte enthalten Informationen zu Modellen für Machine Learning, die vom Amazon SageMaker Neo-Team getestet wurden. Erweitern Sie den zusammenklappbaren Abschnitt auf der Grundlage Ihres Frameworks, um zu überprüfen, ob ein Modell getestet wurde.

**Anmerkung**  
Dies ist keine umfassende Liste von Modellen, die mit Neo kompiliert werden können.

Unter [Unterstützte Frameworks](neo-supported-devices-edge-frameworks.md) und [Von SageMaker AI Neo unterstützte Operatoren](https://aws.amazon.com/releasenotes/sagemaker-neo-supported-frameworks-and-operators/) erfahren Sie, ob Sie Ihr Modell mit SageMaker AI Neo kompilieren können.

## DarkNet
<a name="collapsible-section-01"></a>


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| Alexnet |  |  |  |  |  |  |  |  |  | 
| Resnet 50 | X | X |  | X | X | X |  | X | X | 
| Yolo V 2 |  |  |  | X | X | X |  | X | X | 
| YoloV2\$1Tiny | X | X |  | X | X | X |  | X | X | 
| Yolov 3\$1416 |  |  |  | X | X | X |  | X | X | 
| Yolov 3\$1Tiny | X | X |  | X | X | X |  | X | X | 

## MXNet
<a name="collapsible-section-02"></a>


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| Alexnet |  |  | X |  |  |  |  |  |  | 
| Dichtes Netz 121 |  |  | X |  |  |  |  |  |  | 
| Densenet201 | X | X | X | X | X | X |  | X | X | 
| Googlenet | X | X |  | X | X | X |  | X | X | 
| Inception V3 |  |  |  | X | X | X |  | X | X | 
| MobileNet 0.75 | X | X |  | X | X | X |  |  | X | 
| MobileNet 1.0 | X | X | X | X | X | X |  |  | X | 
| MobileNet V2\$10.5 | X | X |  | X | X | X |  |  | X | 
| MobileNet V2\$11.0 | X | X | X | X | X | X | X | X | X | 
| MobileNetV3\$1groß | X | X | X | X | X | X | X | X | X | 
| MobileNetV3\$1Klein | X | X | X | X | X | X | X | X | X | 
| ResNest 50 |  |  |  | X | X |  |  | X | X | 
| ResNet18\$1V1 | X | X | X | X | X | X |  |  | X | 
| ResNet18\$1V2 | X | X |  | X | X | X |  |  | X | 
| ResNet50\$1V1 | X | X | X | X | X | X |  | X | X | 
| ResNet50\$1V2 | X | X | X | X | X | X |  | X | X | 
| ResNext101\$132x4D |  |  |  |  |  |  |  |  |  | 
| ResNext50\$132x4D | X |  | X | X | X |  |  | X | X | 
| Senet\$1154 |  |  |  | X | X | X |  | X | X | 
| SE\$1ResNext50\$132x4D | X | X |  | X | X | X |  | X | X | 
| SqueezeNet 1.0 | X | X | X | X | X | X |  |  | X | 
| SqueezeNet 1.1 | X | X | X | X | X | X |  | X | X | 
| VGG 11 | X | X | X | X | X |  |  | X | X | 
| Ausnahme | X | X | X | X | X | X |  | X | X | 
| Darknet 53 | X | X |  | X | X | X |  | X | X | 
| resnet18\$1v1b\$10.89 | X | X |  | X | X | X |  |  | X | 
| resnet50\$1v1d\$10.11 | X | X |  | X | X | X |  |  | X | 
| resnet50\$1v1d\$10.86 | X | X | X | X | X | X |  | X | X | 
| ssd\$1512\$1mobilenet1.0\$1coco | X |  | X | X | X | X |  | X | X | 
| ssd\$1512\$1mobilenet1.0\$1voc | X |  | X | X | X | X |  | X | X | 
| ssd\$1resnet50\$1v1 | X |  | X | X | X |  |  | X | X | 
| yolo3\$1darknet53\$1coco | X |  |  | X | X |  |  | X | X | 
| yolo3\$1mobilenet1.0\$1coco | X | X |  | X | X | X |  | X | X | 
| deeplab\$1resnet50 |  |  | X |  |  |  |  |  |  | 

## Keras
<a name="collapsible-section-03"></a>


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| dichtes Netz 121 | X | X | X | X | X | X |  | X | X | 
| densenet201 | X | X | X | X | X | X |  |  | X | 
| Anfang\$1v3 | X | X |  | X | X | X |  | X | X | 
| mobilenet\$1v1 | X | X | X | X | X | X |  | X | X | 
| mobilenet\$1v2 | X | X | X | X | X | X |  | X | X | 
| resnet152\$1v1 |  |  |  | X | X |  |  |  | X | 
| resnet152\$1v2 |  |  |  | X | X |  |  |  | X | 
| resnet50\$1v1 | X | X | X | X | X |  |  | X | X | 
| resnet50\$1v2 | X | X | X | X | X | X |  | X | X | 
| vgg 16 |  |  | X | X | X |  |  | X | X | 

## ONNX
<a name="collapsible-section-04"></a>


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| alexNet |  |  | X |  |  |  |  |  |  | 
| mobilenet Version 2-1.0 | X | X | X | X | X | X |  | X | X | 
| resnet 18 v1 | X |  |  | X | X |  |  |  | X | 
| resnet 18 v2 | X |  |  | X | X |  |  |  | X | 
| resnet 50 v1 | X |  | X | X | X |  |  | X | X | 
| resnet 50 v2 | X |  | X | X | X |  |  | X | X | 
| resnet 152 v1 |  |  |  | X | X | X |  |  | X | 
| resnet 152 v2 |  |  |  | X | X | X |  |  | X | 
| squeezenet1.1 | X |  | X | X | X | X |  | X | X | 
| vgg 19 |  |  | X |  |  |  |  |  | X | 

## PyTorch (FP32)
<a name="collapsible-section-05"></a>


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Ambarella CV-25 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| dichtes Netz 121 | X | X | X | X | X | X | X |  | X | X | 
| Anfang\$1v3 |  | X |  |  | X | X | X |  | X | X | 
| resnet152 |  |  |  |  | X | X | X |  |  | X | 
| resnet18 | X | X |  |  | X | X | X |  |  | X | 
| resnet 50 | X | X | X | X | X | X |  |  | X | X | 
| Squeezenet 1.0 | X | X |  |  | X | X | X |  |  | X | 
| squeezenet1.1 | X | X | X | X | X | X | X |  | X | X | 
| Yolov 4 |  |  |  |  | X | X |  |  |  |  | 
| Yolov 5 |  |  |  | X | X | X |  |  |  |  | 
| schnelleres rcnn\$1resnet50\$1fpn |  |  |  |  | X | X |  |  |  |  | 
| maskieren Sie rcnn\$1resnet50\$1fpn |  |  |  |  | X | X |  |  |  |  | 

## TensorFlow
<a name="collapsible-section-06"></a>

------
#### [ TensorFlow ]


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Ambarella CV-25 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| dichtes Netz 201 | X | X | X | X | X | X | X |  | X | X | 
| Anfang\$1v3 | X | X | X |  | X | X | X |  | X | X | 
| mobilenet100\$1v1 | X | X | X |  | X | X | X |  |  | X | 
| mobilenet100\$1v2.0 | X | X | X |  | X | X | X |  | X | X | 
| mobilenet130\$1v2 | X | X |  |  | X | X | X |  |  | X | 
| mobilenet140\$1v2 | X | X | X |  | X | X | X |  | X | X | 
| resnet50\$1v1.5 | X | X |  |  | X | X | X |  | X | X | 
| resnet50\$1v2 | X | X | X | X | X | X | X |  | X | X | 
| squeezenet | X | X | X | X | X | X | X |  | X | X | 
| maske\$1rcnn\$1inception\$1resnet\$1v2 |  |  |  |  | X |  |  |  |  |  | 
| ssd\$1mobilenet\$1v2 |  |  |  |  | X | X |  |  |  |  | 
| faster\$1rcnn\$1resnet50\$1low Vorschläge |  |  |  |  | X |  |  |  |  |  | 
| rfcn\$1resnet101 |  |  |  |  | X |  |  |  |  |  | 

------
#### [ TensorFlow.Keras ]


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| Dichtes Net121  | X | X |  | X | X | X |  | X | X | 
| Densenet201 | X | X |  | X | X | X |  |  | X | 
| Inception V3 | X | X |  | X | X | X |  | X | X | 
| MobileNet | X | X |  | X | X | X |  | X | X | 
| MobileNet V2 | X | X |  | X | X | X |  | X | X | 
| NASnet groß |  |  |  | X | X |  |  | X | X | 
| NASnet Mobil | X | X |  | X | X | X |  | X | X | 
| ResNet101 |  |  |  | X | X | X |  |  | X | 
| ResNet101 V2 |  |  |  | X | X | X |  |  | X | 
| ResNet 152 |  |  |  | X | X |  |  |  | X | 
| ResNet 152 V2 |  |  |  | X | X |  |  |  | X | 
| ResNet 50 | X | X |  | X | X |  |  | X | X | 
| ResNet50 V2 | X | X |  | X | X | X |  | X | X | 
| VGG 16 |  |  |  | X | X |  |  | X | X | 
| Ausnahme | X | X |  | X | X | X |  | X | X | 

------

## TensorFlow-Lite
<a name="collapsible-section-07"></a>

------
#### [ TensorFlow-Lite (FP32) ]


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | i.MX 8M Plus | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| densenet\$12018\$104\$127 | X |  |  | X | X | X |  |  | X |  | 
| inception\$1resnet\$1v2\$12018\$104\$127 |  |  |  | X | X | X |  |  | X |  | 
| inception\$1v3\$12018\$104\$127 |  |  |  | X | X | X |  |  | X | X | 
| inception\$1v4\$12018\$104\$127 |  |  |  | X | X | X |  |  | X | X | 
| mansnet\$10.5\$1224\$109\$107\$12018 | X |  |  | X | X | X |  |  | X |  | 
| mnasnet\$11.0\$1224\$109\$107\$12018 | X |  |  | X | X | X |  |  | X |  | 
| mnasnet\$11.3\$1224\$109\$107\$12018 | X |  |  | X | X | X |  |  | X |  | 
| mobilenet\$1v1\$10.25\$1128 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$10.25\$1224 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$10.5\$1128 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$10.5\$1224 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$10.75\$1128 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$10.75\$1224 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$11.0\$1128 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v1\$11.0\$1192 | X |  |  | X | X | X |  |  | X | X | 
| mobilenet\$1v2\$11.0\$1224 | X |  |  | X | X | X |  |  | X | X | 
| resnet\$1v2\$1101 |  |  |  | X | X | X |  |  | X |  | 
| squeezenet\$12018\$104\$127 | X |  |  | X | X | X |  |  | X |  | 

------
#### [ TensorFlow-Lite (INT8) ]


| Modelle | ARM V8 | ARM Mali | Ambarella CV22 | Nvidia | Panorama | ZU TDA4VM | Qualcomm QCS603 | X86\$1Linux | X86\$1Windows | i.MX 8M Plus | 
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | 
| inception\$1v1 |  |  |  |  |  |  | X |  |  | X | 
| Inception\$1v2 |  |  |  |  |  |  | X |  |  | X | 
| Anfang\$1v3 | X |  |  |  |  | X | X |  | X | X | 
| Inception\$1v4\$1299 | X |  |  |  |  | X | X |  | X | X | 
| mobilenet\$1v1\$10.25\$1128 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$10.25\$1224 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$10.5\$1128 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$10.5\$1224 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$10.75\$1128 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$10.75\$1224 | X |  |  |  |  | X | X |  | X | X | 
| mobilenet\$1v1\$11.0\$1128 | X |  |  |  |  | X |  |  | X | X | 
| mobilenet\$1v1\$11.0\$1224 | X |  |  |  |  | X | X |  | X | X | 
| mobilenet\$1v2\$11.0\$1224 | X |  |  |  |  | X | X |  | X | X | 
| deeplab-v3\$1513 |  |  |  |  |  |  | X |  |  |  | 

------