

# Hardware und Services
<a name="hardware-and-services"></a>

 Suchen Sie nach Möglichkeiten, die Auswirkungen auf die Nachhaltigkeit Ihrer Workloads durch Änderungen der Methoden für die Hardwareverwaltung zu reduzieren. Minimieren Sie den Umfang der für die Bereitstellung erforderlichen Hardware und wählen Sie die jeweils effizienteste Hardware und den effizientesten Service für die jeweilige Workload aus. 

**Topics**
+ [SUS05-BP01 Verwenden der geringstmöglichen Menge an Hardware zur Erfüllung Ihrer Anforderungen](sus_sus_hardware_a2.md)
+ [SUS05-BP02 Verwenden von Instance-Typen mit den geringsten Auswirkungen](sus_sus_hardware_a3.md)
+ [SUS05-BP03 Managed Services nutzen](sus_sus_hardware_a4.md)
+ [SUS05-BP04 Optimieren der Nutzung von hardwarebasierten Datenverarbeitungsbeschleunigern](sus_sus_hardware_a5.md)

# SUS05-BP01 Verwenden der geringstmöglichen Menge an Hardware zur Erfüllung Ihrer Anforderungen
<a name="sus_sus_hardware_a2"></a>

Verwenden Sie die geringstmögliche Menge an Hardware für Ihre Workload, um Ihre geschäftlichen Anforderungen in effizienter Weise zu erfüllen.

 **Typische Anti-Muster:** 
+  Sie überwachen die Ressourcenauslastung nicht. 
+  Sie haben Ressourcen mit geringer Auslastung in Ihrer Architektur. 
+  Sie prüfen die Nutzung statischer Hardware nicht, um festzustellen, ob sie neu dimensioniert werden muss. 
+  Sie formulieren keine Ziele für die Hardwarenutzung in Ihrer Datenverarbeitungsinfrastruktur auf der Grundlage geschäftlicher KPIs. 

 **Vorteile der Nutzung dieser bewährten Methode:** Die korrekte Dimensionierung Ihrer Cloud-Ressourcen hilft dabei, die Umweltauswirkungen von Workloads zu reduzieren, Geld zu sparen und Leistungsbenchmarks einzuhalten. 

 **Risikostufe, wenn diese bewährte Methode nicht eingeführt wird:** Mittel 

## Implementierungsleitfaden
<a name="implementation-guidance"></a>

 Wählen Sie die optimale Anzahl von Hardwaregeräten für Ihre Workload aus, um die allgemeine Effizienz zu verbessern. Die AWS Cloud bietet die Flexibilität, Ressourcen dynamisch durch verschiedene Mechanismen wie etwa [AWS Auto Scaling](https://aws.amazon.com/autoscaling/) zu erweitern oder zu reduzieren, um einem veränderten Bedarf gerecht zu werden. Dazu kommen [APIs und SDKs](https://aws.amazon.com/developer/tools/), mit denen Ressourcen mit minimalem Aufwand angepasst werden können. Verwenden Sie diese Möglichkeiten für häufige Änderungen an Ihren Workload-Implementierungen. Verwenden Sie dazu Dimensionierungsanleitungen von AWS-Tools für den effizienten Betrieb Ihrer Cloud-Ressourcen und die Erfüllung Ihrer geschäftlichen Anforderungen. 

 **Implementierungsschritte** 
+  **Auswahl des Instance-Typs:** Wählen Sie den Instance-Typ aus, der Ihren Anforderungen am besten entspricht. Weitere Informationen zur Auswahl von Instances von Amazon Elastic Compute Cloud und zur Verwendung von Mechanismen wie der attributbasierten Auswahl des Instance-Typs finden Sie im Folgenden: 
  + [Wie wähle ich den geeigneten Amazon-EC2-Instance-Typ für meine Workload aus?](https://aws.amazon.com/premiumsupport/knowledge-center/ec2-instance-choose-type-for-workload/)
  + [Attributbasierte Auswahl von Instance-Typen für Amazon-EC2-Flotte](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/ec2-fleet-attribute-based-instance-type-selection.html)
  + [Erstellen einer Auto-Scaling-Gruppe mit attributbasierter Auswahl des Instance-Typs](https://docs.aws.amazon.com/autoscaling/ec2/userguide/create-asg-instance-type-requirements.html)
+ **Skalierung:** Skalieren Sie variable Workloads in kleinen Schritten.
+ **Verwendung mehrerer Einkaufsoptionen für Datenverarbeitung:** Kombinieren Sie Instance-Flexibilität, Skalierbarkeit und Kosteneinsparungen mit mehreren Einkaufsoptionen für Datenverarbeitung.
  +  [On-Demand-Instances von Amazon EC2](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/ec2-on-demand-instances.html) eignen sich am besten für neue, zustandsbehaftete Workloads mit Spitzen, die hinsichtlich Instance-Typ, Standort oder Zeit nicht flexibel sein können. 
  +  [Amazon EC2 Spot Instances](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/using-spot-instances.html) eignen sich hervorragend zur Ergänzung der anderen Optionen für Anwendungen, die fehlertolerant und flexibel sind. 
  +  Nutzen Sie [Compute Savings Plans](https://aws.amazon.com/savingsplans/compute-pricing/) für stabile Workloads, die Flexibilität ermöglichen, wenn sich Ihre Anforderungen (wie AZ, Region, Instance-Familien oder Instance-Typen) ändern. 
+ **Nutzung der Vielfalt von Instances und Availability Zones:** Maximieren Sie die Anwendungsverfügbarkeit und nutzen Sie überschüssige Kapazitäten, indem Sie Ihre Instances und Availability Zones diversifizieren. 
+ **Korrekte Dimensionierung von Instances**: Verwenden Sie die Empfehlungen zur Dimensionierung in AWS-Tools, um Anpassungen an Ihrer Workload vorzunehmen. Weitere Informationen finden Sie unter [Kostenoptimierung mit Empfehlungen zur richtigen Dimensionierung](https://docs.aws.amazon.com/latest/userguide/ce-rightsizing.html) und [Richtige Dimensionierung: Bereitstellen von Instances entsprechend den Workloads](https://docs.aws.amazon.com/latest/cost-optimization-right-sizing/cost-optimization-right-sizing.html).
  + Verwenden Sie die Empfehlungen zur Dimensionierung in AWS Cost Explorer oder [AWS Compute Optimizer](https://aws.amazon.com/compute-optimizer/) zur Identifizierung von Dimensionierungsmöglichkeiten.
+ **Verhandlung von Service Level Agreements (SLAs):** Verhandeln Sie SLAs, die eine vorübergehende Reduzierung der Kapazität ermöglichen, während die Automatisierung Ersatzressourcen bereitstellt.

## Ressourcen
<a name="resources"></a>

 **Zugehörige Dokumente:** 
+ [Optimizing your AWS Infrastructure for Sustainability, Part I: Compute](https://aws.amazon.com/blogs/architecture/optimizing-your-aws-infrastructure-for-sustainability-part-i-compute/)
+ [Attribute based Instance Type Selection for Auto Scaling for Amazon EC2 Fleet](https://aws.amazon.com/blogs/aws/new-attribute-based-instance-type-selection-for-ec2-auto-scaling-and-ec2-fleet/)
+ [AWS Compute Optimizer-Dokumentation](https://docs.aws.amazon.com/compute-optimizer/index.html)
+  [Ausführen von Lambda: Leistungsoptimierung](https://aws.amazon.com/blogs/compute/operating-lambda-performance-optimization-part-2/) 
+  [Dokumentation zu Auto Scaling](https://docs.aws.amazon.com/autoscaling/index.html) 

 **Zugehörige Videos:** 
+ [AWS re:Invent 2.023 - What's new with Amazon EC2](https://www.youtube.com/watch?v=mjHw_wgJJ5g)
+ [AWS re:Invent 2.023 - Smart savings: Amazon Elastic Compute Cloud cost-optimization strategies](https://www.youtube.com/watch?v=_AHPbxzIGV0)
+ [AWS re:Invent 2.022 - Optimizing Amazon Elastic Kubernetes Service for performance and cost on AWS](https://www.youtube.com/watch?v=5B4-s_ivn1o)
+ [AWS re:Invent 2.023 - Sustainable compute: reducing costs and carbon emissions with AWS](https://www.youtube.com/watch?v=0Bl1SDU2HxI)

# SUS05-BP02 Verwenden von Instance-Typen mit den geringsten Auswirkungen
<a name="sus_sus_hardware_a3"></a>

Überwachen und nutzen Sie kontinuierlich neue Instance-Typen, um Verbesserungen bei der Energieeffizienz zu nutzen.

 **Typische Anti-Muster:** 
+  Sie verwenden lediglich eine Familie von Instances. 
+  Sie verwenden nur x86-Instances. 
+  Sie geben einen Instance-Typ in Ihrer Konfiguration von Amazon EC2 Auto Scaling an. 
+  Sie verwenden AWS-Instances in einer Weise, für die sie nicht gedacht sind (beispielsweise für Datenverarbeitung optimierte Instances für speicherintensive Workloads). 
+  Sie evaluieren nicht regelmäßig neue Instance-Typen. 
+  Sie prüfen nicht die Empfehlungen von AWS-Dimensionierungstools wie etwa [AWS Compute Optimizer.](https://aws.amazon.com/compute-optimizer/) 

 **Vorteile der Nutzung dieser bewährten Methode:** Durch die Verwendung energieeffizienter und korrekt dimensionierter Instances können Sie die Umweltauswirkungen und die Kosten Ihrer Workloads deutlich reduzieren. 

 **Risikostufe, wenn diese bewährte Methode nicht eingeführt wird:** Mittel 

## Implementierungsleitfaden
<a name="implementation-guidance"></a>

 Die Verwendung effizienter Instances für Cloud-Workloads ist von entscheidender Bedeutung für eine geringere Ressourcennutzung und die Kosteneffizienz. Überwachen Sie kontinuierlich die Einführung neuer Instance-Typen und nutzen Sie Verbesserungen bei der Energieeffizienz, einschließlich Instance-Typen, die zur Unterstützung spezifischer Workloads bestimmt sind, wie z. B. Machine-Learning-Trainings und -Inferenzen und Videotranskodierung. 

## Implementierungsschritte
<a name="implementation-steps"></a>
+  **Kennenlernen der Instance-Typen:** Finden Sie Instance-Typen, mit denen Sie die Umweltbelastung Ihrer Workloads verringern können. 
  +  Abonnieren Sie [Neuerungen bei AWS](https://aws.amazon.com/new/), um sich über die aktuellen AWS-Technologien und -Instances auf dem Laufenden zu halten. 
  +  Informieren Sie sich über die verschiedenen AWS-Instance-Typen. 
  +  Informieren Sie sich über AWS-Graviton-basierte Instances, die die beste Leistung pro Watt in Amazon EC2 bieten. Sehen Sie sich [re:Invent 2.020 - Deep dive on AWS Graviton2 processor-powered Amazon EC2 instances](https://www.youtube.com/watch?v=NLysl0QvqXU) und [Deep dive into AWS Graviton3 and Amazon EC2 C7g instances](https://www.youtube.com/watch?v=WDKwwFQKfSI&ab_channel=AWSEvents) an. 
+  **Verwendung von Instance-Typen mit den geringsten Auswirkungen:** Planen Sie Ihre Workload und stellen Sie sie auf Instance-Typen mit den geringsten Auswirkungen um. 
  +  Definieren Sie einen Prozess zur Evaluierung neuer Features oder Instances für Ihre Workloads. Nutzen Sie die Agilität in der Cloud, um schnell zu testen, wie neue Instance-Typen die ökologische Nachhaltigkeit Ihrer Workloads verbessern können. Nutzen Sie Proxy-Metriken, um zu messen, wie viele Ressourcen Sie für eine Arbeitseinheit benötigen. 
  +  Modifizieren Sie Ihre Workload nach Möglichkeit so, dass sie mit unterschiedlichen Zahlen von vCPUs und Arbeitsspeichergrößen kompatibel ist, um die größtmögliche Auswahl an Instance-Typen zu erhalten. 
  +  Erwägen Sie die Übertragung Ihrer Workload zu auf Graviton basierenden Instances, um die Leistungseffizienz Ihrer Workload zu verbessern. Weitere Informationen zum Verschieben von Workloads zu AWS Graviton finden Sie unter [AWS Graviton Fast Start](https://aws.amazon.com/ec2/graviton/fast-start/) und [Considerations when transitioning workloads to AWS Graviton-based Amazon Elastic Compute Cloud instances](https://github.com/aws/aws-graviton-getting-started/blob/main/transition-guide.md). 
  +  Erwägen Sie die Auswahl der Option AWS Graviton, wenn Sie [verwaltete AWS-Services](https://github.com/aws/aws-graviton-getting-started/blob/main/managed_services.md) verwenden. 
  +  Migrieren Sie Ihre Workload zu Regionen mit Instances, die die geringsten nachhaltigkeitsbezogenen Auswirkungen bieten und dennoch Ihre geschäftlichen Anforderungen erfüllen. 
  +  Nutzen Sie für Machine-Learning-Workloads spezielle Hardware, die auf Ihre Workload abgestimmt ist, z. B. [AWS Trainium](https://aws.amazon.com/machine-learning/trainium/), [AWS Inferentia](https://aws.amazon.com/machine-learning/inferentia/) und [Amazon EC2 DL1.](https://aws.amazon.com/ec2/instance-types/dl1/) AWS Inferentia-Instances wie Inf2-Instances bieten eine um bis zu 50 % bessere Leistung pro Watt als vergleichbare Amazon-EC2-Instances. 
  +  Verwenden Sie [Amazon SageMaker AI Inference Recommender](https://docs.aws.amazon.com/sagemaker/latest/dg/inference-recommender.html) für die korrekte Dimensionierung des ML-Inferenz-Endpunkts. 
  +  Verwenden Sie für Workloads, bei denen es gelegentlich zu zusätzlichen Kapazitätsanforderungen kommt, [Instances mit Spitzenlastleistung](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/burstable-performance-instances.html). 
  +  Verwenden Sie für zustandslose und fehlertolerante Workloads [Amazon EC2 Spot Instances](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/using-spot-instances.html), um die allgemeine Auslastung der Cloud zu verbessern und die Nachhaltigkeitsauswirkungen ungenutzter Ressourcen zu reduzieren. 
+ **Betrieb und Optimierung:** Betreiben und optimieren Sie Ihre Workload-Instance.
  +  Prüfen Sie für kurzzeitige Workloads die [Amazon-CloudWatch-Metriken der Instance](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/viewing_metrics_with_cloudwatch.html#ec2-cloudwatch-metrics) wie `CPUUtilization`, um festzustellen, ob die Instance gar nicht oder zu wenig genutzt wird. 
  +  Prüfen Sie für stabile Workloads in regelmäßigen Intervallen AWS-Dimensionierungstools wie etwa [AWS Compute Optimizer](https://aws.amazon.com/compute-optimizer/), um Möglichkeiten zur Optimierung und zur korrekten Dimensionierung der Instances zu erkennen. Weitere Beispiele und Empfehlungen finden Sie in den folgenden Labs:
    + [Well-Architected Lab - Rightsizing Recommendations](https://catalog.workshops.aws/well-architected-cost-optimization/en-US/3-cost-effective-resources/40-rightsizing-recommendations-100)
    + [Well-Architected Lab - Rightsizing with Compute Optimizer](https://catalog.workshops.aws/well-architected-cost-optimization/en-US/3-cost-effective-resources/50-rightsizing-recommendations-200)
    + [Well-Architected Lab - Optimize Hardware Patterns and Observice Sustainability KPIs](https://catalog.workshops.aws/well-architected-sustainability/en-US/4-hardware-and-services/optimize-hardware-patterns-observe-sustainability-kpis)

## Ressourcen
<a name="resources"></a>

 **Zugehörige Dokumente:** 
+  [Optimizing your AWS Infrastructure for Sustainability, Part I: Compute](https://aws.amazon.com/blogs/architecture/optimizing-your-aws-infrastructure-for-sustainability-part-i-compute/) 
+  [AWS Graviton](https://aws.amazon.com/ec2/graviton/) 
+  [Amazon EC2 DL1](https://aws.amazon.com/ec2/instance-types/dl1/) 
+  [Amazon-EC2-Flotten zur Kapazitätsreservierung](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/cr-fleets.html) 
+  [Amazon-EC2-Spot-Flotte](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/spot-fleet.html) 
+  [Funktionen: Lambda-Funktionskonfiguration](https://docs.aws.amazon.com/lambda/latest/dg/best-practices.html#function-configuration) 
+ [Attributbasierte Auswahl von Instance-Typen für Amazon-EC2-Flotte](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/ec2-fleet-attribute-based-instance-type-selection.html)
+ [Building Sustainable, Efficient, and Cost-Optimized Applications on AWS](https://aws.amazon.com/blogs/compute/building-sustainable-efficient-and-cost-optimized-applications-on-aws/)
+ [How the Contino Sustainability Dashboard Helps Customers Optimize Their Carbon Footprint](https://aws.amazon.com/blogs/apn/how-the-contino-sustainability-dashboard-helps-customers-optimize-their-carbon-footprint/)

 **Zugehörige Videos:** 
+  [AWS re:Invent 2.023 - AWS Graviton: The best price performance for your AWS workloads](https://www.youtube.com/watch?v=T_hMIjKtSr4) 
+  [AWS re:Invent 2.023 - New Amazon Elastic Compute Cloud generative AI capabilities in AWS-Managementkonsole](https://www.youtube.com/watch?v=sSpJ8tWCEiA) 
+  [AWS re:Invent 2.023 = What's new with Amazon Elastic Compute Cloud](https://www.youtube.com/watch?v=mjHw_wgJJ5g) 
+  [AWS re:Invent 2.023 - Smart savings: Amazon Elastic Compute Cloud cost-optimization strategies](https://www.youtube.com/watch?v=_AHPbxzIGV0) 
+  [AWS re:Invent 2.021 - Deep dive into AWS Graviton3 and Amazon EC2 C7g instances](https://www.youtube.com/watch?v=WDKwwFQKfSI&ab_channel=AWSEvents) 
+ [AWS re:Invent 2.022 - Build a cost-, energy-, and resource-efficient compute environment ](https://www.youtube.com/watch?v=8zsC5e1eLCg)

 **Zugehörige Beispiele:** 
+ [Lösung: Guidance for Optimizing Deep Learning Workloads for Sustainability on AWS](https://aws.amazon.com/solutions/guidance/optimizing-deep-learning-workloads-for-sustainability-on-aws/)

# SUS05-BP03 Managed Services nutzen
<a name="sus_sus_hardware_a4"></a>

Verwenden Sie verwaltete Services für effizientere Betriebsabläufe in der Cloud.

 **Typische Anti-Muster:** 
+  Sie verwenden EC2 Amazon-Instances mit geringer Auslastung, um Ihre Anwendungen auszuführen. 
+  Ihr internes Team verwaltet nur die Workload, ohne Zeit zu haben, sich auf Innovation oder Vereinfachungen zu konzentrieren. 
+  Sie nutzen und verwalten Technologien für Aufgaben, die effizienter auf verwalteten Services ausgeführt werden können. 

 **Vorteile der Nutzung dieser bewährten Methode:** 
+  Durch den Einsatz von Managed Services verlagert sich die Verantwortung auf das Unternehmen AWS, das Einblicke in Millionen von Kunden hat, die dazu beitragen können, neue Innovationen und Effizienzsteigerungen voranzutreiben. 
+  Ein verwalteter Service verteilt die Umweltauswirkungen des Services durch Multi-Tenet-Steuerebenen auf mehrere Benutzer. 

 **Risikostufe, wenn diese bewährte Methode nicht eingeführt wird:** Mittel 

## Implementierungsleitfaden
<a name="implementation-guidance"></a>

Mit Managed Services verlagert sich die AWS Verantwortung auf die Aufrechterhaltung einer hohen Auslastung und die Optimierung der Nachhaltigkeit der eingesetzten Hardware. Verwaltete Services eliminieren dazu den betrieblichen und administrativen Aufwand für die Wartung eines Service, sodass Ihr Team mehr Zeit hat und sich auf Innovationen konzentrieren kann. 

 Überprüfen Sie Ihren Workload, um die Komponenten zu identifizieren, die durch AWS Managed Services ersetzt werden können. [AmazonRDS, Amazon](https://aws.amazon.com/rds/) [Redshift und [Amazon ElastiCache](https://aws.amazon.com/elasticache/)](https://aws.amazon.com/redshift/) bieten beispielsweise einen verwalteten Datenbankservice an. [Amazon Athena](https://aws.amazon.com/athena/)EMR, [Amazon](https://aws.amazon.com/emr/) und [Amazon OpenSearch Service](https://aws.amazon.com/opensearch-service/) bieten einen verwalteten Analysedienst. 

 **Implementierungsschritte** 

1. **Inventarisieren Ihrer Workload:** Inventarisieren Sie Ihre Workload für Services und Komponenten. 

1. **Identifizieren von Kandidaten:** Bewerten und identifizieren Sie Komponenten, die durch verwaltete Services ersetzt werden können. Hier finden Sie einige Beispiele für Situationen, in denen Sie einen verwalteten Service in Erwägung ziehen sollten:     
[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/wellarchitected/latest/sustainability-pillar/sus_sus_hardware_a4.html)

1. **Erstellen eines Migrationsplans:** Identifizieren Sie Abhängigkeiten und erstellen Sie einen Migrationsplan. Aktualisieren Sie Runbooks und Playbooks entsprechend. 
   + Der [AWS Application Discovery Service](https://aws.amazon.com/application-discovery/) erfasst und präsentiert automatisch detaillierte Informationen über Anwendungsabhängigkeiten und die Nutzung von Anwendungen. Damit treffen Sie bei der Planung Ihrer Migration fundiertere Entscheidungen. 

1. **Tests:** Testen Sie den Service vor der Migration zum verwalteten Service. 

1. **Ersetzen selbst gehosteter Services:** Verwenden Sie Ihren Migrationsplan, um selbst gehostete Services durch verwaltete Services zu ersetzen. 

1. **Überwachen und anpassen:** Überwachen Sie den Service nach der Migration kontinuierlich, um erforderliche Anpassungen vorzunehmen und den Service zu optimieren. 

## Ressourcen
<a name="resources"></a>

 **Zugehörige Dokumente:** 
+ [AWS Cloud Produkte](https://aws.amazon.com/products/)
+ [AWS Rechner für die Gesamtbetriebskosten (TCO)](https://calculator.aws/#/)
+  [Amazon DocumentDB](https://aws.amazon.com/documentdb/) 
+  [Amazon Elastic Kubernetes Service () EKS](https://aws.amazon.com/eks/) 
+  [Von Amazon Managed Streaming for Apache Kafka (AmazonMSK)](https://aws.amazon.com/msk/) 

 **Zugehörige Videos:** 
+ [AWS re:Invent 2021 — Cloud-Betrieb im großen Maßstab mit AWS Managed Services](https://www.youtube.com/watch?v=OCK8GCImWZw)
+ [AWS re:Invent 2023 — Bewährte Methoden für den Betrieb auf AWS](https://www.youtube.com/watch?v=XBKq2JXWsS4)

# SUS05-BP04 Optimieren der Nutzung von hardwarebasierten Datenverarbeitungsbeschleunigern
<a name="sus_sus_hardware_a5"></a>

Sie können die Nutzung von beschleunigten Computing-Instances optimieren, um die Anforderungen Ihrer Workload an die physische Infrastruktur zu reduzieren.

 **Typische Anti-Muster:** 
+  Sie überwachen die GPU-Nutzung nicht. 
+  Sie verwenden eine Allzweck-Instance für die Workload, während eine speziell erstellte Instance eine höhere Leistung, geringere Kosten und eine bessere Leistung pro Watt bieten kann. 
+  Sie verwenden hardwarebasierte Datenverarbeitungsbeschleuniger für Aufgaben, bei denen CPU-basierte Alternativen effizienter sind. 

 **Vorteile der Nutzung dieser bewährten Methode:** Durch den optimalen Einsatz hardwarebasierter Beschleuniger können Sie die Anforderungen an die physische Infrastruktur Ihrer Workload reduzieren. 

 **Risikostufe, wenn diese bewährte Methode nicht eingeführt wird:** Mittel 

## Implementierungsleitfaden
<a name="implementation-guidance"></a>

 Wenn Sie eine hohe Verarbeitungsleistung benötigen, können Sie beschleunigte Computing-Instances verwenden. Diese bieten Zugriff auf hardwarebasierte Datenverarbeitungsbeschleuniger wie Grafikprozessoren (Graphics Processing Units, GPUs) und Field-Programmable Gate Arrays (FPGAs). Diese Hardwarebeschleuniger führen bestimmte Funktionen wie die Grafikverarbeitung oder Datenmusterzuordnung effizienter aus als CPU-basierte Alternativen. Viele beschleunigte Workloads, wie Rendering, Transkodierung und Machine Learning, sind sehr variabel im Bezug auf die Ressourcennutzung. Betreiben Sie diese Hardware nur so lange wie nötig und nehmen Sie sie automatisch außer Betrieb, wenn sie nicht mehr benötigt wird, um den Ressourcenverbrauch zu minimieren. 

## Implementierungsschritte
<a name="implementation-steps"></a>
+  **Ermitteln von Computing-Beschleunigern:** Ermitteln Sie die [beschleunigten Computing-Instances](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html), die für Ihre Anforderungen geeignet sind. 
+  **Verwenden spezieller Hardware:** Verwenden Sie für Machine-Learning-Workloads spezielle Hardware, die auf Ihren Workload abgestimmt ist, z. B. [AWS Trainium](https://aws.amazon.com/machine-learning/trainium/), [AWS Inferentia](https://aws.amazon.com/machine-learning/inferentia/) und [Amazon EC2 DL1](https://aws.amazon.com/ec2/instance-types/dl1/). AWS Inferentia-Instances wie Inf2-Instances bieten eine um bis zu [50 % bessere Leistung pro Watt als vergleichbare Amazon-EC2-Instances](https://aws.amazon.com/machine-learning/inferentia/). 
+  **Überwachen von Nutzungsmetriken:** Erfassen Sie Nutzungsmetriken für Ihre beschleunigten Computing-Instances. Sie können den CloudWatch-Agent beispielsweise verwenden, um Metriken wie `utilization_gpu` und `utilization_memory` für Ihre GPUs zu sammeln, wie im [Artikel zum Erfassen von NVIDIA-GPU-Metriken mit Amazon CloudWatch](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/CloudWatch-Agent-NVIDIA-GPU.html) beschrieben. 
+  **Dimensionierung:** Optimieren Sie Code, Netzwerkbetrieb und die Einstellungen von Hardwarebeschleunigern, um sicherzustellen, dass die zugrunde liegende Hardware optimal genutzt wird. 
  +  [Optimieren der GPU-Einstellungen](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/optimize_gpu.html) 
  +  [GPU-Überwachung und -Optimierung im Deep-Learning-AMI](https://docs.aws.amazon.com/dlami/latest/devguide/tutorial-gpu.html) 
  +  [Optimieren von E/A für die GPU-Leistungsoptimierung von Deep-Learning-Training in Amazon SageMaker AI](https://aws.amazon.com/blogs/machine-learning/optimizing-i-o-for-gpu-performance-tuning-of-deep-learning-training-in-amazon-sagemaker/) 
+  **Auf dem Laufenden bleiben:** Verwenden Sie die neuesten leistungsstarken Bibliotheken und GPU-Treiber. 
+  **Freigeben nicht benötigter Instances:** Automatisieren Sie die Freigabe nicht verwendeter GPU-Instances. 

## Ressourcen
<a name="resources"></a>

 **Zugehörige Dokumente:** 
+  [Beschleunigte Datenverarbeitung](https://aws.amazon.com/ec2/instance-types/#Accelerated_Computing) 
+ [ Let’s Architect\$1 Architecting with custom chips and accelerators ](https://aws.amazon.com/blogs/architecture/lets-architect-custom-chips-and-accelerators/)
+ [ Wie wähle ich den geeigneten Amazon-EC2-Instance-Typ für meine Workload aus? ](https://aws.amazon.com/premiumsupport/knowledge-center/ec2-instance-choose-type-for-workload/)
+  [VT1-Instances von Amazon EC](https://aws.amazon.com/ec2/instance-types/vt1/) 
+ [ Choose the best AI accelerator and model compilation for computer vision inference with Amazon SageMaker AI ](https://aws.amazon.com/blogs/machine-learning/choose-the-best-ai-accelerator-and-model-compilation-for-computer-vision-inference-with-amazon-sagemaker/)

 **Zugehörige Videos:** 
+ [AWS re:Invent 2.021 - How to select Amazon EC2 GPU instances for deep learning ](https://www.youtube.com/watch?v=4bVrIbgGWEA)
+  [AWS Online Tech Talks - Deploying Cost-Effective Deep Learning Inference](https://www.youtube.com/watch?v=WiCougIDRsw) 
+ [AWS re:Invent 2.023 - Cutting-edge AI with AWS and NVIDIA](https://www.youtube.com/watch?v=ud4-z_sb_ps)
+ [AWS re:Invent 2.022 - [NEW LAUNCH\$1] Introducing AWS Inferentia2-based Amazon EC2 Inf2 instances](https://www.youtube.com/watch?v=jpqiG02Y2H4)
+ [AWS re:Invent 2.022 - Accelerate deep learning and innovate faster with AWS Trainium](https://www.youtube.com/watch?v=YRqvfNwqUIA)
+ [AWS re:Invent 2.022 - Deep learning on AWS with NVIDIA: From training to deployment](https://www.youtube.com/watch?v=l8AFfaCkp0E)