# PERF02-BP06 Menggunakan akselerator komputasi berbasis perangkat keras yang dioptimalkan
Gunakan akselerator perangkat keras untuk melakukan fungsi-fungsi tertentu secara lebih efisien daripada menggunakan alternatif yang berbasis CPU.
**Anti-pola umum:**
+ Dalam beban kerja Anda, Anda belum melakukan uji tolok ukur instans tujuan umum dengan instans yang dibuat khusus yang dapat memberikan kinerja lebih tinggi dan biaya yang lebih rendah.
+ Anda menggunakan akselerator komputasi berbasis perangkat keras untuk tugas-tugas yang bisa lebih efisien jika menggunakan alternatif yang berbasis CPU.
+ Anda tidak memantau penggunaan GPU.
**Manfaat menerapkan praktik terbaik ini:** Dengan menggunakan akselerator berbasis perangkat keras, seperti unit pemrosesan grafis (GPU) dan field programmable gate array (FPGA), Anda dapat melakukan fungsi pemrosesan tertentu dengan lebih efisien.
**Tingkat risiko yang terjadi jika praktik terbaik ini tidak diterapkan:** Sedang
## Panduan implementasi
Instans komputasi terakselerasi menyediakan akses ke akselerator komputasi berbasis perangkat keras, misalnya GPU dan FPGA. Akselerator perangkat keras ini menjalankan fungsi-fungsi tertentu seperti pemrosesan grafis atau pencocokan pola data secara lebih efisien daripada alternatif yang berbasis CPU. Banyak beban kerja terakselerasi, seperti perenderan, transkode, dan machine learning, yang memiliki variabel tinggi sehubungan dengan penggunaan sumber daya. Jalankan perangkat keras ini hanya ketika diperlukan, dan non-aktifkan instans GPU secara otomatis saat tidak diperlukan untuk meningkatkan efisiensi kinerja secara keseluruhan.
### Langkah-langkah implementasi
+ Identifikasi [instans komputasi terakselerasi](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html) yang dapat memenuhi kebutuhan Anda.
+ Untuk beban kerja machine learning, manfaatkan perangkat keras yang dibuat khusus untuk beban kerja Anda, seperti [AWS Trainium](https://aws.amazon.com/machine-learning/trainium/), [AWS Inferentia](https://aws.amazon.com/machine-learning/inferentia/), dan [Amazon EC2 DL1](https://aws.amazon.com/ec2/instance-types/dl1/). AWS Instans-instans Inferentia seperti instans Inf2 [menawarkan kinerja/watt hingga 50% lebih baik daripada instans Amazon EC2 yang setara](https://aws.amazon.com/machine-learning/inferentia/).
+ Kumpulkan metrik-metrik penggunaan untuk instans komputasi terakselerasi Anda. Misalnya, Anda dapat menggunakan agen CloudWatch untuk mengumpulkan metrik seperti metrik `utilization_gpu` dan `utilization_memory` untuk GPU Anda seperti yang ditunjukkan dalam [Mengumpulkan metrik GPU NVIDIA dengan Amazon CloudWatch](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/CloudWatch-Agent-NVIDIA-GPU.html).
+ Optimalkan kode, operasi jaringan, dan pengaturan akselerator perangkat keras untuk memastikan perangkat keras yang mendasarinya dimanfaatkan sepenuhnya.
+ [Mengoptimalkan pengaturan GPU](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/optimize_gpu.html)
+ [Pemantauan dan Pengoptimalan GPU dalam AMI Deep Learning](https://docs.aws.amazon.com/dlami/latest/devguide/tutorial-gpu.html)
+ [Mengoptimalkan I/O untuk penyetelan kinerja GPU pelatihan deep learning di Amazon SageMaker AI](https://aws.amazon.com/blogs/machine-learning/optimizing-i-o-for-gpu-performance-tuning-of-deep-learning-training-in-amazon-sagemaker/)
+ Gunakan driver GPU dan pustaka berkinerja tinggi terbaru.
+ Gunakan otomatisasi untuk melepaskan instans GPU ketika tidak digunakan.
## Sumber daya
**Dokumen terkait:**
+ [Bekerja dengan GPU di Layanan Kontainer Elastis Amazon](https://docs.aws.amazon.com/AmazonECS/latest/developerguide/ecs-gpu.html)
+ [Instans GPU](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#gpu-instances)
+ [Instans dengan AWS Trainium](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#aws-trainium-instances)
+ [Instans dengan AWS Inferentia](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#aws-inferentia-instances)
+ [Mari Merancang\$1 Merancang arsitektur dengan chip dan akselerator kustom](https://aws.amazon.com/blogs/architecture/lets-architect-custom-chips-and-accelerators/)
+ [Komputasi yang Dipercepat](https://aws.amazon.com/ec2/instance-types/#Accelerated_Computing)
+ [Instans Amazon EC2 VT1](https://aws.amazon.com/ec2/instance-types/vt1/)
+ [Bagaimana cara memilih jenis instans Amazon EC2 yang tepat untuk beban kerja saya?](https://aws.amazon.com/premiumsupport/knowledge-center/ec2-instance-choose-type-for-workload/)
+ [Pilih akselerator AI dan kompilasi model terbaik untuk inferensi penglihatan komputer dengan Amazon SageMaker AI](https://aws.amazon.com/blogs/machine-learning/choose-the-best-ai-accelerator-and-model-compilation-for-computer-vision-inference-with-amazon-sagemaker/)
**Video terkait:**
+ AWS re:Invent 2021 - [Cara memilih instans GPU Amazon Elastic Compute Cloud untuk deep learning](https://www.youtube.com/watch?v=4bVrIbgGWEA&ab_channel=AWSEvents)
+ [AWS re:Invent 2022 - [PELUNCURAN BARU\$1] Memperkenalkan instans Amazon EC2 Inf2 berbasis AWS Inferensia2](https://www.youtube.com/watch?v=jpqiG02Y2H4&ab_channel=AWSEvents)
+ [AWS re:Invent 2022 - Mempercepat deep learning dan berinovasi lebih cepat dengan AWS Trainium](https://www.youtube.com/watch?v=YRqvfNwqUIA&ab_channel=AWSEvents)
+ [AWS re:Invent 2022 - Deep learning di AWS dengan NVIDIA: Dari pelatihan hingga deployment](https://www.youtube.com/watch?v=l8AFfaCkp0E&ab_channel=AWSEvents)
**Contoh terkait:**
+ [Amazon SageMaker AI dan NVIDIA GPU Cloud (NGC)](https://github.com/aws-samples/amazon-sagemaker-nvidia-ngc-examples)
+ [Gunakan SageMaker AI dengan Trainium dan Inferentia untuk pelatihan deep learning yang dioptimalkan dan menyimpulkan beban kerja](https://github.com/aws-samples/sagemaker-trainium-inferentia)
+ [Mengoptimalkan model NLP dengan instans Amazon Elastic Compute Cloud Inf1 di Amazon SageMaker AI](https://github.com/aws-samples/aws-inferentia-huggingface-workshop)