Pertimbangan-pertimbangan - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pertimbangan-pertimbangan

Saat Anda menggunakan SageMaker HyperPod resep Amazon, ada beberapa faktor yang dapat memengaruhi proses pelatihan model.

  • transformersVersi harus 4.45.2 atau lebih besar untuk Llama 3.2. Jika Anda menggunakan alur kerja Slurm atau K8s, versi diperbarui secara otomatis.

  • Mixtral tidak mendukung presisi floating point 8-bit () FP8

  • Instans Amazon EC2 p4 tidak mendukung FP8