Ridimensionamento automatico dei modelli di SageMaker intelligenza artificiale di Amazon

Amazon SageMaker AI supporta il ridimensionamento automatico (auto scaling) per i tuoi modelli ospitati. Dimensionamento automatico modifica dinamicamente il numero di istanze assegnate a un modello in risposta alle variazioni nel carico di lavoro. Quando il carico di lavoro aumenta, la scalabilità automatica offre più istanze online. Quando il carico di lavoro diminuisce, la scalabilità automatica rimuove le istanze non necessarie in modo da non pagare per le istanze assegnate che non vengono utilizzate. Per ulteriori informazioni sull'utilizzo dei parametri per istanza per le decisioni di scalabilità, consulta Enhanced metrics for Parametri avanzati di Amazon SageMaker AI per gli endpoint di inferenza Amazon AI endpoints. SageMaker