Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Blau/Grün-Bereitstellungen Wenn Sie Ihren Endpunkt aktualisieren, verwendet Amazon SageMaker AI automatisch eine Blau/Grün-Bereitstellung, um die Verfügbarkeit Ihrer Endgeräte zu maximieren. Bei einer Blau/Grün-Bereitstellung stellt SageMaker AI eine neue Flotte mit den Updates bereit (die grüne Flotte). Dann verlagert SageMaker AI den Verkehr von der alten Flotte (der blauen Flotte) auf die grüne Flotte. Sobald die grüne Flotte für einen festgelegten Testzeitraum (die sogenannte Backphase) reibungslos funktioniert, beendet SageMaker AI die blaue Flotte. Mit den zusätzlichen Funktionen in blauen/grünen Bereitstellungen können Sie Modi zur Verkehrsverlagerung und automatische Rollback-Überwachung nutzen, um Ihren Endpunkt vor erheblichen Produktionsauswirkungen zu schützen. In der folgenden Liste werden die wichtigsten Funktionen von Blau/Grün-Bereitstellungen in SageMaker AI beschrieben: + **Modi zur Verkehrsverlagerung.** Mit den Verkehrsverlagerungsmodi für Einsatzleitplanken können Sie das Verkehrsaufkommen und die Anzahl der Verkehrsverlagerungsstufen zwischen der blauen Flotte und der grünen Flotte steuern. Diese Funktion gibt Ihnen die Möglichkeit, die Leistung der umweltfreundlichen Flotte schrittweise zu bewerten, ohne sich vollständig auf eine hundertprozentige Verkehrsverlagerung festlegen zu müssen. + **Backzeit.** Die Backphase ist ein festgelegter Zeitraum, um die grüne Flotte zu überwachen, bevor mit der nächsten Einsatzphase fortgefahren wird. Wenn einer der vordefinierten Alarme während einer Back-Periode ausgelöst wird, wird der gesamte Endpunktverkehr auf die blaue Flotte zurückgesetzt. Die Backphase hilft Ihnen dabei, Vertrauen in Ihr Update aufzubauen, bevor der Traffic dauerhaft verlagert wird. + **Automatisches Zurücksetzen.** Sie können Amazon CloudWatch-Alarme angeben, die SageMaker AI zur Überwachung der grünen Flotte verwendet. Wenn ein Problem mit dem aktualisierten Code einen der Alarme auslöst, leitet SageMaker AI einen automatischen Rollback zur blauen Flotte ein, um die Verfügbarkeit aufrechtzuerhalten und so das Risiko zu minimieren. ## Modi zur Verkehrsverlagerung Die verschiedenen Modi zur Verkehrsverlagerung in blauen/grünen Bereitstellungen bieten Ihnen eine genauere Kontrolle über die Verkehrsverlagerung zwischen der blauen Flotte und der grünen Flotte. Die verfügbaren Verkehrsverlagerungsmodi für blaue/grüne Bereitstellungen sind alle gleichzeitig, kanarisch und linear. Die folgende Tabelle zeigt einen Vergleich der Optionen. **Wichtig** Bei Bereitstellungen in Blau/Grün, die mehrstufige Verkehrsverlagerung oder Back-Phasen beinhalten, werden Ihnen für die Dauer des Updates beide Flotten in Rechnung gestellt, unabhängig vom Verkehr zur Flotte. Dies steht im Gegensatz zu Bereitstellungen in Blau/Grün, bei denen der Verkehr auf einmal verlagert wird und es keine Back-Phasen gibt, bei denen Ihnen im Laufe des Updates nur eine Flotte in Rechnung gestellt wird. | Name | Was ist es?  | Vorteile | Nachteile | Empfehlung | | --- | --- | --- | --- | --- | | Alle auf einmal | Verlagerung des gesamten Verkehrs auf die neue Flotte in einem einzigen Schritt. | Minimiert die Gesamtdauer des Updates. | Regressive Updates betreffen 100% des Datenverkehrs. | Verwenden Sie diese Option, um die Aktualisierungszeit und die Kosten zu minimieren. | | Canary | Der Verkehr verlagert sich in zwei Schritten. Der erste (kanarische) Schritt verlagert einen kleinen Teil des Datenverkehrs, gefolgt vom zweiten Schritt, der den Rest des Verkehrs verschiebt. | Beschränkt den Explosionsradius der regressiven Updates nur auf die kanarische Flotte. | Beide Flotten sind während des gesamten Einsatzes parallel im Einsatz. | Verwenden Sie diese Option, um ein Gleichgewicht zwischen der Minimierung des Explosionsradius regressiver Updates und der Minimierung der Betriebszeit von zwei Flotten herzustellen. | | Linear | Ein fester Teil des Verkehrs verlagert sich in eine vorab festgelegte Anzahl von Schritten mit gleichem Abstand. | Minimiert das Risiko regressiver Aktualisierungen, indem der Verkehr über mehrere Schritte verteilt wird. | Die Dauer und die Kosten der Aktualisierung sind proportional zur Anzahl der Schritte. | Verwenden Sie diese Option, um das Risiko zu minimieren, indem Sie die Bereitstellung auf mehrere Schritte verteilen. | ## Erste Schritte Sobald Sie Ihre gewünschte Bereitstellungskonfiguration angegeben haben, übernimmt SageMaker AI die Bereitstellung neuer Instances, die Kündigung alter Instances und die Verlagerung des Datenverkehrs für Sie. Sie können Ihren Einsatz über die bestehenden SageMaker API und AWS Command Line Interface-Befehle [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) und [CreateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpoint.html) erstellen und verwalten. Beachten Sie, dass Sie keine Bereitstellungsleitlinien verwenden können, wenn Ihr Endpunkt eine der auf der [Ausschlüsse](deployment-guardrails-exclusions.md) Seite aufgeführten Funktionen verwendet. Weitere Informationen zur Einrichtung Ihrer Bereitstellung finden Sie auf den einzelnen Bereitstellungsseiten: + [Blau/Grünes Update mit Verkehrsverlagerung auf einmal](deployment-guardrails-blue-green-all-at-once.md) + [Blau/Grünes Update mit Canary Traffic Shifting](deployment-guardrails-blue-green-canary.md) + [Blau/Grünes Update mit linearer Verkehrsverlagerung](deployment-guardrails-blue-green-linear.md) In unseren Beispiel-[Jupyter Notebooks](https://github.com/aws/amazon-sagemaker-examples/tree/master/sagemaker-inference-deployment-guardrails) für die Modi Canary und Linear Traffic Shifting finden Sie Anleitungen, die zeigen, wie Deployment Guardrails verwendet werden. # Verlagerung des gesamten Datenverkehrs Da sich der Verkehr auf einmal verlagert, können Sie schnell ein Endpunkt-Update durchführen, indem Sie die Sicherheitsvorkehrungen einer blau/grünen Implementierung nutzen. Sie können diese Option zur Verkehrsverlagerung verwenden, um die Aktualisierungsdauer zu minimieren und gleichzeitig die Verfügbarkeitsgarantien von Blau/Grün-Bereitstellungen zu nutzen. Mit der Back-Perioden-Funktion können Sie die Leistung und Funktionalität Ihrer neuen Instances überwachen, bevor Sie Ihre alten Instances beenden. So wird sichergestellt, dass Ihre neue Flotte voll funktionsfähig ist. Das folgende Diagramm zeigt, wie die alten und neuen Flotten mit einer einzigen Verkehrsverlagerung verwaltet werden. ![\[Eine erfolgreiche 100-prozentige Verkehrsverlagerung von der alten zu der neuen Flotte.\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/deployment-guardrails-blue-green-all-at-once.png) Wenn Sie den gesamten Datenverkehr verlagern, leitet SageMaker AI 100 % des Datenverkehrs an die neue Flotte (grüne Flotte) weiter. Sobald die grüne Flotte Traffic empfängt, beginnt die Backphase. Die Backphase ist ein festgelegter Zeitraum, in dem vordefinierte Amazon CloudWatch-Alarme die Leistung der grünen Flotte überwachen. Wenn während der Backphase keine Alarme ausgelöst werden, beendet SageMaker AI die alte Flotte (blaue Flotte). Wenn während der Backphase Alarme ausgelöst werden, wird ein automatischer Rollback ausgelöst und der Verkehr wird zu 100% wieder auf die blaue Flotte umgestellt. ## Voraussetzungen Bevor Sie eine Bereitstellung einrichten, bei der der gesamte Datenverkehr auf einmal verlagert wird, müssen Sie Amazon CloudWatch-Alarme erstellen, um Metriken von Ihrem Endpunkt aus zu überwachen. Wenn einer der Alarme während der Backphase ausgelöst wird, wird der Traffic wieder auf Ihre blaue Flotte übertragen. Informationen zum Einrichten von CloudWatch-Alarmen auf einem Endpunkt finden Sie auf der Seite [Konfiguration und Überwachung von Auto-Rollback](deployment-guardrails-configuration.md) mit den Voraussetzungen. Informationen über CloudWatch-Alarme finden Sie unter [Vewenden von Amazon-CloudWatch-Alarmen](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/AlarmThatSendsEmail.html) im *Amazon-CloudWatch-Benutzerhandbuch*. ## Konfigurieren Sie Traffic Shifting auf einmal Sobald Sie für Ihre Bereitstellung bereit sind und CloudWatch-Alarme für Ihren Endpunkt eingerichtet haben, können Sie entweder die SageMaker AI [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) API oder den Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) in der AWS Command Line Interface verwenden, um die Bereitstellung zu initiieren. **Topics** + [So aktualisieren Sie einen Endpunkt (API)](#deployment-guardrails-blue-green-all-at-once-configure-api-update) + [Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API)](#deployment-guardrails-blue-green-all-at-once-configure-api-existing) + [So aktualisieren Sie einen Endpunkt (CLI)](#deployment-guardrails-blue-green-all-at-once-configure-cli-update) ### So aktualisieren Sie einen Endpunkt (API) Das folgende Beispiel zeigt, wie Sie Ihren Endpunkt mit [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) in der Amazon SageMaker-API aktualisieren können, sodass der gesamte Datenverkehr auf einmal verlagert wird. ``` import boto3 client = boto3.client("sagemaker") response = client.update_endpoint( EndpointName="", EndpointConfigName="", DeploymentConfig={ "BlueGreenUpdatePolicy": { "TrafficRoutingConfiguration": { "Type": "ALL_AT_ONCE" }, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800 }, "AutoRollbackConfiguration": { "Alarms": [ { "AlarmName": "" }, ] } } ) ``` Um die Optionen All-at-Once-Datenverkehrs-Verlagerung zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `EndpointName` den Namen des vorhandenen Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `EndpointConfigName` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Stellen Sie unter `DeploymentConfig` und `BlueGreenUpdatePolicy`, in `TrafficRoutingConfiguration`, den `Type` Parameter auf `ALL_AT_ONCE` ein. Dies gibt an, dass die Bereitstellung den All-in-Once-Modus zur Verkehrsverlagerung verwendet. + Geben Sie als `TerminationWaitInSeconds` `600`ein. Dieser Parameter weist SageMaker AI an, die angegebene Zeit (in Sekunden) zu warten, nachdem Ihre grüne Flotte voll aktiv ist, bevor die Instances in der blauen Flotte beendet werden. In diesem Beispiel wartet SageMaker AI nach der letzten Backphase 10 Minuten, bevor die blaue Flotte beendet wird. + Geben Sie als `MaximumExecutionTimeoutInSeconds` `1800`ein. Dieser Parameter legt die maximale Zeit fest, die die Bereitstellung ausgeführt werden kann, bevor eine Zeitbeschränkung auftritt. Im vorherigen Beispiel gilt für Ihre Bereitstellung ein Limit von 30 Minuten bis zum Abschluss. + In `AutoRollbackConfiguration` können Sie im Feld `Alarms` Ihre CloudWatch-Alarme nach Namen hinzufügen. Erstellen Sie einen `AlarmName: ` Eintrag für jeden Alarm, den Sie verwenden möchten. ### Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API) Wenn Sie die [CreateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpoint.html) verwenden, um einen Endpunkt zu erstellen, können Sie optional eine Bereitstellungskonfiguration angeben, die für future Endpunkt-Updates wiederverwendet werden soll. Sie können dieselben `DeploymentConfig` Optionen wie im vorherigen UpdateEndpoint-API-Beispiel verwenden. Das Verhalten der CreateEndpoint-API wurde nicht geändert. Durch die Angabe der Bereitstellungskonfiguration wird nicht automatisch ein blau/grünes Update auf Ihrem Endpunkt durchgeführt. Die Option, eine vorherige Bereitstellungskonfiguration zu verwenden, ist verfügbar, wenn Sie die [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html)-API verwenden, um Ihren Endpunkt zu aktualisieren. Wenn Sie Ihren Endpunkt aktualisieren, können Sie die `RetainDeploymentConfig` Option verwenden, um die Bereitstellungskonfiguration beizubehalten, die Sie bei der Erstellung des Endpunkts angegeben haben. Stellen Sie beim Aufrufen der [UpdateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) `RetainDeploymentConfig` auf `True` ein, um die `DeploymentConfig` Optionen aus Ihrer ursprünglichen Endpunktkonfiguration beizubehalten. ``` response = client.update_endpoint( EndpointName="", EndpointConfigName="", RetainDeploymentConfig=True ) ``` ### So aktualisieren Sie einen Endpunkt (CLI) Wenn Sie den AWS CLI verwenden, zeigt das folgende Beispiel, wie Sie mit dem Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) eine blaue/grüne All-in-one-Bereitstellung starten. ``` update-endpoint --endpoint-name --endpoint-config-name --deployment-config '"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "ALL_AT_ONCE"}, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800}, "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": ""}]}' ``` Um die Optionen All-at-Once-Datenverkehrs-Verlagerung zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `endpoint-name` den Namen des Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `endpoint-config-name` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Verwenden Sie für `deployment-config` ein [BlueGreenUpdatePolicy-JSON-Objekt](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_BlueGreenUpdatePolicy.html). **Anmerkung** Wenn Sie Ihr JSON-Objekt lieber in einer Datei speichern möchten, finden Sie weitere Informationen unter [Generieren](https://docs.aws.amazon.com/cli/latest/userguide/cli-usage-skeleton.html) von AWS CLI Skelett- und Eingabeparametern im *AWS CLIBenutzerhandbuch*. # Canary-Verkehrsverlagerung nutzen Mit Canary Traffic Shifting können Sie einen Teil Ihres Endpunktverkehrs auf der neuen Flotte testen, während die alte Flotte den Rest des Datenverkehrs abwickelt. Bei diesem Testschritt handelt es sich um eine Sicherheitsleitplanke, mit der die Funktionalität der neuen Flotte überprüft wird, bevor Ihr gesamter Verkehr auf die neue Flotte verlagert wird. Sie haben immer noch die Vorteile einer blauen/grünen Implementierung, und mit der zusätzlichen Canary-Funktion können Sie sicherstellen, dass Ihre neue (grüne) Flotte Rückschlüsse verarbeiten kann, bevor sie den gesamten Verkehr bewältigen kann. Der Teil Ihrer grünen Flotte, der aktiviert wird, um Traffic zu empfangen, wird als Kanarienvogel bezeichnet, und Sie können die Größe dieses Kanarienvogels wählen. Beachten Sie, dass die Kanariengröße höchstens 50% der Kapazität der neuen Flotte betragen sollte. Sobald die Backphase abgelaufen ist und keine vordefinierten Amazon CloudWatch-Alarme ausgelöst werden, verlagert sich der restliche Verkehr von der alten (blauen) Flotte auf die grüne Flotte. Canary Traffic Shifting bietet Ihnen mehr Sicherheit bei der Bereitstellung, da alle Probleme mit dem aktualisierten Modell nur den Canary betreffen. Das folgende Diagramm zeigt, wie Canary Traffic Shifting die Verteilung des Verkehrs zwischen den blauen und grünen Flotten regelt. ![\[Eine erfolgreiche zweistufige Verlagerung des kanarischen Datenverkehrs von der alten zu der neuen Flotte.\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/deployment-guardrails-blue-green-canary.png) Sobald SageMaker AI die grüne Flotte bereitgestellt hat, leitet SageMaker AI einen Teil des eingehenden Datenverkehrs (z. B. 25 %) an den Canary weiter. Dann beginnt die Backphase, in der Ihre CloudWatch-Alarme die Leistung der grünen Flotte überwachen. Während dieser Zeit sind sowohl die blaue als auch die grüne Flotte teilweise aktiv und empfangen Verkehr. Wenn einer der Alarme während der Backphase ausgelöst wird, leitet SageMaker AI einen Rollback ein und der gesamte Verkehr kehrt zur blauen Flotte zurück. Wenn keiner der Alarme ausgelöst wird, wird der gesamte Verkehr auf die grüne Flotte verlagert und es gibt eine letzte Backphase. Wenn die letzte Backphase endet, ohne dass ein Alarm ausgelöst wurde, bedient die grüne Flotte den gesamten Verkehr und SageMaker AI beendet die blaue Flotte. ## Voraussetzungen Bevor Sie eine Bereitstellung mit Canary Traffic Shifting einrichten, müssen Sie Amazon CloudWatch-Alarme erstellen, um Metriken von Ihrem Endpunkt aus zu überwachen. Die Alarme sind während der Backphase aktiv, und wenn Alarme ausgelöst werden, wird der gesamte Endpunktverkehr auf die blaue Flotte zurückgesetzt. Informationen zum Einrichten von CloudWatch-Alarmen auf einem Endpunkt finden Sie auf der Seite [Konfiguration und Überwachung von Auto-Rollback](deployment-guardrails-configuration.md) mit den Voraussetzungen. Um mehr über [CloudWatch-Alarme](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/AlarmThatSendsEmail.html) zu erfahren, siehe Verwenden von Amazon CloudWatch-Alarmen im *Amazon CloudWatch-Benutzerhandbuch*. ## Konfigurieren Sie Canary Traffic Shifting Sobald Sie für Ihre Bereitstellung bereit sind und Amazon CloudWatch-Alarme für Ihren Endpunkt eingerichtet haben, können Sie entweder die Amazon SageMaker AI [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) API oder den Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) in der AWS CLI verwenden, um die Bereitstellung zu initiieren. **Topics** + [So aktualisieren Sie einen Endpunkt (API)](#deployment-guardrails-blue-green-canary-configure-api-update) + [Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API)](#deployment-guardrails-blue-green-canary-configure-api-existing) + [So aktualisieren Sie einen Endpunkt (CLI)](#deployment-guardrails-blue-green-canary-configure-cli-update) ### So aktualisieren Sie einen Endpunkt (API) Das folgende Beispiel der [updateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) zeigt, wie Sie einen Endpunkt mit Canary Traffic Shifting aktualisieren können. ``` import boto3 client = boto3.client("sagemaker") response = client.update_endpoint( EndpointName="", EndpointConfigName="", DeploymentConfig={ "BlueGreenUpdatePolicy": { "TrafficRoutingConfiguration": { "Type": "CANARY", "CanarySize": { "Type": "CAPACITY_PERCENT", "Value": 30 }, "WaitIntervalInSeconds": 600 }, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800 }, "AutoRollbackConfiguration": { "Alarms": [ { "AlarmName": "" } ] } } ) ``` Um die Optionen Canary Traffic Shifting zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `EndpointName` den Namen des vorhandenen Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `EndpointConfigName` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Stellen Sie unter `DeploymentConfig` und `BlueGreenUpdatePolicy`, in `TrafficRoutingConfiguration`, den `Type` Parameter auf ein `CANARY`. Dies gibt an, dass die Bereitstellung Canary Traffic Shifting verwendet. + Im Feld `CanarySize` können Sie die Größe des Canary ändern, indem Sie die Parameter `Type` und `Value` ändern. Für `Type`, verwenden Sie `CAPACITY_PERCENT`, also den Prozentsatz Ihrer grünen Flotte, den Sie als Canary verwenden möchten, und setzen Sie dann `Value` auf `30`. In diesem Beispiel nutzen Sie 30% der Kapazität der grünen Flotte als Kanarienvogel. Beachten Sie, dass die Größe des Kanarienvogels 50% oder weniger der Kapazität der grünen Flotte entsprechen sollte. + Geben Sie als `WaitIntervalInSeconds` `600`ein. Der Parameter weist SageMaker AI an, zwischen jeder Intervallverschiebung die angegebene Zeit (in Sekunden) zu warten. Dieses Intervall entspricht der Dauer der Kanarienbackzeit. Im vorherigen Beispiel wartet SageMaker AI 10 Minuten nach der Canary-Verlagerung und schließt dann die zweite und letzte Verkehrsverlagerung ab. + Geben Sie als `TerminationWaitInSeconds` `600`ein. Dieser Parameter weist SageMaker AI an, die angegebene Zeit (in Sekunden) zu warten, nachdem Ihre grüne Flotte voll aktiv ist, bevor die Instances in der blauen Flotte beendet werden. In diesem Beispiel wartet SageMaker AI nach der letzten Backphase 10 Minuten, bevor die blaue Flotte beendet wird. + Geben Sie als `MaximumExecutionTimeoutInSeconds` `1800`ein. Dieser Parameter legt die maximale Zeit fest, die die Bereitstellung ausgeführt werden kann, bevor eine Zeitbeschränkung auftritt. Im vorherigen Beispiel gilt für Ihre Bereitstellung ein Limit von 30 Minuten bis zum Abschluss. + In `AutoRollbackConfiguration` können Sie im Feld `Alarms` Ihre CloudWatch-Alarme nach Namen hinzufügen. Erstellen Sie einen `AlarmName: ` Eintrag für jeden Alarm, den Sie verwenden möchten. ### Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API) Wenn Sie die [CreateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpoint.html) verwenden, um einen Endpunkt zu erstellen, können Sie optional eine Bereitstellungskonfiguration angeben, die für future Endpunkt-Updates wiederverwendet werden soll. Sie können dieselben `DeploymentConfig` Optionen wie im vorherigen UpdateEndpoint-API-Beispiel verwenden. Das Verhalten der CreateEndpoint-API wurde nicht geändert. Durch die Angabe der Bereitstellungskonfiguration wird nicht automatisch ein blau/grünes Update auf Ihrem Endpunkt durchgeführt. Die Option, eine vorherige Bereitstellungskonfiguration zu verwenden, ist verfügbar, wenn Sie die [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html)-API verwenden, um Ihren Endpunkt zu aktualisieren. Wenn Sie Ihren Endpunkt aktualisieren, können Sie die `RetainDeploymentConfig` Option verwenden, um die Bereitstellungskonfiguration beizubehalten, die Sie bei der Erstellung des Endpunkts angegeben haben. Stellen Sie beim Aufrufen der [UpdateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) `RetainDeploymentConfig` auf `True` ein, um die `DeploymentConfig` Optionen aus Ihrer ursprünglichen Endpunktkonfiguration beizubehalten. ``` response = client.update_endpoint( EndpointName="", EndpointConfigName="", RetainDeploymentConfig=True ) ``` ### So aktualisieren Sie einen Endpunkt (CLI) Wenn Sie den AWS CLI verwenden, zeigt das folgende Beispiel, wie Sie mit dem Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) eine Blue/Green-Canary-Bereitstellung starten. ``` update-endpoint --endpoint-name --endpoint-config-name --deployment-config '"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "CANARY", "CanarySize": {"Type": "CAPACITY_PERCENT", "Value": 30}, "WaitIntervalInSeconds": 600}, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800}, "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": ""}]}' ``` Um die Optionen Canary Traffic Shifting zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `endpoint-name` den Namen des Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `endpoint-config-name` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Verwenden Sie für `deployment-config` ein [BlueGreenUpdatePolicy-JSON-Objekt](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_BlueGreenUpdatePolicy.html). **Anmerkung** Wenn Sie Ihr JSON-Objekt lieber in einer Datei speichern möchten, finden Sie weitere Informationen unter [Generieren](https://docs.aws.amazon.com/cli/latest/userguide/cli-usage-skeleton.html) von AWS CLI Skelett- und Eingabeparametern im *AWS CLIBenutzerhandbuch*. # Lineare Verkehrsverlagerung Durch die lineare Verkehrsverlagerung können Sie den Verkehr schrittweise von Ihrer alten Flotte (blaue Flotte) auf Ihre neue Flotte (grüne Flotte) verlagern. Mit der linearen Verkehrsverlagerung können Sie den Verkehr in mehreren Schritten verlagern und so das Risiko einer Störung an Ihrem Endpunkt minimieren. Diese blaue/grüne Bereitstellungsoption bietet Ihnen die genaueste Kontrolle über die Verkehrsverlagerung. Sie können entweder die Anzahl der Instances oder den Prozentsatz der Kapazität der grünen Flotte wählen, die bei jedem Schritt aktiviert werden sollen. Jeder lineare Schritt sollte nur zwischen 10 und 50% der Kapazität der grünen Flotte liegen. Für jeden Schritt gibt es eine Back-Phase, in der Ihre vordefinierten Amazon CloudWatch-Alarme die Metriken der grünen Flotte überwachen. Sobald die Backphase abgelaufen ist und keine Alarme ausgelöst werden, empfängt der aktive Teil Ihrer grünen Flotte weiterhin Traffic und ein neuer Schritt beginnt. Wenn während einer der Back-Phasen Alarme ausgelöst werden, werden 100% des Endpunktverkehrs wieder auf die blaue Flotte übertragen. Das folgende Diagramm zeigt, wie die lineare Verkehrsverlagerung den Verkehr an die blauen und grünen Flotten weiterleitet. ![\[Eine erfolgreiche lineare Verkehrsverlagerung aus drei Schritten von der alten zu der neuen Flotte.\]](http://docs.aws.amazon.com/de_de/sagemaker/latest/dg/images/deployment-guardrails-blue-green-linear.png) Sobald SageMaker AI die neue Flotte bereitgestellt hat, wird der erste Teil der grünen Flotte eingeschaltet und empfängt Verkehr. SageMaker AI deaktiviert den gleichen Teil der blauen Flotte und die Backphase beginnt. Wenn Alarme ausgelöst werden, wird der gesamte Datenverkehr an den Endpunkten wieder auf die blaue Flotte übertragen. Wenn die Backzeit beendet ist, beginnt der nächste Schritt. Ein anderer Teil der grünen Flotte wird aktiviert und empfängt Verkehr, ein Teil der blauen Flotte wird deaktiviert und eine weitere Backphase beginnt. Derselbe Vorgang wiederholt sich, bis die blaue Flotte vollständig deaktiviert ist und die grüne Flotte voll aktiv ist und den gesamten Verkehr empfängt. Wenn zu irgendeinem Zeitpunkt ein Alarm ausgelöst wird, beendet SageMaker AI den Schichtvorgang und 100% des Traffics werden wieder der blauen Flotte zugewiesen. ## Voraussetzungen Bevor Sie eine Bereitstellung mit linearer Verkehrsverlagerung einrichten, müssen Sie CloudWatch-Alarme erstellen, um Metriken von Ihrem Endpunkt aus zu überwachen. Die Alarme sind während der Backphase aktiv, und wenn Alarme ausgelöst werden, wird der gesamte Endpunktverkehr auf die blaue Flotte zurückgesetzt. Informationen zum Einrichten von CloudWatch-Alarmen auf einem Endpunkt finden Sie auf der Seite [Konfiguration und Überwachung von Auto-Rollback](deployment-guardrails-configuration.md) mit den Voraussetzungen. Um mehr über [CloudWatch-Alarme](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/AlarmThatSendsEmail.html) zu erfahren, siehe Verwenden von Amazon CloudWatch-Alarmen im *Amazon CloudWatch-Benutzerhandbuch*. ## Konfigurieren Sie die lineare Verkehrsverlagerung Sobald Sie für Ihre Bereitstellung bereit sind und CloudWatch-Alarme für Ihren Endpunkt eingerichtet haben, können Sie entweder die Amazon SageMaker AI [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) API oder den Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) in AWS CLI verwenden, um die Bereitstellung zu initiieren. **Topics** + [So aktualisieren Sie einen Endpunkt (API)](#deployment-guardrails-blue-green-linear-configure-api-update) + [Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API)](#deployment-guardrails-blue-green-linear-configure-api-existing) + [So aktualisieren Sie einen Endpunkt (CLI)](#deployment-guardrails-blue-green-canary-configure-cli-update) ### So aktualisieren Sie einen Endpunkt (API) Das folgende Beispiel der [updateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) zeigt, wie Sie einen Endpunkt mit linearer Verkehrsverlagerung aktualisieren können. ``` import boto3 client = boto3.client("sagemaker") response = client.update_endpoint( EndpointName="", EndpointConfigName="", DeploymentConfig={ "BlueGreenUpdatePolicy": { "TrafficRoutingConfiguration": { "Type": "LINEAR", "LinearStepSize": { "Type": "CAPACITY_PERCENT", "Value": 20 }, "WaitIntervalInSeconds": 300 }, "TerminationWaitInSeconds": 300, "MaximumExecutionTimeoutInSeconds": 3600 }, "AutoRollbackConfiguration": { "Alarms": [ { "AlarmName": "" } ] } } ) ``` Um die Optionen Linear Traffic Shifting zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `EndpointName` den Namen des vorhandenen Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `EndpointConfigName` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Stellen Sie unter `DeploymentConfig` und `BlueGreenUpdatePolicy`, in `TrafficRoutingConfiguration`,, den `Type` Parameter auf `LINEAR` ein. Dies gibt an, dass bei der Bereitstellung eine lineare Verkehrsverlagerung verwendet wird. + Im Feld `LinearStepSize` können Sie die Größe der Schritte ändern, indem Sie die Parameter `Type` und `Value` ändern. Für `Type` verwenden Sie `CAPACITY_PERCENT`, d. h. den Prozentsatz Ihrer grünen Flotte, den Sie als Schrittgröße verwenden wollen, und setzen Sie `Value` auf `20`. In diesem Beispiel schalten Sie für jeden Schritt der Verkehrsverlagerung 20% der Kapazität der umweltfreundlichen Flotte ein. Beachten Sie, dass Sie bei der Anpassung Ihrer linearen Schrittgröße nur Stufen verwenden sollten, die 10-50% der Kapazität der grünen Flotte ausmachen. + Geben Sie als `WaitIntervalInSeconds` `300`ein. Der Parameter weist SageMaker AI an, zwischen jeder Datenverkehrs-Verlagerung den angegebenen Zeitraum (in Sekunden) zu warten. Dieses Intervall ist die Dauer der Backzeit zwischen den einzelnen linearen Schritten. Im vorherigen Beispiel wartet SageMaker AI zwischen jeder Verkehrsschicht 5 Minuten. + Geben Sie als `TerminationWaitInSeconds` `300`ein. Dieser Parameter weist SageMaker AI an, die angegebene Zeit (in Sekunden) zu warten, nachdem Ihre grüne Flotte voll aktiv ist, bevor die Instances in der blauen Flotte beendet werden. In diesem Beispiel wartet SageMaker AI nach der letzten Backphase 5 Minuten, bevor die blaue Flotte beendet wird. + Geben Sie als `MaximumExecutionTimeoutInSeconds` `3600`ein. Dieser Parameter legt die maximale Zeit fest, die die Bereitstellung ausgeführt werden kann, bevor eine Zeitbeschränkung auftritt. Im vorherigen Beispiel gilt für Ihre Bereitstellung ein Limit von 1 Stunde bis zum Abschluss. + In `AutoRollbackConfiguration` können Sie im Feld `Alarms` Ihre CloudWatch-Alarme nach Namen hinzufügen. Erstellen Sie einen `AlarmName: ` Eintrag für jeden Alarm, den Sie verwenden möchten. ### Wie aktualisiert man einen Endpunkt mit einer vorhandenen blau/grünen Update-Richtlinie (API) Wenn Sie die [CreateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpoint.html) verwenden, um einen Endpunkt zu erstellen, können Sie optional eine Bereitstellungskonfiguration angeben, die für future Endpunkt-Updates wiederverwendet werden soll. Sie können dieselben `DeploymentConfig` Optionen wie im vorherigen UpdateEndpoint-API-Beispiel verwenden. Das Verhalten der CreateEndpoint-API wurde nicht geändert. Durch die Angabe der Bereitstellungskonfiguration wird nicht automatisch ein blau/grünes Update auf Ihrem Endpunkt durchgeführt. Die Option, eine vorherige Bereitstellungskonfiguration zu verwenden, ist verfügbar, wenn Sie die [UpdateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html)-API verwenden, um Ihren Endpunkt zu aktualisieren. Wenn Sie Ihren Endpunkt aktualisieren, können Sie die `RetainDeploymentConfig` Option verwenden, um die Bereitstellungskonfiguration beizubehalten, die Sie bei der Erstellung des Endpunkts angegeben haben. Stellen Sie beim Aufrufen der [UpdateEndpoint-API](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) `RetainDeploymentConfig` auf `True` ein, um die `DeploymentConfig` Optionen aus Ihrer ursprünglichen Endpunktkonfiguration beizubehalten. ``` response = client.update_endpoint( EndpointName="", EndpointConfigName="", RetainDeploymentConfig=True ) ``` ### So aktualisieren Sie einen Endpunkt (CLI) Wenn Sie den verwenden AWS CLI, zeigt das folgende Beispiel, wie Sie mit dem Befehl [update-endpoint](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/update-endpoint.html) eine lineare Blau/Grün-Bereitstellung starten. ``` update-endpoint --endpoint-name --endpoint-config-name --deployment-config '{"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "LINEAR", "LinearStepSize": {"Type": "CAPACITY_PERCENT", "Value": 20}, "WaitIntervalInSeconds": 300}, "TerminationWaitInSeconds": 300, "MaximumExecutionTimeoutInSeconds": 3600}, "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": ""}]}' ``` Um die Optionen Linear Traffic Shifting zu konfigurieren, machen Sie Folgendes: + Verwenden Sie für `endpoint-name` den Namen des Endpunkts, den Sie aktualisieren möchten. + Verwenden Sie für `endpoint-config-name` den Namen der Endpunkt-Konfiguration, die Sie verwenden möchten. + Verwenden Sie für `deployment-config` ein [BlueGreenUpdatePolicy-JSON-Objekt](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_BlueGreenUpdatePolicy.html). **Anmerkung** Wenn Sie Ihr JSON-Objekt lieber in einer Datei speichern möchten, finden Sie weitere Informationen unter [Generieren](https://docs.aws.amazon.com/cli/latest/userguide/cli-usage-skeleton.html) von AWS CLI Skelett- und Eingabeparametern im *AWS CLIBenutzerhandbuch*.