Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Verwenden von Basismodellen in Studio Amazon SageMaker Studio ermöglicht Ihnen die Feinabstimmung, Bereitstellung und Evaluierung sowohl öffentlich verfügbarer als auch proprietärer JumpStart Basismodelle direkt über die Studio-Benutzeroberfläche. **Wichtig** Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich auf die Verwendung der aktualisierten Studio-Erfahrung. Informationen zur Verwendung der Studio-Classic-Anwendung finden Sie unter [Amazon SageMaker Studio Klassisch](studio.md). Um zu beginnen, navigieren Sie zur JumpStart Landing Page in Amazon SageMaker Studio. Sie können über die **Startseite** oder das Menü auf der linken Seite darauf zugreifen. Auf der **JumpStart**Landingpage können Sie Model-Hubs von Anbietern sowohl öffentlich verfügbarer als auch proprietärer Modelle erkunden und nach Modellen suchen. In jedem Modell-Hub können Sie Modelle nach den Kategorien **Meiste Likes**, **Meiste Downloads** und **Zuletzt aktualisiert** sortieren oder sie nach Aufgabe filtern. Wählen Sie ein Modell aus, um die zugehörige Detailkarte anzuzeigen. Auf der Modelldetailkarte können Sie je nach verfügbarer Option wählen, ob Sie das Modell **optimieren**, **bereitstellen** oder **bewerten** möchten. Beachten Sie, dass nicht alle Modelle für die Optimierung oder Bewertung verfügbar sind. Weitere Informationen zu den ersten Schritten mit Amazon SageMaker Studio finden Sie unter[Amazon SageMaker Studio](studio-updated.md). **Topics** + [Optimieren eines Modells in Studio](jumpstart-foundation-models-use-studio-updated-fine-tune.md) + [Bereitstellen eines Modells in Studio](jumpstart-foundation-models-use-studio-updated-deploy.md) + [Bewerten eines Modells in Studio](jumpstart-foundation-models-use-studio-updated-evaluate.md) + [Verwenden Sie Ihre SageMaker JumpStart Modelle in Amazon Bedrock](jumpstart-foundation-models-use-studio-updated-register-bedrock.md) # Optimieren eines Modells in Studio Durch die Optimierung wird ein vortrainiertes Modell anhand eines neuen Datensatzes trainiert, ohne dass ein Training von Grund auf erforderlich ist. Dieser Prozess, der auch als Transferlernen bezeichnet wird, kann genaue Modelle mit kleineren Datensätzen und weniger Trainingszeit erzeugen. Um JumpStart Fundamentmodelle zu optimieren, navigieren Sie zu einer Modelldetailkarte in der Studio-Benutzeroberfläche. Weitere Informationen zum Öffnen JumpStart in Studio finden Sie unter[In Studio öffnen JumpStart](studio-jumpstart.md#jumpstart-open-studio). Nachdem Sie zur Modelldetailkarte Ihrer Wahl navigiert haben, wählen Sie in der oberen rechten Ecke **Trainieren** aus. Beachten Sie, dass nicht für alle Modelle eine Optimierung verfügbar ist. **Wichtig** Einige Basismodelle erfordern vor der Optimierung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA). Weitere Informationen finden Sie unter [EULA-Akzeptanz in Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio). ## Modelleinstellungen Wenn Sie ein vortrainiertes JumpStart Foundation-Modell in Amazon SageMaker Studio verwenden, wird der **Speicherort des Modellartefakts (Amazon S3 S3-URI)** standardmäßig aufgefüllt. Um die standardmäßige Amazon-S3-URI zu bearbeiten, wählen Sie **Speicherort des Modellartefakts eingeben** aus. Nicht alle Modelle unterstützen das Ändern des Speicherorts für Modellartefakte. ## Dateneinstellungen Geben Sie im Feld **Daten** einen Amazon-S3-URI ein, der auf den Speicherort Ihres Trainingsdatensatzes verweist. Der standardmäßige Amazon-S3-URI verweist auf einen Beispiel-Trainingsdatensatz. Um den standardmäßige Amazon-S3-URI zu bearbeiten, wählen Sie **Trainingsdatensatz eingeben** aus und ändern Sie den URI. Informationen zur Formatierung von Trainingsdaten finden Sie auf der Modelldetailkarte in Amazon SageMaker Studio. ## Hyperparameter Sie können die Hyperparameter des Trainingsauftrags anpassen, die zur Feinabstimmung des Modells verwendet werden. Die Hyperparameter, die für jedes optimierbare Modell verfügbar sind, unterscheiden sich je nach Modell. Die folgenden Hyperparameter sind in Modellen üblich: + **Epochen** – Eine Epoche ist ein Zyklus durch den gesamten Datensatz. Mehrere Intervalle formen einen Batch und mehrere Batches formen eine Epoche. Es werden mehrere Epochen durchgeführt, bis die Genauigkeit des Modells ein akzeptables Niveau erreicht hat oder wenn die Fehlerquote unter ein akzeptables Niveau fällt. + **Lernrate** – Der Umfang, um den Werte zwischen den Epochen geändert werden sollten. Während der Optimierung des Modells werden seine internen Gewichtungen angepasst und die Fehlerquoten überprüft, um festzustellen, ob sich das Modell verbessert. Eine typische Lernrate liegt bei 0,1 oder 0,01, wobei 0,01 eine viel geringere Anpassung darstellt und dazu führen kann, dass das Training lange dauert, bis das Training konvergiert, wohingegen 0,1 viel größer ist und zu einem Überschwingen des Trainings führen kann. Dies ist einer der wichtigsten Hyperparameter, die Sie für das Training Ihres Modells anpassen können. Beachten Sie, dass bei Textmodellen eine viel geringere Lernrate (5e-5 für BERT) zu einem genaueren Modell führen kann. + **Batchgröße** — Die Anzahl der Datensätze aus dem Datensatz, die für jedes Intervall ausgewählt werden sollen, das GPUs zum Training an den gesendet werden soll. Lesen Sie die QuickInfo-Prompts und zusätzlichen Informationen auf der Modelldetailkarte auf der Studio-Benutzeroberfläche, um mehr über Hyperparameter zu erfahren, die für das Modell Ihrer Wahl spezifisch sind. Weitere Informationen über verfügbare Hyperparameter finden Sie unter [Häufig unterstützte Hyperparameter bei der Optimierung](jumpstart-foundation-models-fine-tuning.md#jumpstart-foundation-models-fine-tuning-hyperparameters). ## Bereitstellung Geben Sie den Typ der Trainingsinstanz und den Speicherort des Ausgabeartefakts für Ihren Trainingsjob an. Im Rahmen der Optimierung der Studio-Benutzeroberfläche können Sie nur aus Instances wählen, die mit dem Modell Ihrer Wahl kompatibel sind. Der standardmäßige Speicherort für Ausgabeartefakte ist der SageMaker AI-Standard-Bucket. Um den Speicherort des Ausgabeartefakts zu ändern, wählen Sie **Standort des Ausgabeartefakts eingeben** und ändern Sie den Amazon-S3-URI. ## Sicherheit Geben Sie die Sicherheitseinstellungen an, die für Ihren Schulungsjob verwendet werden sollen, einschließlich der IAM-Rolle, die SageMaker KI zum Trainieren Ihres Modells verwendet, ob Ihr Schulungsjob eine Verbindung zu einer Virtual Private Cloud (VPC) herstellen soll, und aller Verschlüsselungsschlüssel zum Schutz Ihrer Daten. ## Zusätzliche Informationen Im Feld **Zusätzliche Informationen** können Sie den Namen des Trainingsjobs bearbeiten. Sie können auch Tags in Form von Schlüssel-Wert-Paaren hinzufügen und entfernen, um Ihre Optimierungs-Trainingsjobs zu organisieren und zu kategorisieren. Nachdem Sie die Informationen für Ihre Optimierungskonfiguration eingegeben haben, wählen Sie **Absenden** aus. Wenn das vortrainierte Basismodell, das Sie für die Optimierung ausgewählt haben, vor dem Training die ausdrückliche Zustimmung zu einer Endbenutzer-Lizenzvereinbarung (EULA) erfordert, wird die EULA in einem Popup-Fenster angezeigt. Um die Bedingungen der EULA zu akzeptieren, wählen Sie **Akzeptieren** aus. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden. # Bereitstellen eines Modells in Studio Um JumpStart Foundation-Modelle bereitzustellen, navigieren Sie in der Studio-Benutzeroberfläche zu einer Modelldetailkarte. Weitere Informationen zum Öffnen JumpStart in Studio finden Sie unter[In Studio öffnen JumpStart](studio-jumpstart.md#jumpstart-open-studio). Nachdem Sie zur Modelldetailseite Ihrer Wahl navigiert haben, wählen Sie in der oberen rechten Ecke der Studio-Benutzeroberfläche die Option **Bereitstellen** aus. Folgen Sie anschließend den Schritten unter [Bereitstellen von Modellen mit SageMaker Studio](https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-deploy-models.html#deploy-models-studio). **Wichtig** Einige Basismodelle erfordern vor der Bereitstellung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA). Weitere Informationen finden Sie unter [EULA-Akzeptanz in Amazon Studio SageMaker](jumpstart-foundation-models-choose.md#jumpstart-foundation-models-choose-eula-studio). # Bewerten eines Modells in Studio Amazon SageMaker JumpStart bietet Integrationen mit SageMaker Clarify Foundation Model Evaluations (FME) in Studio. Wenn für ein JumpStart Modell integrierte Evaluierungsfunktionen verfügbar sind, können Sie in der JumpStart Studio-Benutzeroberfläche in der oberen rechten Ecke der Modelldetailseite die Option **Evaluieren** auswählen. Weitere Informationen finden Sie unter [Bewerten eines Basismodells](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-evaluate.html). # Verwenden Sie Ihre SageMaker JumpStart Modelle in Amazon Bedrock Sie können die Modelle registrieren, die Sie von Amazon SageMaker JumpStart auf Amazon Bedrock bereitgestellt haben. Mit Amazon Bedrock können Sie Ihr Modell hinter mehreren Endpunkten hosten. Sie können auch Features von Amazon Bedrock wie Agenten und Wissensdatenbanken verwenden. Weitere Informationen zur Verwendung von Amazon-Bedrock-Modellen finden Sie unter [https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html](https://docs.aws.amazon.com/bedrock/latest/userguide/amazon-bedrock-marketplace.html). **Wichtig** Um Ihre Modelle zu Amazon Bedrock zu migrieren, empfehlen wir, Ihrer IAM-Rolle eine [AmazonBedrockFullAccess](https://docs.aws.amazon.com/aws-managed-policy/latest/reference/AmazonBedrockFullAccess.html)Richtlinie beizufügen. Wenn Sie die verwaltete Richtlinie nicht anfügen können, stellen Sie sicher, dass Ihre IAM-Rolle über folgende Berechtigungen verfügt: **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "BedrockAll", "Effect": "Allow", "Action": [ "bedrock:*" ], "Resource": "*" }, { "Sid": "DescribeKey", "Effect": "Allow", "Action": [ "kms:DescribeKey" ], "Resource": "arn:*:kms:*:::*" }, { "Sid": "APIsWithAllResourceAccess", "Effect": "Allow", "Action": [ "iam:ListRoles", "ec2:DescribeVpcs", "ec2:DescribeSubnets", "ec2:DescribeSecurityGroups" ], "Resource": "*" }, { "Sid": "MarketplaceModelEndpointMutatingAPIs", "Effect": "Allow", "Action": [ "sagemaker:CreateEndpoint", "sagemaker:CreateEndpointConfig", "sagemaker:CreateModel", "sagemaker:CreateInferenceComponent", "sagemaker:DeleteInferenceComponent", "sagemaker:DeleteEndpoint", "sagemaker:UpdateEndpoint" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "BedrockEndpointTaggingOperations", "Effect": "Allow", "Action": [ "sagemaker:AddTags", "sagemaker:DeleteTags" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ] }, { "Sid": "MarketplaceModelEndpointNonMutatingAPIs", "Effect": "Allow", "Action": [ "sagemaker:DescribeEndpoint", "sagemaker:DescribeEndpointConfig", "sagemaker:DescribeModel", "sagemaker:DescribeInferenceComponent", "sagemaker:ListEndpoints", "sagemaker:ListTags" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*", "arn:aws:sagemaker:*:*:endpoint-config/*", "arn:aws:sagemaker:*:*:model/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "BedrockEndpointInvokingOperations", "Effect": "Allow", "Action": [ "sagemaker:InvokeEndpoint", "sagemaker:InvokeEndpointWithResponseStream" ], "Resource": [ "arn:aws:sagemaker:*:*:endpoint/*" ], "Condition": { "StringEquals": { "aws:CalledViaLast": "bedrock.amazonaws.com" } } }, { "Sid": "DiscoveringMarketplaceModel", "Effect": "Allow", "Action": [ "sagemaker:DescribeHubContent" ], "Resource": [ "arn:aws:sagemaker:*:aws:hub-content/SageMakerPublicHub/Model/*", "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub" ] }, { "Sid": "AllowMarketplaceModelsListing", "Effect": "Allow", "Action": [ "sagemaker:ListHubContents" ], "Resource": "arn:aws:sagemaker:*:aws:hub/SageMakerPublicHub" }, { "Sid": "RetrieveSubscribedMarketplaceLicenses", "Effect": "Allow", "Action": [ "license-manager:ListReceivedLicenses" ], "Resource": [ "*" ] }, { "Sid": "PassRoleToSageMaker", "Effect": "Allow", "Action": [ "iam:PassRole" ], "Resource": [ "arn:aws:iam::*:role/*Sagemaker*ForBedrock*" ], "Condition": { "StringEquals": { "iam:PassedToService": [ "sagemaker.amazonaws.com", "bedrock.amazonaws.com" ] } } }, { "Sid": "PassRoleToBedrock", "Effect": "Allow", "Action": [ "iam:PassRole" ], "Resource": "arn:aws:iam::*:role/*AmazonBedrock*", "Condition": { "StringEquals": { "iam:PassedToService": [ "bedrock.amazonaws.com" ] } } } ] } ``` Die Richtlinie „Amazon Bedrock Full Access“ gewährt nur Berechtigungen für die Amazon Bedrock API. Um Amazon Bedrock in der verwenden zu können AWS-Managementkonsole, muss Ihre IAM-Rolle außerdem über die folgenden Berechtigungen verfügen: ``` { "Sid": "AllowConsoleS3AccessForBedrockMarketplace", "Effect": "Allow", "Action": [ "s3:GetObject", "s3:GetBucketCORS", "s3:ListBucket", "s3:ListBucketVersions", "s3:GetBucketLocation" ], "Resource": "*" } ``` Wenn Sie Ihre eigene Richtlinie erstellen, müssen Sie die Richtlinienerklärung beifügen, die Aktionen in Amazon Bedrock Marketplace für die Ressource ermöglicht. Die folgende Richtlinie ermöglicht es Amazon Bedrock beispielsweise, den `InvokeModel`-Vorgang für ein Modell zu verwenden, das Sie auf einem Endpunkt bereitgestellt haben. **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "BedrockAll", "Effect": "Allow", "Action": [ "bedrock:InvokeModel" ], "Resource": [ "arn:aws:bedrock:us-east-1:111122223333:marketplace/model-endpoint/all-access" ] }, { "Sid": "VisualEditor1", "Effect": "Allow", "Action": ["sagemaker:InvokeEndpoint"], "Resource": "arn:aws:sagemaker:us-east-1:111122223333:endpoint/*", "Condition": { "StringEquals": { "aws:ResourceTag/project": "example-project-id", "aws:CalledViaLast": "bedrock.amazonaws.com" } } } ] } ``` Nachdem Sie ein Modell bereitgestellt haben, können Sie es möglicherweise in Amazon Bedrock verwenden. Um zu sehen, ob Sie es in Amazon Bedrock verwenden können, navigieren Sie zur Modelldetailkarte auf der Studio-Benutzeroberfläche. Wenn auf der Modellkarte steht, dass es **für Bedrock bereit** ist, können Sie das Modell bei Amazon Bedrock registrieren. **Wichtig** Standardmäßig SageMaker JumpStart deaktiviert Amazon den Netzwerkzugriff für die Modelle, die Sie bereitstellen. Wenn Sie den Netzwerkzugriff aktiviert haben, können Sie das Modell nicht mit Amazon Bedrock verwenden. Wenn Sie das Modell mit Amazon Bedrock verwenden möchten, müssen Sie es mit deaktiviertem Netzwerkzugriff erneut bereitstellen. Um es mit Amazon Bedrock zu verwenden, navigieren Sie zur Seite mit den **Endpunktdetails** und wählen Sie in der oberen rechten Ecke der Studio-Benutzeroberfläche die Option **Mit Bedrock verwenden** aus. Nachdem das Pop-up angezeigt wurde, wählen Sie **Für Bedrock registrieren** aus.