Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Benutzerhandbuch Die folgenden Themen behandeln den Zugriff auf und die Verwendung von Modellen in Ihren von Amazon SageMaker JumpStart kuratierten Model Hubs. Erfahren Sie, wie Sie über die Amazon SageMaker Studio-Oberfläche oder programmgesteuert mit dem Python-SDK auf Ihre kuratierten Hub-Modelle zugreifen können. SageMaker Erfahren Sie außerdem, wie Sie kuratierte Hub-Modelle optimieren können, um sie an Ihre spezifischen Anwendungsfälle und Geschäftsanforderungen anzupassen. **Topics** + [Greifen Sie auf kuratierte Model Hubs in Amazon zu SageMaker JumpStart](jumpstart-curated-hubs-access-hubs.md) + [Optimieren kuratierter Hub-Modelle](jumpstart-curated-hubs-fine-tune.md) # Greifen Sie auf kuratierte Model Hubs in Amazon zu SageMaker JumpStart Sie können entweder über Studio oder über das SageMaker Python-SDK auf einen privaten Model-Hub zugreifen. ## Zugriff auf Ihren privaten Model-Hub in Studio **Wichtig** Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich auf die Verwendung der aktualisierten Studio-Erfahrung. Informationen zur Verwendung der Studio-Classic-Anwendung finden Sie unter [Amazon SageMaker Studio Klassisch](studio.md). Öffnen Sie in Amazon SageMaker Studio die JumpStart Landing Page entweder über die **Startseite** oder das **Home-Menü** auf der linken Seite. Dadurch wird die **SageMaker JumpStart**Landingpage geöffnet, auf der Sie Model-Hubs erkunden und nach Modellen suchen können. + Wählen Sie auf der **Startseite **JumpStart****im Bereich **Vorgefertigte und automatisierte Lösungen** aus. + Navigieren Sie über das **Home-Menü** im linken Bereich zum **JumpStart**Knoten. Weitere Informationen zu den ersten Schritten mit Amazon SageMaker Studio finden Sie unter[Amazon SageMaker Studio](studio-updated.md). Auf der Startseite **SageMaker JumpStart**in Studio können Sie alle privaten Model-Hubs erkunden, die Modelle für Ihr Unternehmen enthalten, die auf der Zulassungsliste stehen. Wenn Sie nur Zugriff auf einen Model-Hub haben, gelangen Sie über die **SageMaker JumpStart**Landingpage direkt zu diesem Hub. Wenn Sie Zugriff auf mehrere Hubs haben, werden Sie zur **Hubs**-Seite weitergeleitet. Weitere Informationen zur Optimierung, Bereitstellung und Bewertung von Modellen, auf die Sie in Studio Zugriff haben, finden Sie unter [Verwenden von Basismodellen in Studio](jumpstart-foundation-models-use-studio-updated.md). ## Greifen Sie mit dem SageMaker Python-SDK auf Ihren privaten Model-Hub zu Sie können mit dem SageMaker Python-SDK auf Ihren privaten Model-Hub zugreifen. Ihr Administrator stellt Ihnen den Zugriff zum Lesen, Verwenden oder Bearbeiten Ihres kuratierten Hubs bereit. **Anmerkung** Wenn ein Hub von mehreren Konten gemeinsam genutzt wird, muss `HUB_NAME` der Hub-ARN sein. Wenn ein Hub nicht von mehreren Konten gemeinsam genutzt wird, kann als `HUB_NAME` der Hub-Name verwendet werden. 1. Installieren Sie das SageMaker Python-SDK und importieren Sie die erforderlichen Python-Pakete. ``` # Install the SageMaker Python SDK !pip3 install sagemaker --force-reinstall --quiet # Import the necessary Python packages import boto3 from sagemaker import Session from sagemaker.jumpstart.hub.hub import Hub from sagemaker.jumpstart.model import JumpStartModel from sagemaker.jumpstart.estimator import JumpStartEstimator ``` 1. Initialisieren Sie eine SageMaker AI-Sitzung und stellen Sie mithilfe des Hub-Namens und der Region eine Verbindung zu Ihrem privaten Hub her. ``` # If a hub is shared across accounts, then the HUB_NAME must be the hub ARN HUB_NAME="Example-Hub-ARN" REGION="us-west-2" # Initialize a SageMaker session sm_client = boto3.client('sagemaker') sm_runtime_client = boto3.client('sagemaker-runtime') session = Session(sagemaker_client=sm_client, sagemaker_runtime_client=sm_runtime_client) # Initialize the private hub hub = Hub(hub_name=HUB_NAME, sagemaker_session=session) ``` 1. Nachdem Sie eine Verbindung zu einem privaten Hub hergestellt haben, können Sie mit den folgenden Befehlen eine Liste aller verfügbaren Modelle in diesem Hub aufrufen: ``` response = hub.list_models() models = response["hub_content_summaries"] while response["next_token"]: response = hub.list_models(next_token=response["next_token"]) models.extend(response["hub_content_summaries"]) print(models) ``` 1. Mit dem folgenden Befehl können Sie anhand des Modellnamens weitere Informationen zu einem bestimmten Modell abrufen: ``` response = hub.describe_model(model_name="example-model") print(response) ``` Weitere Informationen zur Feinabstimmung und Bereitstellung von Modellen, auf die Sie mit dem SageMaker Python-SDK Zugriff haben, finden Sie unter[Verwenden Sie Foundation-Modelle mit dem SDK SageMaker Python](jumpstart-foundation-models-use-python-sdk.md). # Optimieren kuratierter Hub-Modelle In Ihrem privaten, kuratierten Modell-Hub können Sie anhand Ihrer Modellreferenzen Trainingsjobs zur Optimierung durchführen. Modellreferenzen verweisen auf ein öffentlich JumpStart verfügbares Modell im öffentlichen SageMaker KI-Hub, aber Sie können das Modell anhand Ihrer eigenen Daten für Ihren speziellen Anwendungsfall verfeinern. Nach der Optimierung haben Sie Zugriff auf die Modellgewichtungen, die Sie dann auf einem Endpunkt verwenden oder bereitstellen können. Mit dem SageMaker Python-SDK können Sie kuratierte Hub-Modelle in nur wenigen Codezeilen feinabstimmen. Weitere allgemeine Informationen zur Feinabstimmung öffentlich verfügbarer JumpStart Modelle finden Sie unter. [Basismodelle und Hyperparameter für die Optimierung](jumpstart-foundation-models-fine-tuning.md) ## Voraussetzungen Gehen Sie wie folgt vor, um eine JumpStart Modellreferenz in Ihrem kuratierten Hub zu verfeinern: 1. Stellen Sie sicher, dass der IAM-Rolle Ihres Benutzers die SageMaker `TrainHubModel` KI-Berechtigung zugewiesen ist. Informationen finden Sie im Abschnitt [Hinzufügen und Entfernen von IAM-Identitätsberechtigungen](https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies_manage-attach-detach.html) im *AWS -IAM-Benutzerhandbuch*. Sie sollten der IAM-Rolle Ihres Benutzers eine Richtlinie wie die im folgenden Beispiel gezeigte anfügen. ------ #### [ JSON ] **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "VisualEditor0", "Effect": "Allow", "Action": "sagemaker:TrainHubModel", "Resource": "arn:aws:sagemaker:*:111122223333:hub/*" } ] } ``` ------ **Anmerkung** Wenn Ihr kuratierter Hub von mehreren Konten gemeinsam genutzt wird und der Hub-Inhalt einem anderen Konto gehört, stellen Sie sicher, dass Ihr `HubContent` (die Modellreferenzressource) über eine ressourcenbasierte IAM-Richtlinie verfügt, die auch dem anfragenden Konto die `TrainHubModel`-Erlaubnis erteilt, wie im folgenden Beispiel gezeigt. **** ``` { "Version":"2012-10-17", "Statement": [ { "Sid": "AllowCrossAccountSageMakerAccess", "Effect": "Allow", "Principal": { "AWS": "arn:aws:iam::111122223333:root" }, "Action": [ "sagemaker:TrainHubModel" ], "Resource": [ "arn:aws:sagemaker:*:111122223333:hub/*" ] } ] } ``` 1. Richten Sie einen privaten, kuratierten Hub mit einer Modellreferenz auf ein JumpStart Modell ein, das Sie verfeinern möchten. Weitere Informationen zum Erstellen eines privaten Hubs finden Sie unter [Erstellen eines privaten Modell-Hubs](jumpstart-curated-hubs-admin-guide-create.md). Informationen zum Hinzufügen öffentlich verfügbarer JumpStart Modelle zu Ihrem privaten Hub finden Sie unter. [Hinzufügen von Modellen zu einem privaten Hub](jumpstart-curated-hubs-admin-guide-add-models.md) **Anmerkung** Das von Ihnen gewählte JumpStart Modell sollte feinabstimmbar sein. In der Tabelle [Integrierte Algorithmen mit vortrainierten Modellen](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html) können Sie überprüfen, ob ein Modell optimierbar ist. 1. Sie benötigen einen Trainingsdatensatz, den Sie für die Optimierung des Modells verwenden möchten. Der Datensatz sollte im passenden Trainingsformat für das Modell vorliegen, das Sie optimieren möchten. ## Optimieren einer kuratierten Hub-Modellreferenz Das folgende Verfahren zeigt Ihnen, wie Sie eine Modellreferenz in Ihrem privaten kuratierten Hub mithilfe des SageMaker Python-SDK optimieren können. 1. Stellen Sie sicher, dass Sie (mindestens`2.242.0`) die neueste Version des SageMaker Python-SDK installiert haben. Weitere Informationen finden Sie unter [Verwenden von Version 2.x des SageMaker Python-SDK](https://sagemaker.readthedocs.io/en/stable/v2.html). ``` !pip install --upgrade sagemaker ``` 1. Importieren Sie die AWS SDK für Python (Boto3) Module, die Sie benötigen, aus dem SageMaker Python-SDK. ``` import boto3 from sagemaker.jumpstart.estimator import JumpStartEstimator from sagemaker.session import Session ``` 1. Initialisieren Sie eine Boto3-Sitzung, einen SageMaker AI-Client und eine SageMaker Python-SDK-Sitzung. ``` sagemaker_client = boto3.Session(region_name=).client("sagemaker") sm_session = Session(sagemaker_client=sagemaker_client) ``` 1. Erstellen Sie eine `JumpStartEstimator` und geben Sie die JumpStart Modell-ID, den Namen Ihres Hubs, der die Modellreferenz enthält, und Ihre SageMaker Python-SDK-Sitzung an. Eine Liste der Modelle IDs finden Sie in der [Tabelle Integrierte Algorithmen mit vortrainierten Modellen.](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html) Optional können Sie bei der Erstellung des Schätzers die Felder `instance_count` und `instance_type` angeben. Wenn Sie dies nicht tun, verwendet der Trainingsjob den Standard-Instance-Typ und die Standardanzahl für das von Ihnen verwendete Modell. Sie können optional auch den `output_path` zum Amazon-S3-Speicherort angeben, an dem Sie die optimierten Modellgewichtungen speichern möchten. Wenn Sie das nicht angeben`output_path`, verwendet es einen standardmäßigen SageMaker AI Amazon S3 S3-Bucket für die Region in Ihrem Konto, der im folgenden Format benannt ist:`sagemaker--`. ``` estimator = JumpStartEstimator( model_id="meta-textgeneration-llama-3-2-1b", hub_name=, sagemaker_session=sm_session, # If you don't specify an existing session, a default one is created for you # Optional: specify your desired instance type and count for the training job # instance_type = "ml.g5.2xlarge" # instance_count = 1 # Optional: specify a custom S3 location to store the fine-tuned model artifacts # output_path: "s3://" ) ``` 1. Erstellen Sie ein Wörterbuch mit dem `training`-Schlüssel, in dem Sie den Speicherort Ihres Optimierungsdatensatzes angeben. Dieses Beispiel verweist auf einen Amazon-S3-URI. Wenn Sie zusätzliche Überlegungen haben, z. B. die Verwendung des lokalen Modus oder mehrerer Trainingsdatenkanäle, finden Sie weitere Informationen unter [ JumpStartEstimator.fit ()](https://sagemaker.readthedocs.io/en/stable/api/training/estimators.html#sagemaker.jumpstart.estimator.JumpStartEstimator.fit) in der SageMaker Python SDK-Dokumentation. ``` training_input = { "training": "s3://" } ``` 1. Rufen Sie die `fit()`-Methode des Schätzers auf und übergeben Sie Ihre Trainingsdaten und Ihre EULA-Zustimmung (falls zutreffend). **Anmerkung** Im folgenden Beispiel ist `accept_eula=False.` Sie sollten den Wert manuell auf `True` ändern, um die EULA zu akzeptieren. ``` estimator.fit(inputs=training_input, accept_eula=False) ``` Ihr Optimierungsjob sollte jetzt beginnen. Du kannst deinen Job zur Feinabstimmung überprüfen, indem du dir deine Trainingsjobs entweder in der SageMaker KI-Konsole oder mithilfe der [ListTrainingJobs](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_ListTrainingJobs.html)API ansiehst. Sie können auf Ihre fein abgestimmten Modellartefakte im Amazon S3 zugreifen`output_path`, das im `JumpStartEstimator` Objekt angegeben wurde (entweder der standardmäßige SageMaker AI Amazon S3 S3-Bucket für die Region oder ein benutzerdefinierter Amazon S3 S3-Pfad, den Sie angegeben haben, falls zutreffend).