View a markdown version of this page

Configure os SDKs do Amazon SageMaker Partner AI Apps - SageMaker Inteligência Artificial da Amazon
CometFiddlerDeepchecksLakera

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Configure os SDKs do Amazon SageMaker Partner AI Apps

O tópico a seguir descreve o processo necessário para instalar e usar os SDKs específicos do aplicativo com os aplicativos de IA do Amazon Partner. SageMaker Para instalar e usar os SDKs dos aplicativos, você deve indicar variáveis de ambiente específicas para os aplicativos de IA para parceiros. Desse modo, o SDK do aplicativo poderá coletar variáveis de ambiente e acionar a autorização. As seções a seguir fornecem informações sobre as etapas necessárias para concluir isso para cada tipo de aplicação compatível.

Comet

A Comet oferece dois produtos:

  • O Opik, um framework de avaliação de LLMs de origem.

  • A plataforma de ML da Comet, que pode ser usada para rastrear, comparar, explicar e otimizar modelos em todo o ciclo de vida de ML.

A Comet permite o uso de dois SDKs diferentes com base no produto com o qual você está interagindo. Conclua o procedimento a seguir para instalar e usar o Comet SDK ou o Opik SDK. Para ter mais informações sobre o Comet SDK, consulte Quickstart. Para ter mais informações sobre o Opik SDK, consulte Open source LLM evaluation platform.

  1. Inicie o ambiente em que você está usando o Comet SDK ou o Opik SDK com aplicativos de IA para parceiros. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para obter informações sobre como iniciar um editor de código, com base no Code-OSS aplicativo Visual Studio Code - Open Source, consulteInicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões compatíveis do SDK Comet, Opik e SageMaker Python. Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • A versão do Comet SDK deve ser a versão mais recente.

    • A versão do Opik SDK deve corresponder à versão usada pelo seu aplicativo Opik. Verifique a versão do Opik usada na interface de usuário do aplicativo web Opik. A exceção é que a versão mínima do Opik SDK deverá ser a 1.2.0 quando a versão do aplicativo Opik for a 1.1.5.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0

    %pip install sagemaker>=2.237.0 comet_ml

##or

%pip install sagemaker>=2.237.0 opik=<compatible-version>

  4. Defina as seguintes variáveis de ambiente para o ARN do recurso do aplicativo. Essas variáveis de ambiente são usadas para estabelecer comunicação com os SDKs Comet e Opik. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio.

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'

  5. Para o aplicativo Comet, o URL do SDK é incluído automaticamente como parte da chave de API definida na etapa a seguir. Em vez disso, você pode definir a variável de ambiente COMET_URL_OVERRIDE para substituir manualmente o URL do SDK.

    os.environ['COMET_URL_OVERRIDE'] = '<comet-url>'

  6. Para o aplicativo Opik, o URL do SDK é incluído automaticamente como parte da chave de API definida na etapa a seguir. Em vez disso, você pode definir a variável de ambiente OPIK_URL_OVERRIDE para substituir manualmente o URL do SDK. Para obter o nome do espaço de trabalho do Opik, consulte o aplicativo Opik e navegue até o espaço de trabalho do usuário.

    os.environ['OPIK_URL_OVERRIDE'] = '<opik-url>'
os.environ['OPIK_WORKSPACE'] = '<workspace-name>'

  7. Defina a variável de ambiente que identifica a chave de API para o Comet ou Opik. Isso é usado para verificar a conexão com o aplicativo quando SageMaker os SDKs Comet e Opik são usados. Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, você deve fazer login no aplicativo e recuperar a chave da API. A chave de API do Opik é igual à chave de API do Comet.

    os.environ['COMET_API_KEY'] = '<API-key>'
os.environ["OPIK_API_KEY"] = os.environ["COMET_API_KEY"]

Fiddler

Conclua o procedimento a seguir para instalar e usar o Fiddler Python Client. Para ter informações sobre o Fiddler Python Client, consulte informações sobre o Client 3.x.

  1. Inicie o ambiente de notebook em que você está usando o Fiddler Python Client com Partner AI Apps. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para obter informações sobre como iniciar um editor de código, com base no Code-OSS aplicativo Visual Studio Code - Open Source, consulteInicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões Fiddler Python Client e Python SDK. SageMaker Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • A versão do Fiddler Python Client deve ser compatível com a versão do Fiddler usada no aplicativo. Depois de verificar a versão do Fiddler na interface de usuário, consulte a matriz de compatibilidade do Fiddler para ver a versão compatível do Fiddler Python Client.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0 fiddler-client=<compatible-version>

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Essas variáveis de ambiente são usadas para estabelecer comunicação com o Fiddler Python Client. Para recuperar esses valores, navegue até a página de detalhes do aplicativo Fiddler no Amazon Studio. SageMaker    

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Defina a variável de ambiente que identifica a chave de API para o aplicativo Fiddler. Isso é usado para verificar a conexão com o aplicativo Fiddler quando o Fiddler Python Client é usado. SageMaker Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, você deve fazer login no aplicativo Fiddler e recuperar a chave da API. 

    os.environ['FIDDLER_KEY'] = '<API-key>'

Deepchecks

Conclua o procedimento a seguir para instalar e usar o Deepchecks Python SDK.

  1. Inicie o ambiente de caderno em que você está usando o Deepchecks Python SDK com a funcionalidade Aplicativos de IA para Parceiros. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para obter informações sobre como iniciar um editor de código, com base no Code-OSS aplicativo Visual Studio Code - Open Source, consulteInicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale as versões compatíveis do Deepchecks Python SDK SageMaker e do Python SDK.  A funcionalidade Aplicativos de IA para Parceiros está executando a versão 0.21.15 do Deepchecks. Para ser compatível:

    • A versão do SDK do SageMaker Python deve ser pelo menos. 2.237.0

    • O Deepchecks Python SDK deve usar a versão secundária 0.21.

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0 deepchecks-llm-client>=0.21,<0.22

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Essas variáveis de ambiente são usadas para estabelecer comunicação com o Deepchecks Python SDK. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio.   

    os.environ['AWS_PARTNER_APP_AUTH'] = 'true'
os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'

  5. Defina a variável de ambiente que identifica a chave de API para o aplicativo Deepchecks. Isso é usado para verificar a conexão com o aplicativo Deepchecks quando o SDK do Deepchecks Python é usado. SageMaker Essa chave de API é específica do aplicativo e não é gerenciada pelo. SageMaker Para obter essa chave, consulte Configuração: instalação do SDK do Python e recuperação da chave de API. 

    os.environ['DEEPCHECKS_API_KEY'] = '<API-key>'

Lakera

O Lakera não oferece SDK. Em vez disso, você pode interagir com a API do Lakera Guard por meio de solicitações HTTP aos endpoints disponíveis em qualquer linguagem de programação. Para ter mais informações, consulte a API do Lakera Guard.

Para usar o SDK do SageMaker Python com o Lakera, conclua as seguintes etapas:

  1. Inicie o ambiente em que você está usando aplicativos de IA para parceiros. Para obter informações sobre como iniciar um JupyterLab aplicativo, consulteCriar um espaço. Para obter informações sobre como iniciar um editor de código, com base no Code-OSS aplicativo Visual Studio Code - Open Source, consulteInicie a aplicação de Editor de Código no Studio.

  2. Inicie um caderno Jupyter ou um espaço do Editor de Código.

  3. No ambiente de desenvolvimento, instale a versão compatível do SageMaker Python SDK. A versão do SDK do SageMaker Python deve ser pelo menos 2.237.0

    nota

    SageMaker JupyterLab vem com o SageMaker Python SDK instalado. No entanto, talvez seja necessário atualizar o SDK do SageMaker Python se a versão for inferior a. 2.237.0 

    %pip install sagemaker>=2.237.0

  4. Defina as variáveis de ambiente a seguir para o ARN do recurso do aplicativo e o URL do SDK. Para recuperar esses valores, navegue até a página de detalhes do aplicativo no Amazon SageMaker Studio. 

    os.environ['AWS_PARTNER_APP_ARN'] = '<partner-app-ARN>'
os.environ['AWS_PARTNER_APP_URL'] = '<partner-app-URL>'