Otimizar um prompt

É possível otimizar um prompt usando um playground ou o Gerenciamento de Prompts no Console de gerenciamento da AWS. Primeiro você deve selecionar um modelo para poder otimizar um prompt. O prompt é otimizado para o modelo que você escolher.

Para otimizar uma solicitação, envie uma OptimizePromptsolicitação com um endpoint de tempo de execução do Agents for Amazon Bedrock. Forneça o prompt a ser otimizado no objeto input e especifique o modelo a ser otimizado no campo targetModelId.

O fluxo de resposta exibe os seguintes eventos:

Execute o seguinte exemplo de código para otimizar um prompt:

import boto3

# Set values here
TARGET_MODEL_ID = "anthropic.claude-3-sonnet-20240229-v1:0" # Model to optimize for. For model IDs, see https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html
PROMPT = "Please summarize this text: " # Prompt to optimize

def get_input(prompt):
    return {
        "textPrompt": {
            "text": prompt
        }
    }
 
def handle_response_stream(response):
    try:
        event_stream = response['optimizedPrompt']
        for event in event_stream:
            if 'optimizedPromptEvent' in event:
                print("========================== OPTIMIZED PROMPT ======================\n")
                optimized_prompt = event['optimizedPromptEvent']
                print(optimized_prompt)
            else:
                print("========================= ANALYZE PROMPT =======================\n")
                analyze_prompt = event['analyzePromptEvent']
                print(analyze_prompt)
    except Exception as e:
        raise e
 
 
if __name__ == '__main__':
    client = boto3.client('bedrock-agent-runtime')
    try:
        response = client.optimize_prompt(
            input=get_input(PROMPT),
            targetModelId=TARGET_MODEL_ID
        )
        print("Request ID:", response.get("ResponseMetadata").get("RequestId"))
        print("========================== INPUT PROMPT ======================\n")
        print(PROMPT)
        handle_response_stream(response)
    except Exception as e:
        raise e