As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

# Llama 3 8B Instruct
<a name="model-card-meta-llama-3-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/models/meta.png)Meta — Llama 3 8B Instruct
<a name="model-card-meta-llama-3-8b-instruct-header"></a>

## Detalhes do modelo
<a name="model-card-meta-llama-3-8b-instruct-details"></a>

O Llama 3 8B Instruct é o modelo ajustado por instruções de 8 bilhões de parâmetros da Meta com uma janela de contexto de 8K, projetado para implantação eficiente em infraestruturas menores. Para obter mais informações sobre desenvolvimento e desempenho de modelos, consulte o [modelo/cartão de serviço](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3).
+ **Data de lançamento do modelo:** 18 de abril de 2024
+ **Data de EOL do modelo:** Não antes de 23/04/2025
+ **Contratos de licença de usuário final e termos de uso:** [Exibir](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Ciclo de vida do modelo**: Ativo
+ **Janela de contexto:** 8K tokens
+ **Tokens de saída máximos:** 8K
+ **Limite de conhecimento: dezembro** de 2023


| **Modalidades de entrada** | **Modalidades de saída** | **[APIs suportado](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Endpoints suportados](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Áudio | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Incorporação | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Imagem | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Imagem | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Discurso | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Discurso | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png)Texto | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png)Texto | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Vídeo | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png)Vídeo |  |  | 

## Capacidades e recursos
<a name="model-card-meta-llama-3-8b-instruct-capabilities"></a>

***Características do Bedrock***

**Recursos compatíveis com o `bedrock-runtime` endpoint**


| **Suportado** | **Não suportado** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  | 

## Preços
<a name="model-card-meta-llama-3-8b-instruct-pricing"></a>

Para obter os preços, consulte a página de [preços do Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Acesso programático
<a name="model-card-meta-llama-3-8b-instruct-programmatic-access"></a>

Use o modelo IDs e o endpoint URLs a seguir para acessar esse modelo programaticamente. Para obter mais informações sobre os endpoints disponíveis APIs , consulte [APIs suportados](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) e [Endpoints](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) suportados.


| **Endpoint** | **ID do modelo** | **URL do endpoint na região** | **ID de inferência geográfica** | **ID de inferência global** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Sem compatibilidade | Sem compatibilidade | 

*Por exemplo, se a região for us-east-1 (Norte da Virgínia), a URL do endpoint bedrock-runtime será "" e para bedrock-mantle será https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1”.*

## Níveis de serviço
<a name="model-card-meta-llama-3-8b-instruct-tiers"></a>

O Amazon Bedrock oferece vários níveis de serviço para atender às suas necessidades de carga de trabalho. O **padrão** fornece pay-per-token acesso sem compromisso. O **Priority** oferece maior produtividade com um compromisso baseado em tempo. O **Flex** fornece acesso de baixo custo para cargas de trabalho flexíveis. non-time-sensitive O **Reserved** fornece taxa de transferência dedicada com um compromisso de longo prazo para cargas de trabalho previsíveis. Para obter mais informações, consulte [níveis de serviço](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **Padrão** | **Priority** | **Flexionar** | **Reservado** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Disponibilidade regional
<a name="model-card-meta-llama-3-8b-instruct-regional-availability"></a>

***Visão geral da disponibilidade regional***

A Bedrock oferece três opções de inferência: **In-Region** mantém as solicitações em uma única região para conformidade estrita, rotas **geográficas entre** regiões dentro de uma geografia (EUA, UE etc.) para maior taxa de transferência, respeitando a residência dos dados, e rotas **globais entre regiões** em qualquer lugar do mundo para máxima produtividade quando não há restrições de residência. Consulte a [Disponibilidade regional](models-region-compatibility.md) página para obter mais detalhes.


| **Região** | **Na região** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Norte da Virgínia) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1(Canadá) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(Londres) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Cotas e limites
<a name="model-card-meta-llama-3-8b-instruct-quotas"></a>

Sua conta da AWS tem cotas padrão para manter o desempenho do serviço e garantir o uso adequado do Amazon Bedrock. [As cotas padrão atribuídas a uma conta podem ser atualizadas dependendo de fatores regionais, histórico de pagamentos, uso fraudulento e and/or aprovação de uma solicitação de aumento de cota.](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) Para obter mais detalhes, consulte a [Cotas do Amazon Bedrock](quotas.md) documentação e veja os [limites](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) do modelo.

## Código de exemplo
<a name="model-card-meta-llama-3-8b-instruct-sample-code"></a>

**Etapa 1 - Conta da AWS:** se você já tem uma conta da AWS, pule esta etapa. Se você é novo na AWS, cadastre-se em uma [conta da AWS](https://portal.aws.amazon.com/billing/signup).

**Etapa 2 - Chave de API:** acesse o [console do Amazon Bedrock](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) e gere uma chave de API de longo prazo.

**Etapa 3 - Obtenha o SDK:** para usar este guia de introdução, você deve ter o Python já instalado. Em seguida, instale o software relevante, dependendo do APIs que você está usando.

```
pip install boto3
```

**Etapa 4 - Definir variáveis de ambiente:** configure seu ambiente para usar a chave de API para autenticação.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Etapa 5 - Execute sua primeira solicitação de inferência:** salve o arquivo como `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------