Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Instruksi Llama 3.1 405B
<a name="model-card-meta-llama-3-1-405b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/models/meta.png)Meta — Llama 3.1 405B Instruksi
<a name="model-card-meta-llama-3-1-405b-instruct-header"></a>

## Detail Model
<a name="model-card-meta-llama-3-1-405b-instruct-details"></a>

Llama 3.1 405B Instruct adalah model terbuka terbesar Meta dengan 405 miliar parameter dan jendela konteks 128K, mendukung penggunaan alat dan tugas multibahasa. Untuk informasi selengkapnya tentang pengembangan dan kinerja model, lihat [model/kartu layanan](https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_1/).
+ **Tanggal peluncuran model:** 23 Juli 2024
+ **Tanggal model EOL:** Warisan: 7 Juli 2026
+ **Perjanjian Lisensi Pengguna Akhir dan Ketentuan Penggunaan:** [Lihat](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Siklus hidup model**: Aktif
+ **Jendela konteks:** 128K token
+ **Token keluaran maks:** 4K
+ Batas **pengetahuan: Des 2023**


| **Modalitas Masukan** | **Modalitas Keluaran** | **[APIs didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Endpoint didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Menyematkan | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Gambar | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Gambar | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Pidato | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Pidato | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png)Teks | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png)Teks | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Video | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Video |  |  | 

## Harga
<a name="model-card-meta-llama-3-1-405b-instruct-pricing"></a>

Untuk harga, silakan merujuk ke halaman [Harga Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Akses Terprogram
<a name="model-card-meta-llama-3-1-405b-instruct-programmatic-access"></a>

Gunakan model IDs dan titik akhir berikut URLs untuk mengakses model ini secara terprogram. Untuk informasi selengkapnya tentang tersedia APIs dan titik akhir, lihat [APIs didukung dan [Endpoint](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) yang didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html).


| **Titik akhir** | **ID Model** | **URL titik akhir Dalam Wilayah** | **ID inferensi geo** | **ID inferensi global** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-1-405b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | us.meta.llama3-1-405b-instruct-v1:0 | Tidak didukung | 

*Misalnya, jika wilayah adalah us-east-1 (Virginia N.), maka URL endpoint batuan dasar runtime akan menjadi "" dan untuk mantel dasar akan menjadi "https://bedrock-mantle.us-east-1.api.aws/v1 “. https://bedrock-runtime.us-east-1.amazonaws.com*

## Tingkatan Layanan
<a name="model-card-meta-llama-3-1-405b-instruct-tiers"></a>

Amazon Bedrock menawarkan beberapa tingkatan layanan agar sesuai dengan persyaratan beban kerja Anda. **Standar** menyediakan pay-per-token akses tanpa komitmen. **Prioritas** menawarkan throughput yang lebih tinggi dengan komitmen berbasis waktu. **Flex** menyediakan akses berbiaya lebih rendah untuk beban kerja yang fleksibel. non-time-sensitive **Reserved** menyediakan throughput khusus dengan komitmen jangka untuk beban kerja yang dapat diprediksi. Untuk informasi selengkapnya, lihat [tingkatan layanan](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **Standar** | **Prioritas** | **Fleksibel** | **Reserved** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Ketersediaan Wilayah
<a name="model-card-meta-llama-3-1-405b-instruct-regional-availability"></a>

***Sekilas tentang ketersediaan regional***

Bedrock menawarkan tiga opsi inferensi: **In-Region menyimpan permintaan dalam satu Wilayah** untuk kepatuhan yang ketat, rute **Geo Cross-Region di seluruh Wilayah** dalam geografi (AS, UE, dll.) untuk throughput yang lebih tinggi sambil menghormati residensi data, dan rute **Lintas Wilayah Global** di mana saja di seluruh dunia untuk throughput maksimum ketika tidak ada kendala residensi. Lihat [Ketersediaan wilayah](models-region-compatibility.md) halaman untuk lebih jelasnya.


| **Wilayah** | **Dalam Wilayah** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-2(Ohio) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 

***Detail inferensi geo***

**Geo: AS**

ID Inferensi Geo: `us.meta.llama3-1-405b-instruct-v1:0`


| **Wilayah Sumber** | **Wilayah Tujuan** | 
| --- | --- | 
| us-east-2 (Ohio) | us-east-1 (Virginia N), us-east-2 (Ohio), us-west-2 (Oregon) | 

## Kode Sampel
<a name="model-card-meta-llama-3-1-405b-instruct-sample-code"></a>

**Langkah 1 - Akun AWS:** Jika Anda sudah memiliki akun AWS, lewati langkah ini. Jika Anda baru mengenal AWS, daftar [akun AWS](https://portal.aws.amazon.com/billing/signup).

**Langkah 2 - Kunci API:** Buka [konsol Amazon Bedrock](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) dan buat kunci API jangka panjang.

**Langkah 3 - Dapatkan SDK:** Untuk menggunakan panduan memulai ini, Anda harus memiliki Python yang sudah diinstal. Kemudian instal perangkat lunak yang relevan tergantung pada yang APIs Anda gunakan.

```
pip install boto3
```

**Langkah 4 - Tetapkan variabel lingkungan:** Konfigurasikan lingkungan Anda untuk menggunakan kunci API untuk otentikasi.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Langkah 5 - Jalankan permintaan inferensi pertama Anda:** Simpan file sebagai `bedrock-first-request.py`

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-1-405b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------