Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Instruksi Llama 3 8B
<a name="model-card-meta-llama-3-8b-instruct"></a>

## ![\[alt text not found\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/models/meta.png)Meta — Instruksi Llama 3 8B
<a name="model-card-meta-llama-3-8b-instruct-header"></a>

## Detail Model
<a name="model-card-meta-llama-3-8b-instruct-details"></a>

Llama 3 8B Instruct adalah model yang disetel instruksi parameter 8 miliar Meta dengan jendela konteks 8K, yang dirancang untuk penyebaran yang efisien pada infrastruktur yang lebih kecil. Untuk informasi selengkapnya tentang pengembangan dan kinerja model, lihat [model/kartu layanan](https://www.llama.com/docs/model-cards-and-prompt-formats/other-models/#meta-llama-3).
+ **Tanggal peluncuran model:** 18 Apr 2024
+ **Tanggal model EOL:** Tidak lebih cepat dari 4/23/2025
+ **Perjanjian Lisensi Pengguna Akhir dan Ketentuan Penggunaan:** [Lihat](https://aws.amazon.com/legal/bedrock/third-party-models/)
+ **Siklus hidup model**: Aktif
+ **Jendela konteks:** 8K token
+ **Token keluaran maks:** 8K
+ Batas **pengetahuan: Des 2023**


| **Modalitas Masukan** | **Modalitas Keluaran** | **[APIs didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)** | **[Endpoint didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html)** | 
| --- | --- | --- | --- | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Audio | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Menyematkan | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) Responses | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) bedrock-runtime | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Gambar | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Gambar | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) Chat Completions | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) bedrock-mantle | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Pidato | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Pidato | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) Invoke |  | 
| ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png)Teks | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png)Teks | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) Converse |  | 
| ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Video | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png)Video |  |  | 

## Kemampuan dan Fitur
<a name="model-card-meta-llama-3-8b-instruct-capabilities"></a>

***Fitur Batuan Dasar***

**Fitur yang didukung menggunakan `bedrock-runtime` endpoint**


| **Didukung** | **Tidak Didukung** | 
| --- | --- | 
|  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  |  [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/model-card-meta-llama-3-8b-instruct.html)  | 

## Harga
<a name="model-card-meta-llama-3-8b-instruct-pricing"></a>

Untuk harga, silakan merujuk ke halaman [Harga Amazon Bedrock](https://aws.amazon.com/bedrock/pricing/).

## Akses Terprogram
<a name="model-card-meta-llama-3-8b-instruct-programmatic-access"></a>

Gunakan model IDs dan titik akhir berikut URLs untuk mengakses model ini secara terprogram. Untuk informasi selengkapnya tentang tersedia APIs dan titik akhir, lihat [APIs didukung dan [Endpoint](https://docs.aws.amazon.com/bedrock/latest/userguide/endpoints.html) yang didukung](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html).


| **Titik akhir** | **ID Model** | **URL titik akhir Dalam Wilayah** | **ID inferensi geo** | **ID inferensi global** | 
| --- | --- | --- | --- | --- | 
| bedrock-runtime | meta.llama3-8b-instruct-v1:0 | https://bedrock-runtime.\$1region\$1.amazonaws.com | Tidak didukung | Tidak didukung | 

*Misalnya, jika wilayah adalah us-east-1 (Virginia N.), maka URL endpoint batuan dasar runtime akan menjadi "" dan untuk mantel dasar akan menjadi "https://bedrock-mantle.us-east-1.api.aws/v1 “. https://bedrock-runtime.us-east-1.amazonaws.com*

## Tingkatan Layanan
<a name="model-card-meta-llama-3-8b-instruct-tiers"></a>

Amazon Bedrock menawarkan beberapa tingkatan layanan agar sesuai dengan persyaratan beban kerja Anda. **Standar** menyediakan pay-per-token akses tanpa komitmen. **Prioritas** menawarkan throughput yang lebih tinggi dengan komitmen berbasis waktu. **Flex** menyediakan akses berbiaya lebih rendah untuk beban kerja yang fleksibel. non-time-sensitive **Reserved** menyediakan throughput khusus dengan komitmen jangka untuk beban kerja yang dapat diprediksi. Untuk informasi selengkapnya, lihat [tingkatan layanan](https://docs.aws.amazon.com/bedrock/latest/userguide/service-tiers-inference.html).


| **Standar** | **Prioritas** | **Fleksibel** | **Reserved** | 
| --- | --- | --- | --- | 
| ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Ketersediaan Wilayah
<a name="model-card-meta-llama-3-8b-instruct-regional-availability"></a>

***Sekilas tentang ketersediaan regional***

Bedrock menawarkan tiga opsi inferensi: **In-Region menyimpan permintaan dalam satu Wilayah** untuk kepatuhan yang ketat, rute **Geo Cross-Region di seluruh Wilayah** dalam geografi (AS, UE, dll.) untuk throughput yang lebih tinggi sambil menghormati residensi data, dan rute **Lintas Wilayah Global** di mana saja di seluruh dunia untuk throughput maksimum ketika tidak ada kendala residensi. Lihat [Ketersediaan wilayah](models-region-compatibility.md) halaman untuk lebih jelasnya.


| **Wilayah** | **Dalam Wilayah** | **Geo** | **Global** | 
| --- | --- | --- | --- | 
| us-east-1(Virginia Utara) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-west-2(Oregon) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| us-gov-west-1 (GovCloud) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ca-central-1(Kanada) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| eu-west-2(London) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 
| ap-south-1(Mumbai) | ![\[Yes\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-yes.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | ![\[No\]](http://docs.aws.amazon.com/id_id/bedrock/latest/userguide/images/icons/icon-no.png) | 

## Kuota dan Batas
<a name="model-card-meta-llama-3-8b-instruct-quotas"></a>

Akun AWS Anda memiliki kuota default untuk mempertahankan kinerja layanan dan untuk memastikan penggunaan Amazon Bedrock yang tepat. [Kuota default yang ditetapkan ke akun dapat diperbarui tergantung pada faktor regional, riwayat pembayaran, penggunaan penipuan, and/or persetujuan permintaan peningkatan kuota.](https://docs.aws.amazon.com/bedrock/latest/userguide/quotas-increase.html) Untuk lebih jelasnya, silakan merujuk ke [Kuota untuk Amazon Bedrock](quotas.md) dokumentasi dan lihat [batas](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) untuk model.

## Kode Sampel
<a name="model-card-meta-llama-3-8b-instruct-sample-code"></a>

**Langkah 1 - Akun AWS:** Jika Anda sudah memiliki akun AWS, lewati langkah ini. Jika Anda baru mengenal AWS, daftar [akun AWS](https://portal.aws.amazon.com/billing/signup).

**Langkah 2 - Kunci API:** Buka [konsol Amazon Bedrock](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create) dan buat kunci API jangka panjang.

**Langkah 3 - Dapatkan SDK:** Untuk menggunakan panduan memulai ini, Anda harus memiliki Python yang sudah diinstal. Kemudian instal perangkat lunak yang relevan tergantung pada yang APIs Anda gunakan.

```
pip install boto3
```

**Langkah 4 - Tetapkan variabel lingkungan:** Konfigurasikan lingkungan Anda untuk menggunakan kunci API untuk otentikasi.

```
AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"
```

**Langkah 5 - Jalankan permintaan inferensi pertama Anda:** Simpan file sebagai `bedrock-first-request.py`

------
#### [ Invoke API ]

```
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='meta.llama3-8b-instruct-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
 )
 print(json.loads(response['body'].read()))
```

------
#### [ Converse API ]

```
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='meta.llama3-8b-instruct-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)
```

------