本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。 # OpenAI 模型 OpenAI 提供下列開放權重模型： + [https://huggingface.co/openai/gpt-oss-20b](https://huggingface.co/openai/gpt-oss-20b) – 針對較低延遲性及區域或專門的使用案例進行最佳化的較小模型。 + [https://huggingface.co/openai/gpt-oss-120b](https://huggingface.co/openai/gpt-oss-120b) – 針對生產及一般用途或高推理使用案例最佳化的較大模型。 下表摘要說明模型的相關資訊： | 資訊 | gpt-oss-20b | gpt-oss-120b | | --- | --- | --- | | 版本日期 | 2025 年 8 月 5 日 | 2025 年 8 月 5 日 | | 模型 ID | openai.gpt-oss-20b-1:0 | openai.gpt-oss-120b-1:0 | | 產品 ID | N/A | N/A | | 支援的輸入模式 | 文字 | 文字 | | 支援的輸出模式 | 文字 | 文字 | | 上下文視窗 | 128，000 | 128，000 | OpenAI 模型支援下列功能： + 具有下列操作的[模型調用](inference.md)： + [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) + [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html) + [OpenAI 聊天完成 API](inference-chat-completions.md) + 具有 [CreateModelInvocationJob](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateModelInvocationJob.html) 的[批次推論](batch-inference.md)。 + 透過在模型調用操作中使用標頭保護應用程式的[防護機制](guardrails.md)。 **Topics** + [OpenAI 請求內文](#model-parameters-openai-request) + [OpenAI 回應內文](#model-parameters-openai-response) + [OpenAI 模型的使用範例](#model-parameters-openai-use) ## OpenAI 請求內文 如需有關請求內文中參數及其描述的資訊，請參閱 OpenAI 文件中的[建立聊天完成](https://platform.openai.com/docs/api-reference/chat/create)。 以下列方式使用請求內文欄位： + 在 [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) 或 OpenAI 聊天完成請求中，包含請求內文中的欄位。 + 在 [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html) 請求中，執行下列動作： + 映射 `messages`，如下所示： + 對於其角色為 `developer` 的每個訊息，在 `system` 陣列中將 `content` 新增至 [SystemContentBlock](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_SystemContentBlock.html)。 + 對於角色為 `user` 或 `assistant` 的每個訊息，在 `content` 欄位中將 `content` 新增至 [ContentBlock](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ContentBlock.html)，並在 `messages` 陣列中[訊息](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Message.html)的 `role` 欄位內指定 `role`。 + 將下列欄位的值映射至 `inferenceConfig` 物件中的對應欄位： **** [See the AWS documentation website for more details](http://docs.aws.amazon.com/zh_tw/bedrock/latest/userguide/model-parameters-openai.html) + 在 `additionalModelRequestFields` 物件中包含任何其他欄位。 **建構請求內文時的考量事項** + 這些 OpenAI 模型僅支援文字輸入和文字輸出。 + `model` 欄位中的值必須符合標頭中的值。您可以省略此欄位，讓欄位中自動填入與標頭相同的值。 + `stream` 欄位中的值必須符合您使用的 API 操作。您可以省略此欄位，讓欄位中自動填入正確的值。 + 如果您使用 [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)，則 `stream` 值必須為 `false`。 ## OpenAI 回應內文 OpenAI 模型的回應內文符合 OpenAI 傳回的聊天完成物件。如需回應欄位的詳細資訊，請參閱 OpenAI 文件中的[聊天完成物件](https://platform.openai.com/docs/api-reference/chat/object)。 **注意** 如果您使用 `InvokeModel`，則由 `` 標籤包圍的模型推理會優先於回應的文字內容。 ## OpenAI 模型的使用範例 本節提供一些如何使用 OpenAI 模型的範例。 ### 先決條件 在嘗試這些範例之前，請檢查您是否符合先決條件： + **身分驗證** – 您可以使用您的 AWS 登入資料或 Amazon Bedrock API 金鑰進行身分驗證。 設定您的 AWS 登入資料或產生 Amazon Bedrock API 金鑰來驗證您的請求。 + 若要了解如何設定您的 AWS 登入資料，請參閱[使用 AWS 安全登入資料進行程式設計存取](https://docs.aws.amazon.com/IAM/latest/UserGuide/security-creds-programmatic-access.html)。 + 若要了解 Amazon Bedrock API 金鑰以及如何產生金鑰，請參閱建置章節中的 API 金鑰一節。 **注意** 如果您使用 OpenAI 聊天完成 API，您只能使用 Amazon Bedrock API 金鑰進行身分驗證。 + **端點** – 尋找與要在 Amazon Bedrock 執行期端點和配額中使用的 AWS 區域對應的端點。 [https://docs.aws.amazon.com/general/latest/gr/bedrock.html#br-rt](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#br-rt)如果您使用 AWS SDK，您可能只需要在設定用戶端時指定區域碼，而不是整個端點。您使用的端點必須與範例中所使用模型支援的區域相關聯。 + **模型存取** – 請求對 OpenAI 模型的存取權。如需詳細資訊，請參閱[使用 SDK 和 CLI 管理模型存取](model-access.md#model-access-modify)。 + **（如果範例使用 SDK) 安裝 SDK** – 安裝之後，請設定預設登入資料和預設 AWS 區域。如果您未設定預設憑證或區域，則必須在相關程式碼範例中明確指定憑證。如需標準化憑證提供者的詳細資訊，請參閱 [AWS SDK 和工具標準化憑證提供者](https://docs.aws.amazon.com/sdkref/latest/guide/standardized-credentials.html)。 **注意** 如果您使用 OpenAI SDK，則您只能使用 Amazon Bedrock API 金鑰進行身分驗證，而且必須明確設定 Amazon Bedrock 端點。 展開您要查看之範例的區段： ### OpenAI 建立聊天完成 若要查看使用 OpenAI 建立聊天完成 API 的範例。請選擇您偏好方法的索引標籤，然後遵循下列步驟： ------ #### [ OpenAI SDK (Python) ] 下列 Python 指令碼會使用 OpenAI Python SDK 呼叫建立聊天完成 API： ``` from openai import OpenAI client = OpenAI( base_url="https://bedrock-runtime.us-west-2.amazonaws.com/openai/v1", api_key="$AWS_BEARER_TOKEN_BEDROCK" # Replace with actual API key ) completion = client.chat.completions.create( model="openai.gpt-oss-20b-1:0", messages=[ { "role": "developer", "content": "You are a helpful assistant." }, { "role": "user", "content": "Hello!" } ] ) print(completion.choices[0].message) ``` ------ #### [ HTTP request using curl ] 您可以在終端執行下列命令，以使用 curl 呼叫建立聊天完成 API： ``` curl -X POST https://bedrock-runtime.us-west-2.amazonaws.com/openai/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $AWS_BEARER_TOKEN_BEDROCK" \ -d '{ "model": "openai.gpt-oss-20b-1:0", "messages": [ { "role": "developer", "content": "You are a helpful assistant." }, { "role": "user", "content": "Hello!" } ] }' ``` ------ ### InvokeModel 選擇您偏好方法的索引標籤，然後遵循下列步驟： ------ #### [ Python ] ``` import boto3 import json # Initialize the Bedrock Runtime client client = boto3.client('bedrock-runtime') # Model ID model_id = 'openai.gpt-oss-20b-1:0' # Create the request body native_request = { "model": model_id, # You can omit this field "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "assistant", "content": "Hello! How can I help you today?" }, { "role": "user", "content": "What is the weather like today?" } ], "max_completion_tokens": 150, "temperature": 0.7, "top_p": 0.9, "stream": False # You can omit this field } # Make the InvokeModel request response = client.invoke_model( modelId=model_id, body=json.dumps(native_request) ) # Parse and print the message for each choice in the chat completion response_body = json.loads(response['body'].read().decode('utf-8')) for choice in response_body['choices']: print(choice['message']['content']) ``` ------ ### Converse 當您使用統一的 [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html) API 時，您必須將 OpenAI 建立聊天完成欄位映射至 Converse 請求內文中的對應欄位。 例如，將下列聊天完成請求內文與其對應的 Converse 請求內文進行比較： ------ #### [ Create chat completion request body ] ``` { "model": "openai.gpt-oss-20b-1:0", "messages": [ { "role": "developer", "content": "You are a helpful assistant." }, { "role": "assistant", "content": "Hello! How can I help you today?" }, { "role": "user", "content": "What is the weather like today?" } ], "max_completion_tokens": 150, "temperature": 0.7 } ``` ------ #### [ Converse request body ] ``` { "messages": [ { "role": "user", "content": [ { "text": "Hello! How can I help you today?" } ] }, { "role": "user", "content": [ { "text": "What is the weather like today?" } ] } ], "system": [ { "text": "You are a helpful assistant." } ], "inferenceConfig": { "maxTokens": 150, "temperature": 0.7 } } ``` ------ 選擇您偏好方法的索引標籤，然後遵循下列步驟： ------ #### [ Python ] ``` # Use the Conversation API to send a text message to Anthropic Claude. import boto3 from botocore.exceptions import ClientError # Initialize the Bedrock Runtime client client = boto3.client("bedrock-runtime") # Set the model ID model_id = "openai.gpt-oss-20b-1:0" # Set up messages and system message messages = [ { "role": "assistant", "content": [ { "text": "Hello! How can I help you today?" } ] }, { "role": "user", "content": [ { "text": "What is the weather like today?" } ] } ] system = [ { "text": "You are a helpful assistant." } ] try: # Send the message to the model, using a basic inference configuration. response = client.converse( modelId=model_id, messages=messages, system=system, inferenceConfig={ "maxTokens": 150, "temperature": 0.7, "topP": 0.9 }, ) # Extract and print the response text. for content_block in response["output"]["message"]["content"]: print(content_block) except (ClientError, Exception) as e: print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}") exit(1) ``` ------ ### 具有 InvokeModel 的防護機制 在執行模型調用時，透過指定防護機制 ID、版本，以及是否在模型調用請求的標頭中啟用防護機制追蹤，來套用防護機制。 選擇您偏好方法的索引標籤，然後遵循下列步驟： ------ #### [ Python ] ``` import boto3 from botocore.exceptions import ClientError import json # Initiate the Amazon Bedrock Runtime client bedrock_runtime = boto3.client("bedrock-runtime") # Model ID model_id = "openai.gpt-oss-20b-1:0" # Replace with actual values from your guardrail guardrail_id = "GR12345" guardrail_version = "DRAFT" # Create the request body native_request = { "model": model_id, # You can omit this field "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "assistant", "content": "Hello! How can I help you today?" }, { "role": "user", "content": "What is the weather like today?" } ], "max_completion_tokens": 150, "temperature": 0.7, "top_p": 0.9, "stream": False # You can omit this field } try: response = bedrock_runtime.invoke_model( modelId=model_id, body=json.dumps(native_request), guardrailIdentifier=guardrail_id, guardrailVersion=guardrail_version, trace='ENABLED', ) response_body = json.loads(response.get('body').read()) print("Received response from InvokeModel API (Request Id: {})".format(response['ResponseMetadata']['RequestId'])) print(json.dumps(response_body, indent=2)) except ClientError as err: print("RequestId = " + err.response['ResponseMetadata']['RequestId']) raise err ``` ------ ### 具有 OpenAI 聊天完成的防護機制 若要查看在 OpenAI 聊天完成時使用防護機制的範例，請選擇您偏好方法的索引標籤，然後遵循以下步驟： ------ #### [ OpenAI SDK (Python) ] ``` import openai from openai import OpenAIError # Endpoint for Amazon Bedrock Runtime bedrock_endpoint = "https://bedrock-runtime.us-west-2.amazonaws.com/openai/v1" # Model ID model_id = "openai.gpt-oss-20b-1:0" # Replace with actual values bedrock_api_key = "$AWS_BEARER_TOKEN_BEDROCK" guardrail_id = "GR12345" guardrail_version = "DRAFT" client = openai.OpenAI( api_key=bedrock_api_key, base_url=bedrock_endpoint, ) try: response = client.chat.completions.create( model=model_id, # Specify guardrail information in the header extra_headers={ "X-Amzn-Bedrock-GuardrailIdentifier": guardrail_id, "X-Amzn-Bedrock-GuardrailVersion": guardrail_version, "X-Amzn-Bedrock-Trace": "ENABLED", }, # Additional guardrail information can be specified in the body extra_body={ "amazon-bedrock-guardrailConfig": { "tagSuffix": "xyz" # Used for input tagging } }, messages=[ { "role": "system", "content": "You are a helpful assistant." }, { "role": "assistant", "content": "Hello! How can I help you today?" }, { "role": "user", "content": "What is the weather like today?" } ] ) request_id = response._request_id print(f"Request ID: {request_id}") print(response) except OpenAIError as e: print(f"An error occurred: {e}") if hasattr(e, 'response') and e.response is not None: request_id = e.response.headers.get("x-request-id") print(f"Request ID: {request_id}") ``` ------ #### [ OpenAI SDK (Java) ] ``` import com.openai.client.OpenAIClient; import com.openai.client.okhttp.OpenAIOkHttpClient; import com.openai.core.http.HttpResponseFor; import com.openai.models.chat.completions.ChatCompletion; import com.openai.models.chat.completions.ChatCompletionCreateParams; // Endpoint for Amazon Bedrock Runtime String bedrockEndpoint = "http://bedrock-runtime.us-west-2.amazonaws.com/openai/v1" // Model ID String modelId = "openai.gpt-oss-20b-1:0" // Replace with actual values String bedrockApiKey = "$AWS_BEARER_TOKEN_BEDROCK" String guardrailId = "GR12345" String guardrailVersion = "DRAFT" OpenAIClient client = OpenAIOkHttpClient.builder() .apiKey(bedrockApiKey) .baseUrl(bedrockEndpoint) .build() ChatCompletionCreateParams request = ChatCompletionCreateParams.builder() .addUserMessage("What is the temperature in Seattle?") .model(modelId) // Specify additional headers for the guardrail .putAdditionalHeader("X-Amzn-Bedrock-GuardrailIdentifier", guardrailId) .putAdditionalHeader("X-Amzn-Bedrock-GuardrailVersion", guardrailVersion) // Specify additional body parameters for the guardrail .putAdditionalBodyProperty( "amazon-bedrock-guardrailConfig", JsonValue.from(Map.of("tagSuffix", JsonValue.of("xyz"))) // Allows input tagging ) .build(); HttpResponseFor rawChatCompletionResponse = client.chat().completions().withRawResponse().create(request); final ChatCompletion chatCompletion = rawChatCompletionResponse.parse(); System.out.println(chatCompletion); ``` ------ ### 批次推論 [批次推論](batch-inference.md)可讓您使用多個提示以非同步方式執行模型推論。若要使用 OpenAI 模型執行批次推論，請執行下列動作： 1. 建立 JSONL 檔案，並填入至少所需數量下限的 JSON 物件，每個物件都以新行分隔。每個 `modelInput` 物件必須符合 [OpenAI 建立聊天完成](https://platform.openai.com/docs/api-reference/chat/create)請求內文的格式。以下範例顯示 JSONL 檔案的前兩行，其中包含 OpenAI 的請求內文。 ``` { "recordId": "RECORD1", "modelInput": { "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "user", "content": "Can you generate a question with a factual answer?" } ], "max_completion_tokens": 1000 } } { "recordId": "RECORD2", "modelInput": { "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "user", "content": "What is the weather like today?" } ], "max_completion_tokens": 1000 } } ... ``` **注意** `model` 欄位是選用的，因為如果您省略，批次推論服務會根據標頭為您插入該欄位。 檢查您的 JSONL 檔案是否符合 [格式化並上傳您的批次推論資料](batch-inference-data.md) 中所述的批次推論配額。 1. 將檔案上傳至 Amazon S3 儲存貯體。 1. 使用具有 S3 儲存貯體的 [Amazon Bedrock 控制平面端點](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#br-cp)來傳送 [CreateModelInvocationJob](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateModelInvocationJob.html) 請求，該儲存貯體來自在 `inputDataConfig` 欄位中指定的上一個步驟，以及在 `modelId` 欄位中指定的 OpenAI 模型。 如需端對端程式碼範例，請參閱 [批次推論的程式碼範例](batch-inference-example.md)。取代為 OpenAI 模型的適當組態。