# 구조화된 출력 필요
일관되고 구조화된 출력 형식을 보장하기 위해 XML, JSON 또는 마크다운과 같은 형식을 포함한 *구조화된 출력*을 사용할 수 있습니다. 이 접근 방식을 사용하면 다운스트림 사용 사례가 모델에서 생성된 출력을 보다 효과적으로 사용하고 처리할 수 있습니다. 모델에 명시적 지침을 제공하면 미리 정의된 스키마를 준수하는 방식으로 응답이 생성됩니다. 모델이 따라야 할 `output schema`를 제공하는 것이 좋습니다.
예를 들어 다운스트림 구문 분석기가 JSON 객체의 키에 대한 특정 명명 규칙을 예상하는 경우 쿼리의 **출력 스키마** 필드에 이를 지정해야 합니다. 또한, 머리말 텍스트 없이 JSON 형식으로 응답을 받는 것을 선호하는 경우 모델에 그에 맞는 지시를 내리세요. 즉, ‘**JSON 출력만 생성하고, 머리말을 제공해서는 안 됩니다.**’라고 지시합니다.
**사전 채우기를 사용하여 모델 시작 지원**
효율적인 대안은 `assistant` 콘텐츠를 미리 채워서 모델의 응답을 *넛지*하는 것입니다. 이 기술을 사용하면 모델의 작업을 지시하고, 머리말을 우회하고, JSON 및 XML과 같은 특정 출력 형식을 적용할 수 있습니다. 예를 들어 어시스턴트 콘텐츠에 `"{"` 또는 `"```json"`을 미리 입력하면 추가 정보를 제공하지 않고도 모델이 JSON 개체를 생성하도록 안내할 수 있습니다.
**작은 정보**
명시적으로 JSON을 추출하려는 경우 일반적으로 관찰되는 한 가지 패턴은 ````json`으로 미리 채우고 `````에 중지 시퀀스를 추가하는 것입니다. 이렇게 하면 모델이 프로그래밍 방식으로 구문 분석할 수 있는 JSON 객체를 출력합니다.
다음은 몇 가지 일반적인 형식 지정 스키마의 예입니다.
------
#### [ JSON ]
```
JSON_schema = """Make sure your final response is a valid JSON schema follow the below Response Schema:
##Response Schema:
```json
{
"key1": "value1",
"key2": "value2",
key3: [{
"key3_1": "value_3_1,
"key3_2": "value_3_2,
...}```
"""
```
------
#### [ XML ]
```
XML_format = """Make sure your final response is a valid XML schema follow the below Response Schema:
##Response Schema:
( your thoughts go hee )
"""
```
------
#### [ Markdown ]
```
markdown_schema = """Make sure your final response is a valid Markdown schema follow the below Response Schema:
##Response Schema:
## Introduction
( 2-3 line intro)
## Design Guidance
(Bulleted list of design guidance)
## Step by Step Instructions on Execution
( Bulleted list of instructions with each with bold title.
## Conclusion
( conclusion )
"""
```
------
다음 코드는 API로 미리 채우는 방법을 보여줍니다.
```
import boto3
import json
# Create a Bedrock Runtime client.
client = boto3.client(
"bedrock-runtime",
region_name="us-east-1"
)
request_body = {
"system": [
{"text": "You write JSON objects based on the given instructions"}
],
"messages": [
{
"role": "user",
"content": [{"text": "Provide details about the best selling full-frame cameras in past three years.
Answer in JSON format with keys like name, brand, price and a summary."}]
},
{
"role": "assistant",
"content": [{"text": " Here is the JSON response: ```json"}]
},
],
"inferenceConfig": {
"maxTokens": 300,
"temperature": 0,
}
}
# Invoke the model and extract the response body.
response = client.invoke_model(
modelId="amazon.nova-micro-v1:0",
body=json.dumps(request_body)
)
model_response = json.loads(response["body"].read())
```
**참고**
구조화된 출력의 경우 도구 사용을 활용하는지 여부와 관계없이 복잡한 디코딩 파라미터를 사용하는 것이 좋습니다. 즉, `temperature=0`으로 설정합니다.
## 예제 1: 출력 스키마 추가
적절한 스키마로 출력 스키마 섹션을 추가하면 모델이 해당 스키마에 맞게 설정됩니다. 그러나 모델 출력은 결정적이지 않으며 출력 스키마와 다를 수 있습니다.
| 역할 | | 프롬프트 |
| --- |--- |--- |
| User | 지난 3년간 가장 많이 판매된 풀프레임 카메라에 대한 자세한 정보를 제공해 주세요. 이름, 브랜드, 가격, 요약 등의 키를 사용하여 JSON 형식으로 답하세요. | 지난 3년간 가장 많이 판매된 풀프레임 카메라에 대한 자세한 정보를 제공해 주세요. 반드시 JSON 형식으로만 답합니다. 아래 출력 스키마를 따르세요.
**출력 스키마:**[{
"name": "name goes here",
"brand": "brand goes here",
"price": "price goes here",
"summary": "summary goes here"
}] |
| Assistant | [
{
"name": "Sony Alpha A7R IV",
"brand": "Sony",
"price": "Approximately $3,500",
"summary": "The Sony Alpha A7R IV is renowned for its
exceptional image quality, thanks to a 61-megapixel
full-frame sensor. It also features 4K video recording
and a robust build, making it a favorite among professional
photographers and videographers."
},
{
"name": "Canon EOS R5",
"brand": "Canon",
"price": "Approximately $3,900",
"summary": "The Canon EOS R5 combines high-resolution
imaging with advanced video capabilities. It houses a
45-megapixel sensor, 8K video recording, and impressive
autofocus performance, appealing to both photography
and filmmaking professionals."
},
{
"name": "Nikon Z7 II",
"brand": "Nikon",
"price": "Approximately $2,800",
"summary": "The Nikon Z7 II offers a 45.7-megapixel
full-frame sensor and is praised for its high resolution
and excellent dynamic range. It also supports 4K video
recording and features a versatile Z-mount lens system,
making it a strong contender in the full-frame market."
},
{
"name": "Fujifilm GFX 100S",
"brand": "Fujifilm",
"price": "Approximately $7,000",
"summary": "While not a traditional full-frame camera,
the Fujifilm GFX 100S stands out with its 102-megapixel
medium format sensor. It is lauded for its stunning detail
and color reproduction, though it comes at a higher price
point and is aimed at specialized users."
}
]
| [
{
"name": "Nikon D850",
"brand": "Nikon",
"price": "$3,296.95",
"summary": "The Nikon D850 is a professional full-frame
DSLR camera known for its exceptional image quality,
45.7-megapixel resolution, 7 fps continuous shooting,
and 4K video capabilities."
},
{
"name": "Canon EOS 5D Mark IV",
"brand": "Canon",
"price": "$3,499.00",
"summary": "The Canon EOS 5D Mark IV is a popular
full-frame DSLR appreciated for its 30.4-megapixel sensor,
4K video recording, robust build quality, and reliable
autofocus system."
},
{
"name": "Sony A7R III",
"brand": "Sony",
"price": "$3,198.00",
"summary": "The Sony A7R III is a high-resolution
full-frame mirrorless camera renowned for its 42.4-megapixel
sensor, excellent low-light performance, and versatile
lens compatibility."
},
{
"name": "Fujifilm GFX 100S",
"brand": "Fujifilm",
"price": "$5,999.99",
"summary": "The Fujifilm GFX 100S is a medium format
mirrorless camera that stands out for its 102-megapixel
sensor, high dynamic range, and exceptional color reproduction."
},
{
"name": "Sony A7 III",
"brand": "Sony",
"price": "$1,998.00",
"summary": "The Sony A7 III is a full-frame mirrorless
camera popular among enthusiasts and professionals for
its 24.2-megapixel sensor, fast autofocus, and 4K video
capabilities."
}
]
|
## 예제 2: 모델 응답 미리 채우기
또 다른 접근 방식은 어시스턴트의 메시지에 원하는 초기 텍스트를 포함하여 모델의 응답을 미리 채우는 것입니다. 이 경우 Amazon Nova 모델의 응답은 어시스턴트의 메시지가 중단된 지점부터 계속됩니다.
| 역할 | 프롬프트 |
| --- |--- |
| User | 지난 3년간 가장 많이 판매된 풀프레임 카메라에 대한 자세한 정보를 제공해 주세요. 응답은 이름, 브랜드, 연도, 가격, 요약 등의 키가 포함된 JSON 형식이어야 합니다. |
| 어시스턴트*(미리 채우기)* | ```json |
| Assistant | {
"cameras": [
{
"name": "Sony Alpha A7 III",
"brand": "Sony",
"year": 2018,
"price": "$1999",
"summary": "The Sony Alpha A7 III is a highly acclaimed
full-frame mirrorless camera known for its excellent
image quality, advanced autofocus system, and 4K video
capabilities."
},
{
"name": "Canon EOS R5",
"brand": "Canon",
"year": 2020,
"price": "$3899",
"summary": "The Canon EOS R5 is a top-tier full-frame
mirrorless camera that offers stunning 45MP images, 8K
video recording, and exceptional performance in various
lighting conditions."
},
{
"name": "Nikon Z7 II",
"brand": "Nikon",
"year": 2020,
"price": "$2999",
"summary": "The Nikon Z7 II is a flagship full-frame
mirrorless camera with a 45.7MP sensor, superb image
quality, and advanced video recording features."
},
{
"name": "Fujifilm GFX 100S",
"brand": "Fujifilm",
"year": 2020,
"price": "$7999",
"summary": "The Fujifilm GFX 100S is a medium format
mirrorless camera known for its impressive 102MP sensor,
beautiful film simulations, and versatile lens options."
},
{
"name": "Sony Alpha A7R IV",
"brand": "Sony",
"year": 2019,
"price": "$3499",
"summary": "The Sony Alpha A7R IV features a 61MP
sensor, excellent low-light performance, and advanced
video capabilities, making it a favorite among
professional photographers."
}
]
}
``` |
## 예제 3: 사용할 도구 지정
세 번째 접근 방식은 도구 사용 스키마 섹션에 *Pydantic JSON 스키마*를 포함하여 모델 응답에 특정 스키마를 강제로 적용하는 것입니다. 제공된 스키마에 *도구 선택*을 지정할 수 있으며 선택한 도구에 따라 Amazon Nova의 응답이 구성됩니다. 도구 활용 방법에 대해 자세히 알아보려면 [Amazon Nova에서 도구 사용(함수 직접 호출)](tool-use.md) 섹션을 참조하세요.
| | |
| --- |--- |
| User | 아래 제공된 쿼리에서 관련 개체를 추출합니다.Query: John works in BUILDING-0987
and has been in charge of product id 23564#.
His performance has been excellent in past
year and he is up for a raise.
Use the print_entities tool.
|
| ToolConfig | tool_config = {
"tools": [
{
"toolSpec": {
"name": "print_entities",
"description": "Extract the named entity based on provided input",
"inputSchema": {
"type": "object",
"properties": {
"name": {
"type": "string",
"description": "The extracted entity name. This should be a name of a person, place, animal or thing"
},
"location": {
"type": "string",
"description": "The extracted location name. This is a site name or a building name like SITE-001 or BUILDING-003"
},
"product": {
"type": "string",
"description": "The extracted product code, this is generally a 6 digit alphanumeric code such as 45623#, 234567"
}
},
"required": ["name", "location", "product"]
}
}
}
],
"toolChoice": {
"tool": {
"name": "print_entities"
}
}
} |