기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
Amazon Bedrock에서 프롬프트 최적화 및 마이그레이션
Amazon Bedrock은 파운데이션 모델에서 최상의 성능을 얻는 데 도움이 되는 모델 마이그레이션 및 최적화 도구인 프롬프트 최적화를 제공합니다. Amazon Bedrock은 두 가지 프롬프트 최적화 옵션을 제공합니다.
-
단순 최적화는 하나의 모델에 대해 하나의 짧은 프롬프트를 빠르고 휴리스틱하게 다시 작성합니다.
-
고급 프롬프트 최적화(AdvPO)를 사용하면 Bedrock의 모든 모델에 대한 프롬프트를 최적화하는 동시에 원래 프롬프트를 최대 5개의 모델에 걸쳐 최적화된 프롬프트와 비교할 수 있습니다.
새 모델로 마이그레이션하거나 현재 모델에서 더 나은 성능을 얻고자 하는 경우이 기능을 사용할 수 있습니다. 모델을 변경하는 경우 현재 모델을 기준으로 선택하고 최대 4개의 다른 모델을 선택합니다. 모델을 변경하지 않는 경우 현재 모델을 선택하여 최적화 전후를 확인하세요. 최적화 프로그램은 프롬프트 템플릿(작업당 최대 10개)과 변수 값에 대한 예제 사용자 입력(프롬프트 템플릿당 최대 100개)을 가져옵니다. 또한 최적화를 안내하기 위해 실측 답변과 평가 지표가 필요합니다. jpeg, png 또는 PDF와 같은 멀티모달 입력과도 호환됩니다. LLM-as-a-judge rubric, Lambda 함수 또는 짧은 자연어 조향 기준을 제공할 수 있습니다. 평가는 프롬프트 최적화를 안내합니다. 최적화 프로그램은 평가 기반 피드백 루프에서 작동하여 프롬프트 및 결과 모델 응답을 최적화합니다. 평가 점수, 예상 비용 및 지연 시간이 포함된 원본 및 최종 프롬프트 템플릿을 출력합니다.
최적화 방법 선택
| 간단한 최적화 | 고급 프롬프트 최적화 | |
|---|---|---|
| 사용 사례: | 짧은 프롬프트에 대한 기본 단일 프롬프트 재작성 | 모델 마이그레이션 및 성능 튜닝을 위해 평가가 프롬프트 재작성을 주도하는 유연하고 반복적인 최적화 |
| 최적의 용도 | 짧은 프롬프트(약 1k 이하의 토큰) | 모델의 컨텍스트 창에 맞는 모든 길이의 프롬프트 템플릿 |
| 입력 | 단일 프롬프트 텍스트 | 멀티모달을 포함하여 평가 샘플이 포함된 최대 10개의 프롬프트 템플릿 |
| 모델 | 모델 1개 | 최대 5개의 모델을 동시에 비교 |
| 평가 | 없음(휴리스틱 재작성) | 선택 사항: 조향 기준, LLM-as-judge rubric 또는 사용자 지정 Lambda 함수 |
| 출력 | 재작성된 프롬프트(인스턴트) | 평가 점수, 예상 비용 및 모델당 지연 시간이 포함된 최적화된 템플릿 |
| Execution | 동기식(초) | 비동기 작업(프롬프트 템플릿 및 평가 샘플 수에 따라 15분~시간) |
| 멀티모달 | 아니요 | 예(이미지, PDFs) |
| 모델 마이그레이션 | 부분: 프롬프트를 다시 쓸 수 있지만 나란히 비교할 수는 없음 | 예, 현재 모델을 후보와 나란히 비교합니다. |
