기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
Amazon Bedrock에서 지원하는 엔드포인트
Amazon Bedrock은 컨트롤 플레인 연산자 또는 추론 작업을 수행할지 여부에 따라 다양한 엔드포인트를 지원합니다.
컨트롤 플레인 작업
Amazon Bedrock 컨트롤 플레인 작업은 엔드포인트와 함께 사용할 수 있습니다. bedrock.{region}.amazonaws.com. 사용 가능한 모델 나열, 사용자 지정 모델 작업 생성, 프로비저닝된 처리량 관리와 같은 리소스를 관리하는 데 사용할 수 있습니다. 여기에서 컨트롤 플레인 API에 대해 자세히 알아보세요.
추론 작업
Amazon Bedrock은 프로그래밍 방식으로 추론을 수행하기 위해 다음과 같은 두 가지 기본 엔드포인트를 지원합니다.
| Endpoint | 지원되는 APIs | 설명 |
|---|---|---|
bedrock-mantle.{region}.api.aws |
응답 API/채팅 완료 API | OpenAI 호환 엔드포인트를 사용하여 Amazon Bedrock에서 호스팅되는 모델에 대한 추론 요청을 수행하기 위한 리전별 엔드포인트입니다. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel / Converse / Chat Completions | InvokeModel/Converse/Chat Completions APIs. Amazon Bedrock 런타임 APIs에 대한 자세한 내용은 여기에서 확인하세요. |
추론에 사용해야 하는 서비스 엔드포인트는 무엇입니까?
사용하는 엔드포인트는 사용 사례에 따라 다릅니다.
| Endpoint | 기능 및 사용 사례 |
|---|---|
bedrock-mantle |
OpenAI 호환 APIs(응답 API, 채팅 완료 API)를 지원합니다. 용도: OpenAI 호환 APIs. 기능: Lambda 함수에서 클라이언트 및 서버 측 도구 사용을 모두 지원하며 애플리케이션에서 ready-to-use 가능한 도구로 구성됩니다. 권장 대상: Amazon Bedrock의 신규 사용자. |
bedrock-runtime |
Amazon Bedrock 네이티브 APIs(API 호출, Converse API)를 지원합니다. 또한 OpenAI 호환 채팅 완료 API를 지원합니다. 용도: Amazon Bedrock에서 지원하는 모든 모델 실행. Converse API는 Amazon Bedrock의 모든 모델과 상호 작용하기 위한 통합 인터페이스를 제공하고 Invoke API는 요청 및 응답 형식을 제어할 수 있는 더 많은 기능을 갖춘 모델에 대한 직접 액세스를 제공합니다. Chat Completions API를 사용하여 모델과 상호 작용할 수도 있습니다. 기능: Lambda 함수에서 클라이언트 측 도구 사용만 지원하며 ready-to-use 있는 도구로 미리 구성되지 않습니다. 모델을 호출할 때 사용량과 비용을 추적할 수 있습니다. |
Amazon Bedrock을 처음 사용하는 경우 bedrock-mantle 엔드포인트로 시작하는 것이 좋습니다.