기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# 이 솔루션은 생성형 인공 지능(AI) 애플리케이션의 개발, 신속한 실험 및 배포를 용이하게 합니다.
AWS의 생성형 AI Application Builder는 AI에 대한 심층적인 경험 없이 생성형 인공 지능(AI) 애플리케이션의 개발, 신속한 실험 및 배포를 용이하게 합니다. 이 AWS 솔루션은 다음을 지원하여 개발을 가속화하고 실험을 간소화합니다.
+ 비즈니스별 데이터 및 문서 수집
+ 대규모 언어 모델(LLMs)의 성능 평가 및 비교
+ AI 에이전트를 사용하여 다단계 작업 및 워크플로 실행
+ 확장 가능한 애플리케이션을 신속하게 구축하고 엔터프라이즈급 아키텍처를 사용하여 해당 애플리케이션을 배포합니다.
AWS의 생성형 AI Application Builder에는 다음과의 통합이 포함됩니다.
+ [Amazon Bedrock](https://aws.amazon.com/bedrock)에서 사용 가능한 LLMs
+ [Amazon SageMaker AI](https://aws.amazon.com/sagemaker)에 배포한 LLMs
+ [검색 증강 생성](https://aws.amazon.com/what-is/retrieval-augmented-generation/)(RAG)[을 위한 Amazon Bedrock 지식 기반](https://aws.amazon.com/bedrock/knowledge-bases)
+ [Amazon Bedrock 가드레일을 통한 보호 구현 및 ](https://aws.amazon.com/bedrock/guardrails/)할루시네이션 감소
+ [Amazon Bedrock 에이전트 -](https://aws.amazon.com/bedrock/agents/) 작업 오케스트레이션 및 완료를 수행할 수 있는 에이전트 워크플로 구축
+ [Amazon Bedrock AgentCore](https://aws.amazon.com/bedrock/agentcore/), 확장된 런타임 지원으로 프로덕션 지원 AI 에이전트 구축, 배포 및 관리
+ 엔터프라이즈 데이터 및 도구 통합을 위한 [모델 컨텍스트 프로토콜(MCP)](https://modelcontextprotocol.io) 서버
또한이 솔루션을 사용하면 LangChain 커넥터를 사용하여 선택한 모델에 연결할 수 있습니다. 이러한 커넥터는 솔루션과 함께 배포되는 [AWS Lambda](https://aws.amazon.com/lambda) 함수에서 사용할 수 있습니다. 노코드 배포 마법사로 시작하여 대화형 검색, AI 생성 챗봇, 텍스트 생성 및 텍스트 요약을 위한 생성형 AI 애플리케이션을 구축할 수 있습니다.
이 구현 가이드는 AWS의 생성형 AI Application Builder 솔루션, 참조 아키텍처 및 구성 요소, 배포 계획 고려 사항, Amazon Web Services(AWS) 클라우드에 솔루션을 배포하기 위한 구성 단계에 대한 개요를 제공합니다.
이 가이드는 환경에서 AWS에서 생성형 AI Application Builder를 구현하려는 솔루션 아키텍트, 비즈니스 의사 결정권자, DevOps 엔지니어, 데이터 과학자 및 클라우드 전문가를 대상으로 합니다.
이 탐색 테이블을 사용하여 다음 질문에 대한 답을 빠르게 찾을 수 있습니다.
| 다음을 수행하려는 경우 . . . | 읽기 . . . |
| --- | --- |
| 이 솔루션을 실행하는 데 드는 비용을 파악합니다. 이 솔루션을 실행하는 데 드는 예상 비용은 배포하는 구성 요소와 쿼리 수에 따라 달라집니다. 한 달 동안 미국 동부(버지니아 북부) 리전에서 기본 파라미터와 100명의 활성 사용자를 사용하여 배포 대시보드를 실행하는 데 드는 비용은 매월 약 20.12 USD입니다. LLM을 사용하여 하루에 100개의 쿼리를 수행하는 비즈니스 사용자 1명에 대해 RAG 없이 배포된 텍스트 사용 사례 비용은 매월 약 12.39 USD입니다. 하루에 8,000건의 상호 작용을 지원하는 Amazon Kendra 인덱스가 있는 RAG 지원 사용 사례의 비용은 매월 약 204.26 USD에 지식 기반 비용이 추가됩니다. | [비용](cost.md) |
| 이 솔루션의 보안 고려 사항을 이해합니다. | [보안](security-1.md) |
| 이 솔루션의 할당량을 계획하는 방법을 파악합니다. | [할당량](quotas.md) |
| 이 솔루션을 지원하는 AWS 리전을 파악합니다. | [지원되는 AWS 리전](plan-your-deployment.md#supported-aws-regions) |
| 이 솔루션에 포함된 AWS CloudFormation 템플릿을 보거나 다운로드하여 이 솔루션의 인프라 리소스(“스택”)를 자동으로 배포합니다. | [AWS CloudFormation 템플릿](aws-cloudformation-template.md) |
| 소스 코드에 액세스하고 선택적으로 AWS Cloud Development Kit(AWS CDK)를 사용하여 솔루션을 배포합니다. | [GitHub 리포지토리](https://github.com/aws-solutions/generative-ai-application-builder-on-aws) |
# 기능 및 이점
AWS의 생성형 AI Application Builder 솔루션은 다음과 같은 기능을 제공합니다.
**빠른 실험**
이 솔루션을 사용하면 구성이 다른 여러 인스턴스를 배포하고 출력과 성능을 비교하는 데 필요한 과도한 부담을 제거하여 빠르게 실험할 수 있습니다. 다양한 LLMs, 프롬프트 엔지니어링, 엔터프라이즈 지식 기반, 가드레일, AI 에이전트 및 기타 파라미터의 여러 구성을 실험합니다.
**선택 및 구성 가능성**
Amazon Bedrock을 통해 사용할 수 있는 모델과 같은 다양한 LLMs에 대한 사전 구축된 커넥터를 사용하는이 솔루션은 원하는 모델과 선호하는 AWS 및 주요 FM 서비스를 유연하게 배포할 수 있습니다. Amazon Bedrock Agents를 활성화하여 다양한 작업 및 워크플로를 수행할 수도 있습니다.
**에이전트 빌더**
전체 수명 주기 관리를 통해 프로덕션 지원 AI 에이전트를 구축하고 배포합니다. 시스템 프롬프트를 구성하고, 엔터프라이즈 도구 및 데이터 액세스를 위해 모델 컨텍스트 프로토콜(MCP) 서버를 통합하고, 대화 전반에 걸쳐 컨텍스트 보존을 위한 메모리 기능을 활성화합니다. 에이전트는 확장된 런타임 지원 및 실시간 스트리밍 응답을 통해 Amazon Bedrock AgentCore에 배포됩니다.
**워크플로 빌더**
계층적 위임을 사용하여 여러 Agent Builder 에이전트를 복잡한 워크플로로 오케스트레이션합니다. 다단계 작업을 처리하기 위해 특수 Agent Builder 에이전트를 자율적으로 선택하고 조정하는 감독자 에이전트를 생성합니다. 기존 Agent Builder 배포를 재사용하면서 에이전트 설명, 위임 전략 및 워크플로 수준 메모리를 구성합니다.
**프로덕션 지원**
AWS Well-Architected 설계 원칙을 기반으로 구축된이 솔루션은 고가용성과 짧은 지연 시간으로 엔터프라이즈급 보안 및 확장성을 제공하여 고성능 표준으로 애플리케이션에 원활하게 통합할 수 있습니다.
**확장 가능한 모듈식 아키텍처**
기존 프로젝트를 통합하거나 기본적으로 추가 AWS 서비스를 연결하여이 솔루션의 기능을 확장합니다. 이 애플리케이션은 오픈 소스 애플리케이션이므로 포함된 LangChain 오케스트레이션 계층 또는 Lambda 함수를 사용하여 원하는 서비스와 연결할 수 있습니다.
**AWS Systems Manager의 기능인 Service Catalog AppRegistry 및 Application Manager와 통합 AWS Systems Manager**
이 솔루션에는 솔루션의 CloudFormation 템플릿과 기본 리소스를 AWS [Service Catalog AppRegistry](https://docs.aws.amazon.com/servicecatalog/latest/arguide/intro-app-registry.html) 및 [AWS Systems Manager Application Manager](https://docs.aws.amazon.com/systems-manager/latest/userguide/application-manager.html)의 애플리케이션으로 등록하는 Service Catalog AppRegistry 리소스가 포함되어 있습니다. AWS Service Catalog 이 통합을 통해 솔루션의 리소스를 중앙에서 관리할 수 있습니다.
# 에이전트 빌더와 Bedrock 에이전트 사용 사례
이 솔루션은 AI 에이전트 작업을 위한 두 가지 고유한 접근 방식을 제공하며, 각각 다양한 사용 사례 및 요구 사항에 적합합니다.
| 기능 | Bedrock Agent 사용 사례 | 에이전트 빌더 |
| --- | --- | --- |
| **용도** | 사전 배포된 Amazon Bedrock 에이전트 호출 | 사용자 지정 에이전트 구축, 배포 및 관리 |
| **구성** | 에이전트 ID 및 별칭 ID만 | 전체 에이전트 구성: 시스템 프롬프트, 모델, MCP 서버, 메모리 |
| **배포** | 단순 호출 계층 | AgentCore 런타임의 전체 에이전트 수명 주기 |
| **런타임** | Amazon Bedrock Agents 서비스 | Amazon Bedrock AgentCore와 Strands SDK |
| **도구 통합** | Bedrock Agents 콘솔에서 구성됨 | MCP(모델 컨텍스트 프로토콜) 서버 및 내장 Strands 도구 |
| **메모리** | Bedrock Agents에서 관리(최대 30일) | 구성 가능한 단기 및 장기 보존이 포함된 AgentCore 메모리 |
| **사용자 지정** | 사전 배포된 에이전트 설정으로 제한됨 | 프롬프트, 모델, 도구 및 동작을 완벽하게 제어 |
| **최적의 용도** | 기존 에이전트의 빠른 배포 | 사용자 지정 에이전트 개발 및 프로덕션 배포 |
**참고**
두 옵션 모두 실시간 스트리밍, 대화 기록 및 엔터프라이즈급 보안을 지원합니다.
# 워크플로 빌더
Workflow Builder는 전문 에이전트 빌더 에이전트에게 작업을 위임하는 감독자 에이전트를 생성하여 다중 에이전트 오케스트레이션을 활성화합니다. 각 워크플로는 다음으로 구성됩니다.
+ **감독자 에이전트**: 사용자 요청을 수신하고 특수 에이전트를 조정하는 진입점 에이전트
+ **전문 에이전트**: 감독자가 작업을 위임할 수 있는 Agent Builder 사용 사례
+ **에이전트를 도구 패턴으로**: 감독자는 각 Agent Builder 에이전트를 도구로 등록하고 사용할 에이전트를 자율적으로 선택합니다.
| 기능 | 에이전트 빌더 | 워크플로 빌더 |
| --- | --- | --- |
| **용도** | 단일 사용자 지정 에이전트 구축 및 배포 | 여러 Agent Builder 에이전트 오케스트레이션 |
| **에이전트 유형** | MCP 도구를 사용하는 단일 에이전트 | 감독자 에이전트 \$1 여러 Agent Builder 에이전트 |
| **도구 통합** | MCP 서버 및 Strands 도구 | 도구로 등록된 Agent Builder 에이전트 |
| **위임** | 직접 도구 호출 | 자율 에이전트 선택 및 위임 |
| **복잡성** | 단일 에이전트 작업 | 다단계, 다중 에이전트 워크플로 |
| **에이전트 재사용** | 해당 사항 없음 | 기존 Agent Builder 배포를 재사용합니다. |
| **최적의 용도** | 중점 단일 도메인 작업 | 여러 전문화가 필요한 복잡한 워크플로 |
**참고**
워크플로에는 특수 에이전트로서 최소 1개의 에이전트 빌더 사용 사례가 필요합니다.
모든 특수 에이전트는 GAAB에 배포된 에이전트 빌더 사용 사례여야 합니다.
# 사용 사례
**엔터프라이즈 데이터에 대한 질문 답변**
LLMs 및 기타 파운데이션 모델은 대규모 데이터 코퍼스에 대해 사전 훈련되어 많은 자연어 처리(NLP) 작업에서 잘 수행할 수 있습니다. 그러나 대부분의 파운데이션 모델 및 LLMs은 정적이며 사전 훈련되어 신규, 전문 또는 독점 주제에 대한 질문에 정확하게 답변하는 능력을 제한합니다. 프롬프트 기반 학습을 사용하면 LLM의 강력한 NLP 및 텍스트 생성 기능을 활용하여 엔터프라이즈 데이터에 대해 더 풍부한 고객 경험을 제공할 수 있습니다.
**빠른 생성형 AI 프로토타이핑**
기본적으로 솔루션은 다양한 모델 공급자 및 사용 사례와 함께 제공됩니다. 사용하기 쉬운 배포 마법사를 통해 고객은 사전 구축된 사용 사례를 배포하여 다양한 생성형 AI 프로토타입 및 워크로드를 신속하게 실험할 수 있습니다.
**다중 LLM 비교 및 실험**
LLMs 성능이 다르며 애플리케이션의 특정 요구 사항에 따라 한 LLM이 다른 LLM보다 애플리케이션에 더 적합할 수 있습니다. 성능, 정확성, 비용, 창의성 또는 기타 여러 요인과 관련된 이유 때문일 수 있습니다. 이 솔루션을 사용하면 여러 사용 사례를 빠르게 배포하여 필요에 맞는 구성을 찾을 때까지 다양한 구성을 실험하고 비교할 수 있습니다.
# 개념 및 정의
이 섹션에서는 이 솔루션과 관련된 핵심 개념 및 용어에 대해 설명합니다.
**관리자 사용자**
이 가이드의 컨텍스트 내에서 관리자 사용자는 배포에 포함된 콘텐츠를 관리할 책임이 있습니다. 이 사용자는 배포 대시보드 UI에 액세스할 수 있으며 주로 비즈니스 사용자 경험을 큐레이션하는 역할을 합니다. 이는 기본 대상 고객입니다.
**비즈니스 사용자**
이 가이드의 컨텍스트 내에서 비즈니스 사용자는 사용 사례가 배포된 개인을 나타냅니다. 이들은 지식 기반의 소비자이며 LLMs.
**배포 대시보드**
배포 대시보드는 관리자 사용자가 *사용 사례를* 보고 관리하고 생성할 수 있는 관리 콘솔 역할을 하는 웹 인터페이스입니다. 이 대시보드를 통해 고객은 LLMs.
**DevOps 사용자**
이 가이드의 컨텍스트 내에서 DevOps 사용자는 AWS 계정 내에 솔루션을 배포하고 인프라 관리, 솔루션 업데이트, 성능 모니터링, 솔루션의 전반적인 상태 및 수명 주기 유지를 담당하는 사용자입니다.
**사용 사례**
사용 사례는 LLMs과 통합되어 신규 또는 기존 애플리케이션에 자연어 인터페이스를 추가하여 더 풍부한 고객 경험을 가능하게 하는 전체 솔루션에서 분리된 애플리케이션입니다. 사용 사례는 배포 대시보드를 통해 또는 자체적으로 배포할 수 있습니다.
**참고**
AWS 용어에 대한 일반 참조는 [AWS 용어집](https://docs.aws.amazon.com/general/latest/gr/glos-chap.html)을 참조하세요.