기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다. # Connect AI 에이전트를 위한 AI 가드레일 생성 *AI 가드레일*은 사용 사례와 책임 있는 AI 정책에 따라 보호 기능을 구현할 수 있는 리소스입니다. Connect AI 에이전트는 Amazon Bedrock 가드레일을 사용합니다. Connect Customer 관리자 웹 사이트에서 이러한 가드레일을 생성하고 편집할 수 있습니다. **Topics** + [중요한 참고 사항](#important-ai-guardrail) + [AI 가드레일을 생성하는 방법](#create-ai-guardrail) + [차단된 기본 메시지 변경](#change-default-blocked-message) + [AI 가드레일 정책을 구성하는 샘플 CLI 명령](#guardrail-policy-configurations) ## 중요한 참고 사항 + 최대 3개의 사용자 지정 가드레일을 생성할 수 있습니다. + Connect용 가드레일 AI 에이전트는 Amazon Bedrock 가드레일 클래식 티어와 동일한 언어를 지원합니다. 지원되는 언어의 전체 목록은 [Amazon Bedrock 가드레일에서 지원하는 언어](https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-supported-languages.html) 섹션을 참조하세요. 다른 언어로 텍스트 콘텐츠를 평가하는 것은 효과가 없습니다. + 가드레일을 구성하거나 편집할 때는 다양한 구성으로 실험하고 벤치마킹하는 것이 좋습니다. 일부 조합은 의도하지 않은 결과를 초래할 수 있습니다. 가드레일을 테스트하여 결과가 사용 사례 요구 사항을 충족하는지 확인합니다. + 스트리밍 응답으로 가드레일을 활성화하면 텍스트 청크를 전송하기 전에 버퍼링하고 스캔해야 하므로 추가 지연 시간이 있습니다. 이는 주로 time-to-first-token(TTFT)에 영향을 미칩니다. 가드레일 구성에 따라 TTFT에 약간의 추가 지연 시간이 예상됩니다. 가드레일 스캔은 여전히 텍스트의 최소 버퍼를 처리해야 하므로 응답이 짧을수록 지연 시간이 비례적으로 더 두드러질 수 있습니다. 이는 콘텐츠 안전 정확도와 응답 속도 간의 내재된 장단점입니다. 사용 사례가 지연 시간에 민감한 경우 모든 상호 작용에 가드레일이 필요한지 또는 선택적으로 적용할 수 있는지 고려합니다. 동기 가드레일 스트리밍 모드에 대한 자세한 내용은 *Amazon Bedrock 사용 설명서*의 [콘텐츠를 필터링하도록 스트리밍 응답 동작 구성을](https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-streaming.html) 참조하세요. ## AI 가드레일을 생성하는 방법 1. **AI 에이전트 디자이너**, AI 가드레일이 있는 계정으로 Connect Customer 관리자 웹 사이트에 로그인합니다. 보안 프로필에서 권한을 생성합니다. **** 1. Connect Customer 관리자 웹 사이트의 왼쪽 탐색 메뉴에서 **AI 에이전트 디자이너**, **AI 가드레일을** 선택합니다. 1. **가드레일** 페이지에서 **가드레일 생성**을 선택합니다. 1. **AI 가드레일 생성** 대화 상자에서 가드레일의 이름과 설명을 입력한 다음 **생성**을 선택합니다. 1. **AI 가드레일 빌더** 페이지에서 필요에 따라 다음 필드를 작성하여 가드레일에 대한 정책을 생성합니다. + **콘텐츠 필터**: 필터 강도를 조정하여 유해한 콘텐츠가 포함된 입력 프롬프트 또는 모델 응답을 차단할 수 있습니다. 필터링은 증오, 모욕, 성적, 폭력, 불법 행위 및 프롬프트 공격과 같은 사전 정의된 특정 유해 콘텐츠 범주의 탐지를 기반으로 수행됩니다. + **거부된 주제**: 애플리케이션의 컨텍스트에서 바람직하지 않은 주제 세트를 정의합니다. 사용자 쿼리 또는 모델 응답에서 이러한 주제가 감지되면 필터가 이를 차단합니다. 거부된 주제는 최대 30개까지 추가할 수 있습니다. + **컨텍스트 근거 검사**: 소스의 근거 및 사용자 쿼리와의 관련성을 기반으로 모델 응답에서 할루시네이션을 감지하고 필터링하는 데 도움이 됩니다. + **단어 필터**: 바람직하지 않은 단어, 문구 및 욕설을 차단하도록 필터를 구성합니다. 이러한 단어에는 불쾌한 용어, 경쟁사 이름 등이 포함될 수 있습니다. + **민감한 정보 필터**: 사용자 입력 및 모델 응답에서 개인 식별 정보(PII) 또는 사용자 지정 정규식과 같은 민감한 정보를 차단하거나 마스킹할 수 있도록 필터를 구성합니다. 차단 또는 마스킹은 SSN 번호, 생년월일, 주소 등과 같은 엔터티에서 표준 형식의 민감한 정보를 확률적으로 탐지하여 수행됩니다. 또한 식별자에 대한 패턴의 정규 표현식 기반 감지를 구성할 수 있습니다. + **차단된 메시징**: 가드레일이 입력 또는 모델 응답을 차단하는 경우 사용자에게 표시되는 기본 메시지를 사용자 지정합니다. Amazon Connect는 부적절하거나 유해한 이미지 콘텐츠를 감지하고 필터링하는 데 도움이 되는 **이미지 콘텐츠 필터**를 지원하지 않습니다. 1. 가드레일이 완료되면 **저장**을 선택합니다. 버전 드롭다운에서 선택할 때 **Latest:Draft**는 항상 AI 가드레일의 저장된 상태를 반환합니다. 1. **게시**를 선택합니다. AI 가드레일에 대한 업데이트가 저장되고, AI 가드레일 가시성 상태가 **게시됨**으로 설정되며, 새 AI 가드레일 버전이 생성됩니다. ![AI 가드레일 페이지, 가시성 상태가 게시됨으로 설정됨.](http://docs.aws.amazon.com/ko_kr/connect/latest/adminguide/images/ai-agents-created-guardrail.png) 버전 드롭다운에서 선택하면 **Latest:Published**는 항상 AI 가드레일의 저장된 상태를 반환합니다. ## 차단된 기본 메시지 변경 이 섹션에서는 사용자에게 표시되는 차단된 메시지를 변경하는 예를 사용하여 Connect Customer 관리자 웹 사이트의 AI 가드레일 빌더 및 편집기에 액세스하는 방법을 설명합니다. 다음 이미지는 사용자에게 표시되는 차단된 기본 메시지의 예를 보여 줍니다. 기본 메시지는 '가드레일별 입력 텍스트 차단'입니다. ![고객에게 표시되는 기본 가드레일 메시지의 예입니다.](http://docs.aws.amazon.com/ko_kr/connect/latest/adminguide/images/ai-agents-blocked-by-guardrail.png) **차단된 기본 메시지를 변경하는 방법** 1. https://{{instance name}}.my.connect.aws/의 Connect Customer 관리자 웹 사이트에 로그인합니다. 관리자 계정 또는 **AI 에이전트 디자이너**가 있는 계정 사용 - **AI 가드레일** - 보안 프로필에 권한을 **생성합니다**. 1. 탐색 메뉴에서 **AI 에이전트 디자이너**, **AI 가드레일을** 선택합니다. 1. **AI 가드레일** 페이지에서 **AI 가드레일 생성**을 선택합니다. 이름과 설명을 할당할 수 있는 대화 상자가 표시됩니다. 1. **AI 가드레일 생성** 대화 상자에서 이름과 설명을 입력한 다음 **생성**을 선택합니다. 비즈니스에 이미 세 개의 가드레일이 있는 경우 다음 이미지와 같이 오류 메시지가 표시됩니다. ![비즈니스에 이미 세 개의 가드레일이 있다는 메시지입니다.](http://docs.aws.amazon.com/ko_kr/connect/latest/adminguide/images/ai-guardrail-limit.png) 이 메시지가 표시되면 다른 가드레일을 생성하는 대신 필요에 맞게 기존 가드레일을 편집하는 것이 좋습니다. 또는 하나를 삭제하여 다른 항목을 생성할 수 있습니다. 1. 가드레일이 모델 응답을 차단할 때 표시되는 기본 메시지를 변경하려면 **차단된 메시징** 섹션으로 스크롤합니다. 1. 표시할 블록 메시지 텍스트를 입력하고 **저장**을 선택한 다음 **게시**를 선택합니다. ## AI 가드레일 정책을 구성하는 샘플 CLI 명령 다음은 AWS CLI를 사용하여 AI 가드레일 정책을 구성하는 방법의 예입니다. ### 원치 않는 주제 차단 다음 샘플 AWS CLI 명령을 사용하여 원치 않는 주제를 차단합니다. ``` aws qconnect update-ai-guardrail --cli-input-json { "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32", "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95", "blockedInputMessaging": "Blocked input text by guardrail", "blockedOutputsMessaging": "Blocked output text by guardrail", "visibilityStatus": "PUBLISHED", "topicPolicyConfig": { "topicsConfig": [ { "name": "Financial Advice", "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.", "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"], "type": "DENY" } ] } } ``` ### 유해하고 부적절한 콘텐츠 필터링 다음 샘플 AWS CLI 명령을 사용하여 유해하고 부적절한 콘텐츠를 필터링합니다. ``` aws qconnect update-ai-guardrail --cli-input-json { "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32", "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95", "blockedInputMessaging": "Blocked input text by guardrail", "blockedOutputsMessaging": "Blocked output text by guardrail", "visibilityStatus": "PUBLISHED", "contentPolicyConfig": { "filtersConfig": [ { "inputStrength": "HIGH", "outputStrength": "HIGH", "type": "INSULTS" } ] } } ``` ### 유해하고 부적절한 단어 필터링 다음 샘플 AWS CLI 명령을 사용하여 유해하고 부적절한 단어를 필터링합니다.  ``` aws qconnect update-ai-guardrail --cli-input-json { "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32", "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95", "blockedInputMessaging": "Blocked input text by guardrail", "blockedOutputsMessaging": "Blocked output text by guardrail", "visibilityStatus": "PUBLISHED", "wordPolicyConfig": { "wordsConfig": [ { "text": "Nvidia", }, ] } } ``` ### 모델 응답에서 할루시네이션 감지 다음 샘플 AWS CLI 명령을 사용하여 모델 응답에서 할루시네이션을 감지합니다.  ``` aws qconnect update-ai-guardrail --cli-input-json { "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32", "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95", "blockedInputMessaging": "Blocked input text by guardrail", "blockedOutputsMessaging": "Blocked output text by guardrail", "visibilityStatus": "PUBLISHED", "contextualGroundPolicyConfig": { "filtersConfig": [ { "type": "RELEVANCE", "threshold": 0.50 }, ] } } ``` ### 민감한 정보 수정 다음 샘플 AWS CLI 명령을 사용하여 개인 식별 정보(PII)와 같은 민감한 정보를 수정합니다. ``` aws qconnect update-ai-guardrail --cli-input-json { "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32", "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95", "blockedInputMessaging": "Blocked input text by guardrail", "blockedOutputsMessaging": "Blocked output text by guardrail", "visibilityStatus": "PUBLISHED", "sensitiveInformationPolicyConfig": { "piiEntitiesConfig": [ { "type": "CREDIT_DEBIT_CARD_NUMBER", "action":"BLOCK", }, ] } } ```