메뉴 닫기

AWS Bedrock Denied Topics를 통한 AI 모델 보호 가이드

AWS Bedrock 가이드: Denied Topics를 통한 AI 모델 보호

소개

AI 기술의 발전은 다양한 분야에서 혁신을 주도하고 있습니다. 그러나 AI 모델이 제공하는 정보의 안전성과 신뢰성을 보장하기 위해 적절한 규제와 보호 장치가 필요합니다. Amazon Bedrock의 Denied Topics 기능은 이러한 보호 기능 중 하나로, 사용자가 불필요하거나 위험한 정보를 요청하지 않도록 체계적으로 관리할 수 있는 도구입니다. 본 블로그에서는 이를 효과적으로 구현하기 위한 방법과 사례를 살펴봅니다.

본문 (핵심 내용 및 사례)

Amazon Bedrock의 Denied Topics는 AI 모델이 특정 주제를 다루지 않도록 설정할 수 있는 강력한 도구입니다. 이 기능은 사용자가 위험한 정보를 얻고자 할 때 모델이 해당 요청을 차단하는 방식으로 작동합니다.

예를 들어, AnyCompany Bank는 고객 지원 봇을 운영하면서 "개인화된 투자 추천"이나 "내부 거래 조언"과 같은 주제를 차단하고자 합니다. 이를 위해 다음과 같은 단계를 따릅니다:

  1. 사용자 의도 정의: Denied Topics의 이름을 사용자 의도를 중심으로 설정합니다. 예를 들어 "법률" 대신 "법적 조언 및 소송 안내"로 변경하여 변호사의 법적 식견을 요구하는 질문을 차단합니다.

  2. 행동 기반 정의 작성: 사용자가 수행하는 구체적인 행동을 설명하여, 의도한 주제를 명확히 지정합니다. 예를 들어, "개인화된 투자 추천을 요청"이라는 구문으로 정의를 시작합니다.

  3. 경계 사례 활용: 주제의 경계를 정의하기 위해 다양한 사례를 제시합니다. 이는 주제가 차단할 데이터를 잘못 포함하거나 배제하는 것을 방지하는 데 도움을 줍니다.

이러한 방식을 통해 AnyCompany Bank는 AI 모델이 고객의 금융 안전을 위협하는 잘못된 조언을 제공하지 않도록 안정성을 확보했습니다.

결론

Denied Topics는 AI 모델의 안정성을 높이는 중요한 도구입니다. 이를 통해 정보의 무결성과 사용자의 안전을 보장할 수 있습니다. 각 주제를 사용자 의도를 중심으로 정의하고, 구체적인 행동과 예제를 통해 경계를 설정함으로써 AI 시스템이 바람직하지 않은 데이터를 처리하는 것을 방지할 수 있습니다.

[1] 원문 URL

https://aws.amazon.com/blogs/machine-learning/best-practices-for-writing-denied-topics-in-amazon-bedrock-guardrails/

AI, Cloud 관련한 문의는 아래 연락처로 연락주세요!

(주)에이클라우드
이메일 : acloud@a-cloud.co.kr
회사 번호 : 02-538-3988
회사 홈페이지 : https://www.a-cloud.co.kr/
문의하기


AI, Cloud 도입 상담 배너