AWS를 활용한 멀티 테넌트 문서 채팅 솔루션 아키텍처 및 구현 가이드

AWS의 인공지능 및 클라우드 솔루션은 오늘날 많은 기업들이 혁신을 가속화하고, 비용을 절감하며, 더 효율적으로 확장할 수 있도록 돕고 있습니다. 특히 Amazon Bedrock Managed Knowledge Base는 이와 같은 변화를 지원하는 중요한 요소로 자리 잡고 있습니다. 이번 블로그에서는 이를 활용한 멀티 테넌트 문서 채팅 솔루션의 아키텍처에 대해 살펴보고, 구현 가이드와 활용 사례를 통해 AWS의 강력함을 소개하고자 합니다.

AI 및 클라우드 솔루션의 활용

Amazon Bedrock Managed Knowledge Base는 문서의 삽입부터 저장, 내장, 랭킹까지의 과정을 관리하여 다수의 문서 데이터를 효율적으로 처리할 수 있는 플랫폼을 제공합니다. 주요 서비스로는 Amazon API Gateway와 AWS Lambda를 통한 애플리케이션 로직 런타임, Amazon Cognito를 통한 사용자 인증, Amazon SQS를 통한 업로드와 수집의 비동기화 등이 있습니다.

이 아키텍처를 통해 각 사용자별 데이터를 격리하며 동시에 복잡한 질문에 대한 에이전트 기반의 검색을 가능하게 합니다. 이는 기업 고객들이 대규모 고객층에 대한 다양한 요구사항을 해결할 수 있도록 돕습니다.

멀티 테넌트 문서 채팅 솔루션의 구현

솔루션 구현의 핵심은 각 사용자의 문서가 격리되어야 하며, 고유한 사용자 ID를 통해 검색 쿼리가 정의되어야 한다는 점입니다. Amazon Bedrock의 AgenticRetrieveStream API를 사용하면, 각 사용자는 자신의 문서만 검색할 수 있으며, 복잡한 질문에도 최상의 결과를 제공합니다.

직접적인 문서 업로드는 IngestKnowledgeBaseDocuments API를 통해 가능하며, 이는 사용자가 업로드한 문서가 비동기적으로 처리되고 검색할 수 있는 인덱스에 추가되도록 합니다. 이 기능을 통해 사용자는 자신의 질문에 대한 답을 빠르게 얻을 수 있습니다. 특히, 이 구조는 손쉽게 확장 가능하며, 비즈니스 요구에 따라 맞춤화가 가능합니다.

결론

Amazon Bedrock Managed Knowledge Base를 중심으로 한 멀티 테넌트 문서 채팅 솔루션은 복잡한 데이터의 효율적 처리를 가능케 하며, 사용자 고유의 데이터를 안전하게 관리할 수 있는 환경을 제공합니다. 여러분의 비즈니스가 클라우드 기반의 AI 솔루션으로 다음 단계로 나아가도록 할 수 있는 중요한 밑거름이 될 것입니다.

AWS의 이러한 솔루션을 직접 체험해보고 싶다면, GitHub의 샘플 리포지토리를 참조하시기 바랍니다.
[1] https://aws.amazon.com/blogs/machine-learning/build-multi-tenant-agentic-chat-applications-on-enterprise-data-with-amazon-bedrock-managed-knowledge-base/