Building Multi-Tenant Agents with AWS

AWS와 함께하는 멀티테넌트 에이전트 구축 가이드

멀티테넌트 에이전트란 여러 사용자 그룹 또는 테넌트가 동일한 소프트웨어 인스턴스를 공유하면서도 각 테넌트가 독립적으로 운영되는 솔루션을 의미합니다. 이러한 구조는 보안, 관리, 응답 정확도 외에도 테넌트 격리, 비용 산정 및 성능 최적화 등의 다양한 도전 과제를 포함합니다.

Amazon Bedrock AgentCore는 이러한 멀티테넌트 환경에 적합한 서버리스 관리 서비스로, AWS 위에서 에이전트 기반 애플리케이션의 구축, 배포 및 안전한 운영을 지원합니다. 이 문서에서는 Amazon Bedrock AgentCore의 활용 방법과 멀티테넌트 에이전트 아키텍처의 핵심 요소를 설계하는 방법에 대해 알아봅니다.

멀티테넌트 에이전트 설계 요소

멀티테넌트 에이전트 기반 애플리케이션은 다음과 같은 설계 요소를 고려해야 합니다.

• 에이전트 런타임 배포: 각 테넌트에 대해 별도의 실행 환경을 제공하거나 공유되는 실행 환경을 사용할지 결정해야 합니다.
• 공유 모델 및 테넌트 맞춤형 모델: 공유된 기본 모델을 사용하거나 특정 테넌트 요구에 맞춰 세분화된 모델을 활용할 수 있습니다.
• 워크플로우 관리: 테넌트별 요구 및 비즈니스 논리에 따라 다양한 워크플로우 패턴을 구현할 수 있습니다.
• 다단계 RAG: 데이터 격리를 통해 규제가 엄격한 업종에서 보안을 강화할 수 있습니다.

이 외에도 보안과 효율성을 겸비한 에이전트 운영을 위한 다수의 요소들이 논의됩니다.

구현 사례

1. 시로 모델 구현: 각 테넌트에 대해 모든 인프라와 리소스를 독립적으로 제공하여 철저한 데이터 격리를 보장합니다.

   

2. 풀 모델 구현: 리소스 공유를 통해 운영의 효율성을 높이고 비용을 절감합니다.

   

3. 브리지 모델 구현: 시로와 풀 모델의 장점을 결합하여 보안과 비용 효율성을 모두 확보합니다.

   

결론

Amazon Bedrock AgentCore는 멀티테넌트 에이전트 애플리케이션을 구축하는 데 필요한 강력한 인프라를 제공합니다. 다양한 배포 모델과 구성 요소를 활용하여 보안성 높은 멀티테넌트 환경을 구축할 수 있으며, 각기 다른 요구와 규정을 만족시킬 수 있습니다. 새롭게 부상하는 SaaS 시장에서 경쟁력을 갖추기 위해, Amazon Bedrock AgentCore와 함께하는 멀티테넌트 아키텍처는 필수적인 도구가 될 것입니다.

[1] https://aws.amazon.com/blogs/machine-learning/building-multi-tenant-agents-with-amazon-bedrock-agentcore/