AWS 베드록 기반 Just-In-Time 지식베이스 아키텍처 설계와 SaaS 환경 활용 방안

AWS 베드록으로 구현하는 Just-In-Time 지식베이스 설계와 활용 방안

기업이 다수의 테넌트 환경에서 문서 데이터를 효율적·비용 효율적으로 관리하고자 할 때, 단순 저장 및 처리 방식은 많은 문제를 낳습니다. 특히 SaaS 사업자에게는 자원 사용률 최적화와 데이터 고립성의 확보가 핵심 과제입니다. 이번 소개할 솔루션은 바로 이러한 폼 문제를 해결하는 AWS 기반 지식베이스 구조로, 문서가 ‘필요할 때만’ 처리되는 Just-in-Time 지식베이스 아키텍처입니다.

Just-In-Time 지식베이스란?

Just-in-Time 지식베이스란, 문서 데이터를 수시로 저장하거나 인덱싱하는 대신, 실제 쿼리 시점에만 문서를 처리하고 벡터화하여 검색하는 시스템 아키텍처입니다. 주로 Amazon Bedrock과 OpenSearch Serverless, DynamoDB TTL(Time-To-Live) 기능을 활용하여 필요한 리소스를 자동으로 할당·소멸합니다. 이러한 방식은 RAG(Retrieval Augmented Generation) 시스템의 불필요한 자원 소비 문제를 해결하며, 다양한 테넌트를 지원하는 SaaS 환경에서 특히 유용합니다.

주요 기능 및 시스템 구성

본 솔루션 아키텍처는 서버리스 아키텍처 기반의 멀티 테넌트 구조를 채택하고 있으며 다음과 같은 필수 요소들로 구성됩니다.

• 문서 인게스트(Ingest): 사용자 인증 후 Amazon S3에 문서를 업로드하고, 이 과정은 프로젝트 단위로 구성되어 있어 메타데이터 기반 필터링 및 테넌트 격리가 가능합니다.
• 온디맨드 처리: 문서 요청 시점에 Amazon Bedrock의 CUSTOM 데이터 소스를 통해 데이터가 처리되며, DynamoDB에 TTL값과 함께 기록됩니다.
• TTL 기반 문서 수명 주기 관리: 정해진 시간 이후 사용되지 않은 문서는 DynamoDB 스트림 이벤트를 통해 자동 검출되어, AWS Lambda를 호출, 지식베이스에서 제거됩니다.
• 멀티 테넌트 격리: 사용자의 테넌트 ID 기반으로 쿼리가 제한되며, 가격 정책별로 TTL, 파일 업로드 수, 질의 속도를 다르게 설정할 수 있습니다.

활용 및 실제 예시

시스템의 워크플로우는 다음과 같은 순서로 처리됩니다:

1. 사용자가 로그인 → 테넌트 ID 인증을 기반으로 프로젝트 생성
2. 프로젝트 단위로 파일 업로드 (Amazon S3에 저장 + DynamoDB에 메타데이터 기록)
3. 파일 쿼리 요청 시점에만 Amazon Bedrock에서 벡터화 진행
4. 채팅 세션 중에는 TTL값이 계속 업데이트되어 자주 사용하는 문서만 남음
5. 세션 종료 후 TTL이 만료되면 DynamoDB 스트림 이벤트로 Lambda가 감지 및 자동 삭제

이 솔루션의 핵심은 실질적인 데이터 사용 패턴에 따라 자원을 할당하고 해제한다는 점입니다. 이를 통해 스토리지 및 검색 자원을 무한정 유지할 필요가 없어 운영비용을 대폭 절감할 수 있으며, 시스템 성능도 유지됩니다.

자동화 및 배포 가이드

해당 시스템은 AWS CDK를 통해 자동화된 방식으로 배포할 수 있습니다. 설치 및 배포 순서는 다음과 같습니다:

1. GitHub에서 AWS CDK 샘플 프로젝트 클론
2. 종속성 설치: npm run install:all
3. 솔루션 배포: npm run deploy
4. 이메일 인증 후 사용자 계정 생성 및 로그인

이후 문서 업로드 → 채팅 요청 → AI 응답 → 문서 자동 삭제까지 거의 모든 과정이 자동화되어 있어, 인프라 유지비용을 줄이면서도 고도화된 사용자 지원이 가능합니다. 특히 자동문서 삭제 기능은 시스템을 경량화하고, 과금 정책을 토대로 다양한 유료 플랜 구성도 가능합니다.

테넌트별 요금제 분기

• Free: 5개 문서, 7일 TTL, 분당 5회 질의
• Standard: 100개 문서, 30일 TTL, 분당 10회 질의
• Premium: 1,000개 문서, 90일 TTL, 분당 50회 질의
• 추가 제한도 설정 가능 (월간 총 문서 수, 월간 쿼리 횟수 등)

결론

Amazon Bedrock 기반의 Just-in-Time 구조는 SaaS 환경에서 매우 유용한 적용사례입니다. 고객의 사용 패턴에 맞춘 자동화, 온디맨드 처리, 인프라 효율화는 곧 비용 최적화와 서비스 안정성 향상으로 이어집니다. 무엇보다도, 다양한 테넌트를 처리하면서도 보안, 성능, 유연성을 모두 확보할 수 있다는 점에서 특히 매력적인 선택지가 될 수 있습니다.

전체 구현 코드는 아래 GitHub 저장소에서 확인할 수 있습니다.

https://aws.amazon.com/blogs/machine-learning/build-a-just-in-time-knowledge-base-with-amazon-bedrock/