Amazon Bedrock으로 지식 기반 AI 웹사이트 도우미 구축하기

고객 맞춤형 AI 웹사이트 도우미 구축하기 – Amazon Bedrock 활용 가이드

소개

기업이 고객 서비스의 효율성을 높이고 고객 경험을 개선하기 위해 자동화된 지원 시스템에 대한 수요가 꾸준히 증가하고 있습니다. 특히 기술 문서와 가이드가 방대하게 쌓여 있는 상황에서는 고객과 지원팀 모두가 정보를 빠르게 찾기 힘든 과제를 안고 있습니다. 이번 포스트에서는 Amazon Bedrock과 Amazon Bedrock Knowledge Bases를 이용해 내부 운영팀과 외부 고객 모두에게 실시간 대응이 가능한 AI 기반 웹사이트 도우미 구축 방법을 소개합니다.

핵심 구성과 워크플로우

Amazon Bedrock을 활용한 AI 도우미는 RAG(Retrieval-Augmented Generation) 기법 기반으로 아래와 같은 구성요소로 설계됩니다.

1. Amazon Bedrock Knowledge Bases

Amazon S3에 저장된 PDF, 매뉴얼, 운영 문서뿐 아니라 웹사이트의 콘텐츠까지 크롤링하여 수집한 데이터를 벡터화 처리 후 인덱싱합니다. 데이터 소스 필터링 기능을 통해 내부 정보와 외부 정보를 명확하게 구분할 수 있어 정보 보안 측면에서도 안정적인 운영이 가능합니다.

2. Amazon Bedrock의 관리형 LLM

Amazon Titan 및 Nova Lite 모델을 이용해 사용자의 질문에 대해 적절한 답변을 생성합니다. 데이터 기반 응답을 보강함으로써 더욱 정확하고 문맥에 맞는 답변을 제공할 수 있습니다.

3. 서버리스 아키텍처

Amazon ECS를 통한 UI 운영, AWS Lambda를 통한 요청 처리, Amazon Cognito를 활용한 인증 체계 구성 등 완전한 서버리스 구조로 확장성과 운영 효율성을 높입니다.

4. 자동화된 CI/CD 배포

AWS CDK를 활용한 인프라 자동화 배포를 통해 지속적인 개발 및 테스트 환경을 간편하게 운영할 수 있습니다.

실제 구축 및 활용 방법

1. Knowledge Base 생성 및 웹사이트 크롤링

Amazon Bedrock 콘솔에서 Knowledge Base를 생성하고 ‘Web Crawler’를 데이터 소스로 선택해 URL을 입력하면 자동으로 콘텐츠가 수집되어 인덱싱됩니다. Titan Text Embedding V2를 선택해 고품질 벡터화 처리를 수행하며, OpenSearch Serverless를 벡터 저장소로 선택합니다.

2. 내부 문서 업로드 – S3 연결

같은 방식으로 S3를 통해 사내 기밀 문서, 운용 가이드 등을 Knowledge Base에 등록하고 자동 동기화를 통해 벡터화 처리까지 완료합니다.

3. 사용자 구분 응답 처리 방식

외부 사용자는 로그인 이후 웹사이트 전용 URL에 접속해 질문을 남기면 Lambda 함수가 실행되어 적절한 데이터 소스를 기반으로 Knowledge Base에서 정보를 검색한 후 Amazon LLM 모델을 통해 응답이 생성됩니다. 사용자 유형(내부/외부)에 따라 접근 권한이 구분되어 외부 사용자가 내부 문서를 조회하지 못하도록 설정이 가능합니다.

반면 동일한 질문을 내부 사용자 계정으로 로그인하여 제출하면, 내부 문서 기반의 더욱 상세한 답변을 반환합니다.

4. 자동화된 배포 안내

공식 GitHub 저장소에서 CDK 기반 코드 패키지를 다운받고 knowledge base ID, 데이터 소스 ID 등 필요한 정보를 입력한 뒤 배포를 진행합니다. 배포가 완료되면 ALB 주소를 통해 실제 웹 어플리케이션에 접속할 수 있습니다.

활용 및 확장 포인트

• 고객 FAQ 대응 자동화
• 직원 대상 사내 지식관리 시스템 자동화
• 제품 기술 지원 봇
• 실시간 온보딩 지원 시스템

비즈니스에서의 빠른 도입을 위한 가이드, 자동화된 구축 과정, 유연한 권한 관리 등 실용적인 요소들을 잘 결합시킨 아키텍처로, 생성형 AI를 활용한 다양한 프로토타이핑 프로젝트에도 활용이 가능합니다.

결론

본 글에서는 Amazon Bedrock과 Knowledge Bases를 기반으로, 외부 고객과 내부 직원 모두에게 신속하고 정확한 정보 제공이 가능한 AI 웹사이트 도우미 구축 방법을 소개했습니다. 시스템 아키텍처 설계, 문서 크롤링 및 임베딩, 사용자 분류 기반 응답 자동화까지 자동화와 확장성 측면에서 매우 우수한 가치가 있습니다.

지금 바로 Amazon Bedrock으로 지식 베이스 기반의 AI 응답 시스템을 구축해보세요.

https://aws.amazon.com/blogs/machine-learning/build-an-ai-powered-website-assistant-with-amazon-bedrock/