아마존 베드록과 루푸스가 만들어가는 대화형 AI 쇼핑의 진화

아마존 베드록(Amazon Bedrock)과 루푸스(Rufus): 대화형 쇼핑의 미래

소개

고객 경험을 최우선으로 하는 아마존은 보다 개인화되고 직관적인 쇼핑 환경을 제공하기 위해 AI 기술을 적극적으로 도입해왔습니다. 최근 AI 기반 쇼핑 비서인 루푸스(Rufus)의 발전과 성공적인 운영 사례는 이를 잘 보여주는 사례입니다. 본 글에서는 아마존이 어떻게 Amazon Bedrock을 활용하여 루푸스를 수천만 명의 고객이 사용하는 대화형 쇼핑 에이전트로 확장했는지를 살펴보며, AI 시스템 도입 및 활용의 주요 전략과 구성 요소에 대해 소개합니다.

본론

1. 고객 중심 아키텍처 구축
   루푸스의 기능 설계는 철저하게 고객의 질문 유형을 분석하는 것에서 시작되었습니다. “이 신발은 방수인가요?”와 같은 사실적 질문부터 “마라톤에 적합한 신발을 추천해 주세요” 같은 추천 요청까지 다양한 케이스를 수집하고, 이를 기반으로 루푸스는 텍스트, 이미지 등 다양한 방식으로 대답을 수행할 수 있도록 설계되었습니다. 지속적으로 정량적인 지표(정확도, 대화 길이, 반복 사용률 등)를 수집·분석해 예측 응답 품질을 향상시켜 나갔습니다.

2. 온프레미스 모델에서 Amazon Bedrock으로 진화
   초기에는 자체 구축한 LLM(대형 언어 모델)을 구축하여 쇼핑 도메인에 최적화된 모델을 운영했습니다. 하지만 더 진보된 추론 기능, 긴 문맥 이해, 멀티스텝 추론과 같은 니즈가 증가함에 따라, 기존 모델의 한계를 초월하고 빠르게 최신 기술을 구현하기 위해 Amazon Bedrock을 도입했습니다.

3. Amazon Bedrock 도입의 효과
   Amazon Bedrock은 다양한 Foundation Model(FM)을 통합된 API로 제공함으로써 특정 모델 종속성을 최소화하고, 비용과 성능을 기준으로 최적의 모델을 선택하고 배포할 수 있도록 지원합니다.

Bedrock의 핵심 제공 사항은 다음과 같습니다.

• 다양한 LLM 호스팅 및 모델 선택 유연성
• 글로벌 확장 환경에서의 서비스 배포 자동화
• 자동 스케일링 및 인프라 부담 경감
• 모델 최적화를 위한 툴 제공 및 툴 연동 기능 지원

4. 하이브리드 문맥 처리 및 개인화 강화
   루푸스는 질의 처리 시 고객의 구매 이력, 검색 기록 등을 모델 호출 시점에 함께 제공함으로써 정확도를 높인 하이브리드 방식의 문맥 처리 방식을 채택했습니다. 예를 들어, 고객이 이전 주문과 관련된 질문을 한다면 관련 데이터가 자동 전달되어 보다 정확한 응답이 가능합니다.

5. Web Grounding 및 지연시간 최적화
   Amazon Nova Web Grounding을 도입하여 외부 웹 검색을 통해 신뢰도 있는 출처를 활용하고 있으며, 이를 통해 응답 정확도를 높이고 반복 사용률이 상승했습니다. 또한 Prompt Caching과 Parallel Tool Calling을 통해 병렬 모델 호출 및 응답 캐시를 통해 처리 속도까지 개선했습니다.

6. 툴 통합을 통한 에이전트 기반 자동화 기능
   Amazon Bedrock의 툴 통합 기능은 루푸스를 단순 상담 도우미를 넘어 ‘행동하는’ 에이전트로 진화시켰습니다. 예를 들어, 가격 추적 기능은 고객이 “이 제품 30% 할인되면 자동 구매해줘”라고 요청할 경우 조건 충족 시 자동 결제까지 이뤄지는 완전한 자동화 기능을 제공합니다.

실제 이 기능을 사용하는 고객은 평균 20% 이상 구매 비용을 절감하고 있으며, 재주문이나 선물 추천과 같은 멀티턴 대화 시나리오에서도 높은 정확도와 개인화된 응답을 제공합니다.

7. AI 쇼핑의 미래를 여는 에이전트 아키텍처
   Amazon Bedrock과 통합된 Rufus는 단순 응답을 넘어서 사용자 데이터를 기반으로 능동적인 제안, 자동화된 구매 행위, 상황별 적응형 대화 흐름을 구성하는 진정한 AI 쇼핑 에이전트입니다.

결론

Amazon Rufus 사례는 AI 도입 가이드로서 Amazon Bedrock이 어떤 방식으로 활용되고 있으며, AI 기반 솔루션을 신속하고 효과적으로 배포하는 데 어떤 장점을 제공하는지를 보여주는 훌륭한 예입니다. 비용, 정확도, 응답 속도, 글로벌 확장성 등 다양한 기준에서 AI 프로젝트를 기획한다면 Bedrock은 산업 전반에서 유연하고 실현 가능한 선택지입니다. 고객 가치를 중심에 둔 대화형 AI 솔루션을 도입하고자 하는 기업이라면 Rufus의 성공 사례를 참고하는 것이 매우 유용할 것입니다.

https://aws.amazon.com/blogs/machine-learning/how-rufus-scales-conversational-shopping-experiences-to-millions-of-amazon-customers-with-amazon-bedrock/