Amazon Bedrock 기반 자기학습 생성형 AI로 대규모 카탈로그 자동화 혁신

아마존 카탈로그 팀이 Amazon Bedrock과 함께 구축한 대규모 자기학습 생성형 AI 시스템

소개

전자상거래에서 소비자의 구매 경험은 상품 정보의 품질에 달려있습니다. 특히 Amazon의 카탈로그는 제품 검색, 추천, 탐색 기능을 제공하기 위한 핵심 기반입니다. 그러나 매일 수백만 건 이상 등록되는 신규 상품에 대해 속성 추출, 제목 생성 등 다양한 과정을 정확하고 비용 효율적으로 자동화하는 것은 큰 도전입니다. 본 글에서는 Amazon의 Catalog 팀이 Amazon Bedrock을 활용하여 구축한 자기학습(Self-learning) 기반의 생성형 AI 시스템을 소개하고, 대규모 배포 환경에서 어떻게 성능을 지속 개선하며 비용을 절감하는지 그 과정을 설명합니다.

핵심 내용 및 사례

과제: 생성형 AI의 모델 성능 자동화 개선

생성형 AI를 활용한 자동화 시스템은 다양한 예외 케이스와 빠르게 변화하는 용어, 도메인 특성을 다뤄야 하며 이는 정확도 저하로 이어질 수 있습니다. 기존에는 과학자들이 오류를 분석하고 프롬프트를 조정한 뒤 시스템을 재배포하는 수동 방식이 일반적이었습니다. 이는 일정 수준의 개선은 가능하나, 스케일에 한계가 있어 불확실성이 높은 환경에서는 적합하지 않았습니다.

솔루션: 다중 모델 기반 자기학습 구조

Amazon Catalog 팀은 단일 대형 모델이 아닌 여러 개의 경량화 모델을 병렬적으로 운용하여 기본 속성을 판단하도록 설정했습니다. 모델들이 일치하는 경우 해당 결과를 신뢰하고, 의견 불일치 시에는 ‘복잡성의 신호’로 간주하여 상위 모델(Supervisor)을 호출합니다.

이 상위 모델은 Amazon Bedrock의 AgentCore 기능으로 구현되었고, 다양한 인공지능 도구와 메모리 기능을 갖춘 에이전트로 설정되었습니다. Supervisor는 단순히 분쟁을 해결하는 데 그치지 않고, 이를 통해 얻은 통찰을 동적 지식베이스(Knowledge Base)에 저장함으로써 유사한 사례가 반복되는 것을 최소화합니다.

또한 Amazon EC2에서 Open Source 모델을 도입해 워커(작업자) 역할을 수행하고, 고난이도의 분석이 필요한 경우엔 Bedrock 기반의 Anthropic Claude Sonnet과 같은 고성능 모델이 Supervisor 역할을 수행합니다. 이는 비용 최적화와 정확도 향상을 동시에 달성할 수 있게 합니다.

통찰: 의견 불일치를 학습 기회로 전환

작은 모델들 간 의견이 불일치하는 경우는 오히려 유의미한 학습 기회를 제공하며, 이러한 복잡한 사례를 분석한 결과가 Knowledge Base에 반영됩니다. 결과적으로 오차율은 지속적으로 감소하며, Supervisor 호출 빈도 또한 자연스럽게 줄어듭니다.

지식베이스: 확장 가능한 학습 저장소

Supervisor가 생성한 학습 결과는 도메인별로 계층 구조의 Knowledge Base에 저장됩니다. LLM 기반 메모리 관리자가 각 학습 데이터를 적절한 분류로 배치하며, 도메인 전문가가 직접 입력하거나 수정할 수도 있습니다. 이는 추론 시 프롬프트에 자동 삽입되어 AI 모델이 인간의 전문 지식을 반영한 판단을 할 수 있게 합니다.

베스트 프랙티스 및 유의사항

적절한 배치 전략은 두 가지이며, 시스템의 목표에 따라 선택할 수 있습니다.

1. Learn-then-deploy: 미리 학습을 진행하고 도메인 전문가가 지식베이스를 검토한 후 운영 환경에 반영
2. Deploy-and-learn: 실 운영에서 지속적으로 학습을 반영하며 기민하게 시스템 개선

효과적인 배포 가이드를 위해 다음 조건을 고려해야 합니다:

• 적정 수준의 모델 간 의견 불일치 비율 유지
• 학습 결과를 반영하여 시간이 지남에 따라 불일치 비율 감소 확인
• 구체적이고 실행 가능한 형태로 학습 결과 정리

결론

Amazon Catalog 팀의 이 시스템은 생성형 AI를 위한 새로운 스케일 확장 전략을 제시합니다. 수동 개입 없이 복잡한 사례를 식별하고, 해법을 추출해 전체 시스템의 역량을 높이는 자기학습 사이클을 구현한 것입니다. AWS의 Bedrock AgentCore는 이러한 구조에서 필수적인 역할을 수행하며, 다른 AI 기반 자동화 시스템까지 확장할 수 있는 가능성을 보여주고 있습니다.

AI 시스템을 도입할 때 이제 중요한 질문은 "어떤 모델을 사용할 것인가?"가 아니라 "어떻게 이 시스템이 우리의 도메인을 지속적으로 학습하도록 만들 것인가?"입니다.

https://aws.amazon.com/blogs/machine-learning/how-the-amazon-com-catalog-team-built-self-learning-generative-ai-at-scale-with-amazon-bedrock/