아마존 재무팀의 AI 비서 구축 사례와 Amazon Bedrock 및 Kendra 활용 전략

아마존 재무팀이 Amazon Bedrock과 Amazon Kendra를 활용해 AI 비서를 구축한 방법

소개

기업의 재무 분석은 방대한 데이터, 복잡한 문서, 그리고 다양한 시스템 내의 정보를 빠르게 체계화하는 역량에 달려 있습니다. 아마존 재무팀은 이러한 데이터 통합과 분석 난제를 해결하기 위해 생성형 AI와 지능형 검색 기술을 활용하여 레벨업된 전략을 실행하였습니다. 본 포스팅에서는 AWS의 최신 AI 서비스인 Amazon Bedrock과 Amazon Kendra를 기반으로 재무 분석가들을 위한 고도화된 AI 비서 솔루션을 어떻게 구현했는지를 소개합니다. 이 과정에서 어떻게 자연어 기반 데이터 탐색을 가능하게 했으며, 조직 내 지식 자산을 자동화 기술로 활용하고 배포까지 이어졌는지에 대한 구체적인 활용 사례와 아키텍처를 중심으로 설명합니다.

본론

1. 핵심 문제와 니즈

기존 재무 분석 도구는 키워드 기반 검색, 복잡한 쿼리 작성, 시스템 간 일관성 부족 등 한계가 분명했습니다. 아마존 재무팀은 이러한 난제를 해결하기 위한 새로운 방식을 고민했고, 단순한 정보 조회가 아닌 정확하고 빠른 인사이트 접근을 목표로 AI 기반 솔루션을 설계하게 됩니다.

2. 솔루션 개요: 생성형 AI와 RAG 아키텍처 접목

이 AI 비서 솔루션은 자연어 질의로 문서, 시스템, 데이터 카탈로그를 효율적으로 검색하고 응답을 생성합니다. 다음과 같은 두 가지 핵심 기술로 구현됩니다:

• Intelligent Retrieval (지능형 검색): Amazon Kendra가 사용자의 질문에 대한 의미론적 검색 수행.
• Augmented Generation (강화 생성): Amazon Bedrock 기반의 Anthropic Claude 3 Sonnet 모델이 검색된 데이터를 바탕으로 정확하고 문맥에 맞는 응답 생성.

3. 핵심 구성 요소 및 배포 가이드

• Amazon Bedrock + Claude 3 Sonnet: 정교한 언어 이해와 문맥 응답 제공.
• Amazon Kendra Enterprise Index: 40+ 포맷 자동처리, 의미기반 검색, 엔터프라이즈 보안 내재화.
• Streamlit: 빠른 UI 구현과 배포. 사용자 피드백 수집 및 인터페이스 관리에도 용이.
• 프롬프트 템플릿: 외부 지식 통합 및 hallucination 완화에 핵심 역할 수행.

4. 프런트엔드 배포 아키텍처

Route 53, CloudFront, Lambda, ECS with Fargate 등 AWS 서비스가 결합되어 서버리스 기반의 확장성과 보안을 모두 충족하는 UI 배포 아키텍처 구성.

5. 성능 평가 결과

• 데이터 탐색 시간 30% 단축, 정확도 80% 향상
• 신뢰도(정확도+출처일치) 기준:
  • 데이터 검색 정확도: 83%, Faithfulness: 70%
  • 문서 이해용 검색 정확도: 88%, Faithfulness: 88%
• 자연어 검색만으로 10분 내 답변 획득(기존 최대 60분)

6. 핵심 활용 예시

• 자연어 기반 데이터 탐색: “생산성 지표가 어디에 있지?” → 구체 테이블 제공
• 내부 프로세스 이해: “감가상각 예측은 어떻게 하지?” → 정책 문서 기반 정확응답

이 모든 경험은 키워드 검색 기반 시스템보다 훨씬 직관적이며, 기획과 분석 업무의 민첩성과 정확성을 대폭 향상시킵니다.

결론

Amazon 재무팀의 AI 비서 구축 사례는 생성형 AI와 지능 검색의 결합이 얼마나 큰 혁신을 가져올 수 있는지 보여줍니다. 이 솔루션은 단순한 기술 도입을 넘어, 기업 내부 지식의 자동화와 경영 의사결정 지원을 위한 새로운 접근 방식을 제시합니다. AWS 기반 AI 솔루션은 오늘날 기업이 마주한 복잡한 데이터 탐색 문제를 해결하는 데 있어 가장 효과적인 길임을 증명하고 있습니다. AI 활용 가이드, 솔루션 아키텍처 참고, 재무 및 문서 검색 자동화에 관심이 있는 조직이라면 본 구현 사례를 반드시 참고해보시길 바랍니다.

https://aws.amazon.com/blogs/machine-learning/how-amazon-finance-built-an-ai-assistant-using-amazon-bedrock-and-amazon-kendra-to-support-analysts-for-data-discovery-and-business-insights/