보험 데이터 요약 자동화를 위한 Amazon Nova Micro와 Lite의 혁신적 활용 사례

보험 클레임 데이터의 효율화: Amazon Nova Micro와 Nova Lite 활용 사례

최근 대규모 문서 기반 작업에서 효율성과 비용 절감을 동시에 실현하는 기술로 생성형 AI와 대형 언어 모델(LLM)의 활용이 급부상하고 있습니다. 특히 Amazon은 자사의 리스크 관리 프로세스 내 클레임 문서 요약을 보다 빠르고 정확하게 처리하기 위해 Amazon Nova 시리즈를 도입했습니다. 본 글에서는 Amazon 내부 기술팀이 어떻게 Amazon Nova Foundation Models를 활용하여 기존 모델 대비 놀라운 속도 개선과 비용 절감을 이루었는지를 소개합니다.

Amazon의 리스크 관리와 클레임 프로세스 과제

Amazon은 전 세계적으로 방대한 물류 및 인프라를 운영하며, 이에 수반되는 다양한 클레임(산재, 물류 사고 등)을 체계적으로 관리해야 합니다. 클레임 하나에 평균적으로 75개 문서가 포함되며, 각 문서에서 심각도, 책임소재 등의 다양한 측면을 검토해야 합니다. 이에 따라 정확하면서도 빠른 처리가 필수적이지만, 기존 AI 모델은 비용과 응답 시간의 한계를 드러냈습니다. 클레임 하나를 요약하는 데 3~5분이 소요되고, 새로운 문서가 추가될수록 지연과 비용은 눈덩이처럼 불어났습니다.

Amazon Nova 도입 배경 및 비교 평가

2024년 말, Amazon 내부 기술팀은 Amazon Nova Foundation Models를 적용하여 기존 LLM을 대체하는 방안을 실험하기 시작했습니다. 이를 위해 약 95쌍의 실제 클레임 문서와 검증 요약 데이터를 기반으로 성능 벤치마크를 진행했습니다. 각 문서는 길이가 1,000~60,000단어에 달했으며, 요약 데이터는 100단어 이내였습니다. 이 테스트에서 Amazon Nova Lite와 Nova Micro 모델은 놀라운 성능을 보였습니다:

• Nova Lite: 기존 모델 대비 2배 빠르고 비용은 98% 절감
• Nova Micro: 4배 더 빠르며 비용은 무려 99% 저렴

복잡하고 다양한 형태의 문서가 포함된 환경에서 빠른 응답성과 비용 효율을 동시에 실현한 셈입니다. 특히 길이가 긴 문서를 처리할수록 Nova 모델과 기존 모델 간의 지연 시간 격차는 더욱 커졌습니다.

Amazon Nova 기반 클레임 요약 자동화 구조

요약 시스템은 다음과 같은 AWS 서비스 구성으로 구축되었습니다:

1. 데이터 전처리: AWS Glue를 사용하여 원시 클레임 데이터를 가공
2. 중간 저장소: Amazon S3에 저장하여 확장성 확보
3. 작업 큐 관리: Amazon SQS를 이용하여 요약 요청 관리
4. 서버리스 요약 처리: AWS Lambda와 Amazon Bedrock 기반의 Nova 모델로 요약 생성
5. 성능 최적화: Nova Lite로 불필요한 문서를 분류하고, 관련된 데이터만 요약 대상으로 처리
6. 중복 방지 및 캐시: Amazon DynamoDB를 활용해 요약 결과 및 중간 데이터를 저장

이 구조는 문서 업데이트 시마다 요약이 자동으로 진행되며, 추가적인 인프라 구성 없이도 빠르고 탄력적으로 동작합니다.

성능 및 비용 비교

Nova Lite와 Nova Micro는 기존 사용 모델들(대표적 LLM)과 비교해 다음과 같은 강점을 가집니다:

• Latency: 최대 4배 향상
• Cost: 최대 99% 절감
• 장문 처리에 유리한 컨텍스트 윈도우 최적화
• 기존 프롬프트와의 높은 호환성

아래 비교 그래프는 Nova 시리즈가 높은 성능(BERT-F1 기준)을 유지하면서도 비용과 지연에서 뛰어난 성과를 보였음을 입증합니다.

결론 및 활용 가이드

Amazon Nova 시리즈는 복잡하고 다양한 문서 처리 환경에서도 높은 활용성과 비용 절감 가능성을 보여줍니다. 실제 사례를 통해 다음과 같은 강점이 입증되었습니다:

• 다양한 모델 포트폴리오의 활용: 상황에 맞는 모델 선택으로 다양한 시나리오 대응 가능
• 통합 및 자동화 유연성: 기존 시스템과 무리 없는 통합
• 장기적 확장성: 운영비용 절감으로 고급 분석 모델과 테스트에 자원 확보 가능

만약 귀사의 업무가 수많은 문서 분석 및 요약을 포함한다면, Amazon Nova Lite 및 Micro는 그 해결책이 될 수 있습니다. 특히 초기 도입 후 사용성과 성능의 확장성이 높은 만큼, 사내 자동화 프로젝트 및 AI 도입의 핵심 솔루션으로 적합합니다.

Nova 모델은 Amazon Bedrock 콘솔 또는 Nova 제품 페이지에서 바로 체험해 볼 수 있습니다.

https://aws.amazon.com/blogs/machine-learning/driving-cost-efficiency-and-speed-in-claims-data-processing-with-amazon-nova-micro-and-amazon-nova-lite/