Amazon Bedrock을 활용한 기업 콜센터 대화 자동 분류 배치 추론 구축 가이드

기업용 콜센터 대화 자동 분류를 위한 Amazon Bedrock 배치 추론 활용 가이드

도입

콜센터 대화를 분류하는 작업은 많은 산업군에서 공통으로 필요한 업무입니다. 그러나 이러한 작업을 수작업으로 처리하면 오류가 발생하기 쉽고, 비효율적인 방식으로 운영비가 증가합니다. 이번 블로그에서는 Amazon Bedrock의 배치 추론(batch inference)을 활용하여 콜센터 대화를 자동화하고 비용까지 절감할 수 있는 방법에 대해 소개합니다. 특히 Anthropic의 Claude Haiku 모델과 AWS 서비스들을 조합하여 자동화된 분류 파이프라인을 구성하고, 이를 실제로 배포하고 활용하는 방법까지 상세히 설명드립니다.

본론

1. 자동 분류가 필요한 이유와 기존 문제점
   콜센터 운영자들은 고객 문의 내용을 파악하고 분류하여 적절한 대응을 해야 합니다. 하지만 수작업 분류는 시간이 많이 들고 실수가 많습니다. 또한 대량 데이터를 실시간 분류하는 것은 인력으로 감당하기 어렵습니다.

여기에서 Amazon Bedrock 배치 추론이 유용하게 작동합니다. Bedrock의 배치 모드는 온디맨드 대비 약 50% 비용이 절감되며, 한 번에 수백 개의 요청을 빠르게 처리할 수 있습니다. 특히 업무 자동화 측면에서도 매우 뛰어난 성능을 보여줍니다.

2. 솔루션 구성 아키텍처
   Amazon Bedrock 기반의 자동 분류 시스템은 AWS 상에서 서버리스 기능을 바탕으로 데이터 저장부터 추론 결과 분석까지 전 과정이 자동화되어 있습니다.

• Amazon S3 버킷에 입력 파일 업로드 → Amazon SQS로 큐잉 → Lambda로 JSONL 변환 및 저장
• Bedrock Batch Inference를 통해 분류 작업 실행
• 결과는 S3에 저장되고, 별도 Lambda가 데이터를 CSV/JSON/XLSX 형식으로 변환
• AWS Glue와 Amazon Athena, QuickSight를 통해 시각화 및 분석 자동화 진행

3. 데이터 생성 및 분류 방식
   테스트용으로는 Anthropic Claude 3.7 Sonnet을 활용해 여행사 콜센터 대화 1,190건을 생성하였습니다. 아래와 같은 10개 클래스를 설정하고, 해당 분류로 예시 데이터를 만들었습니다.

각 대화는 아래와 같은 구성으로 되어 있고, 마지막에 해당 대화의 Category가 출력되도록 구성합니다.

• 예약 문의
• 예약 변경
• 취소 요청
• 환불 문의
• 여행 정보 요청
• 불만 접수
• 결제 문제
• 멤버십 관련
• 특별 요청
• 기술 지원

4. 시스템 배포 가이드
   해당 솔루션은 AWS CDK(TypeScript 기반)를 활용하여 코드 기반으로 인프라를 배포합니다. GitHub 레포지토리 https://github.com/aws-samples/sample-genai-bedrock-batch-classifier 에서 전체 코드를 확인할 수 있습니다.

배포절차는 다음과 같습니다:

• AWS 계정 및 IAM 세팅
• 레포지토리 클론 및 cdk bootstrap, cdk deploy 명령어 사용
• 총 6개의 스택이 배포되며, 각각은 데이터 변환, 분류, 결과 처리 및 분석 영역으로 구성됨

5. 분석 및 결과 시각화
   QuickSight 대시보드를 통해 분류된 결과를 실시간으로 분석할 수 있습니다.

Amazon Athena를 사용하여 SQL 기반 쿼리도 수행할 수 있고, 패턴 분석, 빈도 수 집계 등을 통해 유의미한 인사이트 도출이 가능합니다.

6. 실제 테스트 결과
   동일한 Excel 파일을 10회에 걸쳐 테스트한 결과 평균 소요 시간은 약 11~12분이며, 분류 정확도는 거의 100%로 확인되었습니다. 일부 분류명 불일치는 Prompt 튜닝을 통해 해결하였습니다.

7. 한계 사항 & 주의점

• 최소 처리 단위: 100건 이상부터 배치 추론 가능
• 지원 포맷: CSV, JSON, XLSX만 가능
• 실시간 분류는 아님(배치 처리 방식)
• CloudWatch 기반의 수동적인 오류 모니터링

결론

Amazon Bedrock을 기반으로 한 이 자동화 솔루션은 대규모 텍스트 분류를 보다 빠르고 정확하게 수행할 수 있는 강력한 도구입니다. 다양한 산업에서 고객 문의 분석, 보험 청구서 분류, 고장 보고서 자동 처리 등에 응용할 수 있습니다. CDK 기반의 자동화 구성으로 배포도 쉽고, 유지보수도 효율적입니다.

추가로, 이 시스템을 실시간 API 형태로 전환하거나 다국어 처리를 위한 다중 모델 연동도 고려해 볼 수 있습니다. 자동화를 고민하고 있는 기업이라면 지금이 바로 시작할 때입니다.

[1] https://aws.amazon.com/blogs/machine-learning/classify-call-center-conversations-with-amazon-bedrock-batch-inference/