TP ICAP의 CRM 데이터를 실시간 인사이트로 전환한 Amazon Bedrock 활용 사례

고객 데이터를 실시간 인사이트로 전환하는 방법: Amazon Bedrock을 활용한 TP ICAP의 CRM 혁신 사례

소개

기업의 CRM 시스템에는 수많은 회의 기록, 고객 상호작용 데이터, 전략적 제안 등 방대한 양의 정성 정보가 담겨 있습니다. 하지만 이러한 데이터를 실질적인 비즈니스 인사이트로 빠르게 전환하는 것은 여전히 어려운 과제입니다. 글로벌 금융 중개사인 TP ICAP은 Amazon Bedrock을 활용해 이러한 문제를 해결했습니다. 이 포스트에서는 TP ICAP이 어떻게 자체 솔루션 ClientIQ를 개발하고 배포하여, 기존의 수동 CRM 분석 과정을 자동화하고 가시적인 비즈니스 가치를 실현했는지 소개합니다.

본론: Amazon Bedrock 기반 CRM 활용 자동화 사례

문제 정의와 과제

TP ICAP은 Salesforce CRM에 수만 건의 회의 기록을 보유하고 있었지만, 비즈니스 유저들이 이 데이터를 수작업으로 분석하거나 조회하는 데 어려움을 겪고 있었습니다. 정보는 분명 존재했지만 접근성과 활용성이 떨어져, 전략적 의사결정에 실시간으로 활용하기 어려웠습니다. 이에 TP ICAP Innovation Lab은 데이터 자동화, 정밀 AI 모델링, 실시간 추론을 기반으로 하는 솔루션을 기획·구축하고자 했습니다.

ClientIQ: 자연어 기반 CRM 데이터 인터페이스

ClientIQ는 Salesforce 회의 데이터를 기반으로 사용자가 자연어로 질문을 던지고, 이에 대한 정확한 응답을 제공하는 AI 기반 시스템입니다. 예를 들어, "우리는 고객과의 관계 개선을 위해 무엇을 할 수 있을까?" 혹은 "고객 반응은 어땠는가?" 등 실제 회의 내용을 문맥상으로 요약·분석해줍니다.

이 시스템은 두 가지 추론 워크플로우를 기반으로 구현됩니다:

1. 비정형 회의 노트를 위한 RAG(Retrieval Augmented Generation)
2. 구조화된 데이터 셋(SQL형)을 위한 텍스트 투 SQL(text-to-SQL)

사용자는 시간 범위, 지역, 부서 등의 필터링을 통해 분석 정확도를 높일 수 있으며, 해당 Salesforce 원문 데이터로 직접 연결도 가능합니다.

솔루션 아키텍처

TP ICAP의 ClientIQ는 Amazon Bedrock의 다양한 관리형 기능과 AWS 서비스들을 통합하여 완성된 CRM 분석 플랫폼입니다.

아키텍처 주요 구성 요소:

• 사용자 프론트엔드: React 앱으로 Amazon S3에 호스팅
• 실시간 통신: Amazon API Gateway + WebSocket
• 데이터 처리: AWS Lambda, Amazon SQS
• 데이터 저장 및 분석: Amazon S3, AWS Glue, Amazon Athena
• 벡터 기반 문서 검색: Amazon OpenSearch Serverless
• AI 추론 및 평가: Amazon Bedrock, Amazon Titan, Amazon Nova Pro

데이터 수집과 전처리 전략

ClientIQ의 효과적인 활용을 위해, Salesforce 데이터는 고객사 맞춤 커넥터를 통해 Amazon S3로 일일 단위 전송됩니다. 각 회의는 개별 CSV 파일로 변환되고, Amazon Nova Pro 기반 자동 태깅으로 메타데이터(지역, 부서, 브랜드 등)를 생성합니다. 이 구조 덕분에 RAG 검색 품질이 향상되어 보다 정확한 검색 결과를 제공합니다.

검색 정확성 향상을 위한 하이브리드 검색(Hybrid Search)

ClientIQ는 메타데이터 필터링과 의미 기반 검색을 결합한 하이브리드 검색 기술을 사용합니다. 예를 들어 "시카고에서 AnyCompany와 진행된 회의 노트 검색"과 같은 문장은 대상 도시에 대한 사전 필터링 이후 의미 기반 문서 검색이 진행되어 정확한 결과를 도출합니다.

Amazon Bedrock Knowledge Bases는 메타데이터 기반 수동 필터와 암시적 필터 기능을 모두 제공하여 검색 품질을 극대화합니다.

보안 및 권한 제어

ClientIQ는 Salesforce의 조직 기반 권한 모델을 유지한 채, Okta 그룹 클레임 기반 접근 제어를 구현했습니다. 예를 들어 특정 유저가 EMEA 권한만 가지고 있는 경우 해당 지역에 속하는 문서만 조회할 수 있도록 자동 필터링이 이루어집니다.

자동화된 평가와 검증: Amazon Bedrock Evaluations 활용

TP ICAP는 Amazon Bedrock Evaluations를 이용하여 RAG 응답 결과의 신뢰성과 정확도를 자동 분석해 품질 관리 체계를 구축했습니다. 실제 100개의 질의/응답 쌍으로 구성된 지표 기반 골드셋을 기반으로, 추론 정확도, 실제성, 문맥 적합성, 검색 품질 등을 평가하고 최적화를 반복했습니다.

이 모든 것은 CI/CD 파이프라인에 통합되어, 배포 시마다 품질 저하 없이 애플리케이션이 계속 개선됩니다.

비즈니스 성과

ClientIQ 도입 초기 사용자 20명을 대상으로 진행된 실험에서는 리서치 업무에 소요되는 시간이 75% 단축되었으며, 인사이트의 정량성과 정성 품질도 크게 향상된 것으로 나타났습니다. TP ICAP은 이를 기반으로 ClientIQ를 지능형 가상 어시스턴트로 고도화해, 여러 기업 시스템을 통합하여 더 광범위한 자동화 환경을 구축해갈 계획입니다.

결론

TP ICAP의 ClientIQ 사례는 Amazon Bedrock을 활용해 복잡하고 방대한 CRM 데이터를 자동화하고, 비즈니스 의사결정에 실질적인 도움을 주는 인사이트 제공 플랫폼을 단기간에 구축한 대표적인 사례입니다. RAG 기술, 텍스트 투 SQL, 메타데이터 강화 검색 등 복합 기술을 현업 활용 환경으로 통합한 점에서, AI를 활용한 데이터 활용 혁신의 실질적인 예라고 할 수 있습니다.

TP ICAP 혁신 사례를 통해 AI 기반 CRM 활용 자동화를 준비하는 기업이라면, 프로덕션 수준의 솔루션을 보다 빠르게 구축하고 즉각적인 가치를 실현할 수 있는 방법을 모색할 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/how-tp-icap-transformed-crm-data-into-real-time-insights-with-amazon-bedrock/