PayU가 Amazon Bedrock을 활용해 보안을 강화한 엔터프라이즈 인공지능 비서 구축 사례
서론
최근 기업 현장에서 생성형 AI의 도입이 급속도로 확산되고 있으며, 다양한 자동화 및 활용 사례가 등장하고 있습니다. 하지만 산업군에 따라 보안과 데이터 규제에 대한 요구사항이 까다로운 경우, 퍼블릭 AI 서비스의 도입이 보안 리스크를 야기할 수 있습니다. 인도 중앙은행의 규제를 받는 핀테크 기업 PayU는 이런 보안 우려 속에서도 AI 기술을 활용한 혁신을 추구하기 위해 Amazon Bedrock 기반의 폐쇄형 엔터프라이즈 AI 비서를 구축했습니다. 이 글에서는 PayU의 성공 사례를 통해, 안전한 생성형 AI 도입 방안과 아키텍처 구성 요소를 살펴보겠습니다.
본론
- PayU의 도전 과제와 요구사항
PayU 내부에서는 기술 문제 해결, 이메일 작성, 정책 문서 활용 등을 위해 직원들이 생성형 AI 활용을 선호했습니다. 하지만 퍼블릭 AI 통신은 개인정보, 회계 정보, 시스템 기밀 정보를 외부로 노출할 위험이 있어 정보 보안팀의 우려가 제기됐고, 결국 외부 AI에 대한 접근은 제한되었습니다. 이에 따라 PayU는 데이터 유출을 방지하면서 AI의 생산성을 극대화할 수 있는 내부 전용 AI 비서 시스템을 개발하게 되었습니다.
- 아키텍처 및 주요 구성 요소
PayU는 Amazon Bedrock의 기능을 적극 활용해 프라이빗 환경에서 AI 서비스를 제공하고 있습니다. 아키텍처는 크게 프론트엔드(Open WebUI), 중간 계층(Access Gateway), 백엔드(FM, Agent, Knowledge Base)로 나뉘며, 모든 컴포넌트는 PayU의 VPC 내에서 동작하도록 설계되어 보안과 데이터 거버넌스를 강화했습니다.
- 프론트엔드: Open WebUI
Open WebUI는 사용자의 편리한 AI 접근성을 보장하는 오픈소스 웹 인터페이스로, SSO 및 RBAC(역할 기반 접근 제어)를 지원하여 부서별 권한 제어가 가능합니다. 모든 사용자 활동 기록은 Amazon RDS(PostgreSQL)에 저장되어 감사 및 보안 이슈 발생 시 추적이 용이합니다. 이를 Amazon EKS에서 컨테이너화하여 CI/CD와 자동 확장을 병행 구축했습니다.
- Bedrock Agents와 Knowledge Bases를 통한 업무 자동화
PayU는 부서 전용 AI 에이전트를 구성함으로써, 특정 업무에 특화된 데이터 접근과 응답 자동화를 실현했습니다. 예를 들어, HR 에이전트는 OpenSearch 기반 RAG 구조를 통해 사내 정책 문서를 자동으로 검색하고 설명합니다. 반면, 금융 데이터 에이전트는 text-to-SQL을 통해 질문을 구조화된 쿼리로 변환 후 Athena를 통해 실시간 분석 응답을 제공합니다.
- 민감 데이터 보호를 위한 AWS PrivateLink 활용
Amazon Bedrock 사용 시 API 호출 중 기밀 데이터가 외부로 유출되는 것을 막기 위해, PayU는 AWS PrivateLink로 자체 VPC와 Amazon Bedrock 간의 프라이빗 네트워크 인터페이스를 구축했습니다. 이를 통해 인터넷 게이트웨이 없이도 AI 서비스 호출이 가능하며, 기업 내부망 수준의 보안성을 확보했습니다.
- 배포 가이드 및 활용 방안
PayU의 구축 사례는 금융과 같은 강력한 보안을 요하는 산업에서 생성형 AI 도입의 정석을 보여줍니다. 다음과 같은 활용 및 확장 가이드를 참고할 수 있습니다.
- 자동화: 에이전트를 통한 CS 정책 응답 자동화 적용
- 활용: 사내 콘텐츠 및 보고서 재작성, 이메일 생성 효율화
- 배포: Amazon EKS 기반에 WebUI, Agent, Gateway 배포 자동화 구현
- 비교: 외부 챗GPT와 대비해 데이터 보안성과 통합성에서 높은 장점
결론
PayU의 사례는 보안 중심 환경에서도 Amazon Bedrock을 통해 AI를 안전하게 활용할 수 있다는 강력한 사례입니다. 해당 시스템 도입 이후 PayU 분석팀의 생산성이 30% 향상되었고, AI에 대한 전사적 관심 또한 높아졌습니다. 중요한 점은 단순히 기술 도입이 아니라 데이터 보호, 역할 분리, 통합 플랫폼 구축이라는 인프라 설계 원칙을 기반으로 활용 가치를 키웠다는 점입니다.
귀사의 조직도 AI 도입을 고민하고 있다면, Amazon Bedrock, Bedrock Agent, Knowledge Base, Guardrails와 같은 기능들을 검토하고 자동화 및 보안 통합 전략을 함께 모색해보는 것을 추천드립니다.
AI, Cloud 관련한 문의는 아래 연락처로 연락주세요!
(주)에이클라우드
이메일 : acloud@a-cloud.co.kr
회사 번호 : 02-538-3988
회사 홈페이지 : https://www.a-cloud.co.kr/
문의하기