AWS 기반 기업 AI를 위한 작업 인식 지식 압축

AWS는 글로벌 클라우드 리더로서 기업들이 인공지능(AI)을 활용하여 혁신을 촉진하고 비용을 절감하며 더욱 효율적으로 확장할 수 있도록 돕고 있습니다. 특히, 복잡한 분석 작업에 필요한 정보를 효과적으로 검색할 수 없었던 기존의 검색 기반 기술을 개선하기 위해, 작업 인식 지식 압축(Task-Aware Knowledge Compression, TAKC)이 도입되었습니다. 이 포스트에서는 TAKC가 왜 중요한지, 어떻게 활용되는지, 그리고 AWS에서의 구현 사례를 소개합니다.

TAKC의 주요 내용 및 활용 사례

TAKC는 대량의 문서를 대상으로 작업 중심의 요약을 생성하여 AI 시스템의 검색 효율을 높입니다. 예를 들어, 특정 작업을 위한 요약 정보를 생성하여 여러 문서에 흩어져 있는 정보를 통합하고, 불필요한 데이터를 제거하여 AI의 정확성을 높이는 것을 목표로 합니다.

TAKC의 활용 사례로는, 예를 들어 제조업체 인수에 대한 재무 실사의 경우, 12개의 자회사의 재무제표와 200건 이상의 계약서, 환경 관련 보고서 및 법적 문서를 검토하여 재무 리스크를 파악해야 하는 경우가 있습니다. 이때, 일반적인 유사성 검색 기술을 사용하는 것은 교차 문서 연결을 놓치는 결과를 초래할 수 있습니다. TAKC는 이러한 문제를 해결하기 위해 문서를 작업별로 압축하여 필요한 정보만을 효과적으로 제공합니다.

TAKC는 자동화를 통해 문서의 압축을 오프라인에서 수행하며, 각 작업 유형에 따라 다양한 압축될 문서의 표현을 저장합니다. 예를 들어, 재무 분석을 위한 압축에서는 수익, 마진, 현금 흐름 데이터를 강조할 수 있으며, 콤플라이언스 리뷰를 위한 압축에서는 관련 규제 인용문과 위반 내역이 포함됩니다.

AWS에서의 TAKC 구현 아키텍처

AWS 기반의 TAKC 구현은 두 개의 서버리스 파이프라인을 포함합니다: 데이터 수집 및 압축 파이프라인과 인증된 쿼리 파이프라인입니다.

• AWS Lambda는 짧은 이벤트 기반 함수 호출을 처리하며, 데이터 수집과 압축 작업을 수행합니다.
• Amazon API Gateway는 REST 엔드포인트를 통해 쿼리 인터페이스를 제공합니다.
• Amazon ElastiCache Serverless는 압축된 데이터를 캐싱하여 신속한 쿼리 처리를 지원합니다.
• Amazon Cognito는 JWT 인증을 처리하여 보안성을 높입니다.

결론

TAKC는 수백 개의 문서에 걸친 복잡한 분석 작업에 필요한 정보를 효율적으로 검색할 수 있도록 설계된 기술입니다. AWS 기반 서버리스 아키텍처를 통해 구현되며, 데이터 압축 및 조회를 자동화하여 작업 중심의 지식 기반 접근을 가능하게 합니다. 기업 워크로드에서 교차 문서 추론과 안정적인 지식 기반을 다루어야 할 때 TAKC는 토큰 비용을 줄이면서 응답 품질을 향상시킬 수 있는 솔루션입니다.

[1] https://aws.amazon.com/blogs/machine-learning/beyond-rag-task-aware-knowledge-compression-for-enterprise-ai-on-aws/