AWS를 활용한 엔터프라이즈 AI 모델 액세스 및 비용 효율성 개선법

AWS를 활용하여 엔터프라이즈 AI 모델 액세스 및 비용 효율성 개선하기

오늘날 많은 기업들이 AI 모델을 활용하여 혁신을 추구하고 있습니다. 이에 따라 AWS에서는 Amazon Bedrock과 AWS Marketplace Private Pricing Offers(이하 MPPO)를 통해 효과적으로 AI 모델을 관리할 수 있는 솔루션을 제공합니다. 본 포스트에서는 MPPO와 AWS License Manager를 활용한 자동화된 선별 프로세스를 통해 AI 모델 액세스를 효율화하는 방법을 소개합니다.

주요 내용

AI 모델 배포는 여러 AWS 계정에서 액세스를 관리하는 데 복잡성을 야기하기도 합니다. 특히 각 워크로드 계정이 AWS Marketplace의 MPPO에 각각 개별적으로 구독 및 수락해야 하는 경우가 이에 해당합니다. Amazon Bedrock의 관리된 자격 권한을 사용하면 중앙 계정에서 단일 구독 후 조직 내에 액세스를 배포할 수 있는 간편한 방안을 제공합니다.

AWS Marketplace Private Pricing Offers 활성화 방법

AWS Marketplace Private Pricing Offers를 활용하여 Amazon Bedrock의 서드파티 AI 모델에 대한 사용자 정의 요금을 협상할 수 있습니다. 이때, 두 가지 방법을 통해 이러한 권한을 활성화할 수 있습니다.

1. 경량 스크립트 경로: 기존의 신뢰할 수 있는 라이센스를 위한 일회용 방식. AWS License Manager 콘솔에서 수동으로 승인을 실시하는 경향이 있지만, 수작업이 추가로 필요하며 종종 간과되기 쉽습니다.

2. CDK 자동화 경로: 새로운 AWS Marketplace 계약을 처리하고 지속적인 이벤트 기반 자동화를 통해 서드파티 모델의 접근을 자동화합니다. AWS EventBridge와 AWS Lambda를 활용하여 선택된 인증된 셀러로부터 이벤트를 수신하고, 목록을 기반으로 자동화된 결정을 내립니다.

자동화된 가격 적용의 이점

• 빠른 요금 적용: 협상된 요금이 ACTIVE 또는 WORKFLOW_COMPLETED 상태에 도달하면 수동 검토 없이도 적용됩니다.
• 일관된 처리: AWS Lambda 함수와 EventBridge 규칙 패턴을 통해 여러 계정에서 일관된 방식으로 활성화가 가능하며, 수작업의 필요가 줄어듭니다.
• 내장된 감사 기록: 모든 활성화 시도 또는 결정 내용이 CloudWatch Logs에 기록되어 언제 어떤 상태가 되었는지를 추적할 수 있습니다.

결론

경량 스크립트를 사용한 일회성 활성화 또는 CDK 자동화를 통한 지속적인 처리 두 가지 방법을 통해 Amazon Bedrock의 관리된 자격을 활성화할 수 있습니다. MPPO의 자동화된 접근은 기업 내에서 모델 구독을 효율적으로 관리할 수 있게 해줍니다.

[1] https://aws.amazon.com/blogs/machine-learning/manage-private-pricing-offers-for-amazon-bedrock-with-managed-entitlements/