AWS SageMaker를 통한 사용량 기반 과금 모델 도입

AWS SageMaker의 양방향 스트리밍을 통한 사용량 기반 과금 모델 도입

도입

인공지능 모델을 실시간으로 처리하고자 하는 수많은 기업들은 AWS의 SageMaker를 통해 혁신적인 솔루션을 활용하고 있습니다. 이제 이런 모델의 처리 과정에서 발생하는 사용량에 기반한 새로운 과금 모델이 도입되어 고객과 제공자 모두에게 유연한 요금제를 제공합니다. 이 블로그에서는 Amazon SageMaker의 양방향 스트리밍을 기반으로 한 사용량 기반 과금의 주요 기능과 이를 통해 얻을 수 있는 이점에 대해 알아보겠습니다.

본문

AWS SageMaker는 AI 모델을 활용한 실시간 예측 기능을 제공하며, 특히 음성 인식, 번역 및 자막 생성과 같은 분야에서 강력한 성능을 발휘합니다. SageMaker의 양방향 스트리밍은 사용자가 이 모델을 실시간으로 요청하고 결과를 받을 수 있는 환경을 제공합니다.

기존의 고정형 시간 기반 과금 모델에서, 서비스 구동 중에는 사용 여부와 상관없이 요금이 부과되는 경우가 많았습니다. 하지만 양방향 스트리밍에서는 실시간으로 모델을 사용하는 동안의 실제 사용량에 따라 요금이 부과됩니다.

• 사례: Deepgram과의 협업
  • Deepgram은 AWS와 협력하여 음성 인식 및 텍스트 변환 모델에 사용량 기반 과금 방식을 적용했습니다. 사용자들은 청취한 오디오 시간에 따라 청구되며, 이는 보다 투명하게 사용 요금을 산정할 수 있게 합니다.

양방향 스트리밍을 통한 사용량 기반 모델은 두 가지 주요 웹소켓 연결을 통해 작동합니다:

• 데이터 연결: 실제 모델 예측 요청 및 응답이 전달됩니다.
• 메타데이터 연결: 사용량 데이터를 전송하여 과금 정보를 수집합니다.

이러한 모델은 사용자가 모델 서버에 연결하고 스트리밍을 통해 자료를 주고받는 과정을 자동으로 처리하여 클라이언트 측의 별도 설정이 필요 없습니다.

결론

사용량 기반 과금 모델을 통해 고객은 실제로 소비한 만큼만 결제할 수 있고, 모델 제공자 역시 투명하게 과금 내용을 관리할 수 있습니다. 이는 특히 인공지능 모델을 다량으로 활용하는 기업들에게 보다 효율적인 비용 관리를 가능하게 하며, AWS Marketplace를 통해 간편하게 사용할 수 있습니다. 고객 또는 모델 제공자 입장에서는 AWS Marketplace에서 Deepgram과 같은 솔루션을 구독하고 사용하면 됩니다.

[1] https://aws.amazon.com/blogs/machine-learning/introducing-usage-based-pricing-for-amazon-sagemaker-ai-bidirectional-streaming/