메뉴 닫기

AWS에서 코코로-82M 모델을 세이지메이커 AI 엔드포인트에 배포하고 오토스케일링 최적화하기

AWS에서 코코로-82M 모델을 아마존 세이지메이커(Amazon SageMaker) AI 실시간 엔드포인트에서 커스텀 컨테이너로 배포하고 오토스케일링을 최적화하는 방법을 다루는 포스트입니다. 도입AWS의 텍스트-투-스피치(TTS) 엔드포인트가 예상치 못한 트래픽 급증을 겪을…