2025년의 Amazon SageMaker AI 혁신과 최적화

2025년의 Amazon SageMaker AI: 혁신과 최적화

소개
최근 2025년 Amazon SageMaker AI가 제공하는 주요 인프라 개선을 살펴보면, 용량, 가격 성능, 가시성 및 사용성을 중점으로 다양한 혁신이 있었습니다. 이 시리즈의 첫 번째 부분에서 우리는 특히 유연한 훈련 계획과 추론 작업 부하의 가격 성능 개선에 대해 논의하고자 합니다.

본문

1. SageMaker의 유연한 훈련 계획
SageMaker AI 훈련 계획은 이제 인퍼런스 엔드포인트를 지원하여 강력한 용량 예약 기능을 확장합니다. 대규모 언어 모델(LLM) 배포에는 특히 신뢰할 수 있는 GPU 용량이 필요합니다. 이러한 필요성을 충족하기 위해 훈련 계획은 지정된 기간 동안 컴퓨팅 용량을 예약, 필요할 때 꼭 필요한 GPU 가용성을 제공합니다.

예약 워크플로우는 간단하고 유연하게 설계되었습니다. 사용자는 원하는 인스턴스 유형, 수량, 기간 및 시간대를 선택하여 적합한 용량 제공을 검색하고 예약을 생성할 수 있습니다. 이러한 프로세스는 명확한 가격 모델을 통해 예산 계획과 인프라 가용성에 대한 걱정을 최소화하고, 팀이 평가 메트릭과 모델 성과에 집중할 수 있도록 돕습니다.

2. 가격 성능 개선
2025년에 이루어진 SageMaker AI의 개선사항 중 하나는 인퍼런스 경제성을 최적화하는 것입니다. 유연한 훈련 계획은 인퍼런스 엔드포인트로 확장되며, Multi-AZ 가용성과 병렬 모델 복사 배치는 배포를 가속화합니다. EAGLE-3 추론 요청의 처리량을 향상시키며, 동적 다중 어댑터 인퍼런스는 on-demand 로딩을 가능케 합니다.

용량 성능 및 인퍼런스 구성 요소의 개선
SageMaker AI의 인퍼런스 구성 요소는 고가용성, 병렬 확장성, NVMe 캐싱 등을 도입하여 AI 스케일 실행을 더욱 안정적이고 효율적으로 만듭니다.

Multi-AZ 고가용성은 단일 하드웨어 오류, 네트워크 문제, 가용성 영역 장애 등의 위험 요소를 감소시키고 트래픽을 즉시 무중단 배포가 가능합니다.

결론
SageMaker AI의 2025년 개선 사항들은 AI 생산 환경을 보다 접근성 있고 신뢰할 수 있으며 비용 효율적으로 개선하는 데 큰 역할을 했습니다. 유연한 훈련 계획을 통해 필요할 때 정확한 GPU 용량을 확보하고, Multi-AZ 고가용성을 통해 생산 배포가 빠르게 확장될 수 있도록 도움을 줍니다. 이러한 기능들은 AI 실행의 운영 복잡성을 줄이고, 팀이 모델 성과에 집중할 수 있도록 돕습니다.

여기서 논의된 개선 사항들은 AI 실무자들이 직면하는 주요 과제를 해결하는 데 직간접적으로 기여합니다. 용량 예약, 자원 관리의 지능화, 성능 최적화 등으로 SageMaker AI는 조직이 자신 있는 AI 애플리케이션 배포를 가능하게 하고 있습니다.

더 알아보려면 아래 원문을 확인하세요.

[1] https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-ai-in-2025-a-year-in-review-part-1-flexible-training-plans-and-improvements-to-price-performance-for-inference-workloads/