Managing ML Spaces with Amazon SageMaker HyperPod

Amazon SageMaker HyperPod를 통한 ML 공간 관리

클라우드 컴퓨팅의 발전과 함께 데이터 과학자 및 ML 엔지니어들이 보다 효과적인 데이터 작업 환경을 구축하는 것이 화두가 되고 있습니다. 이러한 수요를 충족하기 위해 Amazon Web Services는 Amazon SageMaker HyperPod를 통해 확장 가능한 인프라를 제공하고 있습니다. 본 포스트에서는 SageMaker Studio에서 HyperPod EKS 클러스터를 활용하여 JupyterLab 및 코드 편집 환경을 간편하게 관리하는 방법을 소개합니다.

SageMaker HyperPod: 효율적인 AI 작업 환경 구축

Amazon SageMaker HyperPod는 대규모 파운데이션 모델(FM) 학습 및 추론을 위한 인프라를 제공합니다. Amazon EKS 오케스트레이션을 통해 수백 개의 가속기에서 분산 학습 작업을 실행할 수 있으며, 고내구성 및 자동 장애 복구가 내장되어 있습니다.

HyperPod는 인터랙티브 개발 환경을 직접 클러스터 위에서 생성하고 관리할 수 있는 SageMaker Spaces 기능을 제공합니다. 이는 GPU 투자를 극대화하고 동일 인프라에서 인터랙티브 작업과 학습 및 모델 배포를 수행할 수 있게 합니다.

HyperPod와 SageMaker Studio를 활용한 공간 관리

SageMaker Studio UI의 새로운 기능을 통해 데이터 과학자들은 CLI 도구 없이 Spaces를 만들고 구성하며 시작, 종료, 열기 등의 작업을 수행할 수 있습니다. 이 UI는 간단한 양식 입력을 통해 컴퓨팅, 네임스페이스, 스토리지 및 이미지 설정을 손쉽게 관리할 수 있게 합니다.

새로운 기능의 주요 내용은 다음과 같습니다:

• 가이드 양식을 통한 Space 생성: 컴퓨팅, 네임스페이스, 스토리지, HyperPod 작업 거버넌스를 설정하여 Space를 쉽게 생성할 수 있습니다.
• Space 목록 보기: 이름, 응용 프로그램 유형, 상태, 접근 유형, 스토리지, GPU, vCPU 할당 등의 정보를 보여 줍니다.
• Space 자원 최적화를 위한 시작 및 종료 기능 제공: 사용하지 않을 때는 자원을 정리할 수 있습니다.
• IDE와 노트북 탭에서 직접 브라우저를 통해 Space에 접근 가능 (JupyterLab 또는 코드 편집기).

결론

Amazon SageMaker Studio와 HyperPod를 통한 Space 관리 기능은 데이터 과학자들이 효율적으로 클러스터를 활용하여 생산성을 높일 수 있게 해줍니다. 이제 데이터 과학자들은 복잡한 CLI 도구나 Kubernetes 개념을 배우지 않고도, 몇 분 만에 모델 개발 환경을 설정할 수 있습니다. HyperPod의 다양한 기능과 결합하여 조직은 공용 클러스터에 대한 셀프서비스 접근성을 제공하며, 비용 관리 및 자원 배분의 공정성을 유지할 수 있습니다.

더 많은 정보는 Amazon SageMaker HyperPod Spaces 문서를 참고하세요.

[1] https://aws.amazon.com/blogs/machine-learning/manage-amazon-sagemaker-hyperpod-spaces-directly-from-sagemaker-studio/