Amazon SageMaker HyperPod 관리 및 거버넌스 모범 사례

Amazon SageMaker HyperPod 관리 및 거버넌스 모범 사례

도입

Amazon SageMaker HyperPod는 머신러닝(ML) 팀이 모델을 훈련하고 조정할 수 있도록 가속 컴퓨팅 리소스를 제공합니다. 여러 팀이 하나의 클러스터를 공유할 때 가장 중요한 부분은 클러스터의 올바른 운영과 거버넌스입니다. 이 글에서는 SageMaker Unified Studio를 통해 SageMaker HyperPod를 관리하며, 거버넌스 제어를 유지하는 방법을 살펴보겠습니다.

본문

• 조직, 프로젝트, 클러스터, 워크로드의 네 가지 계층
  조직 계층에서는 프로젝트 생성 및 사용 가능한 도구를 결정합니다. 프로젝트 계층은 협력의 컨텍스트와 프로젝트 멤버가 접근할 수 있는 AWS 리소스를 정의합니다. 클러스터 계층에서는 클러스터 구성과 운영을 통제합니다. 마지막으로 워크로드 계층에서는 작업 제출과 공유 용량 할당을 관리합니다. 각 계층의 제어는 서로 겹치지 않으며 독립적으로 작동합니다.

  

• 중앙 집중식 HyperPod 용량 조절
  SageMaker HyperPod 용량을 중앙에서 관리하면 각 테넌트에 워크로드, ID, 데이터, 네트워크, 작업 가시성 제어를 제공할 수 있습니다. 필요에 따라 별도의 인프라를 사용하여 하드웨어 분리를 수행할 수 있습니다.

  

• 클러스터 연결 승인 과정
  연결을 승인하기 전에 관리 계정을 문서화하고 워크로드 경계를 정의해야 합니다. SageMaker HyperPod 도움말 문서를 참고하여 요구 사항에 맞는 클러스터를 관리하고, 연결 계약을 통해 프로젝트와 클러스터 연결을 기록합니다.

결론

SageMaker Unified Studio를 활용하면 머신러닝 팀은 승인된 SageMaker HyperPod 컴퓨팅 리소스에 접근할 수 있으며, 인프라 팀은 중앙에서 클러스터를 운영할 수 있습니다. 비프로덕션 클러스터로 테스트를 시작하고 적절한 제어 계층과 가시성 정책을 설정한 후에 구축을 진행하세요.

[1] https://aws.amazon.com/blogs/machine-learning/best-practices-for-amazon-sagemaker-hyperpod-administration-and-governance/