Amazon EKS에서 SageMaker AI를 활용한 AI 워크플로우 강화

서론

데이터 과학자들은 Amazon Elastic Kubernetes Service (Amazon EKS)에서 AI 워크플로우를 최적화하기 위해 인터랙티브 IDE가 필요합니다. 그러나 이러한 IDE를 운영하기 위해 클러스터를 나가 단독 JupyterHub로 이동하는 경우가 많습니다. Amazon SageMaker AI의 Spaces 애드온은 이러한 문제를 해결합니다.

본문

핵심 내용 및 사례

Amazon EKS에서 SageMaker AI의 Spaces 애드온을 설치하면 JupyterLab과 같은 관리 환경을 제공하여 클러스터 내에서 직접 실행할 수 있습니다. 이는 별도의 JupyterHub 환경을 구축하는 것보다 훨씬 효율적인 방식을 제공합니다. SageMaker AI를 통해 데이터 과학자는 약 5분 만에 완전 구성된 작업 공간을 시작할 수 있습니다.

Amazon EKS의 클러스터는 네트워크 및 접근, 클러스터 라우팅, 컴퓨팅 및 스토리지의 세 레이어로 구성됩니다. 이는 GPU 노드의 활용을 최대 30%까지 높이고, 지속적인 GPU 환경의 높은 비용을 제거합니다.

설치 및 활용 가이드

설치를 위해 AWS CLI, kubectl, Helm 등의 도구가 필요하며, IAM 권한, TLS 인증서, KMS 키 등 다양한 설정이 요구됩니다. JupyterLab Space를 생성하여 인터랙티브한 세션을 브라우저나 VS Code를 통해 접근할 수 있습니다.

결론

Amazon SageMaker AI의 Spaces 애드온을 Amazon EKS에서 설치하면 하나의 환경에서 다양한 인터랙티브 IDE를 운영할 수 있어 관리가 편리하고, 노트북 실행 시간을 줄일 수 있습니다. 향후에는 AWS WAF를 부착하거나 추가 제공자를 연합 설정하는 방안을 고려할 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/run-interactive-ides-on-amazon-eks-with-sagemaker-ai-to-power-up-your-ai-workflows/