아마존 EC2 P6e-GB200 UltraServer로 구현하는 초거대 AI 인프라 혁신

아마존 EC2 P6e-GB200 UltraServer: AI 워크로드 성능 혁신의 새로운 기준

최근 AI 모델의 복잡도가 기하급수적으로 증가하며 고성능 연산 인프라의 필요성이 그 어느 때보다 중요해졌습니다. 특히 생성형 AI, 추론 기반 엔진, 대규모 언어 모델(LLM)과 같은 트릴리언(조 단위) 파라미터 규모의 기초 모델을 위한 학습 및 추론 환경에 맞는 하드웨어 인프라가 필수가 되었습니다. 이러한 수요에 대한 응답으로 AWS는 혁신적인 신제품 Amazon EC2 P6e-GB200 UltraServer를 정식 출시하며, 차세대 GPU 기반 AI 컴퓨팅 능력을 고객에게 제공합니다.

P6e-GB200 UltraServer의 주요 특징 및 기술 구성 요소

Amazon EC2 P6e-GB200 UltraServer는 NVIDIA GB200 NVL72로 가속화된 고성능 AI 컴퓨팅 인스턴스입니다. 이는 현재 EC2에서 제공하는 GPU 기반 인스턴스 중 가장 강력한 성능을 자랑하며, 특히 기초 모델 학습 및 추론에 최적화되었습니다. 다음과 같은 사양을 제공합니다.

• 최대 72개의 NVIDIA Blackwell GPU(NVLink 도메인 내)
• 360 PFLOPS의 FP8 연산 성능(희소성 적용 없음)
• 총 13.4TB의 초고속 HBM3e 메모리
• 최대 28.8 Tbps의 Elastic Fabric Adapter v4(EFAv4) 네트워킹
• AWS Nitro System을 통한 높은 보안성과 확장성 보장

특히 Nitro System은 하이퍼바이저 성능을 극대화하고 하드웨어 수준 가상화를 통해 보안 격리가 보장되어 민감한 AI 워크로드를 안전하게 운용할 수 있게 해줍니다.

적용 분야 및 활용 사례

P6e-GB200 UltraServer는 단순한 GPU 인스턴스를 넘어, 초거대 AI 모델, 에이전트 AI, 자연어 처리(NLP), 생성형 비전 모델 등 초고용량 연산을 요구하는 다양한 분야에서 활용도가 높습니다. 특히 개발자와 데이터 사이언티스트는 EC2 UltraCluster 내에서 수만 개의 GPU 노드를 무중단으로 스케일 아웃할 수 있어, 데이터 기반 연구부터 서비스 배포까지 자동화된 AI 파이프라인 구축이 가능합니다.

또한, EC2 Capacity Blocks for ML을 통해 예약형으로 인스턴스 리소스를 활용할 수 있어 효율적인 워크로드 계획과 탄력적인 배포 전략 수립이 가능합니다. 이를 통해 AI 훈련의 과금 예측이 용이해지고, 사용량 기반 최적화도 진행할 수 있습니다.

배포 및 활용 가이드

현재 P6e-GB200 UltraServer는 미국 동부 버지니아 리전의 댈러스 로컬존(us-east-1-dfw-2a)을 통해 제공되며, 두 가지 인스턴스 크기를 제공합니다:

• u-p6e-gb200x72: 72 GPU (NVLink 도메인)
• u-p6e-gb200x36: 36 GPU (NVLink 도메인)

AI 버추얼 클러스터를 통해 수천 개에서 수만 개의 GPU로 빠르게 확장 가능하며, AWS Batch, SageMaker, ECS와 같은 서비스와 연동하여 환경 자동화 및 워크로드 최적화가 가능합니다.

결론

Amazon EC2 P6e-GB200 UltraServer는 대규모 AI 교육부터 실시간 추론 처리에 이르기까지, 다양한 고성능 컴퓨팅 요구를 충족할 수 있는 인프라로 자리 잡고 있습니다. AI 모델 개발 전반을 자동화하고 인프라 확장을 유연하게 구성하고자 하는 기업과 개발팀에게 최적의 선택지가 될 것입니다. 기존 EC2 인스턴스와의 성능 비교로도 압도적인 GPU 및 메모리 처리 성능을 자랑하는 만큼, AI 응용 분야에서 경쟁 우위를 확보할 수 있습니다.

https://aws.amazon.com/ec2/instance-types/p6