NVIDIA Nemotron 3 Ultra Now Available on Amazon SageMaker JumpStart

NVIDIA Nemotron 3 Ultra의 Amazon SageMaker JumpStart 도입 소식

최근 NVIDIA Nemotron 3 Ultra가 Amazon SageMaker JumpStart에 새롭게 추가되었습니다. Nemotron 3 Ultra 모델은 자율 에이전트의 복잡한 작업을 위한 모델로, 빠른 추론 속도와 비용 효율성을 통해 최적의 성능을 제공합니다. 이번 글에서는 Nemotron 3 Ultra의 핵심 기능과 활용 케이스, 그리고 SageMaker JumpStart를 통한 배포 방법에 대해 알아보겠습니다.

NVIDIA Nemotron 3 Ultra 개요

NVIDIA Nemotron 3 Ultra는 5500억 개의 매개 변수를 지닌 대형 언어 모델로, 활성화된 매개 변수만 사용하여 효율성을 높이는 하이브리드 Transformer-Mamba 프레임워크로 설계되었습니다. 이 모델은 NVFP4 정밀도를 사용하여 5배 빠른 추론 속도를 제공하며, 복잡한 작업의 비용을 최대 30% 절감합니다.

Agentic AI를 위한 맞춤형 모델의 필요성

에이전트는 단순한 응답을 넘어 계획 수립, 도구 호출, 결과 확인 등 복잡한 작업을 수행해야 합니다. Nemotron 3 Ultra는 MoE 아키텍처를 통해 이러한 요구사항을 직접적으로 해결합니다. 이는 에이전트가 다양한 단계를 유지하며 일관성을 유지하고 비용을 관리할 수 있도록 합니다.

엔터프라이즈 활용 사례

Nemotron 3 Ultra는 다음과 같은 복잡한 멀티스텝 추론이 필요한 작업에서 탁월한 성능을 발휘합니다:

• 에이전트 오케스트레이터: 하위 에이전트 조율 및 상태 관리
• 코딩 에이전트: 코드 생성, 테스트, 디버깅 작업
• 심층 연구: 여러 소스로부터 정보 합성 및 지속적 추론
• 복잡한 엔터프라이즈 워크플로우: 의사 결정 분기 및 오류 복구가 필요한 자동화 프로세스

SageMaker JumpStart로 시작하기

Nemotron 3 Ultra를 Amazon SageMaker JumpStart에서 손쉽게 배포할 수 있습니다. 이를 통해 인프라 관리나 프레임워크 설정 없이 손쉽게 시작할 수 있습니다.

사전 준비 사항

• AWS 계정
• SageMaker JumpStart에 대한 적절한 권한
• GPU 인스턴스를 위한 충분한 서비스 할당량

SageMaker Studio를 통한 배포

1. Amazon SageMaker Studio 열기
2. 좌측 탐색 창에서 'SageMaker JumpStart' 선택
3. Nemotron 3 Ultra 검색 및 모델 카드 선택
4. '배포' 선택 후 인스턴스 타입 선택
5. 배포 설정 검토 후 '배포' 선택
6. 'InService' 상태가 나타날 때까지 대기

결론

NVIDIA Nemotron 3 Ultra는 Amazon SageMaker JumpStart를 통해 인류사회에 새로운 AI 발전을 선사합니다. 최적화된 성능과 비용 효율성으로 많은 기업들이 이 혁신적인 모델을 통해 에이전트 오케스트레이터, 코딩 에이전트 등의 다양한 용도로 활용할 수 있습니다.

지금 바로 SageMaker JumpStart에서 Nemotron 3 Ultra를 검색하여 시작해보세요.

[1] https://aws.amazon.com/blogs/machine-learning/nvidia-nemotron-3-ultra-now-available-on-amazon-sagemaker-jumpstart/