AWS SageMaker JumpStart에 NVIDIA Nemotron 3.5 Super VL 도입

AWS는 최근 Amazon SageMaker JumpStart에 NVIDIA Nemotron 3.5 Super VL 모델을 도입했습니다. 이 모델은 이미지, 비디오, 텍스트를 입력하여 텍스트를 생성할 수 있는 강력한 비전-언어 모델입니다.

Nemotron 3.5 Super VL의 주요 특징

Nemotron 3.5 Super VL은 120B 파라미터를 적극적으로 활용하는 모델로, Mamba-2와 Mixture-of-Experts (MoE) 레이어를 결합한 언어 백본을 사용합니다. 또한 C-RADIO 비전 인코더를 포함하고 있어 이미지를 문서로 변환하고, 비디오 클립을 분석할 수 있습니다.

AWS SageMaker JumpStart에서의 배포

AWS SageMaker JumpStart를 사용하면 이 모델을 쉽게 배포할 수 있습니다. SageMaker Studio 또는 SageMaker Python SDK를 통해 간단하게 설정할 수 있으며, 최적화된 성능을 제공하는 NVFP4 및 고정밀 참조 가중치를 제공하는 BF16 두 가지 변형을 제공합니다. SageMaker Python SDK에서는 배포과정이 자동으로 이루어집니다.

활용 사례

NVIDIA Nemotron 3.5 Super VL은 문서 인텔리전스부터 GUI 이해, 비디오 인식까지 다양한 분야에 유용합니다. 특히, 멀티모달 에이전트 워크플로를 지원하므로, 도구 호출과 JSON 스키마 출력을 활용한 것에도 최적입니다.

SageMaker JumpStart에서의 성능

성능은 SageMaker JumpStart에서 충분히 검증되었습니다. 인스턴스 타입에 따라 주어진 작업에 대한 처리 속도와 효율성이 차별화되며, 구체적인 실험 결과로 성능을 체감할 수 있습니다.

결론

Nemotron 3.5 Super VL은 이미지와 비디오 처리 및 문서 이해력 측면에서 강력한 도구로 AWS 환경에서 손쉽게 활용할 수 있도록 설계되었습니다. 최적화된 성능과 높은 유연성을 제공하는 Amazon SageMaker JumpStart를 통해 AI 에이전트를 구축하고, 활용 사례에 맞게 커스터마이징할 수 있습니다.

[1] URL: AWS 소개 페이지