Amazon SageMaker에서 Nova 모델 커스터마이징 완전 정복 가이드

Amazon SageMaker에서 Amazon Nova 모델 커스터마이징 활용 가이드

최근 Amazon은 자사의 생성형 AI 엔진 Nova를 Amazon SageMaker와의 통합을 통해 더욱 유연하게 맞춤화할 수 있는 기능들을 선보였습니다. 이번 업데이트를 통해 기업은 Nova Micro, Nova Lite, Nova Pro 모델을 자사 고유의 지식과 워크플로우, 브랜드에 최적화된 형태로 손쉽게 커스터마이징할 수 있게 되었습니다. 본 글에서는 Nova 모델 커스터마이징 기능의 개요와 활용 방법, 배포 가이드 및 실질적인 적용 방식에 대해 자세히 안내드립니다.

Nova 커스터마이징 개요

Amazon Nova는 이번 업데이트를 통해 생성형 AI 애플리케이션에 필요한 전 주기 학습 및 배포 기능을 제공합니다. 주요 커스터마이징 기법은 다음과 같습니다.

• 추가 사전 학습 (Continued Pre-Training)
• 지도 방식 미세 조정 (Supervised Fine-Tuning, SFT)
• 직접 선호 최적화 (Direct Preference Optimization, DPO)
• 근사 정책 최적화 (Proximal Policy Optimization)
• 지식 증류 (Knowledge Distillation)

이러한 방법들은 파라미터 절약형 및 전체 모델 학습 방식 모두를 지원하여 기업 규모 및 인프라 여건에 따라 유연하게 도입할 수 있도록 설계되었습니다.

활용 사례 및 배포 구조

Nova 커스터마이징 기능은 SageMaker Training Jobs와 SageMaker HyperPod에서 활용할 수 있어 확장성과 자원 관리 측면에서 높은 탄력성을 제공합니다. 특히, HyperPod를 이용하면 대규모 분산 학습 환경에서도 안정적인 모델 훈련을 진행할 수 있습니다.

배포 측면에서는 Amazon Bedrock을 통해 맞춤형 Nova 모델을 실시간 추론 또는 Provisioned Throughput 방식으로 호출할 수 있습니다. 단, 파라미터 절약형 방식으로 학습된 모델만 On-Demand Inference 형태로 제공됩니다.

비교 및 자동화 고려사항

Nova 커스터마이징은 기존의 오픈소스 LLM을 SageMaker에 수동으로 구축하고 학습시키는 방식과 비교해 높은 자동화와 최적화된 성능을 제공합니다. 모델 학습, 튜닝, 배포까지의 Application Lifecycle이 사전 정의된 레시피로 구성되어 있으며 관련 리소스와 가이드가 이미 공개되어 있기 때문에 빠른 프로덕션 적용이 가능합니다.

활용 가이드의 핵심은 Amazon이 공개한 Nova 사용자 가이드와 GitHub에서 제공하는 SageMaker HyperPod 기반의 Nova 학습 레시피입니다. 이는 모델 커스터마이징 과정의 반복 학습, 배포, 최적화 등 전 과정을 자동화할 수 있는 기반입니다.

결론

Amazon Nova 모델의 SageMaker 기반 커스터마이징 기능은 생성형 AI 모델을 빠르게 내재화하고 비즈니스에 최적화할 수 있는 강력한 수단입니다. 기존 대비 뛰어난 유연성과 비용 효율성, 낮은 지연시간 등은 Nova를 활용한 AI 적용의 접근성을 크게 향상시킵니다. 현재 Nova 고객화 레시피는 미국 동부(버지니아 북부) 리전에서 사용할 수 있으며, 더 넓은 지역 확장은 차후 AWS 로드맵을 통해 확인 가능합니다.

Nova 커스터마이징을 통한 생성형 AI 적용 자동화와 고도화를 고려 중이라면, SageMaker 기반의 환경 구성과 HyperPod 활용을 적극 검토해보시기 바랍니다.

https://docs.aws.amazon.com/nova/latest/userguide/customization.html