Amazon SageMaker와 Bedrock AgentCore로 GPT-OSS 기반 멀티에이전트 워크플로우 구축

아마존 SageMaker AI와 Bedrock AgentCore로 GPT-OSS 모델 기반의 에이전트 워크플로우 구축하기

최근 오픈AI(OpenAI)에서 공개한 오픈소스 모델인 GPT-OSS-120B와 GPT-OSS-20B는 Mixture of Experts(MoE) 구조와 128K 컨텍스트 윈도우를 제공하며, 복잡한 문제 해결과 에이전트 지향 워크플로우에 강점을 보입니다. 이러한 고성능 LLM(Large Language Model)을 Amazon SageMaker AI와 Bedrock AgentCore를 통해 손쉽게 배포하고, LangGraph를 활용하여 업무 자동화와 분석을 구현할 수 있는 방법에 대해 소개합니다.

GPT-OSS 모델 활용 개요 및 배포 전략

Amazon SageMaker AI는 GPU 인스턴스를 자동으로 구성하고 모델을 다운로드 및 배포하는 관리형 플랫폼입니다. 특히 GPT-OSS 모델은 MXFP4 방식의 4-bit 양자화로 부하를 최소화하면서도 높은 추론 성능을 제공합니다. Amazon SageMaker에서는 P5(H100), G6e(L40) 등의 인스턴스를 활용하여 vLLM 프레임워크와 함께 모델을 효율적으로 운영할 수 있습니다.

vLLM은 대형 언어모델 추론에 최적화된 오픈소스 서빙 프레임워크로, 컨테이너화하여 SageMaker에 직접 배포가 가능합니다. Studio 환경에서 Dockerfile을 사용해 이미지를 만들고, Amazon ECR에 푸시한 후 JupyterLab을 통해 추론 엔드포인트를 생성하면 손쉽게 서비스를 구축할 수 있습니다.

LangGraph 기반 멀티 에이전트 시스템 설계

멀티 에이전트 프레임워크인 LangGraph를 활용하면 복잡한 데이터를 분석하고 보고서를 생성하는 자동화 시스템을 구현할 수 있습니다. 본 예제에서는 주식 데이터 분석 봇을 구성하여 아래 세 가지 주요 기능을 수행합니다.

• gather_stock_data: 특정 주식의 가격 정보, 과거 데이터, 재무 지표, 시장 데이터 수집
• analyze_stock_performance: 기술 및 기본 분석 수행 (P/E, 변동성, 수익률 등)
• generate_stock_report: 분석 내용을 바탕으로 PDF 리포트를 생성하고 Amazon S3에 업로드

이러한 프로세스는 Jupyter에서 테스트 후 생산환경으로 곧바로 전환할 수 있어 반복적인 업무 흐름 자동화에 효과적입니다.

Bedrock AgentCore를 활용한 대규모 배포 가이드

LangGraph를 활용해 개발한 에이전트를 Amazon Bedrock AgentCore에 배포하면 컨테이너 오케스트레이션, 세션 관리, 확장성 등의 복잡한 작업을 AWS가 자동으로 처리합니다. 이를 위해 IAM 권한 설정, 인프라 구성, 이미지 빌드와 푸시, 실제 배포까지 Toolkit으로 자동화할 수 있습니다.

배포 후엔 단순한 HTTP 요청 형태로 에이전트를 호출할 수 있으며, 응답은 파싱하여 세부 분석 내용(json)과 보고서 경로(S3)를 추출해 실무 활용이 가능합니다.

에이전트 실행은 다음과 같이 API 호출을 이용합니다.

response = agentcore_client.invoke_agent_runtime(
    agentRuntimeArn=launch_result.agent_arn,
    qualifier="DEFAULT",
    payload=json.dumps({
        "prompt": "Analyze SIM_STOCK for investment purposes"
    })
)

GPT-OSS 기반 시스템 구성의 실제 효과 및 활용 전략

이러한 워크플로우 기반 시스템은 분석가의 반복 업무를 대체하거나 보조하여 업무 속도 및 품질을 향상시킬 수 있습니다. 예를 들어, 여러 종목의 데이터를 자동으로 수집하고 기술적 분석부터 리포트 생성까지 전 과정을 자동화함으로써 기존 수작업 대비 수 시간의 작업 시간을 절약할 수 있었습니다.

또한, SageMaker와 Bedrock AgentCore는 서버리스 구조로 확장 가능하므로, 수십 개의 에이전트를 동시에 작동시켜 실시간 시장 분석이나 대량 포트폴리오 평가 시스템에도 응용할 수 있습니다. 이러한 자동화 도입은 분석의 정량적 일관성과 문서화 측면에서도 유리하며, 기업 내 전략적 의사결정에 기여할 수 있습니다.

결론

AWS의 GPT-OSS 모델과 SageMaker AI, Bedrock AgentCore, LangGraph를 결합한 멀티에이전트 기반 자동화 시스템은 고도화된 분석과 다양한 도메인에서의 업무 자동화에 매우 효과적입니다. 특히 시스템 설계 및 배포 가이드는 전체 라이프사이클을 효율적으로 관리할 수 있도록 구성되어 있어 기업의 생성형 AI 자동화 전략에 바로 활용 가능합니다.

자세한 코드는 GitHub 저장소에서 확인 가능하며, 사용 사례별로 LangGraph의 플로우를 수정하여 손쉽게 확장할 수 있습니다: https://github.com/aws-samples/sagemaker-genai-hosting-examples/tree/main/OpenAI/gpt-oss/agents

https://aws.amazon.com/blogs/machine-learning/build-agentic-workflows-with-openai-gpt-oss-on-amazon-sagemaker-ai-and-amazon-bedrock-agentcore/