AWS에서 생성형 AI 사용자 정의 접근 방식 선택하기

AWS에서 제공하는 생성형 AI 사용자 정의 접근 방식: 최적의 방법 선택하기

오늘날 기업은 다양하고 복잡한 AI 활용 시나리오에 직면해 있습니다. AWS를 통해 생성형 AI를 보다 효과적으로 사용하고자 한다면, 어떤 사용자 정의 방법을 선택하는 것이 효과적일까요? 이번 블로그에서는 AWS의 지침을 기반으로 생성형 AI 사용자 정의 스펙트럼에 대해 알아봅니다.

본문

핵심 내용 및 사례 소개

AWS는 Anthropic, Meta, Amazon을 포함한 다양한 파운데이션 모델을 Amazon Bedrock을 통해 제공하고 있습니다. 이러한 AI 모델을 사용하는 방법부터 맞춤형 모델을 트레이닝하는 부분까지 총 8단계의 결정 프레임워크를 제시합니다. 이 프레임워크는 점진적으로 모델의 복잡성을 높이며, 각 단계는 투자 비용, 데이터 요구 사항, 도메인 구체성을 고려하여 설계되었습니다.

생성형 AI 사용자 정의 스펙트럼의 8단계

1. 기본 모델 사용: 설정 없이 사용 가능
2. 프롬프트 엔지니어링: 시스템 프롬프트 최적화
3. RAG: 외부 데이터를 모델에 연결하여 정확성 향상
4. 프롬프트 캐싱: 반복 쿼리에 대해 대기 시간 및 비용 절감
5. 모델 증류: 대형 모델을 모방하는 작은 모델 학습
6. 파인 튜닝: 레이블된 데이터를 사용하여 모델 행동 조정
7. CPT: 대량의 도메인 데이터로 모델 기초 지식 확장
8. 맞춤형 모델 트레이닝: 완전히 사용자 정의된 모델 구축

이러한 단계별 접근법을 통해 기존 AI 모델을 보다 효과적으로 활용할 수 있으며, 각 단계에서 요구되는 서비스는 Amazon Bedrock 및 Amazon SageMaker를 통해 지원됩니다.

AWS 서비스 매핑
AWS의 서비스 매핑은 각 단계에 필요한 서비스를 보다 명확히 보여줍니다. 예를 들어 1단계부터 7단계까지는 Amazon Bedrock을 활용하고, 6단계에서 8단계까지는 Amazon SageMaker가 각 사용자 정의 작업을 지원합니다.

성공 사례

• DoorDash는 Amazon Bedrock과 Anthropic Claude를 활용하여 2개월 만에 AI 자체 서비스를 구축하고 있습니다.
• Fractal Analytics는 RAG를 통해 콜 센터의 쿼리 처리 시간을 줄였습니다.

결론
생성형 AI는 다양한 워크로드에 활용될 수 있지만, 어떤 사용자 정의가 필요한지 정확히 판단하는 것이 중요합니다. AWS의 8단계 결정 프레임워크를 따라 적절한 사용자 정의 접근 방식을 선택하면 비용 절감과 효율적인 AI 도입이 가능합니다.

[1] https://aws.amazon.com/blogs/machine-learning/the-generative-ai-customization-spectrum-from-prompt-engineering-to-custom-models-on-aws/