Amazon Bedrock와 인도 지리적 크로스 리전 추론

소개

Amazon Bedrock은 혁신적인 AI 솔루션을 빠르게 구축하고 확장할 수 있는 플랫폼을 제공합니다. 이번 업데이트를 통해 Anthropic의 Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5를 인도에서 사용할 수 있는 인도 지리적 크로스 리전 추론 기능을 제공합니다. 이러한 기능은 인도에 위치한 기업들이 데이터를 지리적으로 유지해야 할 필요가 있을 때 매우 유용하게 활용될 수 있습니다.

본문

인도 크로스 리전 추론의 작동 방식

Amazon Bedrock의 인도 지리적 크로스 리전 추론은 애플리케이션의 규모를 달성하기 위해 다중 AWS 리전에 걸쳐 추론을 분산시킬 수 있는 프로파일을 제공합니다. 요청은 소스 리전에서 시작되며, 추론 프로파일에 정의된 대체 리전 중 하나로 자동으로 라우팅됩니다. 인도 지리적 프로파일은 추론을 ap-south-1과 ap-south-2 리전 내에서만 유지하여 데이터 전송을 제한합니다. 이러한 구성은 성능을 유지하고 피크 트래픽 시에도 일관된 응답을 제공하는 데 도움을 줍니다.

Claude 모델 접근 방법

Amazon Bedrock 콘솔의 텍스트 플레이그라운드에서 Claude 모델에 접근할 수 있으며 코딩이나 SDK 설정 없이 직접 사용할 수 있습니다. 다양한 모델을 전환하며 활용해 보고, 애플리케이션에 통합하기 전 느낌을 파악할 수 있습니다.

1. Amazon Bedrock 콘솔을 열고 테스트 아래의 플레이그라운드를 선택합니다.
2. 'Select model'을 선택하여 Anthropic Claude Opus 5를 프로파일로 선택하고 'Apply'를 클릭합니다.
3. 원하는 프롬프트를 입력하고 'Run'을 눌러 응답을 생성합니다.

API를 통한 모델 호출

AWS SDK 및 CLI를 사용하여 프로그래밍 방식으로 Claude 모델을 호출할 수 있습니다. Anthropic Messages API, InvokeModel API 및 Converse API를 활용하여 인도 지리적 추론 ID를 사용하여 접근 가능합니다.

import boto3
import json

# Bedrock Runtime 클라이언트 생성
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="ap-south-1"
)

# Claude Sonnet 5 호출
response = bedrock_runtime.invoke_model(
    modelId="in.anthropic.claude-sonnet-5",
    contentType="application/json",
    accept="application/json",
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": "Amazon Bedrock의 기능에 대해 설명해 주세요."
            }
        ]
    })
)

result = json.loads(response["body"].read())
print(result["content"][0]["text"])

이 코드를 활용하여 빠르게 API를 통해 Claude 모델을 호출하고 응답을 받을 수 있습니다.

결론

이번 업데이트로 Amazon Bedrock는 인도의 Claude 모델 사용 사례를 지원하는 인프라를 제공합니다. 이를 통해 기업은 인도 내에서 고도로 확장 가능한 생성 AI 애플리케이션을 구축할 수 있습니다. Amazon Bedrock 콘솔을 통해 Anthropic의 Claude 모델에 접근하고, API를 통해 직접 호출하여 활용할 수 있습니다. 최신 모델의 리전별 가용성은 Amazon Bedrock 사용자 가이드에서 확인할 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-expands-claude-model-availability-to-india-cross-region-inference/