캐나다에서 Amazon Bedrock와 OpenAI GPT 모델 활용하기

최근 AI의 발전과 함께 AWS는 Amazon Bedrock를 통해 캐나다 지역에서 OpenAI GPT 모델을 활용할 수 있는 방안을 마련했습니다. API를 활용하여 기존 모델을 활용하는 방법과 각 API의 사용 사례를 소개합니다.

Amazon Bedrock의 AI 모델 이용 방법

Amazon Bedrock는 다양한 AI 모델을 캐나다 내에서 사용할 수 있도록 지원합니다. 특히 OpenAI의 GPT-5.6, GPT-6, GPT-6.1 모델들을 활용할 수 있는 기능을 제공하여, AI 개발자들이 보다 확장성 있는 환경에서 더 나은 결과를 얻을 수 있도록 돕습니다.

Amazon Bedrock와 OpenAI GPT 모델 활용

Amazon Bedrock의 크로스-리전 인퍼런스(CRIS) 기능을 통해 캐나다 지역에서 OpenAI 모델에 접근할 수 있습니다. 이를 통해 수요 급증 시에도 일정한 처리 성능을 유지할 수 있도록 지원하며, 원활한 API 호출을 가능케 합니다.

캐나다에서 이용 가능한 모델은 다음과 같습니다:

1. GPT-6.1 Sol: 높은 성능과 경제성이 요구되는 작업에 적합.
2. GPT-6 Astra: 복잡한 작업 처리 및 에이전트 작업에 최적화.
3. GPT-6 Sol & Luna: 반응성이 필요한 반복 작업에 집중.

API 활용 예시

모델을 사용하기 위해서는 Amazon Bedrock 콘솔에서 권한 설정 및 인퍼런스 프로파일을 설정해야 합니다. 각 모델은 OpenAI Responses API, Chat Completions API, Amazon Bedrock Converse API 등을 통해 호출할 수 있습니다.

• OpenAI Responses API 활용: 다음 코드와 같이 간단한 예제를 만들어 적용해볼 수 있습니다.

from aws_bedrock_token_generator import provide_token
from openai import OpenAI

client = OpenAI(
    base_url="https://bedrock-runtime.ca-central-1.amazonaws.com/openai/v1",
    api_key=provide_token(region="ca-central-1"),
)

response = client.responses.create(
    model="global.openai.gpt-6-astra",
    input="캐나다 재무 서비스에 대한 AI 거버넌스의 주요 고려 사항은 무엇인가요?",
    max_output_tokens=1024,
)
print(response.output_text)

Inference 프로파일 활용법

모델을 호출할 때는 inference 프로파일을 사용하여 캐나다 소스 리전에서 사용할 수 있는지 확인해야 합니다.

알고 있어야 할 코드 스니펫

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Effect": "Allow",
      "Action": ["bedrock:InvokeModel*"],
      "Resource": [
        "arn:aws:bedrock:ca-central-1::inference-profile/global.openai.gpt-6-astra"
      ]
    }
  ]
}

캐나다에서의 데이터 보호 및 거버넌스

아마존 Bedrock의 크로스-리전 인퍼런스는 여러분의 데이터를 보호하기 위한 설계가 되어 있습니다. TLS 1.2+ 암호화를 통해 데이터를 보호하며, 데이터는 캐나다에 저장되며, 처리만 다른 지역에서 수행됩니다.

결론

Amazon Bedrock의 도입은 캐나다 내 AI 솔루션 개발자들이 더 쉽고 안전하게 OpenAI의 최신 AI 기술을 사용할 수 있도록 합니다. 모형 호출에 필요한 권한 설정과 API 활용법을 통해 보다 효율적인 AI 시스템 구축이 가능해졌습니다. 더 자세한 정보는 Amazon Bedrock 사용자 가이드를 참고하시기 바랍니다.

[1] https://aws.amazon.com/blogs/machine-learning/access-openai-gpt-models-on-amazon-bedrock-from-canada-with-cross-region-inference/