Amazon Bedrock와 크로스 리전 추론의 활용 방법

소개

오늘날 데이터와 인공지능의 시대에서 기업들은 AWS와 같은 클라우드 플랫폼을 활용해 더 빠르고 효율적인 AI 솔루션을 구현하고자 합니다. 이번 포스트에서는 Amazon Bedrock의 크로스 리전 추론 기능과 그 활용 방법에 대해 자세히 알아보겠습니다. AWS 기반의 Amazon Bedrock는 기업들이 여러 지역에서 인공지능 모델을 쉽게 배포하고 최대 성능을 발휘할 수 있도록 돕습니다.

본문

크로스 리전 추론의 이해

크로스 리전 추론은 다수의 AWS 리전 간에 추론 처리를 분산시키는 Amazon Bedrock의 기능입니다. 이를 통해 대규모에서 높은 처리량을 실현할 수 있습니다. 사용자의 API 요청은 출발 지역에서 시작하여 추론이 실제로 처리되는 도착 지역으로 라우팅됩니다. 이러한 과정을 통해 데이터는 AWS 네트워크 내에서만 전송되며, 데이터는 이동 중에도 암호화됩니다. 이러한 모든 요청은 AWS CloudTrail에 기록됩니다.

뉴질랜드를 기점으로 한 크로스 리전 추론

이번 AWS의 발표로 오클랜드(ap-southeast-6)는 크로스 리전 추론의 새로운 출발 지역으로 설정되었습니다. 오클랜드 지역에서 Amazon Bedrock API 호출을 통해 ANZ 지역의 다양한 지리적 경로로 요청을 보낼 수 있습니다. 이는 뉴질랜드의 고객들에게 지역 간 안정적이고 빠른 추론 환경을 제공하는데 중요한 기반이 됩니다.

지원 모델 및 추론 프로필 ID

오클랜드 지역에서 크로스 리전 추론을 활용하여 다양한 제공업체의 기본 모델을 사용할 수 있습니다. 각 추론 프로필에 대한 지원 모델과 자세한 내용은 관련 문서를 참조해주세요.

IAM 허가 설정

AU 지리적 크로스 리전 추론을 오클랜드에서 시작하려면 AWS IAM 정책에 두 가지 사항을 추가해야 합니다. 이는 최소 권한 원칙을 준수하는 방식으로 설정할 수 있으며, 직접 모델 호출을 방지하는 데 도움을 줍니다.

결론

Amazon Bedrock의 크로스 리전 추론 기능은 뉴질랜드 지역에서 지역 간의 유연한 데이터 추론 기회를 제공합니다. 특히, 오클랜드는 이제 크로스 리전 추론의 출발점으로 ANZ 클라우드 경로 내 모델 액세스를 용이하게 만들었습니다. AWS의 다양한 리전 및 모델 지원 프레임워크를 활용하여, 보다 효율적인 처리량을 누리고 보안성을 극대화할 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/run-generative-ai-inference-with-amazon-bedrock-in-asia-pacific-new-zealand/