효율적인 AI 인프라 구축을 위한 Amazon Bedrock 활용 사례

소개

오늘날 AI 기술은 다양한 산업에서 필수적인 요소로 자리잡고 있습니다. 특히, 클라우드 서비스를 통해 이러한 기술을 더 쉽게 활용할 수 있게 되었습니다. Amazon Bedrock은 개발자들이 AI 모델을 더 효율적으로 운영할 수 있도록 지원하는 플랫폼으로 주목받고 있습니다. 본 글에서는 DXC Technology가 Amazon Bedrock을 활용하여 AI 인프라를 구축하고 이를 통해 기업의 IT 운영 효율성을 어떻게 향상시켰는지에 대해 소개하고자 합니다.

본론

Amazon Bedrock은 다양한 AI 모델에 대한 접근을 일관된 인터페이스를 통해 제공하며, 이를 통해 DXC Technology는 다중 모델 인프라를 구축하였습니다. 이 인프라는 과거와 달리 개별 시스템 재구축 없이도 유연하게 운영될 수 있습니다. DXC Technology는 이러한 다중 모델 접근 방식을 통해 특정 작업에 가장 적합한 모델을 선택할 수 있게 되었습니다. 또한, Amazon Bedrock의 서버리스 특징 덕분에 시스템 복원력을 강화하였고, 이를 통해 다양한 처리 용량 확장을 쉽게 이룰 수 있었습니다.

DXC Technology는 이를 위해 Amazon Bedrock을 활용하여 DXC OASIS 시스템을 구축하였습니다. 이 시스템은 Amazon EKS를 기반으로 하여, 사설 네트워크를 통해 안전하게 모델 호출을 수행합니다. 모든 모델 호출은 AWS PrivateLink를 통해 이루어져 공개 인터넷을 통한 데이터 노출을 방지합니다.

이러한 시스템은 다양한 산업 및 규제 요구사항에 부합하는 데이터 처리 및 거버넌스를 보장합니다. DXC OASIS는 모델 결정과 업무 운영을 분리하여 아키텍처 전반의 유연성과 규제 준수성을 강화하였으며, 이를 통해 평균 95% 이상의 작업 처리 시간을 단축하는 데 성공하였습니다.

결론

DXC Technology는 Amazon Bedrock을 기반으로 다중 모델 인프라를 구축함으로써 IT 운영의 혁신을 이뤘습니다. 이 글을 통해 Amazon Bedrock의 활용 방안과 DXC의 사례를 통해 기업의 AI 시스템 구축에 있어 유용한 통찰을 얻을 수 있습니다. 앞으로도 AI 기술이 가져올 다양한 변화를 주시하며, 지속적으로 혁신을 이루어 나가겠습니다.

[1] https://aws.amazon.com/blogs/machine-learning/how-dxc-technology-built-a-multi-model-ai-substrate-on-amazon-bedrock/