Mantle의 Zero Operator Access 설계로 강화된 AI 추론 보안 혁신

아마존의 다음 세대 AI 추론 엔진, Mantle의 Zero Operator Access 설계

AI 기술이 발전함에 따라 생성형 AI 추론과 파인튜닝 워크로드의 복잡성도 함께 증가하고 있습니다. 이에 따라 클라우드 서비스 공급자는 더 강력하면서도 안전한 AI 인프라를 구축해야 할 필요성이 커졌습니다. AWS는 이러한 요구에 부응하고자 Amazon Bedrock의 차세대 추론 엔진인 Mantle을 발표하며, 데이터 보안 및 자동화를 최우선으로 하는 아키텍처를 설계하였습니다. 특히 주목할 만한 점은 'Zero Operator Access'(ZOA) 설계로, 이는 AWS 운영자가 고객 데이터를 전혀 접할 수 없게 만드는 보안 모델입니다.

핵심 내용: Mantle의 설계와 실제 적용 사례

Mantle의 가장 큰 특징은 AWS Nitro System을 기반으로 구축된 'Zero Operator Access'구조입니다. 이 구조에서는 어떤 AWS 운영자도 시스템에 직접 로그인하거나 기본 컴퓨팅 인프라에 접근할 수 없습니다. 이를 위해 SSH, AWS Systems Manager Session Manager, 직렬 콘솔 등의 관리 도구는 Mantle 환경에 전혀 설치되어 있지 않습니다. 대신, 모든 운영 및 배포 작업은 인증된 자동화 도구와 보안 API를 통해 처리되며, 이러한 방식으로 운용 자동화와 접근 보안을 동시에 확보할 수 있습니다.

더불어, Mantle은 Amazon EC2의 최근 기능인 EC2 인스턴스 인증(attestation)을 활용하여 변경 불가능하고 제한된 컴퓨팅 환경을 제공합니다. 이 과정은 Nitro Trusted Platform Module(NitroTPM)의 암호화 서명 메커니즘을 바탕으로, 고객 데이터가 항상 보안된 환경에서 처리되도록 보장합니다. 특히 모델 가중치 및 GPT와 같은 생성형 AI 모델의 추론 연산을 수행하는 서비스는 일련의 고신뢰 암호화 절차를 통해만 운영이 가능하며, 이로써 AI 데이터 활용 및 배포에 있어서도 강력한 보안성과 신뢰성을 유지합니다.

그리고 중요한 사실은, Amazon Bedrock은 태생적으로 고객 데이터가 AI 모델 교육용으로 사용되지 않도록 설계되어 있다는 점입니다. 모델 공급자는 추론 시 전달된 프롬프트나 응답 데이터에 접근할 수 없으며, 이는 Bedrock 서비스 자체 계정에서만 폐쇄적으로 이루어지기 때문입니다.

실제 활용 면에서도, 고객이 bedrock-mantle.[리전].api.aws와 같은 Mantle 엔드포인트를 호출할 때, 데이터는 TLS를 통해 암호화된 채로 전송되며, 이 과정에서도 어떤 외부 주체도 데이터에 접근할 수 없습니다. 이와 같은 높은 수준의 배포 가이드와 보안 프로토콜은 민감한 데이터를 처리하는 고객에게 매우 유리하게 작용합니다. 이를 통해 정부기관, 금융기관, 의료기관과 같이 고수준의 보안성을 요구하는 산업 분야에서도 Mantle을 안전하게 활용할 수 있습니다.

결론

Mantle의 등장으로 AWS는 생성형 AI 서비스를 위한 클라우드 보안 패러다임을 한층 끌어올렸습니다. 자동화된 운영 방식, Zero Operator Access 설계, NitroTPM 기반 하드웨어 신뢰, TLS 암호화 등의 기술은 보안 설계 및 활용 측면에서 새로운 표준을 제시합니다. 이는 AI 시스템을 클라우드 환경에 안전하게 배포하려는 기업에게 매우 유용한 선택지가 될 수 있습니다. 전반적으로 Mantle은 AI 워크로드 검증 및 배포에 있어 뛰어난 보안성과 자동화 성능을 겸비한 인프라로 주목할 만합니다.

https://aws.amazon.com/blogs/machine-learning/exploring-the-zero-operator-access-design-of-mantle/