Securing AI Agents with Temporal Policies in Amazon Bedrock AgentCore

도입

오늘날 인공지능(AI) 에이전트의 발전은 기업의 업무 방식을 혁신적으로 바꾸고 있습니다. 이와 같은 혁신적인 에이전트를 효과적으로 운영하고 통제하기 위해 Amazon Bedrock AgentCore의 템포럴 정책이 중요한 역할을 합니다. 본 블로그에서는 템포럴 정책이 무엇인지, 그리고 이를 활용하여 AI 에이전트를 어떻게 안전하게 관리할 수 있는지를 소개드립니다.

본문

AI 에이전트는 기존의 애플리케이션과는 달리 해당 상황에 맞는 도구 사용, 인자 선택, 연산의 순서를 실시간으로 결정합니다. 이러한 과정을 관리하기 위해서는 세션 내역을 반영하는 권한 부여 규칙이 필요합니다. Amazon Bedrock AgentCore에서는 이를 위해 '템포럴 정책'을 활용합니다. 템포럴 정책은 에이전트의 코드 외부, 즉 AgentCore Gateway의 경계에서 상태 기반 규칙을 설정함으로써, 에이전트가 그 규칙을 우회할 수 없도록 합니다.

템포럴 정책을 활용하면 다음과 같은 작업을 수행할 수 있습니다:

1. 워크플로우 순차 진행 강제
2. 서로 다른 도구 간의 데이터 위조 방지
3. 세션 당 누적 재정 노출 제한
4. 고가치 작업에 대해 인간의 승인을 요구

템포럴 정책의 작동 방식은 기본적으로 상태가 없는 액세스 제어 정책 엔진에 기반하고 있으며, 에이전트의 행동 이력을 바탕으로 각 요청에 대한 ALLOW(허가) 또는 DENY(거부) 결정을 내립니다. 이를 통해 조직은 에이전트의 자율성과 안전성을 동시에 확보할 수 있습니다.

결론

Amazon Bedrock AgentCore의 템포럴 정책은 AI 에이전트의 안정적이고 안전한 운영을 위해 필수적입니다. 이를 통해 조직은 에이전트의 행동을 추적하고, 중요 작업에 대한 지침을 설정하며, 에이전트의 자율성과 활용성을 향상시킬 수 있습니다. 보다 자세한 정보는 AgentCore 문서를 참고하시기 바랍니다.

[1] https://aws.amazon.com/blogs/machine-learning/securing-ai-agents-with-temporal-policies-in-amazon-bedrock-agentcore/