Enhanced Control Strategies for AI Agents with Amazon Bedrock AgentCore

Amazon Bedrock AgentCore의 새로운 기능: AI 에이전트의 행동과 비용을 넘어서는 제어 방안

고도로 자율적인 AI 에이전트의 발전이 가속화되면서, 이를 어떻게 효율적으로 관리하고 다양한 보안 및 신뢰 문제를 해결할 수 있을지에 대한 관심이 고조되고 있습니다. Amazon Bedrock AgentCore는 이러한 문제들을 해결하기 위해 새로운 가능성을 제공하며, 여기에는 보안 통제, 관찰 가능성, 평가 및 추적 가능성과 같은 요소들이 고려되어야 합니다.

AgentCore의 주요 기능과 활용 사례

통합 솔루션으로서의 AgentCore

AgentCore는 팀들이 인프라를 자체 설계하지 않고도 에이전트를 구축하고 최적화할 수 있는 플랫폼입니다. 보안 통제는 어디까지나 지속적으로 적용되어야 하며, 이는 에이전트가 어떻게 행동하든 간에 항상 동일하게 적용되어야 합니다. 게이트웨이는 AI 트래픽에 대한 관리형 입구로 작용하여 모든 요청이 통과하는 지점에서 제한을 적용합니다.

시간 기반 정책의 도입

AgentCore의 신기능인 시간 기반 정책은 개별 요청뿐만 아니라 행동의 연속성을 평가합니다. 예를 들어, 잘못된 계좌 번호로 금액을 송금하는 것을 차단하거나, 특정 예산을 초과하는 구매를 막을 수 있습니다. 이는 게이트웨이 레이어에서 적용되어, 에이전트 자체 코드에 영향을 미치지 않도록 설계되었습니다.

소스 공개 및 Dogwood 언어

이 기능은 새로운 오픈 소스 정책 언어인 Dogwood를 통해 구현되며, 이는 Cedar를 바탕으로 하고 있습니다. 이는 고객이 정책이 어떻게 평가되는지 완전한 가시성을 제공하며, 타사도 이를 바탕으로 도구를 지원할 수 있게 합니다.

비용 제어를 위한 게이트웨이의 속도 제한

AI의 비용 관리는 토큰 및 호출의 소비 속도에서 시작됩니다. AgentCore는 사용자당 소비 한도를 설정할 수 있도록 하며, 이는 팀들이 이미 관리하고 있는 OAuth나 IAM과 같은 인증 체제를 활용해 수행됩니다. 이를 통해 각 모델, 도구, 사용자에 걸쳐 적절한 소비 한도를 유지할 수 있습니다.

결론: 에이전트 제어의 미래

AI 모델의 발전은 공격적인 행동에 대한 더 나은 대처를 요구하며, 에이전트를 제어하는 시스템의 신뢰성에 대한 판단을 요구합니다. 앞으로도 Amazon Bedrock AgentCore와 고객들이 제기하는 질문에 대한 빠른 혁신을 기대할 수 있으며, 보안 제어가 단일 에이전트의 애플리케이션 코드에서 플랫폼으로의 이동은 계속될 것입니다.

[1] https://aws.amazon.com/blogs/machine-learning/control-agent-behaviors-and-cost-beyond-a-single-action-new-capabilities-in-amazon-bedrock-agentcore/