AI 에이전트의 생산 배포를 위한 플러그형 프레임워크

AI 에이전트의 생산 배포를 위한 플러그형 프레임워크

고객이 AI 에이전트를 확장하여 생산 환경에서 실행하려고 할 때 자주 직면하게 되는 문제를 해결하기 위해 아마존 베드록의 AgentCore는 7 계층 구조의 참조 아키텍처를 제안합니다. 이 아키텍처는 AI 에이전트를 프로토타입에서 대규모 생산 환경으로 확장할 수 있도록 설계되었습니다.

주요 내용 및 사례

계층형 아키텍처의 필요성

프로토타입은 AI 에이전트의 가능성을 보여주지만, 이를 대규모로 안정적이고 경제적으로 운영하기 위해서는 철저한 아키텍처 설계가 필요합니다. 대부분의 AI 에이전트 개발팀은 각자 라우팅 로직이나 보안 등을 처음부터 다시 만들게 되는데, 이러한 비효율성을 해결하기 위해 모든 계층에서 공통으로 사용할 수 있는 아키텍처가 필요합니다.

플러그형 에이전트 AI 프레임워크

이 프레임워크는 데이터 및 지식에서 에이전트 운영까지 7개의 계층으로 구성됩니다. 각 계층은 명확한 책임을 가지며, 기존 인프라와 요구 사항에 맞게 대체 가능합니다.

데이터 및 지식 계층

AI 에이전트의 성능은 제공받는 데이터의 질에 달려 있습니다. 예를 들어 아마존 베드록의 Knowledge Base와 Amazon DynamoDB는 정보의 질을 높이기 위한 빌딩 블록으로 활용될 수 있습니다.

모델 및 추론 계층

이 계층에서는 각 작업에 적절한 모델을 자동으로 선택할 수 있으며, 다양한 모델 환경과 API에 쉽게 적응할 수 있습니다.

실행 및 보안

오케스트레이션 계층은 작업을 효율적으로 분배하며, 각 에이전트는 도구와 명확한 경계 내에서 작업을 수행합니다. 보안 계층에서는 모든 외부 콘텐츠를 기본적으로 신뢰하지 않으며, 모든 요청은 인증을 통해 지원되는 보안에 의해 처리됩니다.

결론

에이전트 AI 시스템 설계 시 보안, 비용 절감, 신뢰성을 고려하는 것은 필수적입니다. 플러그형 아키텍처는 기술 변화를 쉽게 수용하고 비즈니스 변화에 유연하게 대처할 수 있도록 합니다. 이 프레임워크를 통해 오늘날 필요한 기능을 구축하고, 미래를 대비한 유연성을 갖출 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/pluggable-agentic-ai-framework-a-seven-layer-composable-enterprise-agentic-ai-reference-architecture-on-amazon-bedrock-agentcore/