Amazon Bedrock를 활용한 에이전틱 AI 시스템 구축 및 운영 가이드

Amazon Bedrock를 활용한 에이전틱 AI 시스템 구축 및 운영 가이드

소개

Bayer Crop Science는 데이터 중심의 의사결정을 위해 Amazon Bedrock의 AgentCore를 활용하여 에이전틱 결정 엔진(ADE)을 구축했습니다. 이 시스템은 효율적인 AI 에이전트 구축과 연결을 지원하며, AI를 통한 의사결정을 가속화합니다. 이 블로그 포스트에서는 ADE의 구축 과정과 주요 설계 결정, 운영 방법에 대해 알아봅니다.

본문

에이전틱 결정 엔진(ADE)의 개요

ADE는 사용자 경험, 에이전트 오케스트레이션, 전문 에이전트, 그리고 도구 및 데이터 소스로 구성된 네 가지 계층으로 조직됩니다. React 기반 웹 프론트엔드를 통해 사용자 요청을 받아 처리하며, Microsoft Entra ID를 통해 인증 과정이 수행됩니다. 시스템 내에서 여러 전문 에이전트가 각각의 도메인에 맞는 도구와 데이터 소스를 이용해 질문을 처리합니다.

아래는 ADE의 아키텍처 다이어그램입니다:

주요 설계 결정

ADE 구축 과정에서 Bayer와 AWS의 협업을 통해 다섯 가지 주요 설계 결정을 내렸습니다.

1. 상태 외부화 – ADE는 상태 관리를 외부 서비스(DynamoDB)와 통합하여 지속적인 작업 수행을 지원합니다.

2. 아이덴티티 및 접근 제어 분리 – Microsoft Entra ID로 사용자 인증을 처리하는 반면, 각 서비스 간의 호출은 AWS IAM을 통해 권한을 부여합니다.

3. 모델 선택의 인터페이스화 – 도구를 사용하는 에이전트의 경우, 모델 선택은 도구 호출 및 출력 형식과 관련된 모든 인터페이스를 고려합니다.

4. 도구 범위의 제어 – 에이전트에 맞춘 도구 카탈로그를 정의하여 모델의 결정 공간을 제한하며, 필요에 따라 에이전트에 적절한 도구를 제공합니다.

5. 도구를 에이전트로 승격 – 복잡한 기능을 가진 도구는 에이전트로 승격되어 독립적인 상태 관리와 정책 결정을 수행합니다.

운영 및 향후 계획

ADE는 베타 그룹을 대상으로 처음 출시되었으며, 현재는 약 100명의 사용자가 사용 중입니다. 시스템은 사용자의 80% 이상의 질문을 기술자의 도움 없이 해결합니다. 향후 Bayer는 하이브리드 클라우드 환경에서의 에이전트 상호 운용성을 탐색할 계획입니다.

결론

ADE는 기존 분석 플랫폼을 대체하기보다는 이를 기반으로 자연어 쿼리를 통한 인터페이스를 제공합니다. 이 과정에서 Bayer는 AWS의 Unified Operations 팀과 협력하여 AWS 서비스의 행동을 기반으로 설계 결정을 검증하고 운영에 필요한 컨텍스트를 확보했습니다.

참고 문서

ADE에 대한 더 자세한 정보는 Amazon Bedrock AgentCore와 관련 문서를 참조하세요.