AWS AgentCore의 비동기 호출 패턴 활용 및 최적화

들어가며

아마존 베드락 에이전트코어(Amazon Bedrock AgentCore)의 비동기 호출 패턴은 서버리스 파이프라인에서 AI 에이전트를 활용하고, 대기 시간 동안의 컴퓨팅 비용을 절감할 수 있습니다. 이 글에서는 이러한 비동기 호출 패턴을 통해 에이전트를 효율적으로 운영하는 방법에 대해 알아보겠습니다.

본문

에이전트 호출 패턴 소개

에이전트는 전통적인 파이프라인 단계와 다른 특징을 가지고 있습니다. 즉각적으로 답변하지 않고, 프롬프트, 모델, 문서에 따라 응답까지 시간이 걸리는데, 이는 호출 방식을 달리해야 한다는 점을 의미합니다. 일반적인 첫 번째 구현은 AWS 람다 함수를 통해 에이전트를 호출하고, 응답을 대기하는 방식입니다.

비용 구조 이해

에이전트를 호출하는 함수가 대기하는 동안 AWS Lambda는 계속 실행 상태를 유지하기 때문에 지속적으로 비용이 발생합니다. 반면, 에이전트코어는 대기 시간 동안 CPU 비용이 청구되지 않으므로, 호출 측에서 비용이 주로 발생합니다. 따라서 에이전트의 결과를 기다리는 동안 호출 측의 컴퓨팅 비용을 줄이는 것이 필요합니다.

패턴 사례 비교

1. 블로킹 안티패턴: 에이전트가 응답할 때까지 Lambda 함수가 블로킹되어 전체 프로세싱 시간 동안 비용이 발생하는 간단한 구현.
2. 패턴 1 – 태스크 토큰 콜백: Lambda 함수에서 에이전트를 분리 호출하고 Step Functions에서 대기하는 방식으로 대기 중 비용을 줄임.
3. 패턴 2 – 직접 서비스 통합: Lambda 없이 Step Functions에서 직접 API 호출, 순수 오케스트레이션에 적합.
4. 패턴 3 – 람다 내구 함수: 코드로 오케스트레이션을 표현, 에이전트 호출 동안 기다리기 위해 함수가 일시 정지됨.

실제 예시

부동산 서류 검증 예시를 통해 각 패턴은 동일한 파이프라인에 적용되어 비교됩니다. 예시 파이프라인은 추출 – 식별 – 라우트 – 구성 및 검증의 단계를 거치며, 이 중 검증 단계가 교체 가능합니다.

패턴 선택 가이드

각 패턴의 통합 노력, 호출 측 위치, 비즈니스 로직의 위치 및 가장 적합한 용도에 따라 선택할 수 있습니다:

• 안티패턴: 시제품 및 짧은 에이전트에 적합.
• 패턴 1: 사용자 정의 전/후처리 로직 필요 시 사용.
• 패턴 2: 오케스트레이션에 집중할 때 사용.
• 패턴 3: 복잡한 비동기 워크플로 코드 일체화 시 사용.

결론

AI 에이전트를 파이프라인에 통합하는 것은 단순하지만, 효율적인 호출 설계가 필요합니다. 이 글을 통해 3가지 최적화된 호출 패턴을 소개하였으며, 각 패턴은 Amazon Bedrock AgentCore 에이전트를 통해 구동되어 올바른 호출 방식에 따라 에이전트의 응답을 조정할 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/asynchronous-patterns-for-calling-amazon-bedrock-agentcore-agents-in-serverless-pipelines/