Postman의 AI 에이전트 모드 운영 사례 분석

Postman의 AI 에이전트 모드: 대규모 AI 에이전트 운영의 실례

서론

AI 기술의 발달은 API 테스트, 문서화, 발견 및 구현 분야에서의 혁신을 이끌고 있습니다. Postman은 이러한 변화를 반영하여 AI 에이전트 모드를 도입하고 4천만 명의 개발자를 지원하고 있습니다. 이 글에서는 Postman이 Amazon Bedrock을 이용하여 AI 에이전트 모드의 효율성을 어떻게 극대화했는지 살펴보겠습니다.

본문

에이전트 모드의 주요 특징

Postman의 에이전트 모드는 API 테스트와 문서화를 비롯한 다양한 작업을 지원합니다. 대표적인 패턴으로 도구 스프롤 방지, 스키마 기반의 읽기 접근, 컨텍스트 강화 등을 통해 제품을 AI 에이전트에 적합하게 만듭니다.

• 도구 스프롤 제어: Postman은 170개 이상의 도구 중 필요한 도구를 선택하여 에이전트의 효율성을 높였습니다. 이는 각 요청에 적절한 도구만을 제공하여 에이전트가 보다 정확하게 작동할 수 있도록 합니다.

  

• 스키마 기반 읽기: 여러 좁은 뷰를 하나의 쿼리 도구로 통합하여 복잡한 쿼리를 생성할 수 있는 기능을 제공합니다. 이는 많은 질문을 개별 도구로 만들지 않고도 다양한 분석 결과를 도출할 수 있게 합니다.

• 컨텍스트 강화: Postman은 자동으로 수집된 배경 컨텍스트와 사용자가 선택한 심층 컨텍스트를 통합하여, 에이전트가 보다 정확한 의사결정을 할 수 있도록 지원합니다.

  

Amazon Bedrock의 활용

Postman의 AI 에이전트 모드는 Amazon Bedrock을 기반으로 하여 확장성을 제공합니다.

• 모델 유연성: 다양한 클로드 모델을 활용하여 각 작업에 적합한 모델을 선택할 수 있습니다.

• 크로스 리전 추론: 높은 처리량 요구를 효율적으로 해결하기 위해 Amazon Bedrock의 크로스 리전 추론 기능을 활용합니다.

  

• 데이터 보안 및 기업 통제: Postman은 데이터 보안 설정을 통해 개인 식별 정보를 보호하고 있습니다. 이는 기업 고객의 요구에 부합하는 데이터 처리 및 보안 성능을 제공합니다.

• 프롬프트 캐싱: 비용 절감 및 성능 향상을 위해 안정적인 프롬프트 프리픽스를 캐싱하여 사용하고 있습니다.

결론

Postman은 Amazon Bedrock의 강력한 기능을 활용하여 AI 에이전트 모드를 성공적으로 운영하고 있습니다. 이는 대규모 생산 환경에서 AI 에이전트를 운영할 때 적용 가능한 주요 사례를 제공합니다. 이러한 패턴은 AI 에이전트를 개발하거나 확장하려는 팀에게 유용한 지침이 될 수 있습니다.

[1] https://aws.amazon.com/blogs/machine-learning/how-postman-runs-agent-mode-for-40-million-developers-on-amazon-bedrock/