메뉴 닫기

AWS를 활용한 Airbnb의 코드 에이전트 운영 사례

AWS를 활용한 자동화된 코드 에이전트 운영: Airbnb 사례

서론

AWS의 클라우드 서비스는 다양한 산업에서 혁신 및 효율성 향상에 기여하고 있습니다. 그중에서도 Amazon Bedrock는 기업들이 대규모로 AI 에이전트를 구축하고 운영하는 데 필요한 인프라를 지원합니다. 이번 블로그에서는 Airbnb가 Amazon Bedrock를 활용하여 코드 에이전트를 운영하는 방법과 이를 통해 얻은 결과를 살펴보겠습니다.

본문

Amazon Bedrock는 다양한 모델을 AWS API로 접근할 수 있게 하며, 코드 요청을 처리하고 원활한 응답을 제공하는 것에 중점을 둡니다. Airbnb는 매주 수천 명의 엔지니어가 AirChat을 통해 코드 에이전트를 활용하여 업무를 수행하고 있으며, 이러한 에이전트의 요청은 Amazon Bedrock를 통해 처리됩니다.

Airbnb의 LLM 게이트웨이 구조를 통한 Amazon Bedrock 연동

Airbnb는 Bedrock의 운영 지표를 통해 지연시간 증가, 비용, 쓰로틀링 등을 모니터링하고 평가를 통해 모델을 선택합니다. 이 과정에서 중요한 척도인 작업당 비용은 에이전트가 하나의 작업을 완료하는 데 드는 비용을 나타냅니다.

Airbnb는 주기적인 모델 평가와 운영 지표 비교를 통해 적절한 모델을 선택하고 필요시 모델 변경을 결정합니다. 예를 들어, Airbnb의 한 모델은 초기 평가에서 높은 점수를 기록했지만, 실제 운영 시 요청당 비용이 세 배에 달하는 것으로 나타나 다른 모델로의 전환이 필요했습니다.

결론

Amazon Bedrock를 통한 Airbnb의 클라우드 기반 코드 에이전트 운영 경험은 자동화와 효율성 향상에 있어 중요한 교훈을 제공합니다. 또한, 엔지니어들이 보다 효과적으로 작업할 수 있도록 지원하는 데 큰 역할을 하고 있습니다. AWS와 같은 플랫폼을 통해 더 많은 기업들이 혁신적인 솔루션을 개발하고 적용할 수 있을 것입니다.

[1] https://aws.amazon.com/blogs/machine-learning/how-airbnb-uses-cost-per-task-to-operate-coding-agents-on-amazon-bedrock/

AI, Cloud 관련한 문의는 아래 연락처로 연락주세요!

(주)에이클라우드
이메일 : acloud@a-cloud.co.kr
회사 번호 : 02-538-3988
회사 홈페이지 : https://www.a-cloud.co.kr/
문의하기


AI, Cloud 도입 상담 배너