메뉴 닫기

AWS Bedrock를 통한 ArisGlobal의 AI 확장 성공 사례

AWS Bedrock를 활용한 ArisGlobal의 AI 확장 사례

소개

오늘날의 생명 과학 기술 산업은 AI 기술을 활용하여 효율성을 극대화하고 있습니다. 특히, AWS Bedrock는 이 분야에서의 AI 엔진 개발과 확장에 있어 많은 기업들에게 중요한 플랫폼으로 자리 잡고 있습니다. 이번 포스트에서는 ArisGlobal이 어떻게 Amazon Bedrock를 통해 그들만의 AI 솔루션인 NavaX를 확장했는지, 그리고 이를 통해 얻은 성과에 대해 알아보겠습니다.

본문

ArisGlobal은 생명 과학 기술 솔루션을 제공하는 전문 기업으로, 약물 안전성, 규제 준수, 품질 관리 등을 자동화하는 NavaX라는 AI 엔진을 개발하였습니다. 이 엔진은 Amazon Bedrock를 활용하여 다양한 기능성과 지역 간 추론을 지원하며, 자동적인 캐싱을 통해 효율성을 한층 높였습니다. 특히, ArisGlobal은 공유 프롬프트 접두사를 캐싱함으로써 입력 비용을 크게 절감할 수 있었습니다.

AWS CloudWatch 프롬프트 캐시 사용량

또한, EU 지역 간 추론과 함께 약 40%의 월간 추론 비용 절감을 달성하며, 기업 고객들의 다양한 요구사항을 만족시키고 비용 효율적인 해결책을 제공하게 되었습니다.

ArisGlobal는 Dynamic Data Extraction (DDE) 에이전트를 통해 약 130개의 필드를 추출하여 보고서를 처리합니다. 이를 통해 규제 준수와 사례 관리의 복잡성을 간소화할 수 있었습니다. 그 결과, 65%의 입력 토큰이 캐시된 데이터로부터 제공되며, 이는 대기 시간을 줄이고 운영 비용을 줄이는 데 크게 기여했습니다.

결론

AWS Bedrock를 활용하여 ArisGlobal은 AI 확장과 비용 절감이라는 두 마리 토끼를 잡았습니다. 그들의 경험은 AI를 통한 비즈니스 혁신을 모색하는 다른 기업들에게도 중요한 교훈과 통찰을 제공할 것입니다. 앞으로 더 많은 기업들이 이와 같은 최신 AI 기술을 활용하여 효율을 극대화할 수 있기를 기대합니다.

[1] https://aws.amazon.com/blogs/machine-learning/how-arisglobal-scaled-generative-ai-inference-on-amazon-bedrock/

AI, Cloud 관련한 문의는 아래 연락처로 연락주세요!

(주)에이클라우드
이메일 : acloud@a-cloud.co.kr
회사 번호 : 02-538-3988
회사 홈페이지 : https://www.a-cloud.co.kr/
문의하기


AI, Cloud 도입 상담 배너