인공지능 기반 Amazon Bedrock로 구축한 양자간 NER 사례

인공지능을 활용한 Amazon Bedrock 기반 양자간 NER 구축

최근 인공지능 기술의 발전은 다양한 산업에서 활용되고 있으며, 특히 물류 분야에서는 정확성과 비용 효율성을 동시에 추구해야 하는 어려운 과제에 직면해 있습니다. 오늘은 IBS Software가 Amazon Bedrock를 활용하여 양자간 네임드 엔터티 인식(NER) 시스템을 성공적으로 구축한 사례를 소개합니다. 이 시스템은 영어와 일본어로 된 화물 물류 이메일 메시지에서 23가지 엔터티를 정확히 추출합니다.

주요 내용

IBS Software는 매일 수천 개의 양자간 화물 물류 이메일 메시지를 처리하며, 이 과정에서 영어와 일본어로 된 다양한 중요한 정보를 추출해야 했습니다. 처음에는 PyTorch와 TextBrewer 등 오픈소스 프레임워크를 사용해 문제를 해결하고자 했으나, 복잡성과 대규모 데이터 처리의 어려움 때문에 Amazon Bedrock를 활용하게 되었습니다.

Amazon Bedrock의 모델 증류 기능을 활용한 IBS Software는 Amazon Nova Pro에서 더 작은 규모의 Nova Lite 모델로 지식을 증류하여, 시스템 정확도 95.085%의 F1-Score를 달성하면서 운영 비용을 14배 절감했습니다. 이 시스템은 실제 운영 환경에서 이메일 메시지를 실시간으로 처리할 수 있게 되었습니다.

구축 과정

개발팀은 9명의 연구진과 엔지니어로 구성되었고, 약 4개월의 프로젝트 시간 내에 시스템을 개발 및 배포하였습니다. 데이터셋 준비, 오픈소스 프레임워크의 과제 극복, Amazon Bedrock 증류 활용, 최종 배포 및 성능 최적화가 주요 단계였습니다. 특히, Nova Pro와 Nova Lite 모델 증류를 통한 성능 향상은 주요 성과 중 하나였습니다.

시각적 워크플로우

Amazon Bedrock 기반의 양자간 NER 워크플로우는 아래의 다이어그램을 통해 확인할 수 있습니다.

결론

이 글에서는 Amazon Bedrock를 활용하여 IBS Software가 양자간 NER 시스템을 구축한 방법을 소개했습니다. Amazon Bedrock의 모델 증류 기능은 오픈소스보다 복잡성이 낮았으며, 효율적인 성능을 제공하였습니다. 만약 유사한 과제를 안고 있는 기업이라면, Amazon Bedrock의 온디맨드 모델과 고품질 데이터셋의 효과적인 결합을 고려해볼 것을 추천드립니다.

[1] 원문 URL: https://aws.amazon.com/blogs/machine-learning/building-bilingual-ner-for-cargo-logistics-with-amazon-bedrock/