부에노스아이레스의 AI 챗봇 Boti와 Amazon Bedrock 기반 자동화 시스템 구축 사례

부에노스아이레스 시민을 위한 AI 챗봇 ‘Boti’와 Amazon Bedrock 기반 자동화 시스템 구축 사례

시민들이 정부 정보를 더욱 쉽고 빠르게 접근할 수 있도록 하는 것이 디지털 행정의 핵심 과제로 떠오르고 있습니다. 아르헨티나 부에노스아이레스 시 정부는 이러한 문제를 해결하기 위해, WhatsApp 기반의 AI 챗봇 ‘Boti’를 도입하여 시민들이 운전면허 갱신, 보건 서비스 이용, 문화행사 정보 등을 실시간으로 확인할 수 있도록 지원하고 있습니다. 이번에는 Amazon Bedrock과 LangGraph를 기반으로 한 차세대 생성형 AI 기술을 활용해 Boti를 한 단계 업그레이드한 혁신적인 사례를 소개합니다.

AI 어시스턴트의 핵심 구성 요소와 주요 기능

이번 프로젝트의 핵심은 ‘입력 가드레일 시스템(input guardrail system)’과 ‘정부 절차 응답 에이전트(government procedures agent)’입니다. 이 두 가지 핵심 컴포넌트는 강력한 자동화 기반 AI 응답 시스템을 이루고 있으며, 시민의 질문에 맞춤형으로 응답하면서도 잠재적인 위험을 최소화합니다.

시민이 질문을 입력하면, 해당 질문은 동시에 가드레일 시스템과 에이전트로 전달됩니다. 가드레일 시스템은 민감하거나 부적절한 질의를 사전 차단하며, 안전한 질문에 대해서만 에이전트가 정보를 검색하고 자연어로 응답을 생성합니다. 이 과정에서 Amazon Bedrock의 Converse API를 활용하여 다양한 대규모 언어 모델(LLM)의 성능을 적절히 분배합니다.

입력 가드레일 시스템의 자동화 구조와 효과

Boti의 인공지능이 적절한 질문에만 반응하도록 하기 위해, 시 정부는 커스텀 LLM 분류기를 포함한 입력 제어 시스템을 구축했습니다. 이 시스템은 요청을 ‘승인’과 ‘차단’으로 분류하며, 해당 세부 카테고리도 함께 지정됩니다.

이러한 구조 덕분에, Boti는 공격적인 언어나 부적절한 질문(예: 프롬프트 인젝션, 유해한 의견 등)에 대한 대응을 차단하며 안전하고 신뢰할 수 있는 사용 경험을 제공합니다. 테스트 결과, 유해 질문은 100% 차단되었고, 오탐율도 최소 수준에 머물렀습니다.

정부 절차 에이전트의 고도화된 정보 검색 구조

정부 서비스는 유사한 절차가 많아 단순 유사도 기반의 정보 검색(RAG, Retrieval-Augmented Generation) 방식으로는 정확한 절차를 찾기가 어렵습니다. 이를 해결하기 위해, Boti 시스템은 ‘추론 기반 리트리버(reasoning retriever)’ 방식을 도입하여 자동화 효율성과 정확도를 동시에 끌어올렸습니다.

이 시스템은 다음과 같이 작동합니다:

1. 유사도가 높은 요약문 M개 검색 → 2. LLM을 통해 가장 관련 높은 절차 판단 → 3. 최종 결정된 절차의 전체 문서 N개를 Amazon DynamoDB로부터 가져와 응답 생성

결과적으로, 고도화된 리트리버 덕분에 기존 RAG 방식 대비 12.5~17.5% 향상된 검색 정확도를 달성하였으며, 최대 98.9%의 Top-1 정확도를 기록했습니다.

자연스러운 Boti 응답을 위한 프롬프트 엔지니어링

단순히 정보를 제공하는 것을 넘어, Boti는 ‘리오플라텐세 스페인어’라는 지역 방언을 자연스럽게 사용하는 챗봇입니다. 이를 위해 다음과 같은 방식의 프롬프트 템플릿 엔지니어링을 실시했습니다.

• 어조: 따뜻하고 친절한 말투 유지
• 표현 방식: 이모지를 사용해 중요 정보 강조, 목록 형태의 응답
• 문체: 음절 형태(Periphrastic Future), 보세오(voseo) 사용
• 민감도 기반 템플릿: 사고·건강 관련 내용에 대해 공감력 높은 문체로 응답

전문가 평가 결과, 보세오 98%, 음절 표현 92%의 문법 정확도를 달성했습니다. 이는 Boti가 시민과 감정적으로도 더욱 인간적인 대화를 가능하게 한다는 사실을 입증합니다.

결론 및 향후 확장 방향

이번 프로젝트는 생성형 AI 기술을 실제 공공 서비스에 접목시킨 대표적 사례라 할 수 있습니다. Amazon Bedrock 기반의 강력한 LLM 인프라와 LangGraph 워크플로우, 그리고 맞춤화된 자동화 가드레일 설계가 결합되어, 결과적으로 고품질 정보 제공과 안전한 커뮤니케이션을 동시에 달성했습니다.

앞으로는 음성 기반 인터페이스 및 계정 생성, 양식 제출과 같은 절차까지 통합 가능한 멀티 에이전트 확장도 시도될 수 있습니다. 생성형 AI의 발전과 함께, 시민 경험 또한 더욱 진보할 수 있는 발판이 마련된 것입니다.

원본 링크: https://aws.amazon.com/blogs/machine-learning/meet-boti-the-ai-assistant-transforming-how-the-citizens-of-buenos-aires-access-government-information-with-amazon-bedrock/