아마존 베드록 플로우 인라인 코드 노드 기능 미리보기 공개

아마존 베드록 플로우, 인라인 코드 노드 지원 기능 공개 미리보기

엔터프라이즈 환경에서도 생성형 AI 애플리케이션을 쉽게 구축할 수 있도록 아마존 베드록(Amazon Bedrock)이 또 한 번의 진화를 거쳤습니다. 이번 블로그에서는 최근 공개 미리보기로 선보인 ‘인라인 코드 노드(Inline Code Node)’ 기능을 중심으로 어떻게 이 기능이 활용될 수 있는지, 실제 사례와 함께 자세히 알아보겠습니다. 이번 기능은 AWS Lambda를 별도로 사용하지 않고도 워크플로우 내에서 직접 파이썬 코드를 작성해 전처리나 후처리를 자동화할 수 있게 해줍니다.

인라인 코드 노드를 활용한 워크플로우 구성 방법

Amazon Bedrock Flows는 LLM 기반 애플리케이션을 구성하기 위한 워크플로우 기반 인터페이스입니다. 여기에 새롭게 추가된 인라인 코드 노드는 단순한 로직을 위해 별도의 Lambda를 생성할 필요가 없도록 하며, 파이썬 코드를 직접 입력하여 다음과 같은 부분에서 강력한 유틸리티를 제공합니다.

• 전처리 자동화: LLM 호출 전 JSON 파싱, 텍스트 형식화, 값 정규화 등을 하나의 노드 안에서 수행 가능
• 후처리 자동화: LLM 출력 결과를 후처리하여 필요한 데이터 추출 및 비즈니스 로직 적용
• 복잡한 멀티 스텝 플로우 구성: opencv, scipy, pypdf 등 다양한 패키지를 사용할 수 있으며, 이에 따라 고급 사용 사례에도 대응
• 콘솔 및 API 사용: UI 또는 Amazon Bedrock API를 통해 인라인 코드 작성 및 배포 가능
• 실행 추적 기능: 각 노드의 입력값 및 출력값 확인 가능, CloudWatch 연동으로 트레이스 로그 저장

Thomson Reuters 사례로 보는 인라인 코드 노드의 활용

글로벌 정보 서비스 기업인 Thomson Reuters는 법률, 회계, 금융, 언론 분야에서 1만 6천 명 이상의 사용자에게 AI 기반 서비스를 제공하고 있는데, 복잡한 생성형 AI 워크플로우를 운영하기 위해 인라인 코드 노드를 적극 활용하고 있습니다.

• 수천 개의 사용자 정의 코드 블록을 Lambda가 아니라 인라인 코드로 구성하여 운영 간소화
• AWS 서비스 및 외부 API 연동을 통한 유연한 데이터 처리
• 셀프 서비스 방식의 워크플로우 생성이 가능해 인프라 지식 없이도 다양한 요구 사항 대응

실습 예제: 음악 추천 생성형 AI 시스템 빌드

Amazon Bedrock 콘솔에서 Flows 메뉴를 선택 후 새 플로우를 생성합니다. ‘easy-inline-code-flow’ 같은 이름으로 새로운 플로우를 생성한 후, ‘Preprocessing_InlineCode’와 ‘Postprocessing_InlineCode’ 두 개의 인라인 코드 노드를 추가합니다.

전처리 노드에는 사용자가 요청한 곡 수가 10개를 초과할 경우 10개로 제한하는 파이썬 코드를 입력합니다:

postprocessing 노드에서는 플레이리스트 텍스트의 단어 수를 세고 포맷된 결과를 출력하는 코드를 넣습니다.

테스트 입력 예시는 다음과 같습니다:

{
"genre": "pop",
"number": 8
}

결과는 처리된 곡 수와 단어 개수가 포함된 포맷 결과로 출력되며, Amazon Bedrock에서는 각 노드의 실행 트레이스(trace)도 제공합니다.

구현 전 체크리스트 및 배포 가이드

다음은 Amazon Bedrock Flows 사용에 앞서 준비해야 할 필수 구성 요소입니다:

• AWS 계정 및 Amazon Bedrock 권한
• DynamoDB, Amazon S3, Amazon SNS 등 워크플로우에 필요한 서비스 리소스
• Prompt Management 및 Guardrails를 통한 사전 구성
• LLM 접근 권한이 부여된 IAM 역할

인라인 코드 실행 환경에 대한 주의사항도 있습니다:

• 보안 샌드박스 환경에서 실행되며 인터넷 미지원
• 파이썬 3.12 이상만 지원
• 최대 코드 사이즈는 4MB
• AWS 계정 당 최대 25개의 동시에 실행 가능한 세션

결론

Amazon Bedrock Flows의 인라인 코드 노드는 생성형 AI 애플리케이션 개발을 훨씬 더 직관적이고 효율적으로 만드는 키 기능입니다. 각종 자동화 처리(전처리/후처리), 배포 가이드 단순화, 관찰 가능성 향상 등의 이점은 중소기업뿐 아니라 대규모 기업에도 유의미한 기술적 가치를 제공합니다. 복잡한 Lambda 구성 없이 빠르게 AI 기반 응용 서비스를 구현하고자 한다면, 이 기능을 적극 활용해보는 것을 추천드립니다.

현재 미국(버지니아 북부, 오하이오, 오레곤), 유럽(프랑크푸르트) 리전에서 공개 미리보기로 제공 중이며, Amazon Bedrock 콘솔이나 API로 손쉽게 시작할 수 있습니다.

https://aws.amazon.com/blogs/machine-learning/inline-code-nodes-now-supported-in-amazon-bedrock-flows-in-public-preview/