AWS를 통한 Amazon Bedrock 비용 관리 및 최적화 가이드

AWS를 통한 Amazon Bedrock 비용 관리 및 최적화에 대한 가이드

최근 많은 기업들이 클라우드 기반의 AI 솔루션을 도입함에 따라 Amazon Bedrock에 대한 수요가 증가하고 있습니다. 비용을 효율적으로 관리하고 최적화하는 과정은 매우 중요합니다. 이번 글에서는 Amazon Bedrock의 비용 분석 및 최적화 방법에 대해 살펴보겠습니다.

Amazon Bedrock 비용 분석의 핵심 방법

Amazon Bedrock의 비용은 기업의 다양한 부서와 프로젝트에 의해 발생하기 때문에, 각 사용자가 어느 모델을 사용하는지, 그리고 비용을 어떻게 분배할 수 있는지를 아는 것이 중요합니다. 이를 위해, Amazon Athena와 CUDOS Dashboard를 활용한 분석 방법을 소개합니다.

비용 및 사용 보고서 (CUR 2.0) 설정하기

Amazon Bedrock 비용을 분석하기 위해서는 먼저 비용 및 사용 보고서(CUR 2.0)를 IAM 주체 데이터와 함께 설정해야 합니다. 이를 통해 각 사용자의 액세스와 사용량을 추적할 수 있습니다.

Athena를 이용한 CUR 데이터 쿼리

Amazon Athena를 활용하면, CUR 데이터를 기반으로 한 다양한 비용 분석 쿼리를 작성할 수 있습니다. 예를 들어, 특정 월의 Amazon Bedrock 사용 내역과 비용을 분석하는 데 사용할 수 있습니다.

SELECT
    line_item_iam_principal,
    line_item_usage_type,
    SUM(line_item_usage_amount) AS total_tokens,
    SUM(line_item_unblended_cost) AS total_cost
FROM your_cur_table_name
WHERE line_item_product_code in ('AmazonBedrock', 'AmazonBedrockService')
    AND billing_period = DATE_FORMAT(CURRENT_DATE, '%Y-%m')
    AND line_item_iam_principal IS NOT NULL
GROUP BY
    line_item_iam_principal,
    line_item_usage_type
ORDER BY total_cost DESC;

CUDOS 대시보드를 통한 시각화

CUDOS Dashboard는 조직의 구조에 맞춘 시각화를 제공하여, 사용자가 쉽게 비용을 파악하고 데이터를 기반으로 의사결정을 내릴 수 있도록 돕습니다.

실제 사례: 다양한 서비스 비용 비교

예를 들어, DocProcessor와 ChatApp이라는 두 가지 AI 서비스를 운영하는 플랫폼 팀이 있다고 가정해보겠습니다. 각 서비스에 대한 비용을 비교하여, 어느 서비스가 더 많은 비용을 차지하는지를 확인할 수 있습니다.

SELECT
    line_item_iam_principal,
    line_item_usage_type,
    SUM(line_item_usage_amount) AS total_usage,
    SUM(line_item_unblended_cost) AS total_cost
FROM your_cur_table_name
WHERE line_item_product_code IN ('AmazonBedrock', 'AmazonBedrockService')
    AND billing_period = DATE_FORMAT(CURRENT_DATE, '%Y-%m')
    AND line_item_iam_principal IS NOT NULL
    AND (
        line_item_iam_principal LIKE '%DocProcessor%'
        OR line_item_iam_principal LIKE '%ChatApp%'
    )
GROUP BY
    line_item_iam_principal,
    line_item_usage_type
ORDER BY total_cost DESC;

결론: Amazon Bedrock 비용 최적화의 다음 단계

Amazon Bedrock의 비용을 성공적으로 관리하기 위해서는, CUR 2.0을 통한 데이터 수집 및 Amazon Athena를 이용한 SQL 쿼리를 통해 세부적인 비용을 분석하는 것이 필수적입니다. 더불어, CUDOS Dashboard를 활용한 시각적 분석은 보다 직관적인 인사이트를 제공합니다. 이러한 방법들은 Amazon Bedrock의 사용 효율성을 극대화하는 데 큰 도움이 될 것입니다.

[1] https://aws.amazon.com/blogs/machine-learning/part-2-amazon-bedrock-cost-attribution-with-amazon-athena-and-cudos/