생성형 AI 프로젝트의 우선순위, 책임 있는 AI가 핵심입니다

기업의 생성형 AI 프로젝트, 책임 있는 AI와 함께 시작해야 합니다

최근 2년간 생성형 AI의 활용이 급격히 증가하면서, 이를 기반으로 하는 수많은 프로젝트 아이디어가 등장했습니다. 하지만 모든 프로젝트를 다 수행할 수는 없기에, 각 프로젝트의 사업적 가치를 정량적으로 비교하고 우선순위를 정하는 체계적인 방법이 중요해졌습니다. 특히, 생성형 AI는 헛소리(hallucination), 잘못된 판단 자동화, 규제 미비 등의 새로운 위험을 동반하기 때문에, 초기 단계부터 ‘책임 있는 AI(Responsible AI)’ 관점을 함께 고려해야 합니다.

이번 글에서는 AWS의 가이드라인을 참고하여 생성형 AI 프로젝트를 선택하고 우선순위를 정하는 방식에 책임 있는 AI 요소를 어떻게 통합할 수 있는지 구체적인 사례와 함께 살펴보겠습니다.

책임 있는 AI란 무엇인가?

AWS Well-Architected Framework에 따르면, 책임 있는 AI는 인공지능을 설계, 개발, 사용할 때 이익을 극대화하고 위험을 최소화하는 접근 방식입니다. 이에 따라 공정성, 설명 가능성, 개인 정보 보호 및 보안, 안전성, 제어 가능성, 진실성과 견고성, 거버넌스, 투명성이라는 여덟 가지 기준이 정의되어 있습니다.

개발 생애 주기 전반에 걸쳐 이 기준들을 반영하며, 그 출발점은 바로 프로젝트 우선순위 지정입니다. 처음부터 책임 있는 AI 가이드를 적용함으로써 재작업 가능성을 줄이고, 고객 신뢰 훼손이나 규제 위반 등의 리스크를 완화할 수 있습니다.

생성형 AI 프로젝트의 우선순위 산정 방법

기업마다 다양한 우선순위 산정 방식이 있지만, 여기서는 Scaled Agile 프레임워크의 WSJF(Weighted Shortest Job First) 기법을 활용합니다.

우선순위 = (지연 비용) ÷ (작업 규모)

여기서 지연 비용은 프로젝트가 지연되었을 때 잃을 수 있는 사업적 가치이며, 작업 규모는 개발에 필요한 리소스와 난이도를 지칭합니다. 특히 작업 규모에는 책임 있는 AI 관점에서 발생할 수 있는 리스크 평가 및 완화 작업까지 포함합니다.

사례 비교: 두 개의 생성형 AI 프로젝트

두 개의 프로젝트가 있다고 가정해봅니다.

1. 자동 제품 설명 생성기

• 대형 언어 모델(LLM)을 활용하여 제품 설명을 자동 생성
• 마케팅팀이 상품 페이지 제작 시 사용

2. 광고 비주얼 제작기

• Text-to-Image 모델로 광고 캠페인용 이미지 생성
• 브랜드 자산을 빠르게 제작 가능

책임 있는 AI 고려 전: 단순 WSJF 평가

Project 1:
직접 가치: 3 / 긴급도: 2 / 기회 확장성: 2 / 작업 규모: 2
WSJF 점수 = (3+2+2) / 2 = 3.5

Project 2:
직접 가치: 3 / 긴급도: 4 / 기회 확장성: 3 / 작업 규모: 2
WSJF 점수 = (3+4+3) / 2 = 5

처음 봤을 때는 Project 2의 우선순위가 높아 보입니다. 이미지 제작이 시간과 리소스를 더 많이 요구하므로 더 시급하다고 판단할 수 있습니다.

책임 있는 AI 리스크 평가

각 프로젝트의 리스크를 AWS의 8가지 Responsible AI 항목을 기준으로 분석한 결과는 다음과 같습니다.

Project 1:

• 공정성: 낮음 (성별, 인종 표현 이슈 → 가드레일 도입)
• 안전성: 중간 (부적절하거나 공격적인 언어 가능성)
• 진실성: 중간 (사실 무근한 상품 설명 가능성)
• 거버넌스: 중간 (저작권 보장 제공업체 선택 필요)

Project 2:

• 공정성: 낮음 (이미지 내 인종 및 젠더 표현 이슈)
• 안전성: 낮음 (성인 콘텐츠, 위험 요소 포함 가능성)
• 제어 가능성: 높음 (브랜드 가이드라인 일치 여부 평가)
• 진실성: 낮음 (비현실적 이미지로 브랜드 신뢰도 저하 가능성)
• 거버넌스: 높음 (이미지 출처와 저작권 확보 필요)

책임 있는 AI 고려 후 재평가:

Project 1:

• 작업 규모 증가: 3 (기본 가드레일, 사용자 피드백 시스템 적용)
• WSJF = (3+2+2) / 3 = 2.3

Project 2:

• 작업 규모 증가: 5 (상용 이미지 모델 사용, 고급 가드레일 필요)
• WSJF = (3+4+3) / 5 = 2

최종적으로 보면, Project 1이 더 적은 비용으로 빠르게 구현할 수 있으며 관련 위험도 낮기에 우선순위가 더 높아집니다. 특히 이미지 관련 책임 있는 AI 구현은 아직 다양한 도전과제가 존재하며, 별도의 연구나 전문가 리소스가 요구될 수 있습니다.

책임 있는 AI, 선택이 아닌 필수입니다

책임 있는 AI 관점이 우선순위 평가에 실질적인 영향을 미친다는 점을 본 사례에서 확인할 수 있습니다. 특히 생성형 AI는 새로운 유형의 위험을 동반하기에 초기 단계부터 면밀하게 분석해야 합니다. 단순한 기술 도입을 넘어서, 책임 있고 지속 가능하며 규제에 부합하는 프로젝트 수행을 위해 조직 차원의 정책 수립과 체계화된 리스크 관리가 요구됩니다.

생성형 AI를 어떻게 전략적으로 활용하고 싶은가요? 지금, 책임 있는 AI 관점으로 프로젝트를 다시 들여다보십시오.

https://aws.amazon.com/blogs/machine-learning/incorporating-responsible-ai-into-generative-ai-project-prioritization/