Amazon Bedrock를 활용한 AI 생성 피싱 방지 방법

AI 기술의 발전으로 이메일 피싱 공격이 더욱 정교해지면서, 보안 팀에게 새로운 도전 과제가 등장했습니다. 피싱 이메일은 이제 문법적으로 완벽하며, 실질적인 맥락과 개인화된 세부 사항을 포함하고 있어 기존 보안 필터로 감지하기 어려운 상황입니다. 이러한 AI 생성 피싱 공격에 대응하기 위해, 현대 조직들은 새로운 보안 전략을 필요로 하며, Amazon Bedrock가 그 해법을 제시합니다.

Amazon Bedrock의 주요 기능과 사례

Amazon Bedrock는 고성능 기반 모델을 활용하여 생성을 기반으로 하는 AI 응용 프로그램을 안전하게 구축할 수 있는 완전 관리형 서비스입니다. 전통적인 보안 필터를 넘어서는 분석 계층을 추가하여, 문법의 질이나 형식보다는 행동 패턴에 따라 피싱 시도를 탐지할 수 있습니다.

Amazon Bedrock의 피싱 탐지 워크플로우

Amazon Bedrock는 방대한 데이터를 사전 훈련한 대규모 일반 AI 모델을 사용하여, 이메일 콘텐츠에서 행동 패턴을 분석하고 맥락적 관계를 이해하며 이상 현상을 식별합니다. 각 이메일은 인증, 행동 분석, 위험 점수화를 거쳐 사용자에게 도달합니다.

각 메시지는 먼저 표준 인증 검사(예: SPF, DKIM, DMARC)를 거쳐, 발신 서버가 권한 있는지 확인합니다. Amazon Bedrock 기반 모델은 세 가지 주요 요소(단어 선택, 통신 스타일의 편차, 요청의 맥락 적절성)를 기준으로 메시지를 분석하여, 전통적인 보안 제어보다 깊은 분석을 수행합니다.

이러한 분석을 통해 콘텐츠 이상 점수, 행동 편차 점수, 맥락 정렬 점수를 생성하여, 하나의 위험 점수로 통합됩니다. 이를 통해 이메일을 어디로 라우팅할지를 결정합니다.

검증 및 자동화된 라우팅

안전한 메시지는 사용자의 수신함으로 전달되고, 의심스러운 메시지는 보안 팀 검토를 위해 격리되며, 위험한 메시지는 즉시 차단됩니다.

결론

AI가 피싱을 더욱 감지하기 어렵게 만들었지만, 같은 기술을 방어적인 목적으로 적용할 경우 이를 저지하는 것이 가능합니다. Amazon Bedrock는 행동 분석, 맥락 기반 분석, 지속적인 피드백 루프를 통해 시간이 지남에 따라 정확도를 개선하는 피싱 탐지 프레임워크를 제공합니다. 기존 인프라와 결합하여 사용할 경우, AI에 의해 강화된 보안 시스템을 구축할 수 있으며, 피싱 공격에 대한 효과적인 방어를 할 수 있습니다.

보다 자세한 구현 방법과 설정은 아래 원문을 참고해 주시기 바랍니다.
[1] https://aws.amazon.com/blogs/machine-learning/how-amazon-bedrock-catches-ai-generated-phishing/