[AWS] Generative AI Security Scoping Matrix란? 쉽게 정리

 

 

https://aws.amazon.com/blogs/security/securing-generative-ai-an-introduction-to-the-generative-ai-security-scoping-matrix/

Generative AI Security Scoping Matrix

Generative AI Security Scoping Matrix는 생성형 AI(Generative AI) 솔루션을 사용할 때, 누가 어떤 보안 책임(Security responsibility)을 가지는지 정확히 구분해주는 가이드 매트릭스이다.

 

🔐 5가지 스코프 요약

Scope	이름	설명	보안 책임
1	Consumer App	공개된 서드파티 AI 앱을 그냥 사용 (ex. ChatGPT)	거의 없음
2	Enterprise App	기업용 SaaS 제품에 내장된 AI 기능 사용 (ex. 회의 앱에 포함된 AI 기능)	매우 낮음
3	Pre-trained Model	API로 사전 학습된 FM을 연결해서 자체 앱 개발 (ex. Bedrock API로 챗봇 개발)	중간 수준
4	Fine-tuned Model	FM을 자사 데이터로 파인튜닝하여 특화된 모델 생성	높음
5	Self-trained Model	자사 데이터로 처음부터 모델을 직접 구축 및 학습	매우 높음 (모든 책임 소유)

Scope 숫자가 커질수록 기업의 보안 책임도 커짐

Scope 5는 완전한 모델 소유 및 구축 단계로, 보안·프라이버시·운영 등 모든 책임이 회사에 있다.

 

 

---

🤔 문제

회사가 Generative AI Security Scoping Matrix를 사용하여 자사 솔루션의 보안 책임 범위를 평가하고 있습니다. 이 회사는 매트릭스를 기반으로 네 가지 솔루션 범위를 식별했습니다.
다음 중 회사 측이 가장 많은 보안 책임을 가지는 솔루션 범위는 무엇입니까?

1. 생성형 AI 기능이 내장된 서드파티 엔터프라이즈 애플리케이션을 사용하는 경우
2. 기존 서드파티 생성형 AI 기반 모델(FM)을 사용하여 애플리케이션을 구축하는 경우
3. 기존 서드파티 생성형 AI 기반 모델(FM)을 자사 데이터를 사용하여 파인튜닝(fine-tuning)하는 경우
4. 고객이 소유한 특정 데이터를 사용하여 생성형 AI 모델을 처음부터 직접 구축하고 학습시키는 경우

정답

정답. 4번