[AWS] Amazon Bedrock란? 쉽게 정리 (생성형 AI, RAG, Agents, Guardrails, Knowledge Base)

 

 

Bedrock

 

Amazon Bedrock

Bedrock는 AWS에서 제공하는 Generative AI 서비스로, 다양한 기반 모델(예시: Anthropic Claude, AI21 Labs, Stability AI, Cohere, Amazon Titan) 을 활용하여 AI 애플리케이션을 손쉽게 구축할 수 있다.

 

AWS re:Invent 2022(2022년 11월)에서 공식적으로 발표되었다

https://aws.plainenglish.io/announcements-from-dr-swami-sivasubramanian-keynote-at-re-invent-2023-5d899d914955

 

Bedrock의 사전적 의미

1) "기반암" : 지구 표면 아래에 있는 단단한 암석층

2) "기초, 근본" :(비유적 의미) 어떤 것의 기초, 근본, 핵심 원칙
예: "Trust is the bedrock of a good relationship." → "신뢰는 좋은 관계의 근본(기초)이다."

https://en.wikipedia.org/wiki/Bedrock

 

 

Amazon Bedrock 특징

📌다양한 Generative AI 모델 제공: 자연어 처리(NLP), 이미지 생성, 텍스트 요약 등 

Generative AI 모델의 예시 (모두 Bedrock에서 사용할 수 있다)

모델	제공업체	기능
GPT-4	OpenAI	텍스트 생성 (챗봇, 문서 작성)
Claude	Anthropic	문맥 이해 및 텍스트 생성
Amazon Titan	AWS	기업용 생성형 AI 모델
Stable Diffusion	Stability AI	이미지 생성

https://aws.amazon.com/blogs/aws/amazon-bedrock-is-now-generally-available-build-and-scale-generative-ai-applications-with-foundation-models/

📌서버리스(Serverless):

인프라를 직접 관리할 필요 없이 API를 통해 모델을 바로 사용할 수 있음 (모델 훈련 없이 바로 사용 가능)

사용한 만큼 비용 지불 (Pay-as-you-go)

📌커스텀 (Customization):

자신의 데이터로 모델을 Fine-tuning 가능

다양한 AWS 서비스와 쉽게 통합되며, Amazon SageMaker, AWS Lambda 등과 결합하여 다양한 워크플로우를 구축할 수 있다.

 

Amazon Bedrock의 모델 타입(Model Types)

1. Foundation Model (기본 제공 모델): 사전 학습된(Pretrained) 대형 언어 모델(LLM)
   • Anthropic Claude (Claude 1, 2, 3 시리즈)
   • AI21 Labs Jurassic-2
   • Cohere Command R+
   • Meta Llama 2/3
   • Mistral 7B, Mixtral
   • Amazon Titan (Text & Embeddings)
2. Custom Model (사용자 정의 모델): Foundation Model을 fine-tuning해서 만든 사용자 전용 모델
   • Titan 계열 모델만 현재 fine-tuning 지원
   • 예: Titan Text G1 - fine-tuned
3. Provisioned Throughput Model (프로비저닝 모델): 정해진 처리량(Throughput)을 미리 확보해서 사용하는 모델
   • Custom Model에 적용 가능

 

Amazon Bedrock Agents

Bedrock Agents 는생성형 AI 애플리케이션을 쉽게 만들 수 있도록 도와주는 "지능형 도우미(Agent)"이다

사용자의 질문이나 요청을 이해하고, 필요한 정보를 찾거나 행동을 수행해주는 역할을 한다.

 

✅ Bedrock Agents는 Amazon Bedrock API를 자동으로 호출할 수 있으며, 기초 모델(FM, Foundation Model)의 성능을 향상시킬 수 있다.

 

• 사용자가 “날씨 알려줘”라고 하면,
• Agent는 자동으로 날씨 API를 호출해서 결과를 가져오고,
• FM(예: Claude, Titan 같은 언어 모델)이 이 결과를 사용자에게 자연스럽게 설명하게 돕는 거예요.

 

 

📌 예시: 사용자 질문: “내 주문 상태 좀 알려줘.”

일반적인 AI 모델의 한계: 실제 주문 상태를 확인할 수는 없다. (왜냐하면 외부 시스템에 접근을 못 하기 때문에)

Bedrock Agent: 고객 ID 확인, 외부 주문 정보를 조회하는 API를 자동으로 호출, API 응답을 바탕으로 대답

https://aws.amazon.com/blogs/machine-learning/using-amazon-bedrock-agents-to-interactively-generate-infrastructure-as-code/

 

Amazon Bedrock Guardrails

Amazon Bedrock Guardrails는 출력 결과가 안전성과 적합성에 보장하기 위한 기능이다.

모델이 생성하는 텍스트 콘텐츠가 안전하고, 적절하며, 브랜드의 기준에 맞도록 제어할 수 있도록 만든다.

• 민감한 주제 필터링: 성인 콘텐츠, 폭력적 언어, 차별적 발언 등을 자동으로 감지하고 차단한다.
• 어린이용 콘텐츠 보장: 어린이들에게 적합한 안전하고 유익한 내용만 제공할 수 있도록 필터링.

https://aws.amazon.com/blogs/aws/amazon-bedrock-guardrails-now-supports-multimodal-toxicity-detection-with-image-support/

 

Amazon Bedrock Knowledge Base

Bedrock Knowledge Base는 Amazon Bedrock에서 제공하는 RAG(Retrieval-Augmented Generation) 기능이다.

외부 데이터(회사 내부 데이터)를 기반으로 AI 모델의 응답을 향상시키는 서비스이다

 

예시)

✔ 내 회사 문서, FAQ, 데이터에서 검색 후 답변
✔ 최신 정보 반영해서 더 정확한 AI 챗봇 만들기

✔ S3, RDS, OpenSearch 같은 데이터 저장소와 연결해서 검색가능하도록 만들수 있다.

https://aws.amazon.com/bedrock/knowledge-bases/

 

📌 RAG(Retrieval-Augmented Generation)란?

RAG = Retrieval(검색) + Augmentation(보강)

– 검색 (Retrieval) → 질문과 관련된 정보를 외부 소스에서 가져옴
– 보강 (Augmentation) → 가져온 정보를 AL 모델(GPT 등)에 제공

 

📌 일반 AI → 그냥 기존 학습 데이터 속에서 찾아 대답함
📌 RAG AI → 기존의 학습 데이터뿐만 아니라, 외부 데이터를 검색하여 더 정확하게 최신 정보로 대답함
➡ 그래서 더 정확하고, 최신 정보도 반영 가능! 🚀

 

https://www.promptingguide.ai/research/rag

 

 

---

🤔 문제

회사는 Amazon Bedrock을 사용하여 Amazon Titan 기초 모델(FM)을 구현하고 있습니다. 회사는 모델을 보완하기 위해 회사의 비공개 데이터 소스에서 관련 데이터를 사용할 필요가 있습니다. 이 요구 사항을 충족하는 솔루션은 무엇입니까?

1. 다른 기초 모델(FM)을 사용한다.
2. 더 낮은 temperature 값을 선택한다.
3. Amazon Bedrock 지식 베이스(Knowledge Base)를 생성한다.
4. 모델 호출 로깅(Model Invocation Logging)을 활성화한다.

정답

정답. 3번