[AWS] Augmented AI (Amazon A2I)란? 쉽게 정리 (Human-Centered AI, RLHF)

 

Human-Centered AI

인간 중심 AI는 AI 시스템을 설계할 때 인간의 요구와 가치를 우선시하는 접근 방식이다.

이 과정에서는 심리학자, 윤리학자, 도메인 전문가 등 다양한 분야의 전문가들이 협력하여 AI 시스템이 투명하고 설명 가능하며 공정하고 비편향적이도록 만든다.

 

 

Amazon Augmented AI 

AI의 결과를 사람이 검토하거나 수정할 수 있도록 돕는 AWS 서비스이다.

AI가 처리한 작업이 100퍼센트 정확하지 않기 때문에, 사람이 결과를 review하여 확인하거나 수정해야 한다.

사람이 함께 참여하는 "augmented AI" 방식이다.

https://aws.amazon.com/augmented-ai/features/

https://aws.amazon.com/augmented-ai/features/

 

 

 

RLHF (사람의 피드백을 이용한 강화 학습)

RLHF는 LLM이 사실적이고 유익하며 무해한 콘텐츠를 생성하도록 돕는 기법이다.

사람들이 여러 답변을 평가하고 선호도를 기반으로 훈련 데이터를 생성하여 모델을 개선한다.

이를 통해 모델은 인간의 목표와 요구에 부합하는 출력 결과를 생성할 수 있습니다.

 

https://cameronrwolfe.substack.com/p/the-story-of-rlhf-origins-motivations