[AWS] ML 효율성 측정 지표

 

📌 Average Response Time (평균 응답 시간)

사용자가 입력을 주었을 때, AI 모델이 결과를 반환할 때까지 걸리는 평균 시간이다.

• 사용 예시:
  • 실시간 시스템 (예: 챗봇, 자동 응답 시스템, 음성 비서 등)
  • 인터랙티브 웹 서비스 (예: 추천 시스템, 검색엔진)
  • 모바일 애플리케이션 (예: 이미지 인식, AR 응용 프로그램)
• 중요성:
  • 응답 시간이 길면 사용자 경험이 나빠지고, 시스템 성능이 떨어진다고 인식된다.
  • 기업 서비스의 경우, 응답 지연은 수익 손실이나 사용자 이탈로 이어질 수 있다.

 

---

🤔 문제

AI 모델을 운영하는 동안의 실행 효율성(runtime efficiency) 을 측정하는 지표는 무엇인가요?

1. 고객 만족도 점수 (CSAT, Customer satisfaction score)
2. 각 에폭(epoch)당 훈련 시간
3. 평균 응답 시간 (Average response time)
4. 훈련 인스턴스 수

정답

정답 3번