online prediction

잘못된 내용이 있으면 댓글로 알려주시면 감사합니다. 언제나 기술적인 피드백은 환영합니다. 여러 책을 공부하면서 헷갈리는 언어가 있었는데 아래 단어이다. 1. model serving vs model prediction vs model inference 2. online inference vs online serving vs batch prediction vs batch serving model serving vs model prediction vs model inference model serving :모델을 배포하여 실시간 요청 또는 일괄 처리를 하도록하는 과정이다. model inference을 포함하는 개념이다. model prediction : 모델이 output 값을 만든는 것. auto reg..