Training/Testing 데이터 셋 이론

머신러닝 모델이 얼마나 잘 동작하는지에 대해 확인하는 방법

Performance evaluation: is this good?

지난번에 알파(learning rate)와 람다(regularization strength)라는 두 개의 상수를 배웠다. 이런 값을 튜닝 할 필요가 있을 때, training set을 완벽한 training set과 validation set으로 나눈다. 완벽한 training set을 가지고 훈련을 한 다음 validation set을 가지고 알파와 람다를 어떻게 튜닝할지를 고민한다.(모의시험)

다음 test set을 가지고 모델이 잘 동작하는지 확인한다.(test set은 숨겨져있고 한번만 확인 가능하다고 생각하면됨)

 

 

Online learning

 

 

그리고 data set이 너무 많을때 그것을 모두 다 넣어서 학습시키기 힘들때가 있다. 이럴때는 Online learning이라는 학습방법을 사용한다. training set이 100만개가 있다고 하자. 이것을 10만개씩 잘라서 순서대로 학습시킨다. 

 

매 학습때마다 학습했던 결과를 저장해야 한다.

 

세월이 지난 후 추가적인 데이터가 들어왔을때 이전의 데이터를 새로 학습시키지 않고 있는 데이터에 추가로 학습시킬 수 있다.

 

 

 

 

Accuracy

우리가 test set을 가지고 있다면 모델이 얼마나 정확한지 측정하는 것은 어려운 일이 아니다.

 

 

출처:

https://www.inflearn.com/course/%EA%B8%B0%EB%B3%B8%EC%A0%81%EC%9D%B8-%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EB%94%A5%EB%9F%AC%EB%8B%9D-%EA%B0%95%EC%A2%8C/lecture/3397