오버피팅 해결방안 - "드규교배"

 

오버피팅 관련 해결 방안은 다양하게 있겠지만, 

4개 정도는 암기하시면 좋을 듯 합니다. 

 

예전에 시험 공부할때 봤던 책에서 관련 내용을 찾아 두음으로 재정리해 봤습니다.

 

실제 시험에서 작성하실 때는 3단표로 작성하셔야 하며, 

가운데 열에 개념도를 간략히 표기해 주시면 매우 전문적으로 보여지는 점 참고하시길 바랍니다.

요것도 팁입니다.

 

해결 방안	설명
Drop Out	- 학습 과정에서 신경망의 일부를 사용하지 않는 방법
Regulation	- 복잡한 모델을 좀 더 간단하게 하는 방법으로 가중치 규제
Cross Validation (교차 검증)	- 데이터셋을 Train과 Validation으로 나누어 사용하는 방법 - 주요 기법 : Holdout Cross Validation, K-fold Cross Validation, Leave-p-out Cross Validation
Batch Normalization (배치 정규화)	- 학습 시의 미니 배치를 한 단위로 정규화를 하는 것으로 분포의 평균이 0, 분산이 1이 되도록 정규화 하는 기법

 

3단표 예

해결 방안	개념도	설명
Drop Out		- 학습 과정에서 신경망의 일부를 사용하지 않는 방법

 

틈틈이 관련 정보 수집하게 되면 업데이트 하겠습니다.

감사합니다.