epoch, mini batch, epoch 이해, batch size에 따른 성능

CODEDRAGON Development/Big Data, R, ...

반응형

 

 

 

 

 

epoch

·         에포크

·         모든 데이터셋을 한번 학습하는

 

 

 

 

mini batch(미니배치)

·         데이터를 batch size만큼 쪼개어 학습하는 것을 말합니다.

·         샘플을 번에 개씩 처리할지를 지정합니다.

 

 

 

 

 epoch 이해

전체 10000 데이터를 300개씩 나누어 33 학습시 1 학습이 되어 1epoch 됩니다.

  

구분 설명
전체 데이터 10000
mini batch size 300
1 epoch 10000 / 300 = 33.3333
33번만큼의 iteration

 

 

 

 

batch size 따른 성능

·         batch size 너무 크면 학습 속도가 느려지고, 너무 작으면 실행 값의 편차가 생겨서 전체 결괏값이 불안정해질 있습니다.

·         분석 컴퓨터 메모리가 감당할 만큼의 batch size 찾아 설정해 주는 것이 좋습니다.