부스트캠프 AI Tech 2기 day - 18 Train Inference

-

image

Train Inference


  • 학습 프로세스에 필요한 요소는 크게 세가지(Loss, Optimizer, Metric)으로 나누어진다.

Error Backpropagation

image

image

image

image

image

image


Focal loss / Label Smoothing loss

논문(https://arxiv.org/pdf/1708.02002.pdf)

RetinaNet 모델을 학습시키는데 Focal loss가 성능 향상

Focal loss는 분류 에러에 근거한 loss에 가중치를 부여함.

샘플이 CNN에 의해 올바르게 분류되었다면 그것에 대한 가중치는 감소한다.

즉 좀 더 문제가 있는 loss에 더 집중하는 방식으로 불균형 클래스 문제 해결

image