LossFunction

1. Loss Function 각각의 그림을 W와 함께 계산한 결과를 보자. 가장 왼쪽의 고양이 그림에 대해 값이 가장 높거나 낮아야 하는데, 2.9라는 값을 가지고있다. model을 재대로 train하기 위해서는 해당 결과가 얼마나 정확한지 또는 틀린지 정의할 수 있어야 한다. 해당 포스트에서 W의 정확성에 대해 판단하는 여러 loss function을 확인한다. 1. Multiclass SVM loss 조금더 상세하게 Cat, Car, Frog 그림에 대해서 $f(x,W)=Wx$의 값이 다음과 같다라고 하자. SVM에서 해당 값의 Loss를 계산하기 위해서 다음의 loss function인 hinge loss 이용한다. $$L_i = \sum_{j\neq y_i} max(0,s_j-s_yi+1)$$ ..