[Deep Learning] 손실 함수 (Loss function)

손실 함수 (Loss function)

 

ML 혹은 DL에서 컴퓨터가 weight를 찾아가는 과정이다. 데이터 포인트에 정의되고 예측과 라벨링에 쓰이고 페널티 측정가능하다.

 

MSE (Mean Squared Error)

 

 

예측한 값과 실제 값 사이의 평균 제곱 오차를 정의한다. 공식이 간단하고, 차가 커질수록 제곱 연산으로 값이 더욱 뚜렷해진다. 그리고 제곱으로 인해서 오차가 양수이든 음수이든 누적 값을 증가시킨다.

 

RMSE (Root Mean Squared Error)

 

 

MSE에 루트를 씌운 것으로 MSE와 기본적으로 동일하다. MSE 값은 오류의 제곱을 구하기 때문에 실제 오류 평균보다 더 커지는 특성이 있어서 MSE에 루트를 씌운 RMSE은 값의 왜곡을 줄여준다.

 

Binary Crossentropy

 

 

실제 레이블과 예측 레이블 간의 교차 엔트로피 손실을 계산한다. 예를 들어 0과 1을 2개의 레이블 클래스 구분할 때 Binary Crossentropy를 사용한다. 

 

Categorical Crossentropy

 

레이블 클래스가 2개 이상일 경우 사용된다. 보통 softmax 활성화 함수 다음에 나온다고 하여 softmax loss 라고도 불린다.

 

그 외의 손실 함수

 

https://keras.io/ko/losses/

Losses - Keras Documentation