728x90 반응형 SMALL mse4 [Data Science] 손실 함수 (Loss Function) 손실 함수 (Loss Function) 선형 회귀는 잔차의 제곱합 (SSE, Error sum of Squares)를 최소화하는 방법으로 회귀 계수를 추정한다. 즉, SSE가 작으면 작을 수록 좋은 모델이라고 볼 수 있다. 흔히, 사용하는 MSE (Mean Squared Error)는 SSE를 표준화한 개념이다. MSE (Mean Squared Error) f(x)가 제대로 추정되었는지 평가하기 위해, 예측한 값이 실제 값과 유사한지 평가하는 척도가 필요하다. MSE는 실제 종속 변수와 예측한 종속 변수 간의 차이이다. MSE가 작을 수록 좋지만, MSE를 과도하게 줄이면 과적합의 오류를 범할 가능성이 있다. 따라서, 학습 집합이 아닌 검증 집합의 MSE를 줄이는 방향으로 f(x)를 추정한다. MAPE .. 2022. 11. 8. [AI] 평가 모델 (3) Mean Error MSE, MAE 및 RMSE는 회귀 분석에서 예측 오류율과 모델 성능을 평가하는 데 주로 사용된다. MAE (Mean Absolute Error) MAE (평균 절대 오차)는 데이터 세트에 대한 평균 절대 차이에 의해 추출된 원래 값과 예측 값 사이의 차이를 나타낸다. from sklearn.metrics import median_absolute_error y_true = [3, 5, 7] y_pred = [0, 4, 9] median_absolute_error(y_true, y_pred) 2.0 MSE (Mean Squared Error) MSE (평균 제곱 오차)는 데이터 집합에 대한 평균 차이를 제곱하여 추출한 원래 값과 예측 값의 차이를 나타낸다. from sklearn.met.. 2022. 9. 27. Estimating the Coefficient of the AR Model Estimating the Coefficient of the AR Model 계수 a(1), ..., a(p) 및 모형 순서 p를 결정해야 한다. 계수의 추정은 p 미지의 p 방정식의 동시 해를 포함한다. 표본 x(k)의 예측은 이전 표본의 수 p, x(k-1), ..., x(k-p)로부터 도출된다. n(i)이라는 용어는 시간 i에서 시계열의 실제 값과 자기 회귀에 의해 결정되는 값 사이의 차이이기 때문에 예측의 오류로 볼 수 있다. 예측 오차 또는 잔차 e(i)를 x(i)의 추정치가 실제 값에서 벗어나는 것으로 정의한다. 모형 계수의 최적 값은 예측 오차 e(i)의 절대값을 최소화하는 값이다. e(i)의 제곱값을 최소화함으로써 이것을 달성할 수 있다. 오차 제곱을 최소화하는 계수의 최선의 추정치를 찾기.. 2022. 4. 13. [Deep Learning] 손실 함수 (Loss function) 손실 함수 (Loss function) ML 혹은 DL에서 컴퓨터가 weight를 찾아가는 과정이다. 데이터 포인트에 정의되고 예측과 라벨링에 쓰이고 페널티 측정가능하다. MSE (Mean Squared Error) 예측한 값과 실제 값 사이의 평균 제곱 오차를 정의한다. 공식이 간단하고, 차가 커질수록 제곱 연산으로 값이 더욱 뚜렷해진다. 그리고 제곱으로 인해서 오차가 양수이든 음수이든 누적 값을 증가시킨다. RMSE (Root Mean Squared Error) MSE에 루트를 씌운 것으로 MSE와 기본적으로 동일하다. MSE 값은 오류의 제곱을 구하기 때문에 실제 오류 평균보다 더 커지는 특성이 있어서 MSE에 루트를 씌운 RMSE은 값의 왜곡을 줄여준다. Binary Crossentropy 실제 .. 2022. 1. 3. 이전 1 다음 728x90 반응형 LIST
