728x90 반응형 SMALL 전체 글1632 과적합을 줄이기 위한 L1 및 L2 정규화 L1 and L2 Regularization to Decrease Overfitting L1과 L2 정규화는 과적합 효과를 줄일 수 있는 두 가지 일반적인 정규화 기법이다. 이러한 알고리즘은 목적 함수와 함께 작동하거나 역전파 알고리즘의 일부로 작동할 수 있다. 두 경우 모두 정규화 알고리즘은 목표를 추가하여 훈련 알고리즘에 첨부된다. 이러한 알고리즘은 신경망 훈련에 가중치를 추가함으로써 작동한다. 이 페널티는 신경망이 가중치를 작은 값으로 유지하도록 장려한다. L1과 L2 모두 이 패널티를 다르게 계산한다. 이 패널티 계산을 역 전파와 같은 경사 강하 기반 알고리즘의 계산된 그레디언트에 추가할 수 있다. 페널티는 시뮬레이션 annealing과 같은 목적 함수 기반 훈련의 목표 점수와 부정적으로 결합된다.. 2023. 7. 24. 홀드아웃 (Holdout) 방법 홀드아웃 (Holdout) 방법 주어진 원천 데이터를 랜덤 (random)하게 두 분류로 분리하여 교차 검정을 실시하는 방법이다. 하나는 모형의 학습 및 구축을 위한 훈련용 데이터로 하나는 성과 평가를 위한 검증용 데이터로 사용한다. Classification with Stratified K-Fold Cross-Validation 샘플 부족을 생성하기 위해 교차 검증을 사용하여 데이터 세트를 훈련하고 fit한다. 또한, 표본 외 (검정 세트에 대한 예측) 결과도 기록한다. 분류 데이터를 사용하여 계층화된 k-폴드 교차 검증을 수행하는 것이 좋다. 이 기법을 사용하면 모든 접기에서 각 클래스의 백분율이 동일하게 유지된다. 계층화 사용회귀 분석에 사용된 KFold 개체 대신 StratifiedKFold개체이.. 2023. 7. 24. K-Fold Cross-validation K-Fold Cross-validation 예측 모델링에서 다양한 목적으로 교차 검증을 사용할 수 있다. • 신경망에서 표본 외 예측 생성 • 조기 중단 (early stopping)을 위해 신경망을 훈련시키기 위한 충분한 수의 에포크 추정 • 활성화 함수, 뉴런 수 및 계층 수와 같은 특정 하이퍼 파라미터의 효과 평가 교차 검증은 여러 접힘 및 여러 모델을 사용하여 각 데이터 세그먼트가 유효성 검사 및 훈련 세트 역할을 모두 할 수 있는 기회를 제공한다. 새 데이터에 대한 예측을 생성하기 위해 (훈련 세트에 없는) 폴드 모델의 예측은 여러 가지 방법으로 처리할 수 있다. • 검증 점수가 가장 높은 모델을 최종 모델로 선택한다. • 새 데이터를 5개의 모델 (폴드마다 하나씩)에 미리 설정하고 결과를 평균.. 2023. 7. 24. L1 / L2 정규화 L1 (Lasso) Regularization LASSO (Least Absolute Shrinkage and Selection Operator)라고도 하는 L1 정규화를 사용하여 신경망에서 희소성을 생성해야 한다. 즉, L1 알고리즘은 많은 가중치 연결을 거의 0으로 밀어넣는다. 가중치가 0에 가까우면 프로그램이 네트워크에서 가중치를 삭제한다. 가중 연결을 삭제하면 희소 신경망이 생성된다. 기능 선택은 희소 신경망의 유용한 부산물이다. 특징은 훈련 세트가 입력 뉴런에 제공하는 값이다. 입력 뉴런의 모든 가중치가 0에 도달하면 신경망 훈련은 기능이 불필요하다고 판단한다. 데이터 세트에 불필요한 입력 기능이 많은 경우 L1 정규화를 통해 신경망이 불필요한 기능을 감지하고 무시할 수 있다. L1은 목표에 다.. 2023. 7. 24. [Python] NotOpenSSLWarning: urllib3 v2.0 only supports OpenSSL 1.1.1+, currently the 'ssl' module is compiled with 'LibreSSL 2.8.3'. See: https://github.com/urllib3/urllib3/issues/3020 pip install urllib3==1.26.6 brew install openssl@1.1 2023. 7. 21. Sleep / Wake Analysis (Actiware) Sleep / Wake Analysis Actiware는 모든 에포크를 sleep 또는 wake로 평가한다. 특정 에포크를 웨이크로 점수를 매길지 여부는 해당 에포크와 그 바로 주변 에포크의 활동 카운트를 연구자가 설정한 임계값과 비교하여 결정된다. 카운트 수가 임계값을 초과하면 에포크가 wake로 채점된다. 임계값보다 낮거나 같으면 에포크는 sleep 모드로 점수가 매겨진다. Sleep = Total Activity Counts ≤ Wake Threshold Value Wake = Total Activity Counts > Wake Threshold Value Calculating Total Activity Counts Actiware는 샘플링 에포크를 기반으로 총 활동 카운트를 계산한다. 다음은 이 .. 2023. 7. 21. [FastAPI] 그래프 그리기 from fastapi import FastAPI, Response import matplotlib.pyplot as plt import io app = FastAPI() @app.get("/plot/") async def get_plot(): # 데이터 생성 x = [1, 2, 3, 4, 5] y = [10, 5, 7, 3, 8] fig, ax = plt.subplots() ax.plot(x, y) ax.set_xlabel('X-axis') ax.set_ylabel('Y-axis') ax.set_title('Sample Plot') ax.grid(True) # 그래프를 이미지로 저장 buffer = io.BytesIO() fig.savefig(buffer, format="png") buffer.seek.. 2023. 7. 21. [Chronobiology] 크로노타입 (Chronotype) 크로노타입 (Chronotype) 크로노타입은 근본적인 일주기 리듬의 무수한 물리적 과정의 행동 표현이다. 사람의 크로노타입은 개인이 24시간 중 특정 시간에 잠을 자는 경향이 있다. 어떤 사람들은 일출에 일어나서 갈 준비가 되어 있는 반면, 다른 사람들은 점심시간이 될 때까지 완전히 기능하지 못하는 것을 알 수 있다. 몇 시에 잠자리에 들든지 간에, 아침에 일어나는 것이 얼마나 쉬운지는 크로노타입 덕분에 대부분 미리 정해져 있다는 것을 아는 것이 필요하다. 크로노타입은 아침형 인간인지, 밤형 인간인지, 또는 그 중간 어딘가인지를 말하는 또 다른 방법이다. 그것은 유전적 구성에 의해 강하게 결정되며, 개별적인 일주기 리듬, 혹은 몸의 약 24시간 내부 시계를 반영한다. 이것은 alertness, 소화, .. 2023. 7. 20. 수면 무호흡증 증상 원인 현재 코골이 및 수면 무호흡의 발생 과정에 관한 많은 연구가 진행되었고, 여러 연구 결과가 보고되었다. 코골이와 수면 무호흡 환자들은 대부분 비강에서 시작되어 인후두까지 이어지는 상기도의 공간이 좁아지는 해부학적 이상을 가지고 있다. 비만으로 인하여 목 부위에 지방이 축적되거나 혀, 편도 등의 조직이 비대해진 경우에도 목 안의 공간이 줄어들고 상기도가 좁아져 코골이 및 수면 무호흡이 나타날 수 있다. 턱이 비정상적으로 작거나 목이 짧고 굵은 사람에게 코골이 및 수면 무호흡이 나타나는 경우도 많다. 두 번째 인두 주변 근육의 기능에 문제가 생겨 인두의 기도 확장근의 힘이 횡격막에 의한 흉곽 내 음압을 이겨내지 못하는 경우에도 발생할 수 있다. 소아의 코골이 및 수면 무호흡의 가장 큰 원인은 편도 비대.. 2023. 7. 20. statsmodels statsmodels statsmodels는 통계 모델에 대한 기술 통계 및 추정 및 추론을 포함하여 통계 계산을 위해 scipy를 보완하는 Python 패키지이다. python -m pip install statsmodels Main Features 선형 회귀 모델 일반 최소 제곱 일반화된 최소 제곱 가중 최소제곱 자기회귀 오류가 있는 최소제곱 분위수 회귀 재귀적 최소제곱 효과 및 분산 성분이 혼합된 혼합 선형 모델 GLM: 모든 단일 매개변수 지수군 분포를 지원하는 일반화 선형 모델 이항 및 푸아송을 위한 베이지안 혼합 GLM GEE: 단방향 클러스터 또는 종단 데이터에 대한 일반화된 추정 방정식 개별 모델 로짓과 프로빗 다항 로짓 (MNLogit) 포아송 및 일반화 포아송 회귀 음이항 회귀 제로 팽.. 2023. 7. 18. 이전 1 ··· 26 27 28 29 30 31 32 ··· 164 다음 728x90 반응형 LIST
