엘라스틱넷(Elastic Net) 회귀는 릿지 회귀(Ridge)와 라쏘 회귀(Lasso)의 장점을 결합한 모델입니다.즉, L1 정규화(라쏘)와 L2 정규화(릿지)를 동시에 적용하여 변수 선택과 가중치 축소를 함께 수행합니다. 1. 엘라스틱넷의 핵심 개념 2. 엘라스틱넷 회귀 수식 엘라스틱넷은 L1 정규화(라쏘)와 L2 정규화(릿지)를 결합한 형태로, 다음과 같은 손실 함수를 사용합니다. 3. 엘라스틱넷의 특징 ✅ 릿지와 라쏘의 장점 결합 ✅ 다중 공선성이 있는 데이터에서 … Read more
비교 항목 릿지 회귀 (Ridge Regression) 라쏘 회귀 (Lasso Regression) 정규화 방식 L2 정규화 (제곱합 ∑βj2\sum \beta_j^2∑βj2) L1 정규화 (절댓값 합 (\sum 과적합 방지 가능 (모든 계수를 작게 만듦) 가능 (일부 계수를 0으로 만들어 변수 선택) 변수 선택 ❌ 없음 (모든 변수를 유지) ✅ 있음 (일부 계수를 0으로 만듦) 계수 축소 방식 모든 계수를 작게 … Read more
릿지(Ridge)는 머신러닝과 통계에서 사용되는 릿지 회귀(Ridge Regression) 또는 릿지 정규화(Ridge Regularization) 를 의미합니다. 이는 선형 회귀(Linear Regression)의 일종으로, 과적합(Overfitting)을 방지하기 위해 가중치(Weight)에 패널티를 추가하는 방법입니다. 1. 릿지 회귀(Ridge Regression)란? 2. 릿지 회귀의 수식 릿지 회귀는 기존 선형 회귀에 L2 패널티를 추가한 형태입니다 3. 릿지 회귀의 특징 ✅ 다중 공선성 해결 ✅ 변수 선택이 아닌 가중치 … Read more
