정제로 데이터를 깨끗하게 만들었다면, 이제 모델이 잘 학습할 수 있는 형태로 변형할 차례다. 특성 공학(feature engineering)은 흔히 "모델 성능의 80%를 좌우한다"고 말할 정도로 ML 파이프라인에서 비중이 크다.
오늘은 세 가지 핵심 변형을 다룬다. 수치형의 범위를 맞추는 스케일링, 범주형을 숫자로 바꾸는 인코딩, 연속값을 구간으로 묶는 **비닝(binning)**이다. 각 기법이 어떤 알고리즘에서 왜 필요한지를 함께 본다.
많은 알고리즘이 피처의 **스케일(크기)**에 민감하다. 나이(0100)와 소득(01억)을 그대로 넣으면 거리·기울기 계산에서 소득이 압도한다.
| 기법 | 변환식 | 결과 범위 | 이상치 영향 |
|---|---|---|---|
| Min-Max 정규화 | (x − min) / (max − min) | [0, 1] | 매우 민감 |
| 표준화 (Z-score) | (x − μ) / σ | 평균 0, 분산 1 | 민감 |
| RobustScaler | (x − 중앙값) / IQR | 가변 | 강건 |
| MaxAbs | x / |max| | [−1, 1] | 민감 |
스케일링이 필수인 알고리즘: 거리 기반(KNN, K-means), 기울기 기반(선형/로지스틱 회귀, 신경망), 정규화 항이 있는 모델(Ridge/Lasso), SVM, PCA.