Day 2 - SageMaker 빌트인 1: XGBoost, Linear Learner, K-Means, KNN

어제 매핑 표에서 가장 자주 등장하는 정형 데이터(tabular) 알고리즘 네 개를 오늘 깊이 본다. 이들은 시험 출제 빈도가 가장 높은 빌트인이며, 각각이 잘하는 문제·입력 포맷·핵심 하이퍼파라미터를 구분하는 것이 핵심이다.

XGBoost — 정형 데이터의 기본기

그래디언트 부스팅 트리. 분류·회귀 모두 강력하고, 캐글·실무·시험에서 정형 데이터의 사실상 기본값이다.

• 용도: 이진/다중 분류, 회귀, 랭킹.
• 입력 포맷: CSV, libsvm, Parquet, RecordIO-protobuf. (CSV는 첫 열이 레이블)
• 강점: 결측치 자체 처리, 비선형·상호작용 자동 포착, 스케일링 불필요(트리 계열).

핵심 하이퍼파라미터:

objective         binary:logistic | multi:softmax | reg:squarederror
num_round         부스팅 라운드 수 (트리 개수)
max_depth         트리 깊이 — 클수록 복잡/과적합 위험
eta               학습률 (작을수록 천천히, 보통 0.01~0.3)
subsample         행 샘플링 비율 (과적합 억제)
colsample_bytree  열 샘플링 비율
gamma, lambda, alpha   정규화 (과적합 억제)
scale_pos_weight  클래스 불균형 보정