Day 1에서 데이터 품질·모델 품질 드리프트를 봤다. 오늘은 Model Monitor의 나머지 두 모니터인 **편향 드리프트(Bias Drift)**와 **피처 기여도 드리프트(Feature Attribution Drift)**를 다룬다. 이 둘은 SageMaker Clarify가 담당한다. Clarify는 학습 전 데이터 편향, 학습 후 모델 편향, 그리고 예측 설명(explainability)을 계산하는 서비스인데, 그 능력을 운영 중인 엔드포인트의 지속 감시로 확장한 것이 오늘의 주제다.
왜 편향과 설명을 운영 중에도 봐야 할까? 학습 시점에 공정했던 모델도, 들어오는 데이터 분포가 바뀌면 특정 그룹에 불리해질 수 있다. 또 모델이 의존하는 피처의 중요도가 시간이 지나며 달라지면, 그것 자체가 모델 행동이 변했다는 경고 신호다. MLA-C01은 "책임 있는 AI(responsible AI)"와 모니터링을 엮어 이 부분을 묻는다.
Clarify가 하는 일은 크게 둘이다.
| 기능 | 무엇을 측정 | 운영 모니터 |
|---|---|---|
| 편향(Bias) 탐지 | 민감 그룹 간 결과 차이(예: 성별·연령) | Bias Drift Monitor |
| 설명가능성(Explainability) | 각 피처가 예측에 기여한 정도(SHAP) | Feature Attribution Drift Monitor |