학습 작업이 돌긴 도는데 손실이 줄지 않거나, GPU를 비싸게 빌렸는데 활용률이 30%밖에 안 된다면, 무슨 일이 벌어지는지 학습 내부를 들여다봐야 한다. SageMaker Debugger와 Profiler는 학습 중 텐서와 시스템 자원을 실시간으로 수집·분석해 "왜 안 되는지"와 "어디서 느린지"를 알려준다.
MLA-C01 시험에서 이 주제는 "그래디언트 소실/폭발을 자동 감지", "GPU 활용률이 낮은 원인을 찾는다", "학습이 발산할 때 자동으로 멈춘다" 같은 상황으로 등장한다. 오늘은 Debugger(모델 내부)와 Profiler(시스템 자원) 두 축을 구분한다.
먼저 둘의 관심사를 명확히 가른다.