한 주 동안 데이터 수집의 "어려운 절반"을 다뤘다. Week 2가 "데이터를 어떻게 받아들이는가"의 기초였다면, Week 3는 "그 수집이 실시간이고, 장애가 나고, 운영 DB가 멈출 수 없고, 여러 컴포넌트가 얽혀 있을 때 어떻게 견고하게 만드는가"였다. 오늘은 흩어진 조각을 하나의 그림으로 다시 맞춘다.
핵심 질문 하나로 묶어보자. "끝없이 흘러드는 데이터를, 중복·순서 뒤바뀜·장애 속에서, 운영 시스템을 멈추지 않고, 여러 소비자가 각자 활용하도록 어떻게 수집할 것인가." 이번 주의 다섯 날이 이 질문의 다섯 부분에 정확히 대응한다.
| Day | 주제 | 핵심 한 줄 |
|---|---|---|
| Day1 | 스트리밍 처리(Managed Flink) | 무한 스트림에 윈도우로 경계를 긋고 워터마크로 결과 시점을 정한다 |
| Day2 | 수집 신뢰성 | at-least-once 전달 + 멱등 컨슈머 = effectively-once |
| Day3 | CDC / DMS | 전체를 다시 읽지 말고 트랜잭션 로그로 변경만 따라간다 |
| Day4 | 아키텍처 패턴 | Lambda/Kappa로 처리를, SQS/SNS/EventBridge로 결합을 설계한다 |
이번 주 개념을 하나의 가상 파이프라인에 모두 배치해보자.