스타트업에서 데이터를 허투로 버리지 않고 소중히 모시는 방법

데브콘 대전 : 삼월엔 데이터

커뮤니티 운영진 한분과의 인연으로 “스타트업에서 데이터를 허투로 버리지 않고 소중히 모시는 방법”이라는 제목으로 주니어 분들 앞에서 제가 해왔던 기술 이야기를 조금이나마 나눌 수 있는 즐거운 시간이었어요.

데브콘 대전 : 삼월엔 데이터 | Festa! - 페스타

대전 최대 아웃풋 is 성심당

Data Ingestion, Data Analysis, Visualization

Observability 관측성

관측 가능성 - 위키백과

우리가 개발한 서비스의 관측성이 매우 절실해진 상황이에요.

뭐 이것저것 만들었는데, VM도 몇개 있고 PaaS도 몇개 있다보니, 장애포인트를 찾아내는 데에 소요되는 시간이 점차 늘어났어요.

로그 수집은 한곳에서 하기 위해서, 모든 클라이언트가 바라보는 endpoint인 API Gateway 서버에 fluentd를 설치하기로 했어요.

👉 Fluentd는 데이터 수집 OSS 프로젝트에요. https://docs.fluentd.org/

fluentd 통해서 모든 로그 데이터를 Azure Blob 으로 전송하도록 했고 Azure Blob에 파일을 읽어서 DBMS에서 비정형(JSON) 형태로 저장하도록 했어요.

Grafana 시각화

Grafana에서는 DBMS에 쿼리하여 JSON 데이터를 시각화하도록 대시보드를 개발했구요. 이를 통해서 어느 도메인, 어느 서비스, 어느 호스트, 어느 API인지 더욱 빠르게 찾아낼 수 있게 되었고, 구체적으로 언제부터 언제까지 에러(http status code 4** ~ 5**)가 발생했는지에 대해서도 빠르게 파악할 수 있게 되었어요.

Grafana 대시보드 캡처