NiFi

코드 한줄 없이 서비스 Dashboard 만들기(2)

코드 한줄 없이 서비스 Dashboard 만들기(2)

지난 글에서는 전체 시스템 구성과 Kafka에 저장된 로그 데이터를 몇가지 처리를 한 다음에 hdfs에 저장하는 구성을 NiFi를 이용하여 처리하였습니다. * 지난글: 코드 한줄 없이 서비스 Dashboard 만들기(1) 이번 글에서는 hdfs에 저장된 데이터를 이용하여 분당 또는 10분당 PV, UV 또는 다른 정보를 조회할 수 있는 Dashboard를 구성해보도록 하겠습니다. 주제가 "코드

By 김형준
코드 한줄 없이 서비스 Dashboard 만들기(1)

코드 한줄 없이 서비스 Dashboard 만들기(1)

서비스를 운영하는 조직에서는 PV, UV 등과 같은 지표를 꾸준하게 관리하고 있습니다. 각종 지표를 꾸준하게 관리하는 이유는 서비스가 기획 의도했던 방향대로 사용자가 사용하고 있는지, 서비스의 문제는 없는지 등을 파악하기 위함입니다. 간단하게 이런 지표는 엑셀 등으로 관리할 수 있지만 많은 사람들이 공유하기 어렵고, 실시간 데이터를 바로 반영하기 어렵습니다.  또한, 새로운 기능을 출시하고

By 김형준
NiFi 소개 발표 자료

NiFi 소개 발표 자료

NiFi에 대한 소개 자료입니다. 이야기 형태로 재미있게 간단히 풀어봤는데, 제가 큰 실수를 한거 같네요. ^^; 오늘 Popit Contributor 모임을 가졌습니다. 제가 발표한 NiFi에 대한 소개 자료입니다. 이미 기사로 정리된 문서가 있지만, 발표용 자료로 간단하게 정리해 봤습니다.   http://www.slideshare.net/combineads/nifi-69730250 조만간 환경 설정의 글로 찾아 뵙겠습니다. 감사합니다.

By 병화 윤
NSA의 Dataflow 엔진 Apache NiFi 소개와 설치

NSA의 Dataflow 엔진 Apache NiFi 소개와 설치

Apache NiFi는 NSA(National Security Agency)에서 Apache에 기증한 Dataflow 엔진입니다. 복잡해지는 기업의 시스템들에서 신속하고, 유실 없는 데이터 전송은 점점 더 중요해 지고 있습니다. 빅데이터 시스템도 마찬가지로 데이터의 전송 경로가 더 복잡해지고, 실시간 처리가 중요해지는 시점에 Apache NiFi는 훌륭한 솔루션입니다. 여기서는 NiFi의 소개와 설치에 대해서 알아보도록 하겠습니다. 본 글은 저자가

By 병화 윤
NiFi를 이용한 빅데이터 플랫폼 개선

NiFi를 이용한 빅데이터 플랫폼 개선

복잡해지는 빅데이터 클러스터 간에 데이터 동기화와 투명한 데이터 관리를 위한 고민을 공유하고, 이 문제를 해결하기 위한 오픈소스인 Apache NiFi를 소개하겠습니다. 연관 글: 멜론-빅데이터-이야기 소개 어떤 시스템이나 그렇듯 빅데이터 시스템도 여느 시스템과 같이 비즈니스 요건에 따라 점점 진화하게 되는데, 2011년 빅데이터로 불리는 하둡과 에코 시스템 모습과 현재의 빅데이터 시스템은

By 병화 윤