본문 바로가기

전체글143

[LOGSTASH] 무작정 시작하기 (1) - 설치 & 실행 이 포스트에서는 ElasticStack 중 하나인 로그를 수집(input)하고 분석하고 변환(filter)하여 출력(output)하는 Logstash에 대하여 알아보도록 하겠다. Logstash는 단독으로는 잘 사용하지 않으며 주로 Filebeat이나 Kafka와 함께 사용한다. 이번 시간에는 간단하게 Console로 입력하고 출력하는 예제로 진행하겠지만, 이후 진행되는 포스트는 Filebeat으로 수집하고 Kafka 또는 Flume으로 데이터를 내보내는 방법들을 다룰 것이다. 1. Logstash란? 1-1. 수집한 로그를 분석하고 변환하여 내보내는 데이터 수집 엔진. 1-2. 변환단계에서 민감한 데이터들을 삭제, 가공할 수 있음. 1-3. 분석 및 변환을 위한 방대한 양의 Filter 라이브러리가 존.. 2019. 11. 26.
[FILEBEAT] 무작정 시작하기 (3) - output.kafka 2019/11/25 - [BIG-DATA/FILEBEAT] - [FILEBEAT] 무작정 시작하기 (1) - 설치 및 실행 2019/11/25 - [BIG-DATA/FILEBEAT] - [FILEBEAT] 무작정 시작하기 (2) - Multiline 지난 포스트까지는 Filebeat으로 수집한 Beat를 Console로 내보내면서 무의미하게 소비되었는데, 이번 포스트에서는 Kafka에 적재하여 데이터를 보관하고 Consumer를 통해 소비하는 방법을 소개하려고 한다. 이번 포스트는 Kafka와 약간의 Python을 사용한다. Python은 간단하게 설치하고 소스를 붙여넣으면 끝낼 수 있으나, Kafka는 반드시 선행학습해야 하므로 현재 블로그의 '[KAFKA] 무작정 시작하기'를 참고하길 바란다. 1. .. 2019. 11. 26.
[REACT] 무작정 시작하기 (3) - props 와 state 2019/11/23 - [Font-end/React] - [REACT] 무작정 시작하기 (1) - 프로젝트 준비 2019/11/24 - [Font-end/React] - [REACT] 무작정 시작하기 (2) - Component 지난 포스트에서 Counter Component를 만들어 보았다. 만들면서 간략하게 설명하고 넘어갔던 props와 state에 대해서 알아보도록 하겠다. React에서 변수를 사용하려면 반드시 알고 있어야하는 키워드이므로 잘 숙지하길 바란다. 1. props란? 1-1. 부모로부터 상속받아서 사용하는 데이터로 값을 절대 변경할 수 없음. 1-2. 최하위 자식 Component에서 최상위 Component의 Props를 사용하려면 계속해서 넘겨줘야하며 depth가 깊어질수록 복잡해.. 2019. 11. 25.
[FILEBEAT] 무작정 시작하기 (2) - Multiline 2019/11/25 - [BIG-DATA/FILEBEAT] - [FILEBEAT] 무작정 시작하기 (1) - 설치 및 실행 지난 포스트에서 FILEBEAT을 설치하고 간단하게 실행까지 해보았다. 이번시간에는 로그를 multiline으로 저장하고 이를 출력하는 방법을 정리하려고 한다. 로그 파일은 웹 브라우저인 Chrome의 로그를 활용하여 진행하고자 한다. 1. 로그 파일 생성. 1-1. 크롬 Debug 모드 실행. 1 "C:\Program Files (x86)\Google\Chrome\Application\chrome.exe" --enable-logging --v=1 --user-data-dir=C:\work\chrome cs - 크롬의 실행 파일 경로는 아이콘을 오른쪽 클릭하고 [ 속성 ] - [ 대.. 2019. 11. 25.