• 티스토리 홈
  • 프로필사진
    홀쑥
  • 방명록
  • 공지사항
  • 태그
  • 블로그 관리
  • 글 작성
홀쑥
  • 프로필사진
    홀쑥
    • 분류 전체보기 (57)
      • Language & Framework (14)
        • Java (1)
        • Python (13)
      • DataBase (4)
        • NoSQL (1)
        • RDBMS (3)
      • Big Data & Ecosystem (9)
        • Hadoop (5)
        • Hive (2)
        • Sqoop (1)
        • Zeppelin (1)
      • Data Engineering (1)
        • Airflow (1)
      • Cloud & DevOps (1)
        • AWS (0)
        • GCP (1)
      • Monitoring & Logging (2)
        • ElasticSearch (2)
      • Infrastructure (12)
        • OS (12)
        • Docker (0)
        • Kubernetes (0)
      • Algorithm & CS (7)
        • 백준 알고리즘 (6)
      • Troubleshooting (5)
        • 오류 모음 (5)
  • 방문자 수
    • 전체:
    • 오늘:
    • 어제:
  • 최근 댓글
      등록된 댓글이 없습니다.
    • 최근 공지
        등록된 공지가 없습니다.
      # Home
      # 공지사항
      #
      # 태그
      # 검색결과
      # 방명록
      • 포스트글 썸네일 이미지
        [하둡] 플룸으로 bitthumb api 데이터 수집
        홀쑥:
        10초마다 bitthumb의 public api에서 값을 받아와 하둡에 올린 뒤 hadoop에서 쉘 스크립트로 주기적 실행 https://apidocs.bithumb.com/docs/ticker No.1 가상자산 플랫폼, 빗썸 비트코인, 이더리움, 비트코인캐시, 리플, 라이트코인, 대시, 모네로, 비트코인골드, 이오스, 이더리움클래식, 퀀텀, 제트캐시, 실시간 시세, 쉽고 안전한 거래 www.bithumb.com api로 값을 받아오면 이런식으로 JSON형식으로 값을 받아옴 1. Maven 프로젝트 만들기 2. pom.xml덮기 3. temp폴더 옮기기 4. Maven - > update Project 후 Run as -> maven Install (2번) 5. winSCP에서 dn01에 jar 파일 옮..
        • 2020-06-23 14:44:16
      • 포스트글 썸네일 이미지
        [하둡] java 행렬 곱
        홀쑥:
        1. java 코드 import java.io.IOException; import java.util.HashMap; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.LongWritable; import org.apache.hadoop.io.Text; import org.apache.hadoop.mapreduce.Job; import org.apache.hadoop.mapreduce.Mapper; import org.apache.hadoop.mapreduce.Reducer; import org.apache.hadoop.mapreduce.lib.input.FileIn..
        • 2020-06-23 12:50:42
      • 포스트글 썸네일 이미지
        [하둡] 하둡 실행
        홀쑥:
        1) HDFS 명령어 ☞ HDFS를 제어할 수 있는 쉘 명령어 ​ 2) 도움말 보기 ☞ hdfs dfs -help ​ 3) 파일목록 보기 ☞ ls, lsr - ls : 지정한 디렉토리에 있는 파일의 정보를 출력한다. - lsr : 하위 디렉토리 정보까지 출력한다. ex) hdfs dfs -ls [디렉토리|파일] ex) hdfs dfs -lsr [디렉토리|파일] 디렉토리나 파일을 지정하지 않을 경우 해당 계정의 홈 디렉토리를 조회한다. 4) 파일 용량 ☞ du, dus - du : 지정한 디렉토리나 파일의 사용량을 확인한다. (출력결과 바이트 단위) - dus : 전체 합계 용량을 출력한다. ex) hdfs dfs -du [디렉토리|파일] ex) hdfs dfs -dus [디렉토리|파일] 디렉토리나 파일을..
        • 2020-06-23 12:35:31
      • 포스트글 썸네일 이미지
        [하둡] 하둡 설치 (2)
        홀쑥:
        https://thinmug.tistory.com/24 로그아웃으로 su로 로그인 계정을 로그아웃하고 다시 root로 갈 수 있다. 멀티환경을 해제하고 # vi /etc/pam.d/su 10~ 12번 째 줄 주석 모든 가상머신 전부 똑같게 하기 (환경 설정할 때는 멀티환경을 왠만하면 쓰지 않는다) 이제 su로 root계정에 갈 수 있다. 하둡, 자바 환경변수 설정 하둡계정에서 # vi ~/.bash_profile 이후 멀티를 푼다. (오류예방) Shift G로 맨 끝으로 이동 후 o 단축키로 다음줄로 이동 다음 오른쪽밑에 글을 그대로 복사해서 오른쪽클릭하면 복사가 된다. 3가상머신 모두 입력 #### HADOOP 2.7.7 start ############ PATH=$PATH:$HOME/bin expor..
        • 2020-06-22 14:14:58
      조회된 결과가 없습니다.
      [1][2]
      스킨 업데이트 안내
      현재 이용하고 계신 스킨의 버전보다 더 높은 최신 버전이 감지 되었습니다. 최신버전 스킨 파일을 다운로드 받을 수 있는 페이지로 이동하시겠습니까?
      ("아니오" 를 선택할 시 30일 동안 최신 버전이 감지되어도 모달 창이 표시되지 않습니다.)
      목차
      표시할 목차가 없습니다.
        • 안녕하세요
        • 감사해요
        • 잘있어요

        티스토리툴바