하둡 4

하둡(hadoop) - 하이브(Hive) 설치

1. 하이브 설치 파일 복사 및 압축 풀기 cp /media/sf_linux/apache-hive-2.0.0-bin.tar.gz /home/hadoop tar xvzf apache-hive-2.0.0-bin.tar.gz 2. vi편집기로 bashrc 수정 및 활성화 vi .bashrc 방향키로 export HADOOP_HOME 부분으로 이동 -> dd로 지우기 -> 소문자 i로 편집모드 export JAVA_HOME=/usr/java/jdk1.7.0_80 export HADOOP_HOME=/home/hadoop/hadoop-2.7.2 export HIVE_HOME=/home/hadoop/apache-hive-2.0.0-bin export PATH=$HIVE_HOME/bin:$JAVA_HOME/bin:$H..

인공지능/기타 2020.06.14

하둡(hadoop) 데몬 사용 / 워드클라우드 띄우기

1. 하둡에서 사용하는 스토리지 포맷 작업 (처음에 한번만 하는거임) hdfs namenode -format 1번 작업을 두 번하면 엉켜버림 cd ll 위의 data(빨간색 표시) 디렉토리는 포맷을 했기 때문에 생성됨 만약 포맷작업을 다시 하고 싶으면 저 data 디렉토리를 없애고 포맷작업을 해야함 2. 하둡에서 사용하는 프로세서 실행 start-dfs.sh yes start-yarn.sh mr-jobhistory-daemon.sh start historyserver yarn-daemon.sh start proxyserver 3. 하둡에서 사용하는 프로세서 확인 jps 프로세서 아이디(숫자)는 개인마다 다르다. 프로세서 이름은 아래에 것들은 꼭 있어야한다. (순서 상관없음) ResourceManager ..

인공지능/기타 2020.06.14

리눅스(Linux) - 하둡(Hadoop) 설치 및 환경 설정

1. 터미널 창을 연다. 오른쪽 마우스 클릭 -> 'Open Terminal' 클릭 2. 호스트 이름 확인 hostname cat /etc/hosts 3. 서버 이름 변경 hostnamectl set-hostname hadoopserver hostname 으로 다시 확인 4. 재부팅을 해야 제대로 서버 이름이 변경된다. reboot 다시 root 계정으로 로그인 -> 터미널 열기 방화벽 해지를 하지 않으면 하둡 설치 단계에서 이상하게 오류가 난다. 5. 방화벽 해지 iptables -F 6. 방화벽 해지 내용 확인 iptables -L - 하둡은 자바 프로그램이다. - 자바 프로그램이 어느 곳에서든 실행될 수 있도록 설정해야한다. - 리눅스를 설치하면 기본적으로 자바가 설치되어있으나 오라클 것이 아니다...

인공지능/기타 2020.06.14

Virtual Box로 리눅스(Linux) 설치 / CentOS 설치

1. 하둡 설치에 앞서 리눅스 OS와 Virtual Box를 설치한다. 1) 리눅스 OS 설치법 https://truman.tistory.com/49 Fedora 30 workstation iso 설치 방법 https://dl.fedoraproject.org/pub/fedora/linux/releases/30/Workstation/x86_64/iso/ Index of /pub/fedora/linux/releases/30/Workstation/x86_64/iso dl.fedoraproject.org 위의 링크로 들어가시면 아래와 같.. truman.tistory.com 2) Virtual Box 설치법 https://truman.tistory.com/204 Oracle Virtual Box 설치법 - Wi..

인공지능/기타 2020.06.13
반응형