Hadoop 5

하둡(hadoop) - 하이브(Hive) 설치

1. 하이브 설치 파일 복사 및 압축 풀기 cp /media/sf_linux/apache-hive-2.0.0-bin.tar.gz /home/hadoop tar xvzf apache-hive-2.0.0-bin.tar.gz 2. vi편집기로 bashrc 수정 및 활성화 vi .bashrc 방향키로 export HADOOP_HOME 부분으로 이동 -> dd로 지우기 -> 소문자 i로 편집모드 export JAVA_HOME=/usr/java/jdk1.7.0_80 export HADOOP_HOME=/home/hadoop/hadoop-2.7.2 export HIVE_HOME=/home/hadoop/apache-hive-2.0.0-bin export PATH=$HIVE_HOME/bin:$JAVA_HOME/bin:$H..

인공지능/기타 2020.06.14

하둡(hadoop) 데몬 사용 / 워드클라우드 띄우기

1. 하둡에서 사용하는 스토리지 포맷 작업 (처음에 한번만 하는거임) hdfs namenode -format 1번 작업을 두 번하면 엉켜버림 cd ll 위의 data(빨간색 표시) 디렉토리는 포맷을 했기 때문에 생성됨 만약 포맷작업을 다시 하고 싶으면 저 data 디렉토리를 없애고 포맷작업을 해야함 2. 하둡에서 사용하는 프로세서 실행 start-dfs.sh yes start-yarn.sh mr-jobhistory-daemon.sh start historyserver yarn-daemon.sh start proxyserver 3. 하둡에서 사용하는 프로세서 확인 jps 프로세서 아이디(숫자)는 개인마다 다르다. 프로세서 이름은 아래에 것들은 꼭 있어야한다. (순서 상관없음) ResourceManager ..

인공지능/기타 2020.06.14

리눅스(Linux) - 하둡(Hadoop) 설치 및 환경 설정

1. 터미널 창을 연다. 오른쪽 마우스 클릭 -> 'Open Terminal' 클릭 2. 호스트 이름 확인 hostname cat /etc/hosts 3. 서버 이름 변경 hostnamectl set-hostname hadoopserver hostname 으로 다시 확인 4. 재부팅을 해야 제대로 서버 이름이 변경된다. reboot 다시 root 계정으로 로그인 -> 터미널 열기 방화벽 해지를 하지 않으면 하둡 설치 단계에서 이상하게 오류가 난다. 5. 방화벽 해지 iptables -F 6. 방화벽 해지 내용 확인 iptables -L - 하둡은 자바 프로그램이다. - 자바 프로그램이 어느 곳에서든 실행될 수 있도록 설정해야한다. - 리눅스를 설치하면 기본적으로 자바가 설치되어있으나 오라클 것이 아니다...

인공지능/기타 2020.06.14

리눅스(Linux) - 접속 계정 변경 / 네트워크 설정 / 마우스 통합 설정

1. 오른쪽 상단 메뉴에서 접속된 계정을 클릭하고 'Log Out'을 클릭한다. 2. 'Log Out' 버튼을 클릭한다. 3. 'Not listed?'를 클릭한다. 4. 접속할 계정 이름(root)를 입력하고 'Next' 버튼을 누른다. 예 ) Username root 5. 접속할 계정의 패스워드를 입력하고 'Sign In' 버튼을 누른다. 예) Password hadoop 6. 언어를 선택하고 'Next' 버튼을 누른다. 7. 타이핑 언어를 선택하고 'Next' 버튼을 누른다. 8. 'Skip' 버튼을 누른다. 9. 'Start using CentOS Linux' 버튼을 누른다. 10. 시작 화면을 설정하지 않으면 'X'버튼을 누른다. 11. 접속 계정 변경 완료!!! 1. 오른..

인공지능/기타 2020.06.13

Virtual Box로 리눅스(Linux) 설치 / CentOS 설치

1. 하둡 설치에 앞서 리눅스 OS와 Virtual Box를 설치한다. 1) 리눅스 OS 설치법 https://truman.tistory.com/49 Fedora 30 workstation iso 설치 방법 https://dl.fedoraproject.org/pub/fedora/linux/releases/30/Workstation/x86_64/iso/ Index of /pub/fedora/linux/releases/30/Workstation/x86_64/iso dl.fedoraproject.org 위의 링크로 들어가시면 아래와 같.. truman.tistory.com 2) Virtual Box 설치법 https://truman.tistory.com/204 Oracle Virtual Box 설치법 - Wi..

인공지능/기타 2020.06.13
반응형